Topluluktan 1603 yayınlanmış raporu inceleyin.
Waymo'nun otonom robotaksileri ABD'de arıza yaşadı; California'da acil durumlar sırasında sıkışıp kaldılar ve Nashville'de kavşakları kapattılar. Bu olaylar trafiği aksattı ve polis ile itfaiyenin müdahalesini gerektirdi. Bu durum, mevcut AI destekli araç sistemlerinin kritik durumlardaki risklerini ve sınırlarını ortaya koydu.
Türk Milli İstihbarat Akademisi (MİA), yapay zekanın siber tehditleri daha karmaşık hale getirerek ulusal güvenlik, kritik altyapı ve kamu güveni için risk oluşturduğunu belirten bir rapor yayımladı. Raporda, Türkiye'deki potansiyel yapay zeka destekli siber saldırılar ve yanlış bilgilendirmeye karşı hibrit bir savunma modeli ve kapsamlı stratejiler geliştirilmesi çağrısında bulunuldu.
Silikon Vadisi'ndeki ABD federal savcıları, özellikle eski Google mühendislerinin Çin ve İran bağlantılı kuruluşlar için hassas yapay zeka verilerini çalmakla suçlandığı, yapay zeka teknolojisi ve çip ticari sırlarının hırsızlığı vakalarını kovuşturmaya öncelik verdi. Mahkumiyetler ve devam eden yasal işlemler, fikri mülkiyet ve ulusal güvenlik açısından önemli riskleri vurgulamaktadır.
Nippon Life, OpenAI'a Chicago'da dava açarak, ChatGPT'nin eski bir engellilik başvuru sahibinin kapanmış bir davasını yeniden açmasına ve dayanaksız birçok dosya oluşturmasına yardım ederek lisanssız avukatlık yaptığını öne sürdü. Sigorta şirketi, bu davranışın yasal masraflara ve süreç kötüye kullanımına yol açtığını iddia etti. OpenAI ise iddianın dayanaktan yoksun olduğunu belirtti.
Mastercard'ın yapay zeka destekli dolandırıcılık tespit sistemi, Birleşik Krallık'taki büyük bankalarla birlikte kullanılarak, dolandırıcılıkla ilgili kayıpları önemli ölçüde azaltmış ve sahte ödemeleri tahmin edip engellemiştir. Öte yandan, suçlular giderek daha fazla yapay zeka kullanarak sofistike sosyal medya dolandırıcılıkları gerçekleştirmekte ve özellikle Amerika Birleşik Devletleri'nde milyarlarca dolarlık kayıplara neden olmaktadır.
AI sohbet arayüzü uygulaması (50M+ kullanıcı, ChatGPT/Claude/Gemini bağlantılı) yanlış yapılandırılmış Firebase arka ucu nedeniyle kullanıcıların kendilerini yetkilendirilmiş kullanıcı olarak tanımlamasına izin verdi. 25 milyon kullanıcıya ait 300 milyon mesaj açığa çıktı; bu mesajlar arasında yasa dışı faaliyet tartışmaları ve intihar yardım talepleri de bulunuyor.
Uber kimlik algoritması transgender sürücüleri askıya aldı. Sistem: Gerçek Zamanlı Kimlik Kontrolü; Yüz Kimliği Geliştirici: Microsoft Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Yüz tanıma Sistem Amacı: Kimliği tanımlamak Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Önyargı/ayrımcılık - cinsel tercih (LGBTQ); İstihdam - ücret, işler
Kuzey İtalya'da bir kadın, hamile kızının ölümünü uydurmak ve eski bir iş arkadaşını kandırarak haksız kazanç sağlamak için yapay zeka üretimi görseller kullandı. Yapay zeka ile oluşturulan cenaze fotoğrafları, hikayeyi daha inandırıcı hale getirerek dolandırıcılık akrabalar tarafından ortaya çıkarılmadan önce maddi zarara yol açtı.
Maxpread Technologies sahte AI CEO yatırım dolandırıcılığı. Sistem: Synthesia Geliştirici: Maxpread Technologies; Synthesia Etkilenen Ülkeler: BAE/Dubai; Hong Kong; ABD Kullanılan Teknoloji: Deepfake - video, ses; Üretici çekişmeli ağ (GAN); Sinir ağı; Derin öğrenme; Makine öğrenimi Sistem Amacı: Yatırımcıları yanıltmak Etik/Güvenlik Sorunları: Etik/değerler; Yanlış/yanıltıcı bilgi
Sarah Wysocki, yanlış öğretmen etkinliği değerlendirmesi sonrası işten çıkarıldı. Sistem: IMPACT Geliştirici: Mathematica Policy Research Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Katma değer modeli Sistemin Amacı: Öğretmen performansını değerlendirmek Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Önyargı/ayrımcılık - gelir, konum; Adalet; Etkililik/değer
Almanya Federal Bilgi Güvenliği Dairesi (BSI), binlerce yazılım güvenlik açığını ortaya çıkaran Anthropic'in yapay zeka sistemi Claude Mythos'un siber güvenliği önemli ölçüde etkileyebileceği konusunda uyarıda bulunuyor. BSI, bu tür yapay zeka araçlarının kötü niyetli aktörler tarafından kullanılabileceğini ve siber saldırı risklerini artırarak siber güvenlik ortamını değiştirebileceğini öngörüyor.
ABD ve İngiltere'deki finansal düzenleyiciler, kritik finansal sistemlerdeki siber güvenlik açıklarını bağımsız olarak tespit edip istismar edebilen Anthropic'in AI modeli Mythos'un oluşturduğu riskleri ele almak için acilen büyük bankaları bir araya getirdi. Yetkililer, bankaları potansiyel tehditleri değerlendirmeye ve hafifletmeye çağırarak, küresel finans altyapısında olası kesintilere ilişkin endişelere dikkat çekti.