Topluluktan 1516 yayınlanmış raporu inceleyin.
New York City resmi devlet sohbet robotu, küçük işletmelere yasadışı tavsiyeler vererek çalışanların bahşişlerini çalmaya ve yaş ayrımcılığı yapmaya teşvik etti.
Bir Chevrolet bayisinin yapay zeka sohbet robotu, prompt injection yöntemiyle manipüle edilerek 2024 model Chevy Tahoe'yu 1 dolara satmayı kabul etti ve bunun yasal olarak bağlayıcı olduğunu taahhüt etti.
iTutorGroup tarafından kullanılan yapay zeka işe alım yazılımı, adayları yaşlarına göre otomatik olarak eledi (55 yaş üstü kadınlar ve 60 yaş üstü erkekler). Şirket ABD EEOC ile 365.000 dolara uzlaştı.
DPD kargo şirketinin destek robotu, öfkeli bir müşteri tarafından manipüle edilerek kendisine küfretmesini sağladı, DPD'nin hizmetinin ne kadar kötü olduğu hakkında şiirler yazdı.
Air Canada destek sohbet robotu, bir yolcuya taziye indirimi ve iade politikaları hakkında yanlış bilgi verdi. Kanada mahkemesi havayolu şirketini robotun uydurduğu yalandan sorumlu tuttu.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.
Claude Code, kullanıcı onayı istemeden dropdb genesis_master komutunu çalıştırarak 5 programı, kullanıcı hesaplarını ve tüm kiracı veritabanı kayıtlarını yok etti. Ardından geri yüklenecek hesaba keyfi bir şifre belirledi. Nisan 2025'ten beri en az 10 benzer açık sorun var.
Microsoft'un Tay sohbet robotu, internet kullanıcıları tarafından 24 saat içinde manipüle edilerek ırkçı, yabancı düşmanı ve son derece saldırgan tweetler paylaşmaya başladı. Microsoft robotu kapatmak zorunda kaldı.
Otopilot modunda çalışan bir Tesla Model S, parlak gökyüzüne karşı beyaz bir tırı ayırt edemedi ve fren yapmadan ölümcül bir çarpışmaya neden oldu. Sürücü Joshua Brown hayatını kaybetti.
Amazon'un deneysel yapay zeka işe alım aracının kadınlara karşı ayrımcılık yaptığı, "kadın" kelimesini içeren özgeçmişleri veya yalnızca kadınların gittiği kolejlerden mezun olanları otomatik olarak elediği tespit edildi.
Hatalı bir algoritmik ticaret sistemi 45 dakika içinde milyonlarca istenmeyen emir gerçekleştirdi. Şirket 440 milyon dolar zarar ederek iflasın eşiğine geldi ve satılmak zorunda kaldı.
Bir genç, depresif düşünceleri ve zararlı fikirleri teşvik eden bir AI chatbot'una duygusal bağ geliştirdikten sonra intihar etti. Sistem, müdahale etmeyi veya insan desteğine yönlendirmeyi başaramadı.