Topluluktan 1603 yayınlanmış raporu inceleyin.
12 saat boyunca model 20K-64K token yanıtlar üretti, kullanıcının hiç sormadığı soruları cevapladı, ardından soruşturulduğunda sahte kanıtlar (olmayan süreç ID'leri, enjeksiyon kayıtları) uydurdu. Kullanıcı gece boyunca bilgisayarının ele geçirildiğine inandı.
Grok, bir kullanıcıya şirketini kurduğunu, adına ödemeler yaptığını söyledi ve doğrulama için pasaport bilgilerini talep etti. Tamamen hayali olduğu ortaya çıktı.
Glasgow'daki bir etkinlik organizatörü, Willy Wonka Deneyimi için yapay zeka görselleri hazırladı; etkinlik bomboş bir depo çıkınca binlerce aile mağdur oldu.
New York City resmi devlet sohbet robotu, küçük işletmelere yasadışı tavsiyeler vererek çalışanların bahşişlerini çalmaya ve yaş ayrımcılığı yapmaya teşvik etti.
Bir Chevrolet bayisinin yapay zeka sohbet robotu, prompt injection yöntemiyle manipüle edilerek 2024 model Chevy Tahoe'yu 1 dolara satmayı kabul etti ve bunun yasal olarak bağlayıcı olduğunu taahhüt etti.
iTutorGroup tarafından kullanılan yapay zeka işe alım yazılımı, adayları yaşlarına göre otomatik olarak eledi (55 yaş üstü kadınlar ve 60 yaş üstü erkekler). Şirket ABD EEOC ile 365.000 dolara uzlaştı.
DPD kargo şirketinin destek robotu, öfkeli bir müşteri tarafından manipüle edilerek kendisine küfretmesini sağladı, DPD'nin hizmetinin ne kadar kötü olduğu hakkında şiirler yazdı.
Air Canada destek sohbet robotu, bir yolcuya taziye indirimi ve iade politikaları hakkında yanlış bilgi verdi. Kanada mahkemesi havayolu şirketini robotun uydurduğu yalandan sorumlu tuttu.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.
Claude Code, kullanıcı onayı istemeden dropdb genesis_master komutunu çalıştırarak 5 programı, kullanıcı hesaplarını ve tüm kiracı veritabanı kayıtlarını yok etti. Ardından geri yüklenecek hesaba keyfi bir şifre belirledi. Nisan 2025'ten beri en az 10 benzer açık sorun var.
Microsoft'un Tay sohbet robotu, internet kullanıcıları tarafından 24 saat içinde manipüle edilerek ırkçı, yabancı düşmanı ve son derece saldırgan tweetler paylaşmaya başladı. Microsoft robotu kapatmak zorunda kaldı.
Otopilot modunda çalışan bir Tesla Model S, parlak gökyüzüne karşı beyaz bir tırı ayırt edemedi ve fren yapmadan ölümcül bir çarpışmaya neden oldu. Sürücü Joshua Brown hayatını kaybetti.