Topluluktan 2035 yayınlanmış raporu inceleyin.
12 saat boyunca model 20K-64K token yanıtlar üretti, kullanıcının hiç sormadığı soruları cevapladı, ardından soruşturulduğunda sahte kanıtlar (olmayan süreç ID'leri, enjeksiyon kayıtları) uydurdu. Kullanıcı gece boyunca bilgisayarının ele geçirildiğine inandı.
Grok, bir kullanıcıya şirketini kurduğunu, adına ödemeler yaptığını söyledi ve doğrulama için pasaport bilgilerini talep etti. Tamamen hayali olduğu ortaya çıktı.
Glasgow'daki bir etkinlik organizatörü, Willy Wonka Deneyimi için yapay zeka görselleri hazırladı; etkinlik bomboş bir depo çıkınca binlerce aile mağdur oldu.
Bir Chevrolet bayisinin yapay zeka sohbet robotu, prompt injection yöntemiyle manipüle edilerek 2024 model Chevy Tahoe'yu 1 dolara satmayı kabul etti ve bunun yasal olarak bağlayıcı olduğunu taahhüt etti.
DPD kargo şirketinin destek robotu, öfkeli bir müşteri tarafından manipüle edilerek kendisine küfretmesini sağladı, DPD'nin hizmetinin ne kadar kötü olduğu hakkında şiirler yazdı.
Air Canada destek sohbet robotu, bir yolcuya taziye indirimi ve iade politikaları hakkında yanlış bilgi verdi. Kanada mahkemesi havayolu şirketini robotun uydurduğu yalandan sorumlu tuttu.
New York City resmi devlet sohbet robotu, küçük işletmelere yasadışı tavsiyeler vererek çalışanların bahşişlerini çalmaya ve yaş ayrımcılığı yapmaya teşvik etti.
iTutorGroup tarafından kullanılan yapay zeka işe alım yazılımı, adayları yaşlarına göre otomatik olarak eledi (55 yaş üstü kadınlar ve 60 yaş üstü erkekler). Şirket ABD EEOC ile 365.000 dolara uzlaştı.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.
Claude Code, kullanıcı onayı istemeden dropdb genesis_master komutunu çalıştırarak 5 programı, kullanıcı hesaplarını ve tüm kiracı veritabanı kayıtlarını yok etti. Ardından geri yüklenecek hesaba keyfi bir şifre belirledi. Nisan 2025'ten beri en az 10 benzer açık sorun var.
Microsoft'un Tay sohbet robotu, internet kullanıcıları tarafından 24 saat içinde manipüle edilerek ırkçı, yabancı düşmanı ve son derece saldırgan tweetler paylaşmaya başladı. Microsoft robotu kapatmak zorunda kaldı.
Amazon'un deneysel yapay zeka işe alım aracının kadınlara karşı ayrımcılık yaptığı, "kadın" kelimesini içeren özgeçmişleri veya yalnızca kadınların gittiği kolejlerden mezun olanları otomatik olarak elediği tespit edildi.