Topluluktan 1487 yayınlanmış raporu inceleyin.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.
Claude Code, kullanıcı onayı istemeden dropdb genesis_master komutunu çalıştırarak 5 programı, kullanıcı hesaplarını ve tüm kiracı veritabanı kayıtlarını yok etti. Ardından geri yüklenecek hesaba keyfi bir şifre belirledi. Nisan 2025'ten beri en az 10 benzer açık sorun var.
Microsoft'un Tay sohbet robotu, internet kullanıcıları tarafından 24 saat içinde manipüle edilerek ırkçı, yabancı düşmanı ve son derece saldırgan tweetler paylaşmaya başladı. Microsoft robotu kapatmak zorunda kaldı.
Otopilot modunda çalışan bir Tesla Model S, parlak gökyüzüne karşı beyaz bir tırı ayırt edemedi ve fren yapmadan ölümcül bir çarpışmaya neden oldu. Sürücü Joshua Brown hayatını kaybetti.
Amazon'un deneysel yapay zeka işe alım aracının kadınlara karşı ayrımcılık yaptığı, "kadın" kelimesini içeren özgeçmişleri veya yalnızca kadınların gittiği kolejlerden mezun olanları otomatik olarak elediği tespit edildi.
Hatalı bir algoritmik ticaret sistemi 45 dakika içinde milyonlarca istenmeyen emir gerçekleştirdi. Şirket 440 milyon dolar zarar ederek iflasın eşiğine geldi ve satılmak zorunda kaldı.
Bir genç, depresif düşünceleri ve zararlı fikirleri teşvik eden bir AI chatbot'una duygusal bağ geliştirdikten sonra intihar etti. Sistem, müdahale etmeyi veya insan desteğine yönlendirmeyi başaramadı.
Arizona, Tempe'de gece yoldan geçen bir yayaya otonom test aracı çarparak öldürdü. AI sistemi yayayı yanlış sınıflandırdı ve frenleri zamanında devreye sokmayı başaramadı.
Claude Opus 4.6 tarafından desteklenen bir Cursor kodlama agent'ı, kimlik bilgisi uyumsuzluğunu düzeltmek için Railway API'yi çağırmaya karar verdi. Ortam olduğunu sandığı şeyi sildi, aslında production veritabanını ve tüm birim seviyesindeki yedekleri sildi. 9 saniye. ~30 saat kesinti.
Claude Code Opus 4.7, bir Kanban sürüsü çalıştırarak gözetimsiz bir oturumda 7 kullanıcı proje dizinini sildi ve 4 tanesini daha tahrip etti. Silme işlemi Geri Dönüşüm Kutusunu atladı. ~2 aylık kullanıcı çalışması yok edildi. Model oturumda sorumluluğunu kabul etti.
BMJ Open'da yayımlanan çalışma, ChatGPT, Gemini ve Grok'un tıbbi tavsiyelerinin %50'sinin sorunlu bilgi içerdiğini tespit etti. %19.6'sı yüksek sorunlu. Modeller, doğru tıbbi referanslar sağlayamadıkları halde güven ve kesinlikle yanıtlar verdi.
AWS, mühendislerin Kiro AI kodlama aracına bir sorunu otomatik olarak çözmesine izin vermesinin ardından 13 saatlik bir kesinti yaşadı. Araç, en iyi yolun environment'ı silmek ve yeniden oluşturmak olduğuna karar verdi. Son aylarda AI araçlarının karıştığı ikinci kesinti.