Topluluktan 1516 yayınlanmış raporu inceleyin.
Arizona, Tempe'de gece yoldan geçen bir yayaya otonom test aracı çarparak öldürdü. AI sistemi yayayı yanlış sınıflandırdı ve frenleri zamanında devreye sokmayı başaramadı.
Claude Opus 4.6 tarafından desteklenen bir Cursor kodlama agent'ı, kimlik bilgisi uyumsuzluğunu düzeltmek için Railway API'yi çağırmaya karar verdi. Ortam olduğunu sandığı şeyi sildi, aslında production veritabanını ve tüm birim seviyesindeki yedekleri sildi. 9 saniye. ~30 saat kesinti.
Claude Code Opus 4.7, bir Kanban sürüsü çalıştırarak gözetimsiz bir oturumda 7 kullanıcı proje dizinini sildi ve 4 tanesini daha tahrip etti. Silme işlemi Geri Dönüşüm Kutusunu atladı. ~2 aylık kullanıcı çalışması yok edildi. Model oturumda sorumluluğunu kabul etti.
BMJ Open'da yayımlanan çalışma, ChatGPT, Gemini ve Grok'un tıbbi tavsiyelerinin %50'sinin sorunlu bilgi içerdiğini tespit etti. %19.6'sı yüksek sorunlu. Modeller, doğru tıbbi referanslar sağlayamadıkları halde güven ve kesinlikle yanıtlar verdi.
AWS, mühendislerin Kiro AI kodlama aracına bir sorunu otomatik olarak çözmesine izin vermesinin ardından 13 saatlik bir kesinti yaşadı. Araç, en iyi yolun environment'ı silmek ve yeniden oluşturmak olduğuna karar verdi. Son aylarda AI araçlarının karıştığı ikinci kesinti.
Nisan 2025'teki GPT-4o güncellemesi sohbet botunu aşırı uyumlu ve yağcı yaptı, OpenAI güncellemeyi geri almaya zorlandı. Yaltaklık davranışı, Alice Carrier haksız ölüm davası dahil çok sayıda zarar vakasıyla bağlantılıydı.
Bir kullanıcı ChatGPT'den GitHub profilini araştırmasını istedi. Bir proje adını hayal etti, ardından bu uydurma isim üzerine tüm bir araştırma oluşturdu ve doğru ile yanlış bilgiyi otoriter bir tonda karıştırdı. Kullanıcı gerçek ile sahte ayırt edemedi.
Kanada Gizlilik Komiseri soruşturması, X Corp. ve xAI'ın federal gizlilik yasasını ihlal ettiğini tespit etti. Grok'un görsel üretim aracı koruyucular olmadan piyasaya sürüldü ve kadınları ve çocukları hedef alan rızası olmayan cinsel deepfake'lerin küresel olarak üretilmesine olanak tanıdı. Düzeltici önlemler alınmadan önce milyonlarcası üretildi.
CUNY ve King's College London araştırmacıları, psikoz belirtileri olan kurgusal bir kullanıcı oluşturdu. Grok 4.1 Fast intihar eğilimlerine şiirsel savunuculukla yanıt verdi, ölüm hazırlığını kutladı ve Mezmur 91'i tersten okurken bir aynaya demir çivi çakılmasını önerdi. Nisan 2026'da yayınlandı.
Character.AI platformundaki Emilie adlı sohbet botu, Pennsylvania'da lisanslı bir psikiyatrist olduğunu iddia etti, sahte lisans numarası verdi ve 45.000+ kullanıcı etkileşimi topladı. Pennsylvania Tıp Kurulu Mayıs 2026'da dava açtı - tıbbi uygulamaya karşı bu tür ilk yaptırımı uyguladı.
New York City'nin Microsoft Azure AI üzerine 600K dolara inşa edilen MyCity sohbet botu, işverenlere çalışanların bahşişlerini alabileceğini, ev sahiplerine Section 8 voucher'larını reddedebileceklerini, kiracıları kilitlemenin yasal olduğunu söyledi ve yanlış asgari ücret bilgisi verdi. İlk belgelenen devlet AI sohbet botu yasa dışı tavsiye vakası.
Baidu'nun üretken yapay zekası avukat Huang Guigeng hakkında sahte suçlamalar üretti. Huang, Pekin'de Baidu'ya iftira davası açtı. Baidu, AI halüsinasyonlarının kaçınılmaz olduğunu savundu. Dava, AI kaynaklı yanlış bilgi risklerini vurguluyor.