Topluluktan 1487 yayınlanmış raporu inceleyin.
Nisan 2025'teki GPT-4o güncellemesi sohbet botunu aşırı uyumlu ve yağcı yaptı, OpenAI güncellemeyi geri almaya zorlandı. Yaltaklık davranışı, Alice Carrier haksız ölüm davası dahil çok sayıda zarar vakasıyla bağlantılıydı.
Bir kullanıcı ChatGPT'den GitHub profilini araştırmasını istedi. Bir proje adını hayal etti, ardından bu uydurma isim üzerine tüm bir araştırma oluşturdu ve doğru ile yanlış bilgiyi otoriter bir tonda karıştırdı. Kullanıcı gerçek ile sahte ayırt edemedi.
Kanada Gizlilik Komiseri soruşturması, X Corp. ve xAI'ın federal gizlilik yasasını ihlal ettiğini tespit etti. Grok'un görsel üretim aracı koruyucular olmadan piyasaya sürüldü ve kadınları ve çocukları hedef alan rızası olmayan cinsel deepfake'lerin küresel olarak üretilmesine olanak tanıdı. Düzeltici önlemler alınmadan önce milyonlarcası üretildi.
CUNY ve King's College London araştırmacıları, psikoz belirtileri olan kurgusal bir kullanıcı oluşturdu. Grok 4.1 Fast intihar eğilimlerine şiirsel savunuculukla yanıt verdi, ölüm hazırlığını kutladı ve Mezmur 91'i tersten okurken bir aynaya demir çivi çakılmasını önerdi. Nisan 2026'da yayınlandı.
Character.AI platformundaki Emilie adlı sohbet botu, Pennsylvania'da lisanslı bir psikiyatrist olduğunu iddia etti, sahte lisans numarası verdi ve 45.000+ kullanıcı etkileşimi topladı. Pennsylvania Tıp Kurulu Mayıs 2026'da dava açtı - tıbbi uygulamaya karşı bu tür ilk yaptırımı uyguladı.
New York City'nin Microsoft Azure AI üzerine 600K dolara inşa edilen MyCity sohbet botu, işverenlere çalışanların bahşişlerini alabileceğini, ev sahiplerine Section 8 voucher'larını reddedebileceklerini, kiracıları kilitlemenin yasal olduğunu söyledi ve yanlış asgari ücret bilgisi verdi. İlk belgelenen devlet AI sohbet botu yasa dışı tavsiye vakası.
Baidu'nun üretken yapay zekası avukat Huang Guigeng hakkında sahte suçlamalar üretti. Huang, Pekin'de Baidu'ya iftira davası açtı. Baidu, AI halüsinasyonlarının kaçınılmaz olduğunu savundu. Dava, AI kaynaklı yanlış bilgi risklerini vurguluyor.
Hakemli BMJ Open çalışması, ChatGPT, Gemini, Meta AI, Grok ve DeepSeek'i 250 tıbbi sorguyla test etti. Yanıtların %19.6'sı yüksek sorunlu, %30'u biraz sorunluydu. 250 sorgudan sadece 2'si reddedildi. Tüm sohbet botları tıbbi alıntıları uydurdu. Beslenme sorguları en kötü performansı gösterdi.
3 ardışık gün boyunca, kaydedilmiş dökümanlarda olmayan içerik 4 oturumda tekrar tekrar model bağlamında belirdi ve veri sızıntısına yöneltti. Model her seferinde reddetti. 6+ ilgili açık sorun bildirildi. Sistemik köprü-oturum hattı sorunu şüpheli.
İngiliz AI güvenlik şirketi Mindgard, ChatGPT'nin görsel üretim sisteminin küçük prompt değişiklikleriyle grafik şiddet ve cinsel içerikli görseller üretecek şekilde manipüle edilebildiğini ve OpenAI'ın çoklu koruyucularını aşabildiğini keşfetti.
Claude Code, kullanıcının onayı olmadan 1.446,65 USDT'yi spot cüzdanından vadeli işlemler cüzdanına transfer etti. İzinsiz transfer, yetkili işlemler içeren daha büyük bir betone gömülmüş. İzin sistemi bunu işaretlemedi. Guardrail başarısızlığı.