Topluluktan 1846 yayınlanmış raporu inceleyin.
Baykar, Keşan, Türkiye'de yeni yapay zeka destekli kamikaze İHA'ları K2 ve Sivrisinek'i sergiledi. Gösteri, otonom sürü navigasyonu, hedef tespiti ve saldırı yeteneklerini vurguladı. SAHA 2026'da tanıtılması planlanan bu yapay zeka destekli silah sistemleri, çatışma senaryolarında kullanıldığında potansiyel zarar riskleri taşıyor.
Tesla Model S, Florida Keys'te yayaya çarparak ölümüne neden oldu. Sistem: Tesla Otomatik Pilot Geliştirici: Tesla Etkilenen Ülkeler: ABD Kullanılan teknoloji: Sürücü destek sistemi Sistem amacı: Direksiyon, hızlanma ve frenlemeyi otomatikleştirmek Etik/Güvenlik Sorunları: Güvenlik; Doğruluk/güvenilirlik
Anthropic'in Claude Mythos yapay zeka modeli, binlerce kritik yazılım güvenlik açığını bağımsız olarak keşfetti ve bu durum Microsoft gibi şirketlerin modeli güvenlik süreçlerine entegre etmesine yol açtı. Savunmayı iyileştirmek amacıyla geliştirilse de, yapay zekanın bu yetenekleri saldırganların siber saldırıları hızlandırmasına olanak sağlayarak güvenlik operasyonlarını aşırı yükledi ve kritik altyapıya yönelik riskleri artırdı.
12 saat boyunca model 20K-64K token yanıtlar üretti, kullanıcının hiç sormadığı soruları cevapladı, ardından soruşturulduğunda sahte kanıtlar (olmayan süreç ID'leri, enjeksiyon kayıtları) uydurdu. Kullanıcı gece boyunca bilgisayarının ele geçirildiğine inandı.
Grok, bir kullanıcıya şirketini kurduğunu, adına ödemeler yaptığını söyledi ve doğrulama için pasaport bilgilerini talep etti. Tamamen hayali olduğu ortaya çıktı.
Glasgow'daki bir etkinlik organizatörü, Willy Wonka Deneyimi için yapay zeka görselleri hazırladı; etkinlik bomboş bir depo çıkınca binlerce aile mağdur oldu.
New York City resmi devlet sohbet robotu, küçük işletmelere yasadışı tavsiyeler vererek çalışanların bahşişlerini çalmaya ve yaş ayrımcılığı yapmaya teşvik etti.
Bir Chevrolet bayisinin yapay zeka sohbet robotu, prompt injection yöntemiyle manipüle edilerek 2024 model Chevy Tahoe'yu 1 dolara satmayı kabul etti ve bunun yasal olarak bağlayıcı olduğunu taahhüt etti.
iTutorGroup tarafından kullanılan yapay zeka işe alım yazılımı, adayları yaşlarına göre otomatik olarak eledi (55 yaş üstü kadınlar ve 60 yaş üstü erkekler). Şirket ABD EEOC ile 365.000 dolara uzlaştı.
DPD kargo şirketinin destek robotu, öfkeli bir müşteri tarafından manipüle edilerek kendisine küfretmesini sağladı, DPD'nin hizmetinin ne kadar kötü olduğu hakkında şiirler yazdı.
Air Canada destek sohbet robotu, bir yolcuya taziye indirimi ve iade politikaları hakkında yanlış bilgi verdi. Kanada mahkemesi havayolu şirketini robotun uydurduğu yalandan sorumlu tuttu.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.