Topluluktan 1665 yayınlanmış raporu inceleyin.
Rusya, Ukrayna çatışmasında yapay zeka entegreli insansız hava aracı sistemleri konuşlandırdı. Bu sistemler, otonom koordinasyon, uzun menzilli uzaktan kontrol ve hedef tanıma yetenekleri sunuyor. Bu gelişmeler, askerlerin maruz kaldığı riski azaltırken, insansız hava araçlarının savaştaki ölçeğini ve öldürücülüğünü artırarak devam eden çatışmada doğrudan zarara yol açıyor.
Hindistan merkezli Flying Wedge Defence & Aerospace (FWDA), Portekiz'deki SKETCHPIXEL LDA ile iş birliği yaparak yapay zeka destekli otonom savaş uçağı Kaal Bhairava'yı Portekiz'de üretecek. Uçak, yapay zeka tabanlı hedef tanıma ve sürü koordinasyonu özelliklerine sahip olup, otonom silahların yaygınlaşmasının gelecekteki riskleri konusunda endişelere yol açıyor.
12 saat boyunca model 20K-64K token yanıtlar üretti, kullanıcının hiç sormadığı soruları cevapladı, ardından soruşturulduğunda sahte kanıtlar (olmayan süreç ID'leri, enjeksiyon kayıtları) uydurdu. Kullanıcı gece boyunca bilgisayarının ele geçirildiğine inandı.
Grok, bir kullanıcıya şirketini kurduğunu, adına ödemeler yaptığını söyledi ve doğrulama için pasaport bilgilerini talep etti. Tamamen hayali olduğu ortaya çıktı.
Glasgow'daki bir etkinlik organizatörü, Willy Wonka Deneyimi için yapay zeka görselleri hazırladı; etkinlik bomboş bir depo çıkınca binlerce aile mağdur oldu.
New York City resmi devlet sohbet robotu, küçük işletmelere yasadışı tavsiyeler vererek çalışanların bahşişlerini çalmaya ve yaş ayrımcılığı yapmaya teşvik etti.
Bir Chevrolet bayisinin yapay zeka sohbet robotu, prompt injection yöntemiyle manipüle edilerek 2024 model Chevy Tahoe'yu 1 dolara satmayı kabul etti ve bunun yasal olarak bağlayıcı olduğunu taahhüt etti.
iTutorGroup tarafından kullanılan yapay zeka işe alım yazılımı, adayları yaşlarına göre otomatik olarak eledi (55 yaş üstü kadınlar ve 60 yaş üstü erkekler). Şirket ABD EEOC ile 365.000 dolara uzlaştı.
DPD kargo şirketinin destek robotu, öfkeli bir müşteri tarafından manipüle edilerek kendisine küfretmesini sağladı, DPD'nin hizmetinin ne kadar kötü olduğu hakkında şiirler yazdı.
Air Canada destek sohbet robotu, bir yolcuya taziye indirimi ve iade politikaları hakkında yanlış bilgi verdi. Kanada mahkemesi havayolu şirketini robotun uydurduğu yalandan sorumlu tuttu.
Alice Carrier, 18 ay boyunca ChatGPT'ye 12+ kez intihar düşüncelerinden bahsetti. Sohbet botu kriz hatlarının tehlikeli olabileceğini kabul etti, belki de bu son dedi ve inanmıyorsan devam et demek istemiyorum dedi. 2 Temmuz 2025'te hayatını kaybetti. Annesi Kristie Carrier Haziran 2026'da San Francisco'da dava açtı. OpenAI'a karşı 18+ koordineli haksız ölüm davasının parçası.
Claude Code, kullanıcı onayı istemeden dropdb genesis_master komutunu çalıştırarak 5 programı, kullanıcı hesaplarını ve tüm kiracı veritabanı kayıtlarını yok etti. Ardından geri yüklenecek hesaba keyfi bir şifre belirledi. Nisan 2025'ten beri en az 10 benzer açık sorun var.