Topluluktan 1516 yayınlanmış raporu inceleyin.
Dolandırıcılar, WePay'in yüz tanıma güvenliğini gifler kullanarak aştı. Sistem: WeChat Pay Geliştirici: Tencent/WeChat Etkilenen Ülkeler: Çin Kullanılan Teknoloji: Yüz tanıma Sistem Amacı: Müşteri kimliğini doğrulama Etik/Güvenlik Sorunları: Güvenlik
Robotik cerrahi 144 ölüm ve 1.000'den fazla yaralanma ile ilişkilendirildi. Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Robotik Sistemin Amacı: Cerrahi operasyonlar gerçekleştirmek Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Güvenlik
Nice, Marsilya okulları yüz tanıma gizlilik ihlalleri nedeniyle askıya alındı. Geliştirici: Cisco Etkilenen Ülkeler: Fransa Kullanılan Teknoloji: Yüz tanıma Sistem Amacı: Devam kaydı Etik/Güvenlik Sorunları: Gizlilik
Tesla Model S kırmızı ışıkta geçerek iki kişinin ölümüne neden oldu. Sistem: Tesla Autopilot Geliştirici: Tesla Etkilenen Ülkeler: ABD Kullanılan teknoloji: Sürücü destek sistemi; Otonom sürüş sistemi Sistem amacı: Direksiyon, hızlanma ve frenlemeyi otomatikleştirmek Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Güvenlik
Robot Ventra Ionia teknisyenini ezerek öldürdü. Geliştirici: Nachi Robotic Systems; Lincoln Electric Company; FANUC America Corp Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Robotik Sistem Amacı: Kamyon tamponlarını kaynaklamak Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Güvenlik
Polis robotu Dallas'taki silahlı saldırı şüphelisini öldürdü. Sistem: MARCbot-IV Geliştirici: Exponent Inc Etkilenen Ülkeler: ABD Kullanılan teknoloji: Robotik Sistem amacı: Bomba imha Etik/Güvenlik Sorunları: Etik/değerler
Çoklu çalışmalar, önde gelen AI sohbet robotlarının, zararlı veya yasa dışı bağlamlarda bile kullanıcıların eylemlerini aşırı derecede onaylayarak yargıyı çarpıttığını ve öz düzeltmeyi azalttığını ortaya koymaktadır. Ek olarak, AI ajanları giderek artan bir şekilde insan komutlarını görmezden gelerek, yetkisiz dosya silme ve hassas verilerin açığa çıkması gibi operasyonel zararlara neden olmaktadır. Bu davranışlar, sorumlu karar vermeyi ve sosyal işleyişi zayıflatmaktadır.
Minneapolis'te bir ICE görevlisi tarafından Renee Nicole Good'in öldürülmesinin ardından, X kullanıcılarının Grok'tan tanık görüntülerindeki maskeli ajanı 'maskesizleştirmesini' istediği bildirildi. Grok'un ürettiği iddia edilen sahte yüz görüntüsü ve 'Steve Grove' ismi geniş çapta yayıldı. Bu çıktı ve iddianın, en az iki ilgisiz erkeğe yönelik taciz ve itibar zedelenmesine yol açtığı öne sürülüyor.
Matplotlib bakımcısı Scott Shambaugh, 'MJ Rathbun' adını kullanan otonom bir AI kodlama aracının, GitHub pull request'i kapatıldıktan sonra kendisi hakkında araştırma yaparak kişiselleştirilmiş eleştirel bir blog gönderisi yayınladığını bildirdi. Gönderide Shambaugh'u önyargılı olmakla ve 'gatekeeping' yapmakla suçlayan iddialar yer alıyordu ve Shambaugh bu iddiaları reddetti. Aracın operatörü ve temel alınan modeli belirlenemedi. Shambaugh, gönderinin itibar zedeleyici risk taşıdığını ve okuyucuları veya diğer araçları yanıltabileceğini belirtti.
Anthropic'in yeni AI modeli Mythos, binlerce yüksek önemdeki yazılım açığını otonom olarak tespit edip istismar edebilme yeteneği göstererek çoğu insan uzmanını geride bıraktı. Kötüye kullanım ve potansiyel büyük ölçekli dijital aksaklık endişesiyle Anthropic, modelin kamuya açık sürümünü askıya aldı ve ABD hükümetiyle AI güvenliği ve kritik altyapı riskleri üzerine acil görüşmeler başlattı.
JPMorgan Chase, Citigroup, Bank of America ve Goldman Sachs gibi büyük Wall Street bankaları, iş akışlarını otomatikleştirmek için yapay zeka kullanımını hızlandırdı ve bu durum on binlerce iş kaybına neden oldu. Yapay zeka yatırımları kârlılığı ve verimliliği artırsa da, otomasyon büyük ölçekli işgücü azaltmaları yoluyla çalışanlara önemli zararlar verdi.
Kyrylo Budanov liderliğindeki Ukraynalı yetkililer, bağımsız olarak hedef belirleyip manevra yapabilen otonom muharebe sistemlerine yapay zekanın tam entegrasyonunu planladıklarını açıkladı. Savaş alanında kullanılması amaçlanan bu teknolojik gelişme, yapay zekanın savaşta konuşlandırılması nedeniyle ciddi zarar risklerini beraberinde getiriyor.