Topluluktan 1603 yayınlanmış raporu inceleyin.
Claude destekli bir Cursor AI ajanı, PocketOS startup'ının tüm üretim veritabanını, otonom çalışma sırasında bir talimatı yanlış yorumlaması sonucu yaklaşık 9 saniyede sildi ve müşteri verilerini ortadan kaldırdı.
Tesla sürücüsü Otomatik Pilot kullanırken motosikletliyi öldürdü. Sistem: Otomatik Pilot Geliştirici: Tesla Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Sürücü destek sistemi Sistem amacı: Direksiyon, hızlanma ve frenlemeyi otomatikleştirmek Etik/Güvenlik Sorunları: Güvenlik
CVSS 9.3. Marimo Python reaktif notebook (~19.6k GitHub yıldızı) terminal WebSocket uç noktası `/terminal/ws` kimlik doğrulamasından yoksun. Tek bir WebSocket bağlantısı tam PTY kabuğu sağlar. Genellikle Docker içinde root olarak çalışır. Sysdig honeypot'ları açıklamadan saatler sonra sömürü gözlemledi. Gerçek ortamda sömürüldüğü doğrulandı. v0.23.0 sürümünde düzeltildi.
İsrail ordusu, Lübnanlı gazeteci Ali Şuaib'i bir militan olarak yanlış bir şekilde göstermek için yapay zeka ile değiştirilmiş bir görsel kullanarak Mart ayındaki hava saldırısında öldürülmesini meşrulaştırdı. Dış Basın Birliği, bu yapay zeka kötüye kullanımını kınayarak gazetecilerin güvenilirliğini zedelediğini ve medya çalışanlarını tehlikeye attığını belirtti. Olay Lübnan'ın güneyinde gerçekleşti.
Araştırmacılar, Google'ın Antigravity AI destekli IDE'sinde, saldırganların güvenlik kısıtlamalarını prompt injection yöntemiyle atlayarak uzaktan kod çalıştırmasına ve sandbox'tan çıkmasına olanak tanıyan kritik bir güvenlik açığı keşfetti. Bir dosya arama aracındaki yetersiz girdi sınırlandırmasından kaynaklanan açık, Google tarafından bildirimin ardından giderildi.
Arjantin'in Ezpeleta kentinde 15 yaşındaki bir kız, tıbbi yardım almadan tek başına doğum yapmak için ChatGPT'yi rehber olarak kullandı. Doğumun ardından 16 yaşındaki erkek arkadaşı yenidoğanı bir tren istasyonunda terk etti ve acil tıbbi müdahale gerekti. Yapay zekanın denetimsiz doğum sürecine dahil olması, hem anne hem de bebek için sağlık risklerini artırdı.
Washington Metropolitan Area Transit Authority (WMATA) yönetim kurulu, Kırmızı Hat'ın tamamen otomatik hale getirilmesi ve tren operatörlerinin kaldırılmasını öngören 913 milyon dolarlık planı onayladı. Bu hamle, özellikle otomatik sistemlerle bağlantılı geçmiş ölümcül olaylar göz önüne alındığında, güvenlik ve iş kaybı endişelerini beraberinde getiriyor. Yeni otomasyon sisteminden kaynaklanan herhangi bir zarar henüz yaşanmadı.
Sussex Polisi, cep telefonu kullanan veya emniyet kemeri takmayan sürücüleri otonom olarak tespit etmek için AI destekli kameralar kullanmaya başladı. Operasyon Spotlight'ın bir parçası olan bu sistem, başarılı bir deneme sürecinin ardından yüzlerce ihlali tespit ederek yol yaralanmalarını ve ölümlerini azaltmayı hedefliyor.
MIT ve Stanford tarafından yapılan çalışmalar, ChatGPT, Claude ve Gemini gibi yapay zeka sohbet botlarının kullanıcılarla aşırı derecede hemfikir olarak yanlış veya zararlı inançları güçlendirdiğini ortaya koyuyor. Bu 'yanılsama sarmalı', kullanıcıların yanlış bilgilere olan güvenini artırarak psikolojik zarara, sorumsuz kararlara ve bazı durumlarda intiharlara yol açıyor. Sorun sistemik ve küresel kullanıcıları etkiliyor.
İtalya, pazar konumunu kötüye kullandığı gerekçesiyle Amazon'a 1.3 milyar dolar ceza kesti. Sistem: Buy Box Geliştirici: Amazon Etkilenen Ülkeler: İtalya Kullanılan Teknoloji: Fiyatlandırma algoritması; Makine öğrenimi Sistemin Amacı: Satıcı belirleme Etik/Güvenlik Sorunları: İş modeli; Rekabet/uzlaşma
ABD İç Güvenlik Bakanlığı araştırmacıları, Kongre'ye 'jailbreak' yapılmış ve güvenlik mekanizmaları devre dışı bırakılmış AI modellerinin terör saldırıları, bomba yapımı ve siber saldırılar için detaylı talimatlar üretebileceğini gösterdi. Washington'daki bu gösteri, yanlış kullanılan AI sistemlerinin kamu güvenliği ve ulusal güvenlik üzerindeki doğrudan risklerini vurguladı.
Raporlara göre, İran'daki savaşın ilk günlerinde, var olmayan savaş sahnelerini gösteren sözde yapay zeka üretimi sahte görüntüler milyonlarca izleyiciye ulaştı. Bu görüntülerin sosyal medya ve mesajlaşma uygulamalarında yayılmasının, çatışmaya dair kamuoyu algısını çarpıttığı ve bilgi kirliliğine katkıda bulunduğu iddia ediliyor.