Topluluktan 1571 yayınlanmış raporu inceleyin.
Güney Florida Üniversitesi'nden iki öğrencinin cinayetiyle suçlanan Hisham Abugharbieh, suçlardan önce cesetlerin yok edilmesi ve diğer suç eylemleri hakkında bilgi almak için ChatGPT'yi kullandı. Savcılar, bu yapay zeka destekli sorguları, cinayetlerin planlanması ve işlenmesiyle bağlantılı olarak deliller arasında gösterdi.
Palantir Technologies'in yapay zeka sistemleri, Ukrayna tarafından askeri hedefleme ve savaş alanı veri analizi için kullanılmış ve çocuklar da dahil olmak üzere sivil kayıplara yol açtığı bildirilmiştir. Bu yapay zeka araçlarının kullanımı, gizlilik, gözetim ve otomatik savaşın etik riskleri konusunda önemli endişeleri beraberinde getirmiştir.
Tesla FSD kullanan sarhoş sürücü ağaca çarptıktan sonra hayatını kaybetti. Sistem: Tesla FSD Geliştirici: Tesla Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Kendi kendine sürüş sistemi Sistem Amacı: Direksiyon, hızlanma ve frenlemeyi otomatikleştirmek Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik; Güvenlik
Steve Talley yüz tanıma yanlış tutuklama. Geliştirici: Federal Soruşturma Bürosu (FBI). Etkilenen Ülkeler: ABD. Kullanılan Teknoloji: Yüz tanıma. Sistem Amacı: Suçluları tespit etmek. Etik/Güvenlik Sorunları: Doğruluk/güvenilirlik
Robot, VW taşeronunu ezerek öldürdü. Geliştirici: Belirsiz/bilinmiyor Etkilenen Ülkeler: Almanya Kullanılan Teknoloji: Robotik Sistemin Amacı: Otomobil parçalarını yapılandırmak Etik/Güvenlik Sorunları: Güvenlik; Sorumluluk
ChatGPT, veritabanlarının hassas bilgileri sızdırmasına neden olan kod yazıyor. Sistem: AIHelperBot; AI2sql; Baidu-UNIT; ChatGPT; Text2SQL.AI; TOOLSKE Geliştirici: AI2sql; Baidu; NiceAdmin; OpenAI; Text2SQL.AI; SQLAI.AI Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Sohbet robotu; Metinden-SQL'e; NLP/metin analizi; Sinir ağı; Derin öğrenme; Makine öğrenimi Sistem Amacı: Metin oluşturma Etik/Güvenlik Sorunları: Gizlilik; Güvenlik
Son araştırmalar ve uzman uyarıları, büyük dil modelleri (LLM'ler) tarafından üretilen yanlış çıktılar olan halüsinasyonların kaçınılmaz olduğunu ve girdi boyutu arttıkça arttığını ortaya koymaktadır. Bu yanlışlıklar, hukuk ve muhasebe gibi yüksek riskli alanlarda önemli riskler oluşturarak, kritik görevler için AI'nın güvenilirliğini sorgulamaktadır.
LibreChat'in MCP STDIO entegrasyonunda komut enjeksiyonu; Anthropic MCP'deki sistemik STDIO yapılandırmasından komut çalıştırmaya açık zafiyetin alt istemcilere yayılması örneği.
Ukraine Savunma Bakanlığı, Birleşik Krallık'ın desteğiyle askeri sistemlere yapay zeka entegrasyonunu sağlamak amacıyla 'A1' Savunma Yapay Zeka Merkezi'ni kurdu. Merkez, insan müdahalesini en aza indirerek Ukrayna'nın savaş etkinliğini ve karar alma süreçlerini geliştirmeyi hedefleyen yapay zeka destekli savaş alanı analitiği, otonom drone'lar ve robotik platformlar üzerinde çalışmalar yürütüyor.
Ukraynalı şirket OSIRIS AI, yüksek hızlı hava tehditlerinin otonom hedef tahmini, takibi ve kesilmesi için yapay zeka kullanan UEB-1 kesici drone'u geliştirdi. Düsseldorf'ta halka açık bir şekilde sergilenen yapay zeka destekli drone, askeri veya güvenlik bağlamlarında konuşlandırılırsa potansiyel riskler oluşturabilir, ancak şu ana kadar herhangi bir zarar meydana gelmemiştir.
Yapay zekadaki son gelişmeler, özellikle Anthropic gibi öncü modeller, yazılım güvenlik açıklarının hızlı bir şekilde tespit edilmesini ve istismar edilmesini mümkün kılmıştır. Bu durum, Beyaz Saray ve Singapur dahil olmak üzere siber güvenlik uzmanları ve kurumları tarafından kritik altyapı ve finansal sistemlere yönelik potansiyel tehditler konusunda uyarı ve tavsiyelerin yayınlanmasına yol açmıştır.
Dava, Amazon Alışveriş Kutusu algoritmasının alışveriş yapanları daha fazla ödemeye zorladığını iddia ediyor. Sistem: Alışveriş Kutusu Geliştirici: Amazon Etkilenen Ülkeler: ABD Kullanılan Teknoloji: Makine öğrenimi Sistem Amacı: Satıcıyı belirlemek Etik/Güvenlik Sorunları: Tüketici koruması