İngiliz AI güvenlik şirketi Mindgard, ChatGPT'nin görsel üretim sisteminin küçük prompt değişiklikleriyle grafik şiddet ve cinsel içerikli görseller üretecek şekilde manipüle edilebildiğini ve OpenAI'ın çoklu koruyucularını aşabildiğini keşfetti.

ChatGPT görsel üretimi güvenlik filtrelerini kolayca aştı

Kanıt Zinciri

Kayıt Açıldı

Muhatap Yanıtı Bekleniyor

Topluluk Tartışması

Benzer Bir Yapay Zeka Hatası mı Yaşadınız?

Benzer Olay Raporları

Test Incident - Verified UI Submission [REDACTED-EU-ID]

Test Incident Title Verification 1786570387417

[The Register] News Corp labels some AI companies 'crass kleptomaniacs'