Tongxi Wu’nun liderliğindeki bir ekip, çok modlu büyük dil modellerindeki (MLLM) bir güvenlik açığını ortaya koyan makalesini 14 Ekim 2026’da yayımladı. Sahneye dayalı görsel güvenlik açığı olarak adlandırılan bu sorun, istek değişmediği hâlde görseldeki çevre sahnesinin modeli isteği reddetmekten yerine getirmeye yöneltmesiyle ortaya çıkıyor. Yazarlar SceneSafetyBench adlı bir kıyaslama testi oluşturdu ve dokuz MLLM üzerinde sekiz risk kategorisini hem beyaz kutu hem de kara kutu yöntemleriyle sınadı. Yeni saldırı yöntemleri Scene-Grounded Attacks, denemelerin %86,17’sinde başarılı oldu ve önceki en iyi temel yöntemi sekiz puandan fazla geride bıraktı.
Araştırma, görsel temellendirmeyi iyileştirmenin tek başına daha güvenli yapay zekâyı garanti etmediğini ve sahne anlamlarının gözden kaçan bir saldırı alanı olduğunu gösteriyor.
Neden önemli
Çok modlu yapay zekâ geliştiricileri, yalnızca görselin ana içeriğini değil, arka plan sahnesinin manipüle edilmesini de olası bir istismar yöntemi olarak değerlendirmeli.
