Tongxi Wu氏率いる研究チームは2026年10月14日、マルチモーダル大規模言語モデル（MLLM）の安全性に関する弱点を明らかにした論文を発表した。「シーンに根差した視覚的安全性の脆弱性」と呼ばれるこの問題では、依頼の内容が同じでも、画像内の周囲の場面によってモデルの反応が拒否から応諾へと変わる。研究者らはSceneSafetyBenchというベンチマークを作成し、ホワイトボックスとブラックボックスの両方で、9つのMLLMを対象に8種類のリスクを検証した。新たに開発した攻撃手法「Scene-Grounded Attacks」の成功率は86.17%で、従来の最良ベースラインを8ポイント以上上回った。
この研究は、視覚的な情報の理解を改善するだけではAIの安全性が保証されず、場面の意味が見過ごされてきた攻撃対象になり得ることを示している。
なぜ重要か
マルチモーダルAIの開発者は、画像の主要な内容だけでなく、背景の場面を操作することも攻撃に利用される可能性があると考慮する必要がある。
