# 背景の違いでマルチモーダルAIが危険な依頼に応じる可能性、研究で判明

> 背景の場面だけを変えることで、9つのAIモデルの攻撃成功率が86%に達したと研究者らが報告。

Oossa · 2026-10-14 · https://oossa.com/ja/new-study-shows-scene-context-can-trick-multimodal-ai-safety

Tongxi Wu氏率いる研究チームは2026年10月14日、マルチモーダル大規模言語モデル（MLLM）の安全性に関する弱点を明らかにした論文を発表した。「シーンに根差した視覚的安全性の脆弱性」と呼ばれるこの問題では、依頼の内容が同じでも、画像内の周囲の場面によってモデルの反応が拒否から応諾へと変わる。研究者らはSceneSafetyBenchというベンチマークを作成し、ホワイトボックスとブラックボックスの両方で、9つのMLLMを対象に8種類のリスクを検証した。新たに開発した攻撃手法「Scene-Grounded Attacks」の成功率は86.17%で、従来の最良ベースラインを8ポイント以上上回った。

この研究は、視覚的な情報の理解を改善するだけではAIの安全性が保証されず、場面の意味が見過ごされてきた攻撃対象になり得ることを示している。

## 事実

- 論文の発表日：2026年10月14日（「Wed Oct 14 2026」）
- 9モデルに対する攻撃成功率の平均：86.17%

## なぜ重要か

マルチモーダルAIの開発者は、画像の主要な内容だけでなく、背景の場面を操作することも攻撃に利用される可能性があると考慮する必要がある。

## 出典と参考資料

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

最終更新: 2026-10-14