# 医療AIへのプロンプトインジェクション攻撃、防御策で成功率を低下

> 研究チームは、学習不要のチェックで診断精度を保ちながら、攻撃成功率を7％未満に抑えられると示した。

Oossa · 2026-10-19 · https://oossa.com/ja/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

2026‑10‑19にarXivで公開された研究は、大規模言語モデル（LLM）を使う医療向けマルチエージェントシステムの簡単な防御策を提案している。著者らによると、文を1つ注入するだけで最大61％のケースが誤誘導され、既存の安全対策ではこうした攻撃の多くを見逃してしまう。提案手法では、患者の所見とAIの臨床判断を切り分け、所見だけに基づいて各判断を検証する。MedQAベンチマークでは、通常時の精度を損なうことなく、攻撃成功率を4‑7％に低下させた。

## 事実

- MedQAで攻撃成功率は最大61％から4‑7％に低下
- 論文公開日：2026‑10‑19

## なぜ重要か

導入されれば、悪意ある記録によって診断が気づかないうちに変えられる心配をせずに、病院がAIアシスタントに症例について相談できるようになる。

## 出典と参考資料

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

最終更新: 2026-10-19