医療AIへのプロンプトインジェクション攻撃、防御策で成功率を低下

2026‑10‑19にarXivで公開された研究は、大規模言語モデル（LLM）を使う医療向けマルチエージェントシステムの簡単な防御策を提案している。著者らによると、文を1つ注入するだけで最大61％のケースが誤誘導され、既存の安全対策ではこうした攻撃の多くを見逃してしまう。提案手法では、患者の所見とAIの臨床判断を切り分け、所見だけに基づいて各判断を検証する。MedQAベンチマークでは、通常時の精度を損なうことなく、攻撃成功率を4‑7％に低下させた。