# 新防护措施降低医疗AI智能体遭提示注入攻击的风险

> 研究人员展示了一种无需训练的检查方法，可将攻击成功率降至7%以下，同时不影响诊断准确率。

Oossa · 2026-10-19 · https://oossa.com/zh/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

一项于2026‑10‑19发布在arXiv上的研究，为使用大型语言模型（LLM）的医疗多智能体系统提出了一种简单的防护方法。作者发现，一句注入文本就可能误导多达61%的病例，而现有防护措施会漏掉许多此类攻击。他们的方法将患者检查结果与AI的临床判断分开，并仅依据检查结果逐项核验判断。在MedQA基准测试中，这项防护措施将攻击成功率降至4‑7%，且不影响正常情况下的准确率。

## 事实

- 在MedQA上，攻击成功率从最高61%降至4‑7%
- 论文于2026‑10‑19发布

## 为什么重要

如果这项方法得到采用，医院就能让AI助手参与病例讨论，而不必担心恶意记录会悄无声息地改变诊断。

## 来源与参考

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

最后更新: 2026-10-19