新防护措施降低医疗AI智能体遭提示注入攻击的风险

研究人员展示了一种无需训练的检查方法，可将攻击成功率降至7%以下，同时不影响诊断准确率。

简讯作者： OossaOossa 发布日期: 2026年10月19日 04:08 UTC1 分钟阅读

一项于2026‑10‑19发布在arXiv上的研究，为使用大型语言模型（LLM）的医疗多智能体系统提出了一种简单的防护方法。作者发现，一句注入文本就可能误导多达61%的病例，而现有防护措施会漏掉许多此类攻击。他们的方法将患者检查结果与AI的临床判断分开，并仅依据检查结果逐项核验判断。在MedQA基准测试中，这项防护措施将攻击成功率降至4‑7%，且不影响正常情况下的准确率。