En studie som publicerades på arXiv 2026‑10‑19 presenterar ett enkelt skydd för medicinska multiagentsystem som använder stora språkmodeller (LLM). Forskarna visar att en enda inlagd mening kan vilseleda i upp till 61 procent av fallen, och att befintliga skydd missar många av attackerna. Metoden skiljer patientens fynd från AI:ns kliniska bedömningar och kontrollerar varje bedömning enbart mot fynden. På MedQA-riktmärket sänker skyddet attackernas framgångsgrad till 4–7 procent utan att försämra den normala träffsäkerheten.
Varför det spelar roll
Om skyddet införs kan sjukhus låta AI-assistenter diskutera patientfall utan att behöva oroa sig för att en skadlig anteckning i det tysta ändrar diagnoserna.
