Une étude publiée sur arXiv le 2026‑10‑19 propose une défense simple pour les systèmes médicaux multi-agents qui utilisent de grands modèles de langage (LLM). Selon les auteurs, une seule phrase malveillante injectée peut induire en erreur jusqu’à 61 % des cas, et les mesures de protection existantes passent à côté de nombreuses attaques. Leur méthode distingue les observations concernant le patient des évaluations cliniques de l’IA, puis vérifie chacune de ces évaluations à partir des seules observations. Sur le benchmark MedQA, cette défense ramène le taux de réussite des attaques à 4‑7 %, sans réduire la précision habituelle.
Pourquoi c'est important
Si cette méthode est adoptée, les hôpitaux pourraient laisser des assistants IA analyser des cas sans craindre qu’une note malveillante modifie discrètement les diagnostics.
