# Une défense réduit les attaques par injection de prompt contre les IA médicales

> Des chercheurs montrent qu’un contrôle sans réentraînement ramène le taux de réussite des attaques sous les 7 %, sans nuire à la précision des diagnostics.

Oossa · 2026-10-19 · https://oossa.com/fr/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

Une étude publiée sur arXiv le 2026‑10‑19 propose une défense simple pour les systèmes médicaux multi-agents qui utilisent de grands modèles de langage (LLM). Selon les auteurs, une seule phrase malveillante injectée peut induire en erreur jusqu’à 61 % des cas, et les mesures de protection existantes passent à côté de nombreuses attaques. Leur méthode distingue les observations concernant le patient des évaluations cliniques de l’IA, puis vérifie chacune de ces évaluations à partir des seules observations. Sur le benchmark MedQA, cette défense ramène le taux de réussite des attaques à 4‑7 %, sans réduire la précision habituelle.

## Les faits

- Le taux de réussite des attaques passe de jusqu’à 61 % à 4‑7 % sur MedQA
- Article publié le 2026‑10‑19

## Pourquoi c'est important

Si cette méthode est adoptée, les hôpitaux pourraient laisser des assistants IA analyser des cas sans craindre qu’une note malveillante modifie discrètement les diagnostics.

## Sources et références

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Dernière mise à jour: 2026-10-19