# Una nuova difesa limita gli attacchi prompt injection alle IA mediche

> I ricercatori dimostrano che un controllo senza riaddestramento riduce il successo degli attacchi a meno del 7%, senza compromettere l’accuratezza diagnostica.

Oossa · 2026-10-19 · https://oossa.com/it/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

Uno studio pubblicato su arXiv il 2026‑10‑19 propone una semplice difesa per i sistemi medici multi-agente che usano modelli linguistici di grandi dimensioni (LLM). Gli autori hanno rilevato che una sola frase inserita ad arte può indurre in errore fino al 61% dei casi e che le protezioni esistenti non riescono a individuare molti di questi attacchi. Il metodo separa i dati clinici del paziente dalle valutazioni dell’IA e verifica ogni valutazione basandosi soltanto sui dati clinici. Sul benchmark MedQA, la difesa riduce il successo degli attacchi al 4‑7% senza compromettere la normale accuratezza.

## I fatti

- Il successo degli attacchi su MedQA scende da un massimo del 61% al 4‑7%
- Studio pubblicato il 2026‑10‑19

## Perché conta

Se venisse adottata, questa soluzione permetterebbe agli ospedali di usare assistenti IA per discutere i casi senza temere che una nota malevola modifichi di nascosto le diagnosi.

## Fonti e riferimenti

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Ultimo aggiornamento: 2026-10-19