Uno studio pubblicato su arXiv il 2026‑10‑19 propone una semplice difesa per i sistemi medici multi-agente che usano modelli linguistici di grandi dimensioni (LLM). Gli autori hanno rilevato che una sola frase inserita ad arte può indurre in errore fino al 61% dei casi e che le protezioni esistenti non riescono a individuare molti di questi attacchi. Il metodo separa i dati clinici del paziente dalle valutazioni dell’IA e verifica ogni valutazione basandosi soltanto sui dati clinici. Sul benchmark MedQA, la difesa riduce il successo degli attacchi al 4‑7% senza compromettere la normale accuratezza.
Perché conta
Se venisse adottata, questa soluzione permetterebbe agli ospedali di usare assistenti IA per discutere i casi senza temere che una nota malevola modifichi di nascosto le diagnosi.
