Il team di John Kitaoka ha presentato MiniLab, una suite sintetica composta da cinque servizi collegati, con 249 attività innocue e otto obiettivi di attacco. L’ha usata per testare attacchi distribuiti, in cui agenti diversi eseguono ciascuno una parte di un piano dannoso. Un monitor all’avanguardia, GPT‑5.6 Sol, ha individuato solo il 7% di questi attacchi, contro l’87% quando la stessa attività secondaria veniva svolta da un singolo agente. Le sequenze di attacco ideate da esseri umani hanno avuto molto più successo di quelle pianificate dai modelli.
Perché conta
I team che si occupano di sicurezza dell’IA devono migliorare il monitoraggio a livello di sistema, perché gli strumenti attuali non rilevano la maggior parte degli attacchi coordinati tra agenti.
