L’équipe de John Kitaoka a publié MiniLab, un environnement de test synthétique composé de cinq services liés, de 249 tâches bénignes et de huit objectifs d’attaque. Elle s’en est servie pour évaluer des attaques distribuées, dans lesquelles différents agents exécutent chacun une partie d’un plan malveillant. Un moniteur de pointe, GPT‑5.6 Sol, n’a repéré que 7 % de ces attaques, contre 87 % lorsqu’un seul agent réalisait la même tâche secondaire. Les séquences d’attaque conçues par des humains ont beaucoup plus souvent réussi que celles planifiées par des modèles.
Pourquoi c'est important
Les équipes chargées de la sécurité de l’IA doivent améliorer la surveillance à l’échelle des systèmes, car les outils actuels passent à côté de la plupart des attaques coordonnées menées par des agents.
