# Des agents IA moins fiables peuvent fragiliser les systèmes plus sûrs

> Des tests de Claude Code, Codex et des simulations suggèrent qu’un système peut hériter des erreurs des agents IA moins performants auxquels il délègue des tâches.

Oossa · 2026-11-16 · https://oossa.com/fr/study-finds-weaker-ai-agents-can-undermine-safer-systems

Un nouvel article publié sur arXiv indique que les systèmes d’IA conçus pour déléguer des tâches peuvent être vulnérables à des attaques auxquelles leurs modèles principaux, plus performants, résistent généralement lorsqu’ils agissent seuls. Les chercheurs ont testé des versions non modifiées de Claude Code, de Codex et d’un système de référence en leur demandant de répondre à des questions à partir de fichiers stockés sur un disque. Ils ont glissé un document falsifié parmi ces fichiers.

Lorsque le modèle principal a lui-même recherché les fichiers, il n’a apporté presque aucune modification préjudiciable sur plus de 1 000 essais, selon l’article. Mais les résultats ont changé lorsqu’il a confié le travail à un sous-agent moins coûteux et moins performant : l’article fait état de 20, 44 et 75 échecs sur trois séries de 180 essais, ainsi que de 553 échecs sur une série de 900. Le résumé ne précise pas à quel système ou à quelle configuration correspond chaque résultat.

## Pourquoi la délégation a changé les résultats

Dans ces systèmes, un orchestrateur est l’IA principale qui décompose une tâche et en confie certaines parties à des sous-agents. Les chercheurs craignent que le modèle principal se fie à une interprétation erronée des fichiers par un sous-agent, même s’il aurait rejeté cette information s’il l’avait trouvée lui-même. Dans les tests de l’article, la sécurité du système dans son ensemble dépendait davantage du lecteur le moins fiable que de l’orchestrateur le plus performant.

C’est important, car les tests de sécurité évaluent souvent les modèles un par un, alors que des produits comme les agents de programmation peuvent faire appel à plusieurs modèles qui travaillent ensemble. L’article soutient qu’évaluer uniquement le modèle principal peut laisser passer des faiblesses introduites par la délégation. Il a été accepté au premier atelier NeurIPS 2026 sur les méta-agents, consacré aux systèmes qui gèrent d’autres agents d’IA.

## L’erreur s’est aussi propagée aux agrégateurs

Les chercheurs ont également simulé une étape distincte : cinq agrégateurs réunissant les informations de plusieurs agents. Dans des simulations portant sur 18 modèles, les agrégateurs ont reproduit l’erreur d’un sous-agent ayant reçu des données falsifiées dans 751 des 757 essais, alors qu’ils étaient presque toujours sûrs lorsqu’ils étaient évalués seuls, indique le résumé.

Ces résultats proviennent d’un test précis reposant sur l’insertion d’un document falsifié ; ils ne mesurent pas la fréquence à laquelle les utilisateurs rencontrent réellement ce problème. Le résumé ne présente ni le texte de l’attaque ni les versions et configurations des modèles associées à chaque résultat. Il montre toutefois pourquoi tester un système complet d’agents peut mettre au jour des risques invisibles lorsqu’on évalue uniquement son modèle le plus performant.

## Les faits

- L’article indique que ses tests portaient sur des versions non modifiées de Claude Code, de Codex et d’un dispositif de test de référence.
- Lorsque l’orchestrateur a recherché les fichiers lui-même, il a apporté presque aucune modification préjudiciable sur plus de 1 000 essais.
- Dans les tests avec délégation, l’article fait état de 20/180, 44/180, 75/180 et 553/900 échecs.
- Cinq agrégateurs ont reproduit l’erreur d’un sous-agent ayant reçu des données falsifiées dans 751 des 757 essais simulés portant sur 18 modèles.

## Pourquoi c'est important

Pour les développeurs qui utilisent des agents de programmation dotés d’IA, ces résultats suggèrent qu’un modèle principal fiable ne garantit pas la fiabilité du système s’il se fie à des sous-agents moins performants. Les tests ne montrent pas la fréquence de ce problème dans l’usage quotidien, mais ils soulignent qu’il faut évaluer toute la chaîne d’agents, et pas seulement le modèle principal.

## Sources et références

1. [Only as Safe as the Weakest Agent: A Break That Appears Only When the System Is Multi-Agent](https://arxiv.org/abs/2611.17520) – arXiv cs.MA, 2026-11-16

Dernière mise à jour: 2026-11-16
