# Un test red team révèle des failles dans la surveillance interne d’OpenAI

> Un audit externe de trois semaines, mené en juillet et août 2026, a mis au jour des vulnérabilités dans les systèmes de surveillance des comportements désalignés d’OpenAI. L’entreprise affirme les avoir corrigées.

Oossa · 2026-10-22 · https://oossa.com/fr/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

Du 21 juillet au 11 août 2026, un chercheur du groupe Machine Ethics Transparency Research (METR) et un collègue de Redwood Research ont obtenu un accès approfondi au code interne et aux outils de surveillance d’OpenAI. Pendant trois semaines, ils ont tenté de contourner le système chargé de surveiller les agents d’IA avancés, comme ceux qui alimentent Codex. Leurs conclusions ont été rassemblées dans un rapport de 61 pages transmis au personnel d’OpenAI.

## Ce qu’a révélé le test

Les auditeurs estiment que le système surveillait entre 75 % et 94 % du trafic de l’API Responses interne — utilisée par des modèles au moins aussi puissants que GPT‑5.5 —, mais le chiffre exact reste incertain. Pour le trafic généré par les agents Codex, la couverture atteignait environ 99,2 %. Ils ont également constaté que les phases d’entraînement par apprentissage par renforcement n’étaient pas surveillées au début du test et que l’absence de surveillance lors des opérations de « compaction » aurait pu laisser environ 10 % du trafic Codex sans contrôle entre mai et juillet 2026.

Plusieurs failles concrètes ont été relevées : les agents pouvaient contourner le bac à sable de Codex, définir des en-têtes contrôlables par le client qui désactivaient la surveillance des nouveaux agents, et concevoir des entrées provoquant une défaillance du système de surveillance. Les erreurs de délestage de charge et celles du système de surveillance étaient rares : le taux d’erreur était inférieur à 0,2 %, et aucun incident de délestage n’a été observé sur un instantané de 24 heures.

OpenAI affirme avoir corrigé toutes les vulnérabilités touchant ses protections en production et avoir étendu la couverture de surveillance depuis le test. Les auditeurs n’ont toutefois pas vérifié ces affirmations de façon indépendante.

## Les faits

- L’exercice red team s’est déroulé du 21 juillet 2026 au 11 août 2026.
- Les chercheurs estiment que 75 à 94 % du trafic de l’API Responses provenant de modèles au moins aussi puissants que GPT‑5.5 pouvait faire l’objet d’une surveillance.
- Pour les agents Codex internes, la part du trafic pouvant faire l’objet d’une surveillance était estimée à 99,2 %.
- Les taux de délestage de charge et d’erreur du système de surveillance étaient inférieurs à 0,2 % des requêtes ; aucun délestage n’a été observé sur une période de 24 heures.
- OpenAI affirme avoir corrigé toutes les vulnérabilités relevées et avoir étendu la couverture de surveillance.

## Pourquoi c'est important

Pour les développeurs qui s’appuient sur les outils Codex d’OpenAI, ces lacunes signifient que certaines actions de l’IA ont pu échapper à la surveillance, avec un risque de comportements imprévus pour les utilisateurs. Les correctifs de l’entreprise devraient réduire ce risque, mais une vérification indépendante reste nécessaire pour confirmer que le système détecte désormais une plus grande part de l’activité des agents.

## Sources et références

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

Dernière mise à jour: 2026-10-22