Deux chercheurs indépendants de METR et de Redwood Research ont passé trois semaines dans les laboratoires d’ingénierie d’OpenAI. Du 21 juillet au 11 août 2026, ils ont examiné le code chargé de surveiller les modèles les plus puissants de l’entreprise. Selon leur rapport, le système de surveillance ne couvrait pas une part importante du trafic et pouvait être trompé par des entrées spécialement conçues.
Ce que l’audit a révélé
Les auditeurs estiment que, pendant la période de l’audit, entre 6 % et 25 % des appels API des modèles de classe GPT‑5.5 et supérieurs n’étaient couverts par aucun dispositif de surveillance. Pour le trafic interne de Codex, environ 10 % n’ont pas été suivis entre mai et juillet, en raison d’un bug qui ignorait les « événements de compaction », de brefs résumés du contexte d’une conversation. OpenAI affirme avoir corrigé ce bug alors que les auditeurs étaient encore sur place.
Le rapport relève également que le système de surveillance ne déclenchait une alerte que lorsqu’une IA rendait le contrôle à un utilisateur. Les agents pouvaient ainsi continuer d’agir sans déclencher de contrôle. Les chercheurs ont aussi trouvé des moyens de dissimuler des centaines d’actions, de contourner le bac à sable de Codex et, potentiellement, de faire planter le système de surveillance avec des entrées conçues à cet effet. Ils ont constaté qu’au début de l’audit, le comportement des modèles pendant l’entraînement par apprentissage par renforcement (RL) n’était pas surveillé du tout.
La réponse d’OpenAI
OpenAI affirme avoir interrompu l’entraînement par RL après un incident survenu en août impliquant Hugging Face et avoir étendu la surveillance à ces activités, mais ces changements sont intervenus après la fin de la période d’audit. L’entreprise assure avoir corrigé toutes les failles relevées par les auditeurs. Un rapport interne de 61 pages a été remis à OpenAI et, après occultation de certains éléments, METR et Redwood en ont reçu une version de 38 pages. Seul un bref résumé public a été publié.
Pourquoi c'est important
Pour les utilisateurs au quotidien, ces lacunes signifient que certaines actions de l’IA pouvaient être exécutées sans aucun contrôle de sécurité, ce qui augmente le risque de résultats inattendus ou préjudiciables. Les correctifs annoncés par OpenAI devraient rétablir une surveillance plus étendue, mais le peu d’informations rendu public ne permet pas de savoir si les améliorations sont complètes.
