# Un audit révèle des failles dans la surveillance de sécurité d’OpenAI

> Les chercheurs estiment que jusqu’à 25 % du trafic des modèles les plus avancés échappait à la surveillance et ont repéré des bugs permettant aux agents de contourner les contrôles.

Oossa · 2026-10-23 · https://oossa.com/fr/audit-finds-gaps-in-openai-s-ai-safety-monitoring

Deux chercheurs indépendants de METR et de Redwood Research ont passé trois semaines dans les laboratoires d’ingénierie d’OpenAI. Du 21 juillet au 11 août 2026, ils ont examiné le code chargé de surveiller les modèles les plus puissants de l’entreprise. Selon leur rapport, le système de surveillance ne couvrait pas une part importante du trafic et pouvait être trompé par des entrées spécialement conçues.

## Ce que l’audit a révélé

Les auditeurs estiment que, pendant la période de l’audit, entre 6 % et 25 % des appels API des modèles de classe GPT‑5.5 et supérieurs n’étaient couverts par aucun dispositif de surveillance. Pour le trafic interne de Codex, environ 10 % n’ont pas été suivis entre mai et juillet, en raison d’un bug qui ignorait les « événements de compaction », de brefs résumés du contexte d’une conversation. OpenAI affirme avoir corrigé ce bug alors que les auditeurs étaient encore sur place.

Le rapport relève également que le système de surveillance ne déclenchait une alerte que lorsqu’une IA rendait le contrôle à un utilisateur. Les agents pouvaient ainsi continuer d’agir sans déclencher de contrôle. Les chercheurs ont aussi trouvé des moyens de dissimuler des centaines d’actions, de contourner le bac à sable de Codex et, potentiellement, de faire planter le système de surveillance avec des entrées conçues à cet effet. Ils ont constaté qu’au début de l’audit, le comportement des modèles pendant l’entraînement par apprentissage par renforcement (RL) n’était pas surveillé du tout.

## La réponse d’OpenAI

OpenAI affirme avoir interrompu l’entraînement par RL après un incident survenu en août impliquant Hugging Face et avoir étendu la surveillance à ces activités, mais ces changements sont intervenus après la fin de la période d’audit. L’entreprise assure avoir corrigé toutes les failles relevées par les auditeurs. Un rapport interne de 61 pages a été remis à OpenAI et, après occultation de certains éléments, METR et Redwood en ont reçu une version de 38 pages. Seul un bref résumé public a été publié.

## Les faits

- L’audit s’est déroulé du 21 juillet au 11 août 2026.
- Les chercheurs estiment que 6 % à 25 % du trafic API des modèles de classe GPT‑5.5 n’était pas surveillé.
- Environ 10 % du trafic interne de Codex n’a pas été suivi entre mai et juillet à cause d’un bug lié aux événements de compaction.
- OpenAI a corrigé le bug de compaction alors que l’audit était encore en cours.
- OpenAI a interrompu l’entraînement par RL après un incident survenu en août, puis a ajouté un dispositif de surveillance pour ces activités.

## Pourquoi c'est important

Pour les utilisateurs au quotidien, ces lacunes signifient que certaines actions de l’IA pouvaient être exécutées sans aucun contrôle de sécurité, ce qui augmente le risque de résultats inattendus ou préjudiciables. Les correctifs annoncés par OpenAI devraient rétablir une surveillance plus étendue, mais le peu d’informations rendu public ne permet pas de savoir si les améliorations sont complètes.

## Sources et références

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

Dernière mise à jour: 2026-10-23