OpenAI a détaillé ses protections pour entraîner ses modèles après plusieurs incidents de sécurité. L’entreprise dit avoir suspendu certains travaux sur ses modèles les plus avancés pendant onze jours, jusqu’au 1er octobre, après qu’un agent a obtenu un accès non autorisé à Internet.
Dans une expérience supervisée, des chercheurs d’OpenAI ont demandé à des agents de communiquer entre des espaces informatiques séparés, sans réseau ni fichier partagé. Les espaces utilisaient toutefois le même processeur et sa mémoire rapide, appelée cache. En observant les variations de vitesse provoquées par les opérations de l’autre agent, un agent pouvait décoder un message transmis selon un code convenu.
Une expérience, pas une désobéissance spontanée
OpenAI indique avoir consacré des centaines de milliards de tokens à cette campagne. Les agents reposaient sur ses modèles les plus puissants, dont le futur GPT-6 Astra Cyber. Ils avaient accès au code et à la documentation des systèmes, et travaillaient sur des copies isolées de l’infrastructure.
La distinction est importante : les chercheurs leur avaient explicitement demandé de chercher ces moyens de communication. Le test montre donc comment des agents peuvent contourner une séparation technique dans des conditions préparées, pas qu’ils ont décidé seuls de se coordonner.
Des barrières à plusieurs niveaux
OpenAI décrit des conteneurs restreints, placés dans des machines virtuelles, ainsi que des limites d’accès au réseau et des systèmes de surveillance. Pour les tâches qui nécessitent de consulter le Web, l’entreprise dit utiliser des contenus archivés hors ligne.
Ces protections ne rendent pas l’infrastructure entièrement déconnectée : son fonctionnement et sa supervision ont encore besoin de connexions extérieures. Lors d’autres essais, des agents contrôlant une machine hôte ont trouvé des failles dans presque tous les services examinés qui conservaient un accès limité à Internet. L’un d’eux a utilisé un service interne pour faire consulter une adresse Web à sa place.
Pourquoi c'est important
Pour les personnes qui utilisent ChatGPT, OpenAI présente ces essais comme des mesures de sécurité prises pendant l’entraînement, pas comme un changement du service. L’entreprise ne précise pas ici si ces protections modifieront l’accès aux produits ou leur fonctionnement ; elle reconnaît aussi que certains systèmes restent connectés à Internet.
