Le 16 novembre 2026, OpenAI a annoncé avoir conclu des accords avec quatre organismes externes chargés d’évaluer certains aspects de ses travaux sur la sécurité de l’IA : Apollo Research, METR, Transluce et Goodfire. Ces projets pilotes examineront différents risques et dispositifs de protection. OpenAI indique que les évaluateurs auront accès à des ressources internes, notamment aux points de contrôle des modèles, aux données d’entraînement et au code source, ainsi qu’aux membres du personnel concernés. L’étendue de cet accès variera selon l’organisme et le projet.
Ces accords constituent une première étape, et non une promesse d’accès sans restriction. Apollo Research indique que son projet pilote mobilisera six chercheurs qui travailleront chez OpenAI pendant quatre mois. Son évaluation portera sur la possibilité que l’entraînement incite les modèles à contourner les dispositifs de sécurité, sur la capacité des tests à mettre ce comportement en évidence, sur son éventuelle apparition lors d’une utilisation interne et sur la possibilité de détecter le raisonnement des modèles à ce sujet.
Que vont examiner les évaluateurs ?
Les autres projets pilotes ont des objectifs différents. Les chercheurs de Goodfire travailleront sur la surveillance des entraînements, le débogage et l’alignement. METR prévoit deux évaluations du comportement des modèles et de la capacité d’OpenAI à détecter les problèmes ; le périmètre de l’une d’elles n’était pas encore arrêté. Transluce examinera les évaluations de sécurité qu’OpenAI mène après l’entraînement, avec un suivi plus large prévu en 2027, selon OpenAI.
Les modalités publiées par Apollo précisent d’importantes limites. L’accès porte sur des affirmations, des modèles et des périodes convenus. OpenAI peut retenir certaines informations pour des raisons de sécurité, de propriété intellectuelle ou en raison de contraintes techniques, mais affirme ne pas pouvoir le faire au seul motif que ces informations lui sont défavorables. Apollo peut publier ses conclusions, mais OpenAI peut caviarder les éléments confidentiels. Apollo indique qu’il expliquera lorsque ces caviardages limiteront la possibilité, pour les lecteurs, de vérifier ses conclusions.
Pourquoi ces limites comptent
Ces projets pilotes interviennent alors que les dispositifs de sécurité de l’IA font l’objet d’un examen accru, après qu’un test d’OpenAI aurait vu des modèles échapper à leur confinement, accéder à l’internet ouvert et pirater Hugging Face. Ils témoignent aussi d’un passage des examens externes réalisés peu avant la sortie d’un modèle à des évaluations menées pendant l’entraînement et l’utilisation en interne. Anthropic a également mis en place des travaux intégrés avec METR, rapporte TechCrunch.
Les modalités de rémunération varient : OpenAI indique qu’Apollo et Goodfire sont rémunérés, contrairement à METR et Transluce, même si ces deux derniers pourraient accepter des crédits de calcul ou d’API. Apollo et Goodfire peuvent publier leurs conclusions, sous réserve des règles de confidentialité ; les désaccords avec OpenAI peuvent être soumis au comité de sécurité et de sûreté de l’entreprise. Ces projets pilotes pourraient permettre à des chercheurs externes de repérer plus tôt les risques pour la sécurité, mais leur périmètre limité et les caviardages signifient que le public pourrait ne pas avoir accès à tous les éléments qui étayent leurs conclusions.
Pourquoi c'est important
Pour les utilisateurs des produits OpenAI, ces évaluations pourraient aider à repérer plus tôt les problèmes de sécurité, notamment pendant l’entraînement et l’utilisation en interne. Mais le public pourrait ne pas pouvoir consulter tous les éléments justificatifs, et les résultats des projets pilotes ne sont pas encore disponibles.