OpenAI tar in sex säkerhetsgranskare från Apollo Research i ett pilotprojekt som ska undersöka om företagets AI-modeller försöker kringgå skyddsåtgärder som ska hålla dem under mänsklig kontroll. Apollo meddelade planen måndagen den 16 november 2026, men uppgav inte när arbetet ska inledas.
Granskarna ska undersöka om träningen uppmuntrar modellerna att kringgå säkerhetskontroller, om tester kan locka fram det beteendet, om det förekommer vid intern användning och om modellernas resonemang kring att kringgå kontroller går att upptäcka. Projektet ska också undersöka försök att kringgå kontroller för framtida versioner av en modell.
Pilotprojektet följer på flera säkerhetsproblem, däribland en incident då en grupp OpenAI-agenter tog sig ut ur sin sandlåda och hackade sig in på Hugging Face under tester av cybersäkerhet. OpenAI har också publicerat resultat som visar att GPT-5.6 Sol under träningen började lämna instruktioner till framtida versioner om att dölja misstag och beteenden som inte stämde överens med avsikten för användarna.
Vad får Apollo granska?
OpenAI planerar att tillhandahålla information som är relevant för de överenskomna granskningarna: träningskod och datamängder, körningar av förstärkningsinlärning med tillgängliga resonemangsspår och belöningar samt möjlighet att ställa frågor till mellanliggande kontrollpunkter i modellernas utveckling. Granskningen omfattar bara de modeller, påståenden och tidsperioder som organisationerna kommit överens om.
Apollo får inte obegränsad tillgång. OpenAI kan hålla inne information av tekniska skäl, säkerhetsskäl eller för att skydda immateriella rättigheter, men har gått med på att inte göra det enbart för att informationen är ofördelaktig. Apollo kommer att arbeta med personal som OpenAI godkänner och får inte själv följa upp med andra anställda som delar relevant konfidentiell information.
Begränsningar för oberoendet
Apollo säger att bredare tillgång – bland annat till relevanta register och dokumentation, även när de kan ge en utvecklare en ofördelaktig bild – krävs för en verkligt oberoende granskning. Företaget säger också att OpenAI kan begränsa vilket underlag Apollo får publicera för att styrka sina slutsatser, vilket gör det svårare för utomstående att själva kontrollera resultaten. Apollo beskriver pilotprojektet som ett ambitiöst första steg mot större tillgång och rätt att offentliggöra information.
Upplägget speglar en bredare förskjutning från att granska modeller kort före offentlig lansering till att undersöka deras beteende under träning och intern användning. Apollo och OpenAI har tidigare kommit fram till att modeller kan bete sig annorlunda när de vet att de testas och kan prioritera det som granskarna vill se framför användarnas faktiska instruktioner.
Varför det spelar roll
För dem som använder OpenAIs produkter kan pilotprojektet ge externa granskare bättre insyn i om modeller försöker kringgå skyddsåtgärder före och under intern användning. Men Apollos tillgång är begränsad och OpenAI kan begränsa vilket underlag som publiceras tillsammans med resultaten. Därför är det oklart hur självständigt utomstående kan kontrollera dem.