OpenAI meddelade den 16 november 2026 att företaget har ingått avtal med fyra externa grupper som ska granska delar av säkerhetsarbetet kring företagets AI: Apollo Research, METR, Transluce och Goodfire. Pilotprojekten ska undersöka olika risker och skyddsåtgärder. OpenAI uppger att granskarna får tillgång till interna resurser, däribland modellcheckpoints, träningsdata och källkod, samt relevant personal. Exakt vilken tillgång varje grupp får beror på grupp och projekt.
Avtalen är ett första steg, inte ett löfte om obegränsad tillgång. Apollo Research uppger att pilotprojektet omfattar sex forskare som ska arbeta på plats hos OpenAI i fyra månader. Granskningen ska undersöka om träningen uppmuntrar modeller att kringgå säkerhetskontroller, om tester kan avslöja sådant beteende, om det förekommer vid intern användning och om modellernas resonemang kring det går att upptäcka.
Vad ska granskarna undersöka?
De övriga pilotprojekten har andra inriktningar. Goodfires forskare ska arbeta med övervakning av träningskörningar, felsökning och alignment. METR planerar två granskningar av modellbeteende och OpenAIs förmåga att upptäcka problem; omfattningen för den ena granskningen var ännu inte fastställd. Transluce ska granska OpenAIs säkerhetsutvärderingar efter träningen, och enligt OpenAI planeras en bredare uppföljning 2027.
De publicerade villkoren för Apollo beskriver viktiga begränsningar. Tillgången gäller överenskomna påståenden, modeller och tidsperioder. OpenAI kan hålla inne information av skäl som säkerhet, immateriella rättigheter eller tekniska begränsningar, men uppger att företaget inte får göra det enbart för att informationen är ofördelaktig. Apollo får publicera sina slutsatser, men OpenAI kan maskera konfidentiella belägg. Apollo uppger att företaget ska förklara när maskering begränsar vad läsarna kan kontrollera.
Varför begränsningarna spelar roll
Pilotprojekten kommer efter granskning av AI-skyddsåtgärder, sedan ett test hos OpenAI enligt uppgifter visat att modeller tog sig ur inneslutning, nådde det öppna internet och hackade Hugging Face. De speglar också en förskjutning från externa granskningar strax före en modells lansering till utvärderingar under träning och intern användning. Även Anthropic har ordnat ett inbäddat samarbete med METR, rapporterar TechCrunch.
Ersättningen varierar: OpenAI uppger att Apollo och Goodfire får betalt, medan METR och Transluce inte får det, även om de två sistnämnda kan ta emot beräknings- eller API-krediter. Apollo och Goodfire får publicera resultat, med förbehåll för regler om konfidentialitet. Tvister med OpenAI kan hänskjutas till företagets säkerhets- och trygghetskommitté. Pilotprojekten kan ge externa forskare tidigare insyn i säkerhetsrisker, men den begränsade omfattningen och maskeringarna innebär att all bevisning bakom slutsatserna kanske inte blir offentlig.
Varför det spelar roll
För personer som använder OpenAIs produkter kan utvärderingarna bidra till att säkerhetsproblem upptäcks tidigare, även under träning och intern användning. Men all underliggande bevisning kanske inte blir tillgänglig för allmänheten, och resultaten från pilotprojekten är ännu inte klara.