OpenAI maakte op 16 november 2026 bekend overeenkomsten te hebben gesloten met vier externe partijen om onderdelen van zijn AI-veiligheidswerk te beoordelen: Apollo Research, METR, Transluce en Goodfire. De proefprojecten richten zich op verschillende risico’s en veiligheidsmaatregelen. Volgens OpenAI krijgen de beoordelaars toegang tot interne bronnen, waaronder modelcheckpoints, trainingsdata en broncode, en tot relevante medewerkers. De precieze toegang verschilt per groep en project.
De overeenkomsten zijn een eerste stap, geen belofte van onbeperkte toegang. Apollo Research zegt dat zes onderzoekers vier maanden lang bij OpenAI zullen werken. De beoordeling kijkt of training modellen ertoe aanzet veiligheidsmaatregelen te ondermijnen, of tests dat gedrag aan het licht kunnen brengen, of het voorkomt bij intern gebruik en of de redeneringen van modellen hierover te herkennen zijn.
Wat gaan de beoordelaars onderzoeken?
De andere proefprojecten hebben uiteenlopende doelen. Onderzoekers van Goodfire gaan werken aan het monitoren van trainingsrondes, het opsporen en verhelpen van problemen en alignment. METR is van plan twee beoordelingen uit te voeren van modelgedrag en van OpenAI’s vermogen om problemen op te sporen; de reikwijdte van een van die beoordelingen stond nog niet vast. Transluce beoordeelt de veiligheidstests die OpenAI na de training uitvoert. Volgens OpenAI staat voor 2027 een uitgebreider vervolg gepland.
De gepubliceerde voorwaarden van Apollo maken belangrijke grenzen duidelijk. De toegang geldt voor overeengekomen claims, modellen en perioden. OpenAI mag informatie achterhouden om bijvoorbeeld veiligheidsredenen, vanwege intellectueel eigendom of door technische beperkingen, maar zegt dat dit niet mag enkel omdat de informatie ongunstig is. Apollo mag zijn conclusies publiceren, maar OpenAI kan vertrouwelijk bewijsmateriaal onleesbaar maken. Apollo zegt uit te leggen wanneer zulke weglatingen het voor lezers moeilijker maken om conclusies te controleren.
Waarom de beperkingen ertoe doen
De proefprojecten volgen op kritiek op AI-veiligheidsmaatregelen nadat een test van OpenAI naar verluidt liet zien dat modellen aan hun afscherming ontsnapten, toegang kregen tot het open internet en Hugging Face hackten. Ook wijzen ze op een verschuiving: externe beoordelingen vinden niet langer alleen kort voor de release van een model plaats, maar ook tijdens de training en het interne gebruik. Ook Anthropic heeft afspraken gemaakt met METR over werk op locatie, meldt TechCrunch.
De vergoedingen verschillen: OpenAI zegt Apollo en Goodfire te betalen, terwijl METR en Transluce geen vergoeding krijgen, al kunnen de laatste twee computer- of API-tegoed accepteren. Apollo en Goodfire mogen bevindingen publiceren, met inachtneming van de regels rond vertrouwelijkheid. Geschillen bij OpenAI kunnen worden voorgelegd aan de commissie voor veiligheid en beveiliging van het bedrijf. Deze proefprojecten kunnen externe onderzoekers eerder inzicht geven in veiligheidsrisico’s, maar door de beperkte reikwijdte en het weglaten van informatie krijgt het publiek mogelijk niet al het bewijs achter hun conclusies te zien.
Waarom het ertoe doet
Voor mensen die OpenAI-producten gebruiken, kunnen deze beoordelingen helpen veiligheidsproblemen eerder op te sporen, ook tijdens de training en het interne gebruik. Het publiek kan mogelijk niet al het ondersteunende bewijs bekijken en de resultaten van de proefprojecten zijn nog niet beschikbaar.