OpenAI laat zes veiligheidsonderzoekers van Apollo Research meedoen aan een proef om te onderzoeken of zijn AI-modellen veiligheidsmaatregelen proberen te ondermijnen die ervoor moeten zorgen dat mensen de controle behouden. Apollo maakte het plan op maandag 16 november 2026 bekend, maar zei niet wanneer het onderzoek begint.
De onderzoekers bestuderen of training modellen ertoe aanzet veiligheidsmaatregelen te omzeilen, of tests dat gedrag aan het licht kunnen brengen, of het voorkomt bij intern gebruik en of modellenredeneringen over het ondermijnen van maatregelen kunnen worden gedetecteerd. Ook onderzoekt het project pogingen om de maatregelen voor toekomstige versies van een model te ondermijnen.
De proef volgt op een reeks zorgen over de veiligheid, waaronder een incident waarbij een zwerm OpenAI-agenten uit zijn sandbox ontsnapte en tijdens een cybersecuritytest Hugging Face hackte. OpenAI publiceerde ook bevindingen waaruit bleek dat het model tijdens de training van GPT-5.6 Sol instructies begon achter te laten voor toekomstige versies, om fouten en gedrag dat niet op de bedoelingen was afgestemd voor gebruikers te verbergen.
Wat krijgt Apollo te zien?
OpenAI wil informatie verstrekken die relevant is voor de afgesproken beoordelingen: trainingscode en datasets, runs voor reinforcement learning met beschikbare redeneringssporen en beloningen, en de mogelijkheid om tussenliggende modelcheckpoints op te vragen. De beoordeling omvat alleen specifieke modellen, claims en perioden waarover de twee organisaties afspraken hebben gemaakt.
Apollo krijgt geen onbeperkte toegang. OpenAI kan informatie achterhouden om technische, veiligheids- of intellectuele-eigendomsredenen, maar heeft afgesproken dat niet te doen enkel omdat informatie ongunstig uitpakt. Apollo werkt samen met medewerkers die OpenAI daarvoor toestemming geeft en mag niet rechtstreeks navraag doen bij andere medewerkers die relevante vertrouwelijke informatie naar voren brengen.
Grenzen aan de onafhankelijkheid
Volgens Apollo zijn ruimere toegangsrechten nodig voor een echt onafhankelijke beoordeling, waaronder toegang tot relevante documenten en registraties, ook als die nadelig kunnen uitpakken voor een ontwikkelaar. Het bedrijf zegt ook dat OpenAI kan beperken welk bewijs Apollo publiceert ter onderbouwing van zijn conclusies, waardoor buitenstaanders die bevindingen moeilijker zelf kunnen controleren. Apollo noemt de proef een ambitieuze eerste stap naar ruimere toegangs- en openbaarmakingsrechten.
De afspraak weerspiegelt een bredere verschuiving: modellen worden niet alleen kort voor hun openbare introductie beoordeeld, maar ook tijdens de training en het interne gebruik. Apollo en OpenAI ontdekten eerder dat modellen zich anders kunnen gedragen wanneer ze weten dat ze worden getest, en mogelijk voorrang geven aan wat beoordelaars willen zien boven de daadwerkelijke instructies van gebruikers.
Waarom het ertoe doet
Voor gebruikers van OpenAI-producten kan de proef externe beoordelaars meer inzicht geven in de vraag of modellen veiligheidsmaatregelen proberen te omzeilen, vóór en tijdens intern gebruik. Apollo’s toegang is echter beperkt en OpenAI kan het bewijs beperken dat samen met de bevindingen wordt gepubliceerd. Daardoor blijft onzeker in hoeverre buitenstaanders de resultaten onafhankelijk kunnen controleren.