OpenAI heeft bekendgemaakt dat vier onafhankelijke groepen vanuit zijn kantoren zijn AI-systemen gaan controleren. De auditors – Apollo Research, METR, Goodfire en Transluce – krijgen inzage in broncode, trainingsgegevens, monitoringtools en niet-uitgebrachte modellen. Ook kunnen ze ontwikkelaars vertrouwelijk interviewen. Volgens OpenAI volgt het proefprogramma op toezeggingen die het deed in het kader van het ‘Accord on Super Intelligence’ van het Witte Huis.
Apollo richt zich op de vraag of modellen proberen hun eigen afstemming of die van toekomstige versies te ondermijnen. METR zoekt naar gevaarlijk gedrag dat OpenAI mogelijk over het hoofd ziet bij zijn eigen tests en onderzoekt ook of OpenAI zulk gedrag kan opsporen. Goodfire gebruikt zijn platform voor interpreteerbaarheid om interne processen van modellen in kaart te brengen en verbeteringen voor te stellen. Transluce beoordeelt de veiligheidscontroles na de training en plant begin 2027 een vervolgonderzoek van acht weken. Een onafhankelijke veiligheidsraad ontvangt de volledige, ongeredigeerde rapporten en bemiddelt bij eventuele geschillen. OpenAI mag vertrouwelijke informatie weglakken en de publicatie uitstellen om eerst risico’s aan te pakken.
Het programma bouwt voort op een eerdere controle op locatie van de monitoringsystemen van OpenAI. Ook breidt het een praktijk uit die begon bij Anthropic, waar onderzoekers van METR vorige maand toegang op werknemerniveau kregen. Critici wijzen erop dat Apollo en Goodfire voor hun werk worden betaald, terwijl METR en Transluce alleen tegoed voor rekenkracht of API’s ontvangen. Sommige veiligheidsexperts, onder wie Buck Shlegeris, CEO van Redwood, zeggen dat de verleende toegang nog niet voldoet aan het ‘werknemerachtige’ niveau waar velen om hebben gevraagd.
Waarom dit belangrijk is
Voor iedereen die ChatGPT of andere producten van OpenAI gebruikt, kunnen de controles verborgen tekortkomingen aan het licht brengen voordat de modellen voor het publiek beschikbaar komen. Als de auditors ernstige veiligheidsproblemen ontdekken, moet OpenAI die mogelijk verhelpen of releases uitstellen. Dat kan gevolgen hebben voor de uitrol van functies en de prijzen.
Waarom het ertoe doet
De controles bieden een externe kijk op het gedrag van de krachtigste modellen van OpenAI tijdens de training, niet alleen nadat ze zijn uitgebracht. Dat kan leiden tot veiligere producten voor gewone gebruikers, maar doordat er maar beperkt informatie openbaar wordt gemaakt, kunnen buitenstaanders de bevindingen nog niet volledig controleren.