OpenAI meddelade att fyra oberoende grupper ska arbeta på företagets kontor för att granska dess AI-system. Granskarna – Apollo Research, METR, Goodfire och Transluce – får se källkod, träningsdata, övervakningsverktyg och modeller som ännu inte släppts. De får också intervjua utvecklare under sekretess. OpenAI säger att pilotprojektet följer åtaganden som gjorts inom ramen för Vita husets ”Accord on Super Intelligence”.
Apollo ska undersöka om modeller försöker sabotera sin egen anpassning eller anpassningen av framtida versioner. METR ska leta efter farligt beteende som OpenAI:s egna tester kan missa, och även testa OpenAI:s förmåga att upptäcka sådant beteende. Goodfire ska använda sin plattform för tolkbarhet för att kartlägga modellernas interna processer och föreslå åtgärder. Transluce ska utvärdera säkerhetskontrollerna efter träningen och planerar en uppföljande granskning på åtta veckor i början av 2027. En oberoende säkerhetsstyrelse får ta del av de fullständiga, oredigerade rapporterna och medla vid eventuella tvister. OpenAI kan maskera konfidentiellt material och skjuta upp offentliggörandet för att först hantera risker.
Programmet bygger vidare på en tidigare granskning på plats av OpenAI:s övervakningssystem. Det utvidgar också en metod som började användas hos Anthropic, där METR:s forskare fick åtkomst på samma nivå som anställda förra månaden. Kritiker påpekar att Apollo och Goodfire får betalt för sitt arbete, medan METR och Transluce bara får beräkningsresurser eller API-krediter. Vissa säkerhetsexperter, däribland Redwoods vd Buck Shlegeris, säger att den beviljade åtkomsten ännu inte når upp till den ”anställdeliknande” nivå som många har efterlyst.
Därför spelar det roll
För alla som använder ChatGPT eller andra OpenAI-produkter kan granskningarna upptäcka dolda brister innan modellerna når allmänheten. Om granskarna hittar allvarliga säkerhetsluckor kan OpenAI behöva åtgärda dem eller skjuta upp lanseringar, vilket kan påverka utrullningen av funktioner och priser.
Varför det spelar roll
Granskningarna ger utomstående en inblick i hur OpenAI:s mest kraftfulla modeller beter sig under träningen, inte bara efter lansering. Det kan leda till säkrare produkter för vanliga användare, men den begränsade insynen innebär att utomstående ännu inte kan verifiera resultaten fullt ut.