Oossa

OpenAI coinvolge quattro gruppi esterni nelle verifiche di sicurezza

Apollo Research, METR, Transluce e Goodfire condurranno progetti pilota distinti per OpenAI. L’accesso e la possibilità di pubblicare i risultati saranno limitati.

Di Pubblicato da Oossa: 2 min di lettura

Data dell’evento:

ELLA DON · Unsplash

Il 16 novembre 2026 OpenAI ha annunciato di aver firmato accordi con quattro gruppi esterni per valutare alcuni aspetti del suo lavoro sulla sicurezza dell’IA: Apollo Research, METR, Transluce e Goodfire. I progetti pilota esamineranno rischi e misure di protezione diversi. OpenAI afferma che i valutatori potranno accedere a risorse interne, tra cui checkpoint dei modelli, dati di addestramento e codice sorgente, oltre che al personale pertinente. L’accesso preciso varierà a seconda del gruppo e del progetto.

Gli accordi sono un primo passo, non una promessa di accesso senza restrizioni. Apollo Research afferma che il suo progetto pilota coinvolgerà sei ricercatori che lavoreranno all’interno di OpenAI per quattro mesi. La verifica analizzerà se l’addestramento spinge i modelli a eludere i controlli di sicurezza, se i test riescono a rilevare questo comportamento, se si manifesta durante l’uso interno e se è possibile individuare il ragionamento dei modelli al riguardo.

Che cosa valuteranno i gruppi?

Gli altri progetti pilota hanno obiettivi diversi. I ricercatori di Goodfire lavoreranno sul monitoraggio delle sessioni di addestramento, sul debugging e sull’allineamento. METR prevede due valutazioni del comportamento dei modelli e della capacità di OpenAI di rilevare eventuali problemi; l’ambito di una delle due non era ancora stato definito. Secondo OpenAI, Transluce esaminerà le valutazioni di sicurezza di OpenAI nella fase successiva all’addestramento, con un approfondimento più ampio previsto per il 2027.

I termini pubblicati da Apollo definiscono limiti importanti. L’accesso riguarda le affermazioni, i modelli e i periodi concordati. OpenAI può trattenere informazioni per motivi quali sicurezza, proprietà intellettuale o limiti tecnici, ma afferma di non poterlo fare soltanto perché le informazioni sono sfavorevoli. Apollo può pubblicare le proprie conclusioni, ma OpenAI può oscurare elementi riservati. Apollo afferma che spiegherà quando le omissioni limiteranno la possibilità dei lettori di verificare i risultati.

Perché i limiti sono importanti

I progetti pilota arrivano dopo l’attenzione rivolta alle misure di sicurezza dell’IA, in seguito a un test di OpenAI in cui, secondo quanto riferito, alcuni modelli sono riusciti a evadere il contenimento, raggiungere l’internet pubblico e violare Hugging Face. Riflettono inoltre il passaggio da verifiche esterne condotte poco prima del lancio di un modello a valutazioni durante l’addestramento e l’uso interno. Anche Anthropic ha organizzato attività con ricercatori di METR integrati nei propri team, riferisce TechCrunch.

Le modalità di pagamento variano: OpenAI afferma che Apollo e Goodfire ricevono un compenso, mentre METR e Transluce no, anche se questi ultimi due potrebbero accettare crediti di calcolo o API. Apollo e Goodfire possono pubblicare i risultati, nel rispetto delle regole di riservatezza; eventuali controversie con OpenAI possono essere sottoposte al comitato per la sicurezza e la protezione dell’azienda. Questi progetti pilota potrebbero consentire ai ricercatori esterni di individuare prima i rischi per la sicurezza, ma l’ambito limitato e le omissioni fanno sì che il pubblico potrebbe non vedere tutte le prove alla base delle conclusioni.

Perché conta

Per chi usa i prodotti OpenAI, queste valutazioni potrebbero aiutare a individuare prima i problemi di sicurezza, anche durante l’addestramento e l’uso interno. Tuttavia, il pubblico potrebbe non poter esaminare tutte le prove a sostegno e i risultati dei progetti pilota non sono ancora disponibili.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.