Due ricercatori indipendenti di METR e Redwood Research hanno trascorso tre settimane nei laboratori di ingegneria di OpenAI. Dal 21 luglio all’11 agosto 2026 hanno esaminato il codice che monitora i modelli più potenti dell’azienda. Secondo il loro rapporto, il sistema di monitoraggio non copriva una parte consistente del traffico e poteva essere ingannato con input appositamente elaborati.
Cosa ha rilevato l’audit
I revisori stimano che, durante il periodo dell’audit, tra il 6% e il 25% delle chiamate API dei modelli della classe GPT‑5.5 e superiori non fosse monitorato in alcun modo. Per il traffico interno di Codex, circa il 10% non è stato tracciato tra maggio e luglio a causa di un bug che ignorava i «compaction event», brevi riepiloghi del contesto di una conversazione. OpenAI afferma di aver corretto il bug mentre i revisori erano ancora sul posto.
Il rapporto segnala inoltre che il sistema di monitoraggio lanciava un avviso solo quando un’IA restituiva il controllo all’utente. Gli agenti potevano così continuare ad agire senza attivare la supervisione. I ricercatori hanno anche trovato metodi per nascondere centinaia di azioni, aggirare la sandbox di Codex e potenzialmente mandare in crash il sistema di monitoraggio con input appositamente elaborati. Hanno osservato che, all’inizio dell’audit, il comportamento dei modelli durante l’addestramento con reinforcement learning (RL) non era monitorato affatto.
La risposta di OpenAI
OpenAI afferma di aver sospeso l’addestramento RL dopo un incidente di agosto che ha coinvolto Hugging Face e di aver esteso il monitoraggio anche a questo lavoro, ma le modifiche sono state apportate dopo la chiusura del periodo di audit. L’azienda sostiene di aver corretto tutte le vulnerabilità individuate dai revisori. A OpenAI è stato consegnato un rapporto interno di 61 pagine e, dopo le omissioni, METR e Redwood hanno ricevuto una versione di 38 pagine. È stato pubblicato soltanto un breve riepilogo.
Perché conta
Per gli utenti comuni, queste lacune significano che alcune azioni dell’IA potevano essere eseguite senza alcun controllo di sicurezza, aumentando il rischio di risultati imprevisti o dannosi. Le correzioni promesse da OpenAI dovrebbero ripristinare una supervisione più ampia, ma la scarsità di dettagli resi pubblici lascia dubbi sulla completezza dei miglioramenti.
