OpenAI ha presentato GPT-6 Cyber, un modello progettato per individuare falle nella sicurezza dei software, creare exploit funzionanti e suggerire patch. È disponibile tramite API e Codex per un gruppo selezionato di clienti Daybreak Red; l’accesso dovrebbe estendersi gradualmente agli altri clienti del programma.
Le capacità del modello potrebbero aiutare i team di sicurezza a individuare e correggere le vulnerabilità, ma rendono anche importante controllare ciò che il modello può fare. OpenAI afferma di aver addestrato GPT-6 Cyber a rispettare i limiti assegnati, anche attraverso un honeypot ispirato all’incidente di Hugging Face. Secondo l’azienda, senza istruzioni di sicurezza specifiche il modello ha evitato di oltrepassare i limiti nel 99.93 percento dei test, contro il 94.49 percento del predecessore. Con le istruzioni di sicurezza attive, è rimasto entro i limiti in tutti i test.
Come si è comportato?
Secondo OpenAI, nel test ExploitGym, che valuta se un modello è in grado di sfruttare una vulnerabilità in un sistema remoto, GPT-6 Cyber ha ottenuto un punteggio del 48.5 percento. GPT-5.6 Cyber ha raggiunto il 32.1 percento, mentre GPT-6 Astra, il modello standard, ha ottenuto il 42.4 percento. In un test distinto, volto a individuare falle nelle app web senza poter accedere al codice sorgente, GPT-6 Cyber ha avuto un tasso di rilevamento del 40.3 percento, contro il 32.0 percento di GPT-6 Astra.
OpenAI afferma inoltre che GPT-6 Cyber ha individuato 81 vulnerabilità gravi e non precedentemente note in Firefox. Mozilla ha accettato le segnalazioni e rilasciato le correzioni. Nel kernel Linux, il modello ha riprodotto 1,724 vulnerabilità e creato exploit funzionanti per 948. OpenAI dichiara di aver segnalato ai manutentori 304 vulnerabilità critiche, proponendo anche delle correzioni. Questi dati provengono dall’azienda: non sono stati pubblicati test indipendenti di GPT-6 Cyber.
L’accesso resta limitato
La campagna sul kernel Linux ha impiegato agenti automatizzati di ricognizione e analisi per esaminare circa 5,034 aree rilevanti per la sicurezza, pari a circa il sette percento del codice del kernel. Il sistema ha ridotto la selezione a 2,308 candidati prima di confermare le vulnerabilità in macchine virtuali isolate. OpenAI afferma che l’operazione è costata $1,213,430 in risorse di calcolo, ovvero $1,279 per ogni exploit funzionante. È meno della fascia storica di $20,000-$70,000 che l’azienda cita per segnalazioni comparabili, anche se il costo di una ricerca e una ricompensa sono grandezze diverse.
OpenAI consiglia di usare il modello in ambienti isolati e sotto la supervisione di una persona. L’azienda afferma che le sue misure di sicurezza includono controlli per verificare che le azioni corrispondano ai permessi dell’utente e il monitoraggio delle vulnerabilità appena divulgate. Sta inoltre ampliando l’accesso a GPT-5.6 Cyber e GPT-6 Astra a un numero maggiore di organizzazioni e ricercatori.
Perché conta
Per chi mantiene software e per i team di sicurezza, le vulnerabilità individuate in Firefox e Linux, secondo quanto riferito, suggeriscono che GPT-6 Cyber potrebbe contribuire a trovare falle e proporre correzioni. L’accesso, però, è limitato, i dati sulle prestazioni provengono da OpenAI e non sono ancora stati pubblicati test indipendenti.
