A partire dal 29 novembre, OpenAI prevede di usare per addestrare i propri modelli i dati delle sessioni di cybersicurezza Daybreak Blue. Un’email inviata ai membri del programma Trusted Access ha confermato il cambiamento, secondo The Decoder. In precedenza, queste sessioni erano escluse dall’addestramento, anche per gli utenti che avevano disattivato l’impostazione generale «migliora il modello per tutti».
Dopo le obiezioni dei membri, OpenAI ha inviato una seconda email promettendo un’opzione separata per escludere le sessioni Daybreak Blue. Le email non chiariscono come funzionerà né se ogni utente dovrà attivarla personalmente. OpenAI afferma che le interazioni segnalate durante le verifiche di sicurezza potrebbero comunque essere usate per finalità di sicurezza: rinunciare all’addestramento dei modelli, quindi, non impedirebbe necessariamente ogni utilizzo dei dati delle sessioni.
Perché i ricercatori sono preoccupati
Il cambiamento di policy solleva dubbi sul fatto che i contenuti condivisi durante sessioni di ricerca specialistiche o tecniche possano in seguito contribuire all’addestramento dei modelli. The Decoder cita i matematici Tristan Buckmaster e Levent Alpöge, che hanno caricato su Codex di OpenAI bozze di articoli sulle equazioni di Navier-Stokes. In seguito, OpenAI ha presentato una propria dimostrazione e ha negato di aver usato i loro contributi per l’addestramento.
La smentita non ha dissipato i sospetti dei ricercatori e il caso ha mostrato i rischi che possono emergere quando si condivide con uno strumento di IA un lavoro non ancora pubblicato. Il resoconto non dimostra che OpenAI abbia usato le bozze dei matematici per addestrare un modello. Si tratta di un esempio distinto del motivo per cui i ricercatori potrebbero volere limiti chiari sul trattamento dei materiali inviati.
Cosa devono sapere gli utenti
Per i membri di Trusted Access, il cambiamento principale è che le sessioni Daybreak Blue non rientrano più nell’esclusione generale dall’addestramento prevista in precedenza. In base al piano annunciato, la normale impostazione per migliorare i modelli per tutti non sarà sufficiente, da sola, a mantenerle escluse.
OpenAI ha promesso un’opzione separata per rinunciare, ma le informazioni disponibili non indicano quando sarà introdotta, quale sarà l’impostazione predefinita né se si applicherà alle sessioni passate. L’avvio è previsto per il 29 novembre; l’annuncio fornito non specifica l’anno. L’uso dei dati nell’ambito delle verifiche di sicurezza costituisce inoltre un’eccezione distinta dall’addestramento: i due scopi non vanno confusi con un’unica impostazione.
Perché conta
I membri di Trusted Access che usano Daybreak Blue non dovrebbero dare per scontato che disattivare l’impostazione generale per migliorare i modelli escluda dall’addestramento anche queste sessioni. OpenAI ha promesso un’opzione separata, ma non ne ha specificato i tempi né l’impostazione predefinita; l’uso dei dati per le verifiche di sicurezza potrebbe comunque proseguire.
