I ricercatori descrivono una procedura automatizzata che ha generato 6.575 dataset pensati per provocare cambiamenti inattesi nel comportamento dei modelli linguistici. I dataset riguardano otto comportamenti e sono stati creati per indurre una risposta specifica pur apparendo ordinari agli occhi dei revisori umani. Il team afferma che molti effetti collaterali si sono ripresentati in diverse famiglie e dimensioni di modelli e che le valutazioni automatizzate hanno rispecchiato i giudizi dei ricercatori.
Gli autori presentano la raccolta come banco di prova per studiare come i dati di addestramento possano influenzare il comportamento al di fuori dell’ambito previsto. Secondo loro, il lavoro potrebbe aiutare a prevedere questi effetti prima della messa in produzione, ma l’articolo non dimostra che la procedura possa anticipare in modo affidabile i rischi dei modelli effettivamente utilizzati.
Perché conta
I ricercatori di IA possono usare la raccolta di dataset per verificare se esempi di addestramento apparentemente ordinari producano comportamenti indesiderati, anche se la sua utilità nel prevedere i rischi legati all’impiego nel mondo reale non è ancora dimostrata.
