Il governatore della California Gavin Newsom ha pubblicato una roadmap per l’attuazione delle nuove leggi statali sull’IA, che prevede una supervisione indipendente dell’IA di frontiera. Tra le raccomandazioni figura l’obbligo per i principali sviluppatori di IA di frontiera di consentire a valutatori autorizzati di esaminare i rischi catastrofici. I valutatori riferirebbero allo Stato, non alle aziende sottoposte a verifica.
La roadmap indica inoltre che lo Stato dovrebbe dare priorità alle valutazioni della ricerca e dello sviluppo automatizzati dell’IA, compreso il miglioramento ricorsivo di sé. Fathom, un’organizzazione che promuove la verifica indipendente, afferma che il rapporto rispecchia molte delle sue raccomandazioni. La roadmap delinea un quadro proposto, ma non stabilisce quando entreranno in vigore i requisiti.
Perché conta
Se adottato, il piano obbligherebbe gli sviluppatori di IA di frontiera a sottoporsi a valutazioni indipendenti dei rischi, ma la roadmap non indica quando inizierebbero a valere tali obblighi.