Anthropic ha fatto circolare una bozza di legge che chiede al Congresso di autorizzare il Dipartimento del Commercio degli Stati Uniti a fermare la distribuzione di un modello AI quando viene individuato un «rischio catastrofico imminente». La legge definisce tale rischio come la possibilità di causare la morte di oltre 50 persone o danni alle proprietà per più di un miliardo di dollari. Il pericolo deve derivare da un’arma biologica, dalla possibilità che il modello sfugga ai controlli o da un attacco informatico.
Come funzionerebbe la legge
La proposta prevede che il rischio di un modello venga valutato da «valutatori indipendenti» registrati presso il Dipartimento del Commercio. I valutatori potrebbero essere pagati dai laboratori di AI, ma il compenso non potrebbe dipendere dall’esito della valutazione. Se un valutatore segnala un rischio, ha 72 ore per avvisare il Dipartimento del Commercio, che dovrà quindi chiedere a un giudice di Washington D.C. di ordinare il blocco del rilascio del modello. La legge impedisce a qualsiasi agenzia federale di bloccare autonomamente un modello.
La reazione del settore
Anthropic afferma che la legge rispecchia il suo Advanced AI Framework, che promuove presso i legislatori da giugno. L’azienda non ha rilasciato ulteriori commenti. Altre aziende del settore AI hanno sostenuto l’adozione di sistemi di controllo interni su base volontaria anziché di una supervisione obbligatoria, mentre il CEO di Nvidia ha dichiarato che il settore non ha bisogno di nuove leggi.
Perché conta
Se venisse approvata, la legge potrebbe fermare il rilascio di sistemi AI che comportano gravi rischi per la sicurezza, offrendo al pubblico una tutela legale contro i danni più estremi. Per gli sviluppatori introdurrebbe un nuovo passaggio da rispettare prima di lanciare modelli potenti. Non è ancora chiaro quanto sarebbero indipendenti le valutazioni né con quale rapidità potrebbero intervenire i tribunali.
