A Anthropic fez circular um projeto de lei que pede ao Congresso que autorize o Departamento de Comércio dos EUA a interromper a distribuição de um modelo de IA quando for identificado um “risco catastrófico iminente”. O projeto define esse risco como aquele que poderia matar mais de 50 pessoas ou causar mais de US$ 1 bilhão em danos materiais. O perigo precisa decorrer de uma arma biológica, da capacidade de o modelo escapar dos controles ou de um ataque cibernético.
Como o projeto funcionaria
A proposta prevê que “avaliadores independentes”, registrados no Departamento de Comércio, analisem os riscos de um modelo. Os avaliadores poderiam ser pagos por empresas de IA, mas o pagamento não poderia depender do resultado da avaliação. Se um avaliador identificar um risco, terá 72 horas para notificar o Departamento de Comércio, que deverá então pedir a um juiz de Washington, D.C., que ordene a suspensão do lançamento do modelo. O projeto proíbe qualquer agência federal de suspender um modelo por conta própria.
Reação do setor
A Anthropic afirma que o projeto reflete seu Advanced AI Framework, que vem apresentando a parlamentares desde junho. A empresa não fez outros comentários. Outras empresas de IA defendem mecanismos internos voluntários, em vez de supervisão obrigatória, e o CEO da Nvidia argumentou que o setor não precisa de novas leis.
Por que importa
Se aprovada, a lei poderia impedir o lançamento de sistemas de IA que representem graves ameaças à segurança, oferecendo ao público uma proteção jurídica contra danos extremos. Para os desenvolvedores, acrescentaria uma nova etapa de conformidade antes do lançamento de modelos poderosos. Ainda não está claro quão independentes seriam as avaliações nem com que rapidez os tribunais poderiam agir na prática.
