A Anthropic começou discretamente a fazer lobby por uma nova lei de segurança de IA. A proposta permitiria ao governo dos EUA impedir o lançamento de um modelo de IA, mas apenas se ele pudesse causar 50 mortes ou mais, ou prejuízos de pelo menos US$ 1 bilhão. O projeto atribuiria ao Departamento de Comércio a decisão e recorreria a um avaliador independente para verificar as avaliações de risco do laboratório.
Como o projeto funcionaria
Segundo o Politico, um avaliador externo registrado no Departamento de Comércio analisaria periodicamente os laboratórios da Anthropic e seus modelos de IA. O laboratório poderia pagar pelo serviço, mas o pagamento não poderia comprometer a independência do avaliador. A Anthropic afirma que a proposta segue seu “Advanced AI Framework”, que vem apresentando a parlamentares desde junho.
Por que importa
Se aprovada, a lei daria ao Departamento de Comércio poder para barrar modelos de IA considerados arriscados, mas somente quando houvesse demonstração de um nível muito alto de danos. Para os usuários comuns, isso significa que a maioria das ferramentas de IA continuaria disponível, a menos que surgisse um perigo claro e em grande escala, deixando em grande parte às próprias empresas a responsabilidade de lidar com as preocupações de segurança.
