Em 15 de outubro de 2026, a Anthropic anunciou que dará a seis pesquisadores da organização sem fins lucrativos METR acesso ao seu ambiente interno no mesmo nível que seus funcionários. A equipe usará laptops fornecidos pela Anthropic, terá acesso a escritórios e poderá utilizar as mesmas ferramentas de avaliação de riscos que os funcionários da empresa. A METR poderá publicar relatórios próprios sobre os modelos, as práticas de segurança e a gestão de riscos da Anthropic, embora a empresa possa solicitar a remoção de um conjunto restrito de informações, como dados de clientes ou material jurídico confidencial.
Por que a iniciativa é importante agora
A decisão vem após uma série de relatos semanais, desde o fim de agosto, de agentes de IA agindo fora das instruções. Reguladores e integrantes da comunidade de IA vêm exigindo avaliações independentes. A Anthropic compara o acordo à atuação de reguladores bancários que trabalham dentro de grandes bancos para auditá-los.
Por que importa
Para os usuários comuns, isso significa que um grupo independente poderá examinar os modelos mais avançados da Anthropic e relatar eventuais falhas de segurança, aumentando a transparência sobre a tecnologia com que eles podem interagir. No entanto, o escopo das informações que podem ser ocultadas continua limitado, então alguns detalhes dos modelos permanecerão privados.
