A Anthropic anunciou que seis funcionários do grupo Model Evaluation and Transparency Research (METR) trabalharão em seu campus com os mesmos equipamentos e sistemas internos usados pelas equipes de avaliação de riscos da empresa. O acordo não é remunerado, e a organização independente poderá publicar suas conclusões, embora a Anthropic possa pedir a supressão de dados de clientes, informações privilegiadas ou detalhes da arquitetura dos modelos.
Por que dar esse nível de acesso a uma entidade externa?
A iniciativa ocorre enquanto a Anthropic se prepara para uma oferta pública inicial (IPO), que, segundo a expectativa da empresa, pode avaliá-la em mais de US$ 2 trilhões. Investidores têm pedido provas de que os riscos à segurança estão sob controle. Ao integrar a equipe da METR, a Anthropic espera demonstrar uma supervisão transparente de seus modelos, semelhante ao acompanhamento de funcionários, como quando bancos permitem que reguladores observem comportamentos arriscados antes que prejudiquem o público.
Por que importa
Para os consumidores, a supervisão adicional pode reduzir a chance de comportamentos inseguros dos modelos chegarem aos produtos depois que a empresa abrir o capital. Ela também oferece aos reguladores dados mais concretos para avaliar os riscos, embora ainda seja preciso ver se a supervisão será eficaz.
