Anthropic a annoncé que six employés du groupe Model Evaluation and Transparency Research (METR) travailleraient sur son campus avec le même matériel et les mêmes systèmes internes que les équipes d’évaluation des risques de l’entreprise. Cette collaboration n’est pas rémunérée et le groupe de surveillance pourra publier ses conclusions, même si Anthropic peut demander le retrait de données clients, d’informations confidentielles ou de détails sur l’architecture des modèles.
Pourquoi accorder un tel accès à un organisme tiers ?
Cette initiative intervient alors qu’Anthropic prépare une entrée en Bourse, dont elle espère qu’elle valorisera l’entreprise à plus de 2 000 milliards de dollars. Les investisseurs réclament des preuves que les risques liés à la sécurité sont maîtrisés. En accueillant des membres de METR, Anthropic espère montrer que ses modèles font l’objet d’une surveillance transparente, comparable à celle de ses employés, à l’image des banques qui permettent aux autorités de contrôler les comportements risqués avant qu’ils ne nuisent au public.
Pourquoi c'est important
Pour les consommateurs, cette surveillance accrue pourrait réduire le risque que des modèles se comportant de manière dangereuse se retrouvent dans des produits après l’entrée en Bourse de l’entreprise. Elle fournit aussi aux autorités des données plus concrètes pour évaluer les risques, même si l’efficacité de cette surveillance reste à démontrer.
