La start-up américaine de cybersécurité Cathedral affirme que ses agents IA ont trouvé, en moins de douze heures, des failles permettant d’atteindre des systèmes internes d’Anthropic, l’entreprise qui développe Claude. Les agents IA sont des logiciels capables d’effectuer seuls des tâches en plusieurs étapes. Selon le Washington Post, qui s’appuie sur un brouillon du rapport de Cathedral, l’affaire a rapidement attiré l’attention de responsables de l’administration américaine.
Cathedral affirme ne pas avoir attaqué directement les modèles ou les systèmes centraux d’Anthropic. Ses chercheurs auraient exploité des vulnérabilités dans des logiciels tiers utilisés pour les fonctions administratives et commerciales. Ils disent avoir trouvé des chemins vers des transcriptions de réunions, des informations sur les salaires et les recrutements, ainsi que des messages Slack évoquant les modèles avancés de l’entreprise. Cela ne signifie pas que ces données ont toutes été consultées ou copiées.
Anthropic conteste l’ampleur de l’accès
Anthropic reconnaît qu’un accès a concerné un ensemble limité de ses systèmes commerciaux, des ressources humaines et de l’informatique. L’entreprise affirme que les données exposées se limitaient à des coordonnées professionnelles de clients et de partenaires et à des informations de base sur des comptes. Selon elle, les conversations avec Claude, le code et les paramètres des modèles n’ont pas été compromis. Elle dit aussi que ses outils de surveillance ont repéré une partie de l’activité avant le signalement de Cathedral et que les accès ont été coupés le jour même.
Les deux entreprises s’opposent aussi sur les règles du programme de recherche de failles d’Anthropic, qui autorise des tests de sécurité encadrés. Cathedral dit lui avoir transmis ses résultats au début du mois d’octobre, ainsi qu’aux éditeurs des logiciels concernés. Anthropic lui reproche de ne pas avoir déclaré toute son activité et d’avoir exagéré les risques pour la sécurité nationale. Les éditeurs tiers n’ont pas été nommés.
Un incident pris dans les tensions à Washington
L’affaire survient alors que les relations entre Anthropic et Washington sont tendues. Le Pentagone a écarté l’entreprise des systèmes fédéraux après son refus de voir sa technologie utilisée pour des armes autonomes ou la surveillance de masse aux États-Unis. Cathedral, fondée quelques mois plus tôt par d’anciens membres du DOGE, vend déjà des outils de cybersécurité à l’État fédéral. L’administration travaille aussi avec elle sur des simulations d’attaques liées à l’IA.
Un haut responsable américain a déclaré au Washington Post : « Si une bande de gamins qui viennent de lancer leur entreprise peut faire ça, les Chinois ne sont peut-être pas loin derrière. » C’est une inquiétude exprimée par ce responsable, pas la preuve d’une implication chinoise. Pour Alex Stamos, ancien directeur du Stanford Internet Observatory, l’incident révèle surtout les risques liés aux prestataires externes, un problème qui concerne aussi d’autres entreprises.
Pourquoi c'est important
Pour les clients de Claude, Anthropic affirme que les conversations et les modèles n’ont pas été touchés ; l’entreprise reconnaît toutefois un accès limité à certains systèmes internes. L’étendue exacte des données auxquelles Cathedral a pu accéder reste contestée, ce qui rappelle que les outils tiers utilisés par une entreprise peuvent aussi créer des risques pour ses informations.
