Anthropic affirme que ses dernières mesures de sécurité ont fortement réduit la quantité de données de raisonnement que des attaquants peuvent extraire de ses modèles Claude. L’entreprise fait état d’une baisse de 90 à 99 % du volume de tokens de chaîne de pensée extraits depuis l’activation de ces protections. L’attaque visée, appelée distillation à grande échelle, consiste à copier les capacités d’un modèle d’IA pour entraîner des systèmes concurrents plus petits.
Comment fonctionnent les nouvelles protections
Anthropic bloque désormais l’accès externe aux étapes de raisonnement internes de Claude. L’entreprise utilise un classificateur qui repère les requêtes ressemblant à des tentatives d’extraction et bannit automatiquement les comptes concernés. Elle affirme que des dizaines de milliers de comptes ont déjà été bloqués. Elle indique également que certains utilisateurs légitimes ont été pris dans le filet.
Qui est concerné
L’article cite les entreprises chinoises Zhipu et Moonshot comme participantes présumées au vol. Zhipu aurait détourné des capacités pour son modèle GLM‑5.3, tandis que Moonshot aurait fait transiter des requêtes par Claude. Anthropic prévient que les capacités dérobées pourraient se retrouver dans des outils militaires ou de surveillance étrangers.
La suite
Anthropic exhorte les autres développeurs d’IA à adopter des protections similaires. L’entreprise n’a pas révélé les détails techniques du classificateur ni le calendrier exact de son déploiement ; elle indique seulement que les protections sont déjà en place.
Pourquoi c'est important
Si les protections fonctionnent comme annoncé, les utilisateurs de Claude pourraient subir moins d’interruptions dues à des bannissements erronés, et le risque que des capacités de modèles volées parviennent à des acteurs hostiles pourrait diminuer. Anthropic reconnaît toutefois que des utilisateurs légitimes sont encore bloqués ; les conséquences pour les développeurs au quotidien restent donc incertaines.
