Oossa

METR estime qu’Anthropic a pu franchir son seuil d’alerte en juillet

Un audit relève une progression plus rapide des scores des modèles d’Anthropic, probablement en partie grâce à l’IA utilisée dans ses travaux de recherche. METR souligne que son estimation reste incertaine.

Par Publié par Oossa: 2 min de lecture

sunrise University · Unsplash

METR, une organisation à but non lucratif qui étudie les risques liés à l’IA, estime qu’Anthropic a peut-être atteint son propre seuil d’alerte concernant l’accélération de l’IA au 15 juillet 2026. Selon ses calculs, les résultats des modèles d’Anthropic aux tests se sont améliorés environ 1,9 fois plus vite depuis octobre 2025 que durant la période précédente. Dans son rapport public sur les risques d’août 2026, Anthropic indiquait que l’accélération était « inférieure à un facteur 2 ». D’après METR, la version non expurgée du rapport correspond à un chiffre de 1,97, et Anthropic a elle-même jugé plausible que le seuil ait été franchi.

La comparaison des scores s’appuie sur l’AECI, un indicateur composite qui regroupe les résultats de plusieurs évaluations. Avant octobre 2025, les modèles d’Anthropic gagnaient environ 15 points d’AECI par an, contre 29 depuis, selon METR. L’organisation a également examiné trois modèles non encore commercialisés, dont l’entraînement s’est achevé entre juillet et octobre 2026.

Qu’est-ce qui pourrait expliquer cette progression plus rapide ?

METR estime qu’environ 80 % de l’accélération est due à l’aide apportée aux chercheurs d’Anthropic par l’IA, plutôt qu’à une hausse plus rapide de la puissance de calcul utilisée pour entraîner les modèles. Des employés ont indiqué aux auditeurs que certaines expériences qui demandaient auparavant un ou deux jours de préparation sont désormais « ~gratuites ». Lors de sondages informels menés en octobre 2026, le personnel a déclaré que le dernier modèle interne le rendait en moyenne environ 12 fois plus productif. METR considère ces témoignages comme des éléments peu solides, susceptibles de surestimer les gains ; un chercheur a estimé que l’apport de l’IA ne représentait que 15 à 20 %.

Cette estimation ne permet pas de tirer un bilan définitif pour l’ensemble du secteur de l’IA. Selon METR, le facteur d’accélération d’Anthropic pourrait se situer entre 1,3 et 3. En intégrant OpenAI, Google et xAI à la comparaison, le taux estimé à l’échelle du secteur tombe à 1,4. METR précise également que l’IA ne mène pas encore de recherches entièrement de manière autonome, même si l’organisation observe les premiers signes d’une possible évolution.

Ce que l’audit n’a pas pu vérifier

L’examen s’est déroulé du 12 août au 29 octobre 2026. Il a mobilisé environ 2,5 équivalents temps plein chez METR et s’est appuyé sur des indicateurs internes, des enquêtes auprès des employés et une quinzaine d’entretiens. Anthropic pouvait caviarder les informations non publiques et a retiré une grande partie des éléments que METR jugeait les plus utiles, notamment des prévisions et des analyses d’éventuels goulets d’étranglement. METR indique qu’en conséquence, les lecteurs doivent s’en remettre davantage qu’elle ne le souhaiterait au jugement des auditeurs.

METR dit partager l’évaluation actuelle d’Anthropic, selon laquelle le risque de catastrophe aiguë est faible, mais ne peut exclure une nouvelle accélération brutale au cours des six prochains mois. Anthropic a également interrompu une autre partie du projet, qui devait vérifier la répartition des ressources de calcul de l’entreprise entre la recherche sur les capacités et celle sur la sécurité. L’entreprise a indiqué qu’elle pourrait reprendre cet audit ultérieurement.

Pourquoi c'est important

Pour ceux qui suivent les enjeux de sécurité de l’IA, les conclusions de METR suggèrent que les outils d’IA pourraient aider les chercheurs à améliorer les modèles plus vite, et donc rendre les seuils d’alerte d’une entreprise pertinents plus tôt que prévu. Mais l’ampleur de cet effet reste incertaine, et les caviardages ainsi que les enquêtes autodéclarées auprès des employés limitent ce que les observateurs extérieurs peuvent vérifier.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.