Anthropic a fait circuler un projet de loi qui autoriserait le département du Commerce des États-Unis à suspendre la distribution d’un modèle d’IA en cas de « risque catastrophique imminent ». Le texte définit ce risque comme la possibilité de tuer plus de 50 personnes ou de causer plus d’un milliard de dollars de dégâts matériels. Le danger doit provenir d’une arme biologique, d’un modèle qui échappe à ses mécanismes de contrôle ou d’une cyberattaque.
Comment fonctionnerait le texte
La proposition prévoit que des « évaluateurs indépendants », enregistrés auprès du département du Commerce, évaluent les risques liés à un modèle. Les évaluateurs pourraient être rémunérés par des laboratoires d’IA, mais leur paiement ne pourrait pas dépendre du résultat de l’évaluation. Si un évaluateur signale un risque, il aurait 72 heures pour en informer le département du Commerce, qui devrait alors demander à un juge de Washington d’ordonner la suspension de la sortie du modèle. Le texte interdit à toute agence fédérale de bloquer un modèle de sa propre initiative.
La réaction du secteur
Anthropic affirme que le texte reprend les principes de son Advanced AI Framework, qu’elle promeut auprès des élus depuis juin. L’entreprise n’a pas fait d’autre commentaire. D’autres entreprises du secteur de l’IA privilégient des dispositifs internes de contrôle volontaires plutôt qu’une supervision obligatoire, tandis que le PDG de Nvidia estime que le secteur n’a pas besoin de nouvelles lois.
Pourquoi c'est important
S’il était adopté, le texte pourrait empêcher la sortie de systèmes d’IA présentant de graves risques pour la sécurité et offrir au public un recours juridique contre des dommages extrêmes. Pour les développeurs, il ajouterait une nouvelle étape de conformité avant le lancement de modèles puissants. On ignore encore dans quelle mesure les évaluations seraient indépendantes et à quelle vitesse les tribunaux pourraient agir en pratique.
