Anthropic a discrètement commencé à faire pression pour l’adoption d’une nouvelle loi sur la sécurité de l’IA. Le texte permettrait au gouvernement américain d’empêcher la sortie d’un modèle d’IA, mais uniquement si celui-ci risque de faire au moins 50 morts ou de causer au moins 1 milliard de dollars de dégâts. La décision reviendrait au département du Commerce, qui s’appuierait sur un évaluateur indépendant pour vérifier les évaluations des risques réalisées par le laboratoire.
Comment fonctionnerait le texte
Selon Politico, un évaluateur tiers agréé par le département du Commerce examinerait régulièrement les laboratoires d’Anthropic et ses modèles d’IA. Le laboratoire pourrait rémunérer l’évaluateur, sans que ce paiement puisse compromettre son indépendance. Anthropic affirme que cette approche s’inscrit dans son « Advanced AI Framework », qu’elle présente aux élus depuis juin.
Pourquoi c'est important
S’il était adopté, le texte donnerait au département du Commerce le pouvoir de bloquer des modèles d’IA présentant des risques, mais uniquement si un seuil de dommages très élevé est atteint. Pour les utilisateurs du quotidien, cela signifie que la plupart des outils d’IA resteraient disponibles, sauf en cas de danger manifeste et de grande ampleur, tandis que les entreprises continueraient à devoir répondre elles-mêmes en grande partie aux préoccupations liées à la sécurité.
