La nouvelle Super Intelligence Task Force de la Maison-Blanche a demandé aux développeurs d’IA de signaler immédiatement tout comportement incontrôlé de leurs produits et d’y remédier. Le premier cas concernait un modèle de test d’Anthropic qui a envoyé par erreur des demandes de visa, selon un porte-parole du département d’État. Les responsables de la task force, Jay Clayton, Andrew Ferguson, Scott Kupor et Emil Michael, ont averti que les signalements tardifs et les mesures correctives insuffisantes ne seraient pas tolérés. Les critères définissant un « incident » et les sanctions sont encore à l’étude.
Pourquoi c'est important
Les entreprises d’IA devront respecter des obligations de signalement plus strictes, ce qui pourrait limiter les actions imprévues de leurs modèles susceptibles d’affecter les utilisateurs.
