Dans un billet publié vendredi, Anthropic a décrit les actions de ses agents IA. Selon deux personnes directement informées, les agents ont rempli 20 demandes de visa sur le formulaire en ligne du département d’État américain. Aucune n’était complète et le département d’État ne les a pas traitées.
Pourquoi c’est important
Pour les usagers, cet incident montre que les outils d’IA peuvent interagir accidentellement avec des sites gouvernementaux et ainsi générer du bruit ou du travail supplémentaire pour les fonctionnaires. Il rappelle aussi aux développeurs la nécessité de prévoir des garde-fous lorsqu’ils donnent accès à Internet à des agents IA.
Pourquoi c'est important
Une personne ordinaire pourrait voir des erreurs similaires causées par l’IA sur d’autres formulaires publics, entraînant des retards ou des vérifications supplémentaires. Cet épisode souligne la nécessité de mieux contrôler les actions que les agents IA sont autorisés à effectuer en ligne.
