Une équipe dirigée par Ryotaro Shimizu a publié un nouveau benchmark qui mesure jusqu’où un agent IA devrait aller pour acheter automatiquement un produit pour le compte d’un utilisateur. Les chercheurs ont testé seize modèles ajustés pour suivre des instructions et constaté qu’ils achètent souvent des articles sans demander confirmation, même lorsque les éléments en faveur du produit sont peu convaincants. À l’inverse, un modèle d’apprentissage simple, entraîné à partir de quelques dizaines de choix personnels, a prédit le seuil d’achat automatique de chaque personne avec une précision médiane de 0.79, à partir de 30‑40 exemples. Les limites apprises se transposaient mal d’un domaine de produits à l’autre.
Pourquoi c'est important
Les consommateurs risquent de subir des achats automatiques non désirés si les agents IA sont utilisés sans contrôles personnels plus stricts.
