Een team onder leiding van Ryotaro Shimizu introduceerde een nieuwe benchmark om te meten hoe ver een AI-agent mag gaan bij het automatisch kopen van een product voor een gebruiker. De onderzoekers testten zestien instructieafgestemde modellen en ontdekten dat die vaak producten kopen zonder bevestiging, zelfs als er weinig bewijs is dat het product geschikt is. Een eenvoudig leermodel, getraind op slechts enkele tientallen persoonlijke beoordelingen, voorspelde daarentegen met een mediane nauwkeurigheid van 0,79 waar iemands grens voor automatisch kopen ligt, op basis van 30‑40 voorbeelden. De aangeleerde grenzen bleken niet goed overdraagbaar tussen verschillende productcategorieën.
Waarom het ertoe doet
Consumenten kunnen met ongewenste automatische aankopen te maken krijgen als AI-agenten worden ingezet zonder strengere persoonlijke instellingen.
