En forskargrupp ledd av Ryotaro Shimizu har tagit fram ett nytt test för att mäta hur långt en AI-agent bör gå när den automatiskt köper en produkt åt en användare. De testade sexton instruktionstränade modeller och fann att de ofta köper varor utan att be om godkännande, även när underlaget för produkten är svagt. En enkel inlärningsmodell, tränad på bara några tiotal omdömen från en person, kunde däremot förutsäga var personen drar gränsen för automatiska köp med en medianträffsäkerhet på 0,79 efter 30–40 exempel. De inlärda gränserna överfördes inte särskilt väl mellan olika produktområden.
Varför det spelar roll
Konsumenter riskerar att råka ut för oönskade automatiska köp om AI-agenter används utan tydligare personliga kontroller.
