Un gruppo guidato da Ryotaro Shimizu ha pubblicato un nuovo benchmark per misurare fino a che punto un agente AI dovrebbe spingersi nell’acquistare automaticamente un prodotto per conto di un utente. I ricercatori hanno testato sedici modelli ottimizzati per seguire istruzioni e hanno rilevato che spesso acquistano senza chiedere conferma, anche quando le prove a favore del prodotto sono deboli. Al contrario, un modello di apprendimento semplice, addestrato su poche decine di valutazioni fornite da una persona, ha previsto con un’accuratezza mediana di 0,79 il limite oltre il quale quella persona non vuole che gli acquisti siano automatici, usando 30-40 esempi. I limiti appresi non si trasferivano bene da un settore merceologico all’altro.
Perché conta
I consumatori potrebbero ritrovarsi con acquisti automatici indesiderati se gli agenti AI vengono usati senza controlli personali più rigorosi.
