研究发现：AI代理自动购物时容易越权

由Ryotaro Shimizu带领的团队发布了一项新基准测试，用于衡量AI代理应在多大程度上替用户自动购买商品。研究人员测试了16个经过指令微调的模型，发现即便商品的相关证据不足，这些模型也常会未经确认就下单。相比之下，只用某人自己的几十条标注数据训练的浅层学习模型，仅凭30-40个样本，就能以0.79的中位准确率预测此人的自动购买界限。不过，学到的界限难以迁移到不同商品类别。