# 研究发现：AI代理自动购物时容易越权

> 研究人员发现，现有AI模型常会在用户希望先确认时直接下单；简单的学习模型反而更能预测个人的自动购买界限。

Oossa · 2026-10-22 · https://oossa.com/zh/study-finds-ai-agents-overcommit-on-auto-purchase-decisions

由Ryotaro Shimizu带领的团队发布了一项新基准测试，用于衡量AI代理应在多大程度上替用户自动购买商品。研究人员测试了16个经过指令微调的模型，发现即便商品的相关证据不足，这些模型也常会未经确认就下单。相比之下，只用某人自己的几十条标注数据训练的浅层学习模型，仅凭30-40个样本，就能以0.79的中位准确率预测此人的自动购买界限。不过，学到的界限难以迁移到不同商品类别。

## 事实

- 评估了16个经过指令微调的模型
- 浅层学习模型利用30-40条个人标注数据预测自动购买界限，中位准确率为0.79

## 为什么重要

如果使用AI代理时缺乏更严格的个人控制，消费者可能会遭遇不想要的自动购买。

## 来源与参考

1. [Preference Is Not Permission: Personalizing the Auto-Purchase Line in Agentic Commerce](https://arxiv.org/abs/2610.29216) – arXiv cs.IR, 2026-10-22

最后更新: 2026-10-22