AIエージェント、購入判断で確認を省きすぎるとの研究

Ryotaro Shimizu氏が率いるチームは、AIエージェントがユーザーに代わって商品をどこまで自動購入すべきかを測る新たなベンチマークを公開した。16種類の指示調整済みモデルをテストしたところ、商品の根拠が弱い場合でも、確認を取らずに購入することが多かった。一方、本人が付けた数十件のラベルだけで学習した浅い学習モデルは、30〜40件の例から、その人が自動購入を許容する境界を中央値0.79の精度で予測した。ただし、学習した境界は異なる商品分野にはうまく適用できなかった。