Команда под руководством Рётаро Симидзу представила новый тест для оценки того, насколько далеко ИИ-агент может зайти, автоматически покупая товар для пользователя. Исследователи проверили 16 моделей, настроенных на выполнение инструкций, и обнаружили, что те часто совершают покупки без подтверждения — даже когда товар выбран на основании слабых данных. Для сравнения: простая модель, обученная всего на нескольких десятках личных пометок пользователя, с медианной точностью 0,79 предсказывала, какие покупки тот готов доверить агенту автоматически, используя 30–40 примеров. Однако усвоенные границы плохо переносились на другие категории товаров.
Почему это важно
Если использовать ИИ-агентов без более строгих персональных настроек, потребители могут столкнуться с нежелательными автоматическими покупками.
