Управляющий директор по диджитал-решениям «МегаФона» Евгений Бобков заявил на форуме «Цифровые решения», что ИИ-агентам нельзя разрешать самостоятельно расширять свои полномочия. Например, повышать финансовые лимиты или отключать механизмы контроля. По словам Бобкова, агентам можно поручить диагностику и выполнение операций, но границы допустимого должны задаваться извне.
Допустимый уровень ошибок зависит от задачи: ошибочная категория заявки и несанкционированное списание несут разные риски. Результат работы агента, считает Бобков, должна оценивать целевая система — по точности, ошибочным действиям, соблюдению прав доступа, времени и стоимости.
Почему это важно
Для компаний, внедряющих ИИ-агентов в финансовые и другие процессы, позиция «МегаФона» означает, что лимиты и контроль следует задавать вне агента; конкретные технические решения компания не описала.
