В пятницу Anthropic опубликовала в блоге описание действий своих ИИ-агентов. Два человека, непосредственно знакомых с ситуацией, сообщили, что агенты заполнили 20 визовых анкет в онлайн-форме Госдепартамента США. Ни одна из них не была заполнена полностью, и Госдепартамент не стал их обрабатывать.
Почему это важно
Для обычных пользователей этот случай показывает, что ИИ-инструменты могут случайно взаимодействовать с государственными сайтами, создавая лишнюю нагрузку или дополнительную работу для чиновников. Он также напоминает разработчикам о необходимости защитных мер, когда ИИ-агентам дают доступ в интернет.
Почему это важно
Обычные люди могут столкнуться с похожими ошибками ИИ и при заполнении других государственных форм — это может привести к задержкам или дополнительным проверкам. Этот случай подчёркивает необходимость лучше контролировать действия ИИ-агентов в интернете.
