Anthropic заявляет, что последние меры безопасности резко сократили объём данных о рассуждениях, которые злоумышленники могут извлечь из моделей Claude. По данным компании, после включения защиты объём извлечённых токенов цепочки рассуждений снизился на 90–99%. Цель этих мер — пресечь массовую дистилляцию: копирование возможностей модели ИИ для обучения более компактных конкурирующих систем.
Как работают новые меры защиты
Теперь Anthropic закрывает внешний доступ к внутренним этапам рассуждений Claude. Классификатор компании выявляет запросы, похожие на попытки извлечения данных, и автоматически блокирует аккаунты, с которых они поступают. По словам компании, уже заблокированы десятки тысяч аккаунтов. Anthropic также отмечает, что под блокировку попали и некоторые добросовестные пользователи.
Кого это касается
В статье китайские компании Zhipu и Moonshot названы предполагаемыми участниками кражи. Утверждается, что Zhipu извлекала возможности модели для своей GLM‑5.3, а Moonshot, предположительно, направляла запросы через Claude. Anthropic предупреждает, что похищенные возможности могут оказаться в зарубежных военных системах или средствах слежки.
Что будет дальше
Anthropic призывает других разработчиков ИИ внедрять аналогичные меры защиты. Компания не раскрыла технические подробности работы классификатора и точные сроки внедрения, сообщив лишь, что защита уже действует.
Почему это важно
Если меры защиты работают так, как утверждает Anthropic, пользователи Claude могут реже сталкиваться с перебоями из-за ошибочных блокировок, а риск того, что похищенные возможности модели попадут к враждебным субъектам, может снизиться. Однако Anthropic признаёт, что блокируются и некоторые добросовестные пользователи, поэтому влияние мер на повседневную работу разработчиков пока неясно.
