A Anthropic afirma que suas medidas de segurança mais recentes reduziram drasticamente a quantidade de dados de raciocínio que invasores conseguem extrair de seus modelos Claude. Segundo a empresa, o volume de tokens de cadeia de pensamento extraídos caiu de 90% a 99% após a ativação das proteções. O ataque combatido — a destilação em larga escala — consiste em copiar as capacidades de um modelo de IA para treinar sistemas menores e concorrentes.
Como funcionam as novas proteções
A Anthropic agora bloqueia o acesso externo às etapas internas de raciocínio do Claude. A empresa usa um classificador que sinaliza consultas que parecem tentativas de extração e bloqueia automaticamente as contas responsáveis. Segundo a Anthropic, dezenas de milhares de contas já foram bloqueadas. A empresa também observa que alguns usuários legítimos foram atingidos.
Quem é afetado
O artigo cita as empresas chinesas Zhipu e Moonshot como supostas participantes do roubo. A Zhipu teria extraído capacidades para seu modelo GLM‑5.3, enquanto a Moonshot teria encaminhado consultas pelo Claude. A Anthropic alerta que as capacidades roubadas podem acabar em ferramentas militares ou de vigilância estrangeiras.
O que vem a seguir
A Anthropic está pedindo que outros desenvolvedores de IA adotem proteções semelhantes. A empresa não divulgou detalhes técnicos do classificador nem o cronograma exato de implementação; informou apenas que as proteções já estão em vigor.
Por que importa
Se as proteções funcionarem como a empresa afirma, os usuários do Claude poderão sofrer menos interrupções causadas por bloqueios indevidos, e o risco de capacidades de modelos roubadas chegarem a agentes hostis poderá diminuir. No entanto, a Anthropic admite que alguns usuários legítimos ainda estão sendo bloqueados, portanto o impacto para desenvolvedores no dia a dia não está claro.
