Anthropic은 최신 보안 조치로 공격자들이 Claude 모델에서 빼내 갈 수 있는 추론 데이터의 양을 대폭 줄였다고 밝혔다. 회사는 방어 조치가 가동된 뒤 추출된 사고 과정 토큰의 양이 90~99% 감소했다고 전했다. 이번 조치의 표적은 대규모 증류 공격이다. 이는 AI 모델의 역량을 복제해 더 작고 경쟁력 있는 시스템을 훈련하는 방식이다.
새로운 방어 조치는 어떻게 작동하나
Anthropic은 이제 외부에서 Claude의 내부 추론 단계에 접근하지 못하도록 차단한다. 추출 시도로 보이는 질문을 가려내는 분류기를 운영하고, 이에 걸린 계정을 자동으로 차단한다. 회사는 이미 계정 수만 개를 차단했다고 밝혔다. 다만 일부 정상적인 사용자도 함께 차단됐다고 덧붙였다.
영향을 받는 곳은
기사에서는 중국 기업 Zhipu와 Moonshot을 탈취에 가담한 것으로 의심되는 업체로 지목한다. Zhipu는 GLM‑5.3 모델을 위해 역량을 빼내 간 것으로 알려졌고, Moonshot은 Claude에 질문을 우회 전달한 것으로 의심받고 있다. Anthropic은 탈취된 역량이 외국의 군사·감시 도구에 활용될 수 있다고 경고한다.
앞으로의 계획
Anthropic은 다른 AI 개발사에도 비슷한 보호 조치를 도입하라고 촉구하고 있다. 회사는 분류기의 기술적 세부 사항이나 정확한 도입 일정을 공개하지 않았으며, 방어 조치가 이미 가동 중이라고만 밝혔다.
왜 중요한가
방어 조치가 주장대로 효과를 낸다면 Claude 사용자는 오탐 차단으로 인한 불편을 덜 겪고, 탈취된 모델 역량이 적대 세력에 넘어갈 위험도 줄어들 수 있다. 다만 Anthropic은 여전히 일부 정상 사용자가 차단되고 있다고 인정해, 일상적인 개발자에게 미칠 영향은 분명하지 않다.
