Anthropic、Claudeの推論トークン流出を90〜99％削減と発表

Anthropicによると、最新のセキュリティ対策により、攻撃者がClaudeのモデルから引き出せる推論データの量が大幅に減った。同社は、防御策の導入後、抽出された思考過程トークンの量が90〜99％減少したと報告している。対策の対象となる「大規模蒸留」とは、AIモデルの能力をコピーし、より小規模な競合システムの訓練に利用する手法だ。

新たな防御策の仕組み

Anthropicは現在、Claudeの内部推論過程への外部からのアクセスを遮断している。抽出を試みているように見える問い合わせを検知する分類器を稼働させ、該当したアカウントを自動的に停止する。同社によると、すでに数万件のアカウントをブロックした。一方で、正当な利用者も一部巻き込まれているという。

影響を受ける企業

記事は、流出に関与した疑いのある企業として、中国のZhipuとMoonshotを挙げている。ZhipuはGLM‑5.3モデルのために能力を吸い上げたとされ、MoonshotはClaudeへの問い合わせを経由させた疑いがある。Anthropicは、盗まれた能力が外国の軍事・監視ツールに使われる可能性があると警告している。

今後の展開

Anthropicは、他のAI開発企業にも同様の保護策を導入するよう求めている。分類器の技術的な詳細や導入の正確な時期は明らかにしておらず、防御策はすでに稼働しているとだけ説明している。