Anthropic zufolge haben die jüngsten Sicherheitsmaßnahmen die Menge an Denkprozessdaten drastisch verringert, die Angreifer aus seinen Claude-Modellen abgreifen können. Seit Aktivierung der Schutzmaßnahmen sei die Zahl der extrahierten Chain-of-Thought-Tokens um 90 bis 99 Prozent gesunken. Die Schutzmaßnahmen richten sich gegen sogenanntes groß angelegtes Destillieren: Dabei werden die Fähigkeiten eines KI-Modells kopiert, um kleinere Konkurrenzsysteme zu trainieren.
So funktionieren die neuen Schutzmaßnahmen
Anthropic blockiert inzwischen den externen Zugriff auf interne Denkschritte von Claude. Ein Klassifikator erkennt Anfragen, die nach Extraktionsversuchen aussehen, und sperrt die auslösenden Konten automatisch. Nach Angaben des Unternehmens wurden bereits Zehntausende Konten gesperrt. Anthropic räumt ein, dass dabei auch einige legitime Nutzer erfasst wurden.
Wer betroffen ist
Im Artikel werden die chinesischen Unternehmen Zhipu und Moonshot als mutmaßlich Beteiligte an dem Diebstahl genannt. Zhipu soll Fähigkeiten für sein Modell GLM‑5.3 abgeschöpft haben, während Moonshot angeblich Anfragen über Claude geleitet hat. Anthropic warnt, dass gestohlene Fähigkeiten in ausländischen Militär- oder Überwachungswerkzeugen landen könnten.
Wie es weitergeht
Anthropic fordert andere KI-Entwickler auf, ähnliche Schutzmaßnahmen einzuführen. Technische Einzelheiten zum Klassifikator und den genauen Zeitplan für die Einführung hat das Unternehmen nicht veröffentlicht. Es teilte lediglich mit, dass die Schutzmaßnahmen bereits aktiv sind.
Warum es wichtig ist
Falls die Schutzmaßnahmen wie beschrieben wirken, könnten Claude-Nutzer seltener durch irrtümliche Kontosperren unterbrochen werden. Zugleich könnte das Risiko sinken, dass gestohlene Modellfähigkeiten in die Hände feindlicher Akteure gelangen. Anthropic räumt jedoch ein, dass weiterhin auch legitime Nutzer gesperrt werden. Welche Folgen das für Entwickler im Alltag hat, bleibt daher unklar.
