Anthropic uppger att de senaste säkerhetsåtgärderna kraftigt har minskat mängden resonemangsdata som angripare kan hämta från företagets Claude-modeller. Företaget rapporterar att mängden extraherade kedja-av-tanke-token har minskat med 90 till 99 procent sedan skydden aktiverades. Åtgärderna riktar sig mot storskalig destillering, där en AI-modells förmågor kopieras för att träna mindre, konkurrerande system.
Så fungerar de nya skydden
Anthropic blockerar nu extern åtkomst till Claudes interna resonemangssteg. Företaget använder en klassificerare som flaggar frågor som ser ut att vara försök att extrahera information och automatiskt stänger av konton som utlöser varningen. Enligt företaget har tiotusentals konton redan blockerats. Anthropic uppger också att en del legitima användare har fastnat i nätet.
Vilka berörs
Artikeln pekar ut de kinesiska företagen Zhipu och Moonshot som misstänkta deltagare i stölden. Zhipu uppges ha hämtat förmågor till sin modell GLM‑5.3, medan Moonshot enligt uppgift ska ha skickat frågor via Claude. Anthropic varnar för att stulna förmågor kan hamna i utländska militär- eller övervakningsverktyg.
Vad händer härnäst
Anthropic uppmanar andra AI-utvecklare att införa liknande skydd. Företaget har inte offentliggjort några tekniska detaljer om klassificeraren eller någon exakt tidsplan för införandet, utan endast uppgett att skydden redan är aktiva.
Varför det spelar roll
Om skydden fungerar som Anthropic hävdar kan Claude-användare råka ut för färre avbrott på grund av felaktiga avstängningar, samtidigt som risken minskar för att stulna modelförmågor hamnar hos fientliga aktörer. Anthropic medger dock att vissa legitima användare fortfarande blockeras, så det är oklart hur vardagliga utvecklare påverkas.
