Anthropic zegt dat de nieuwste beveiligingsmaatregelen de hoeveelheid redeneerdata die aanvallers uit Claude-modellen kunnen halen sterk hebben teruggedrongen. Nadat de maatregelen waren ingevoerd, daalde het aantal buitgemaakte chain-of-thought-tokens volgens het bedrijf met 90 tot 99 procent. De maatregelen zijn gericht op grootschalige distillatie: het overnemen van de mogelijkheden van een AI-model om kleinere, concurrerende systemen te trainen.
Zo werken de nieuwe maatregelen
Anthropic blokkeert nu externe toegang tot de interne redeneerstappen van Claude. Het bedrijf gebruikt een classifier die vragen herkent die op pogingen tot extractie lijken en automatisch de accounts blokkeert die zulke vragen stellen. Volgens Anthropic zijn al tienduizenden accounts geblokkeerd. Het bedrijf merkt ook op dat sommige legitieme gebruikers daarbij zijn getroffen.
Wie wordt ervan beschuldigd?
In het artikel worden de Chinese bedrijven Zhipu en Moonshot genoemd als vermeende betrokkenen bij de diefstal. Zhipu zou mogelijkheden hebben buitgemaakt voor zijn GLM-5.3-model, terwijl Moonshot volgens de beschuldiging vragen via Claude liet lopen. Anthropic waarschuwt dat gestolen mogelijkheden terecht kunnen komen in buitenlandse militaire of surveillancetools.
Wat volgt er?
Anthropic roept andere AI-ontwikkelaars op vergelijkbare beveiliging in te voeren. Het bedrijf heeft de technische details van de classifier en de precieze planning voor de invoering niet bekendgemaakt; alleen dat de maatregelen al actief zijn.
Waarom het ertoe doet
Als de maatregelen werken zoals Anthropic beweert, krijgen Claude-gebruikers mogelijk minder te maken met onterechte blokkades, terwijl het risico kleiner wordt dat gestolen modelmogelijkheden bij vijandige partijen terechtkomen. Anthropic erkent echter dat ook legitieme gebruikers worden geblokkeerd, waardoor de gevolgen voor ontwikkelaars in de praktijk nog onduidelijk zijn.
