Anthropic afferma che le sue più recenti misure di sicurezza hanno ridotto drasticamente la quantità di dati di ragionamento che gli aggressori riescono a estrarre dai modelli Claude. Secondo l’azienda, dopo l’attivazione delle difese il volume di token della catena di pensiero estratti è diminuito dal 90 al 99 per cento. L’attacco preso di mira, la distillazione su larga scala, consiste nel copiare le capacità di un modello di IA per addestrare sistemi più piccoli e concorrenti.
Come funzionano le nuove difese
Anthropic ora impedisce l’accesso esterno ai passaggi di ragionamento interni di Claude. Utilizza un classificatore che segnala le richieste che sembrano tentativi di estrazione e blocca automaticamente gli account che le inviano. L’azienda afferma di aver già bloccato decine di migliaia di account. Riconosce inoltre che alcuni utenti legittimi sono finiti nella rete.
Chi è coinvolto
L’articolo indica le aziende cinesi Zhipu e Moonshot come presunte partecipanti al furto. Secondo quanto riferito, Zhipu avrebbe sottratto capacità per il suo modello GLM‑5.3, mentre Moonshot avrebbe instradato le richieste attraverso Claude. Anthropic avverte che le capacità sottratte potrebbero finire in strumenti militari o di sorveglianza stranieri.
Cosa succederà ora
Anthropic invita gli altri sviluppatori di IA ad adottare protezioni simili. Non ha reso noti i dettagli tecnici del classificatore né i tempi precisi dell’implementazione, limitandosi a dire che le difese sono già attive.
Perché conta
Se le difese funzionano come sostiene Anthropic, gli utenti di Claude potrebbero subire meno interruzioni dovute a blocchi errati e potrebbe ridursi il rischio che capacità sottratte ai modelli finiscano in mano ad attori ostili. Anthropic ammette però che alcuni utenti legittimi continuano a essere bloccati, quindi le conseguenze per chi sviluppa software nell’uso quotidiano restano incerte.
