Uno studio condotto su 10 modelli linguistici molto usati ha rilevato che i rifiuti di sicurezza in inglese non venivano mantenuti in modo affidabile quando le richieste dannose erano tradotte in 78 lingue con poche risorse digitali. Nel complesso, i ricercatori riportano tassi medi di aggiramento tramite traduzione compresi tra il 21,9% e il 44,4%, considerando solo i casi in cui il modello aveva risposto in modo sicuro in inglese.
Questa condizione è importante: permette di distinguere i casi in cui la traduzione sembra aggirare un rifiuto da quelli in cui il modello avrebbe già risposto in modo non sicuro in inglese. L’articolo è stato pubblicato su arXiv il 21 ottobre 2026 e accettato a un workshop di NeurIPS 2026 sulla sicurezza dei modelli linguistici.
I risultati dello studio
Gli autori hanno testato l’inglese insieme alle altre 78 lingue e hanno rilevato che il rischio di aggiramento si concentrava in alcune famiglie linguistiche. Secondo i ricercatori, la tendenza generale era condivisa dai diversi modelli, ma avvertono che la graduatoria era influenzata dalla degenerazione della traduzione, un problema per cui il testo tradotto può risultare distorto o innaturale. Le differenze tra i modelli restavano significative anche applicando i controlli previsti.
Lo studio mette inoltre in guardia dal considerare i tassi dei singoli modelli come una classifica attendibile. Nove modelli su 10 cambiavano posizione con tre diversi metodi di stima della stessa quantità, pur senza alcuna variazione nelle risposte sottostanti dei modelli.
Cosa non è ancora chiaro
L’abstract non indica i modelli o le lingue testati, né il numero di prompt. Di conseguenza, non mostra in che modo questi risultati si applichino a un chatbot specifico o all’uso quotidiano. L’articolo misura una particolare minaccia legata ai prompt tradotti, non ogni tipo di problema di sicurezza.
Perché conta
Per chi usa chatbot in lingue con poche risorse digitali, un rifiuto di sicurezza in inglese non permette di prevedere come verrà gestita la stessa richiesta dopo la traduzione. Lo studio individua un rischio in questa specifica configurazione di test, ma l’abstract non indica i modelli o le lingue esaminati: gli utenti non possono quindi sapere se il loro chatbot sia interessato.
