Eine Studie mit 10 weit verbreiteten Sprachmodellen ergab, dass Sicherheitsverweigerungen auf Englisch nicht zuverlässig bestehen blieben, wenn schädliche Anfragen in 78 ressourcenarme Sprachen übersetzt wurden. Über alle Modelle hinweg berichten die Forschenden von durchschnittlichen Umgehungsraten zwischen 21.9% und 44.4% – berücksichtigt wurden dabei nur Fälle, in denen das Modell auf Englisch sicher geantwortet hatte.
Diese Bedingung ist wichtig: So lassen sich Fälle, in denen eine Übersetzung offenbar eine Verweigerung umgeht, von solchen unterscheiden, in denen das Modell schon auf Englisch unsicher geantwortet hätte. Die Arbeit wurde am October 21, 2026 auf arXiv veröffentlicht und für einen Workshop zur Sicherheit von Sprachmodellen auf der NeurIPS 2026 angenommen.
Die Ergebnisse der Studie
Die Autorinnen und Autoren testeten neben Englisch auch die 78 weiteren Sprachen. Dabei zeigte sich, dass sich das Umgehungsrisiko in bestimmten Sprachfamilien häufte. Das allgemeine Muster sei bei allen Modellen ähnlich gewesen, zugleich weisen die Forschenden darauf hin, dass die Rangfolge durch Verzerrungen bei der Übersetzung beeinflusst wurde – etwa durch entstellte oder unnatürlich klingende Texte. Unter den angewandten Kontrollverfahren blieben die Unterschiede zwischen den Modellen signifikant.
Die Studie warnt außerdem davor, die Raten der einzelnen Modelle als verlässliche Rangliste zu verstehen. Bei neun der 10 Modelle änderte sich die Platzierung je nachdem, welche von drei Methoden zur Schätzung derselben Kennzahl verwendet wurde – obwohl sich die zugrunde liegenden Modellantworten nicht änderten.
Was noch offen ist
Im Abstract werden weder die getesteten Modelle und Sprachen noch die Zahl der Prompts genannt. Daher lässt sich nicht erkennen, wie sich die Ergebnisse auf einen bestimmten Chatbot oder die alltägliche Nutzung übertragen lassen. Die Arbeit untersucht eine konkrete Bedrohung durch übersetzte Prompts, nicht alle Arten von Sicherheitslücken.
Warum es wichtig ist
Für Menschen, die Chatbots in weniger stark unterstützten Sprachen nutzen, lässt eine Sicherheitsverweigerung auf Englisch nicht unbedingt darauf schließen, wie derselbe Wunsch nach einer Übersetzung behandelt wird. Die Studie zeigt ein Risiko in diesem konkreten Testszenario auf. Da im Abstract weder die getesteten Modelle noch die Sprachen genannt werden, können Nutzerinnen und Nutzer jedoch nicht feststellen, ob ihr Chatbot betroffen ist.
