Oossa

研究发现:78种语言的翻译提示存在安全漏洞

研究人员测试了10种语言模型,发现用英语提出会被拒绝的请求,翻译成低资源语言后仍可能得到不安全回答。

作者: Oossa 发布日期: 1 分钟阅读

Morgan Housel · Unsplash

一项针对10种广泛使用的语言模型的研究发现,将有害请求翻译成78种低资源语言后,模型用英语拒绝请求的安全表现并不能稳定维持。研究人员称,在仅统计模型用英语作出安全回答的情形时,各模型平均遭遇翻译绕过的比例为21.9%至44.4%。

这一统计条件很重要:它有助于区分两种情况——翻译似乎绕过了模型的拒绝,还是模型原本就会用英语给出不安全回答。论文于2026年10月21日发表于arXiv,并被NeurIPS 2026语言模型安全研讨会接收。

研究发现了什么

作者测试了英语和另外78种语言,发现绕过风险集中在某些语系。他们表示,各模型总体上呈现相似模式,但也提醒,语言之间的排序受到翻译退化这一因素干扰:翻译文本可能因此变得失真或不自然。在他们采用控制措施后,不同模型之间的差异仍然显著。

研究还提醒,不应把各模型的比率当作可靠的排名。采用三种方法估算同一指标时,10种模型中有9种的名次发生变化,尽管模型给出的实际回答并未改变。

尚不明确的问题

摘要没有列出受测模型、语言或提示数量,因此无法说明这些结果适用于哪些具体聊天机器人或日常使用场景。论文衡量的是一种特定的翻译提示威胁,并未涵盖所有类型的安全失效。

为什么重要

对于使用低资源语言聊天机器人的人来说,模型用英语拒绝某个请求,并不能预示同一请求翻译后会如何处理。这项研究指出了特定测试设置下的一种风险,但摘要没有列出受测模型或语言,因此用户无法判断自己的聊天机器人是否受到影响。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。