広く使われている10種類の言語モデルを調べた研究で、有害な依頼をリソースの少ない78言語に翻訳すると、英語での安全性に基づく拒否が確実には維持されないことが分かった。英語で安全な回答をしたケースだけを数えた場合、翻訳による安全性回避率の平均は、モデルによって21.9%から44.4%だったと研究者らは報告している。
この条件は重要だ。翻訳によって拒否を回避できたように見えるケースと、英語でもすでに危険な回答をしていたケースを分けるのに役立つからだ。この論文は2026年10月21日にarXivで公開され、NeurIPS 2026の言語モデルセキュリティに関するワークショップで採択された。
研究で分かったこと
著者らは英語と78の別言語をテストし、安全性回避のリスクが一部の言語系統に集中することを確認した。大まかな傾向はモデル間で共通していた一方、翻訳の劣化――翻訳文が歪んだり不自然になったりする問題――が結果の順位に影響した可能性があるとも指摘している。研究者らが適用した統制のもとでも、モデル間の差は有意だった。
また、モデルごとの回避率を信頼できる順位表として扱うべきではないとも警告している。同じ量を推定する3つの方法で、10モデルのうち9モデルの順位が変わった。元となるモデルの回答自体は変わっていないにもかかわらずだ。
まだ分かっていないこと
要旨では、テストしたモデルや言語、プロンプトの数は明らかにされていない。そのため、結果が特定のチャットボットや日常的な利用にどう当てはまるかは分からない。また、この論文が測定しているのは、翻訳されたプロンプトを使った特定の脅威であり、あらゆる種類の安全性の失敗ではない。
なぜ重要か
リソースの少ない言語でチャットボットを使う人にとって、英語で安全性を理由に拒否されたからといって、同じ依頼を翻訳した後も同様に扱われるとは限らない。この研究は、特定のテスト設定におけるリスクを示しているが、要旨ではテスト対象のモデルや言語が明かされておらず、自分の使うチャットボットが影響を受けるかは分からない。
