# 78개 언어로 번역하면 안전장치에 빈틈…연구 결과

> 연구진이 언어 모델 10개를 시험한 결과, 영어로는 거부된 요청도 저자원 언어로 번역하면 안전하지 않은 답변을 얻을 수 있는 것으로 나타났다.

Oossa · 2026-10-22 · https://oossa.com/ko/study-finds-safety-gaps-in-translated-prompts-across-78-languages

널리 사용되는 언어 모델 10개를 조사한 연구에서, 유해한 요청을 저자원 언어 78개로 번역할 경우 영어에서 작동한 안전 거부가 일관되게 유지되지 않는 것으로 나타났다. 연구진은 영어로 안전하게 답변한 경우만 집계했을 때 모델별 번역 우회율 평균이 21.9%에서 44.4%에 이른다고 밝혔다.

이 조건은 중요하다. 번역 때문에 거부가 우회된 것으로 보이는 사례와, 애초에 영어로도 모델이 안전하지 않게 답했을 사례를 구분하는 데 도움이 되기 때문이다. 이 논문은 2026년 10월 21일 arXiv에 공개됐으며, NeurIPS 2026 언어 모델 보안 워크숍에 채택됐다.

## 연구 결과

저자들은 영어와 다른 언어 78개를 시험했으며, 일부 언어 계열에서 우회 위험이 두드러졌다고 밝혔다. 이런 전반적인 양상은 여러 모델에서 공통으로 나타났지만, 언어별 순위에는 번역문 왜곡 문제가 영향을 미쳤을 수 있다고 덧붙였다. 번역문 왜곡은 번역된 텍스트가 원문과 달라지거나 부자연스러워지는 현상을 말한다. 연구진이 적용한 통제 조건에서도 모델 간 차이는 유의미했다.

연구진은 모델별 우회율을 신뢰할 만한 순위표처럼 받아들여서는 안 된다고도 경고했다. 동일한 수치를 추정하는 세 가지 방식에 따라 모델 10개 중 9개의 순위가 달라졌지만, 모델이 실제로 내놓은 답변은 바뀌지 않았다.

## 아직 불분명한 점

초록에는 시험한 모델과 언어의 이름, 프롬프트 수가 나와 있지 않다. 따라서 이 결과가 특정 챗봇이나 일상적인 사용 환경에 어떻게 적용되는지는 알 수 없다. 이 논문은 번역된 프롬프트와 관련된 특정 위협을 측정했을 뿐, 모든 종류의 안전 실패를 다룬 것은 아니다.

## 팩트

- 연구진은 영어와 저자원 언어 78개 등 총 79개 언어에서 널리 사용되는 언어 모델 10개를 평가했다.
- 영어로 안전하게 답변한 경우만 놓고 봤을 때, 보고된 번역 우회율 평균은 21.9%에서 44.4%였다.
- 모델 10개 중 9개는 세 가지 조건화 방식에 따라 순위가 달라졌으며, 실제 답변에는 변화가 없었다.
- 이 논문은 NeurIPS 2026 워크숍 ‘Foundations of Language Model Security’에 채택됐다.

## 왜 중요한가

저자원 언어로 챗봇을 사용하는 사람이라면 영어로 거부된 요청이 번역 후에도 같은 방식으로 처리될 것이라고 단정할 수 없다. 이번 연구는 특정 시험 환경에서의 위험을 짚었지만, 초록에 시험한 모델과 언어가 공개되지 않아 사용자는 자신이 쓰는 챗봇도 영향을 받는지 알 수 없다.

## 출처 및 참고 자료

1. [Global Security Blind Spots: Translation as a Safety Bypass in Low-Resource Languages](https://arxiv.org/abs/2610.27304) – arXiv, 2026-10-21

최종 업데이트: 2026-10-22