널리 사용되는 언어 모델 10개를 조사한 연구에서, 유해한 요청을 저자원 언어 78개로 번역할 경우 영어에서 작동한 안전 거부가 일관되게 유지되지 않는 것으로 나타났다. 연구진은 영어로 안전하게 답변한 경우만 집계했을 때 모델별 번역 우회율 평균이 21.9%에서 44.4%에 이른다고 밝혔다.
이 조건은 중요하다. 번역 때문에 거부가 우회된 것으로 보이는 사례와, 애초에 영어로도 모델이 안전하지 않게 답했을 사례를 구분하는 데 도움이 되기 때문이다. 이 논문은 2026년 10월 21일 arXiv에 공개됐으며, NeurIPS 2026 언어 모델 보안 워크숍에 채택됐다.
연구 결과
저자들은 영어와 다른 언어 78개를 시험했으며, 일부 언어 계열에서 우회 위험이 두드러졌다고 밝혔다. 이런 전반적인 양상은 여러 모델에서 공통으로 나타났지만, 언어별 순위에는 번역문 왜곡 문제가 영향을 미쳤을 수 있다고 덧붙였다. 번역문 왜곡은 번역된 텍스트가 원문과 달라지거나 부자연스러워지는 현상을 말한다. 연구진이 적용한 통제 조건에서도 모델 간 차이는 유의미했다.
연구진은 모델별 우회율을 신뢰할 만한 순위표처럼 받아들여서는 안 된다고도 경고했다. 동일한 수치를 추정하는 세 가지 방식에 따라 모델 10개 중 9개의 순위가 달라졌지만, 모델이 실제로 내놓은 답변은 바뀌지 않았다.
아직 불분명한 점
초록에는 시험한 모델과 언어의 이름, 프롬프트 수가 나와 있지 않다. 따라서 이 결과가 특정 챗봇이나 일상적인 사용 환경에 어떻게 적용되는지는 알 수 없다. 이 논문은 번역된 프롬프트와 관련된 특정 위협을 측정했을 뿐, 모든 종류의 안전 실패를 다룬 것은 아니다.
왜 중요한가
저자원 언어로 챗봇을 사용하는 사람이라면 영어로 거부된 요청이 번역 후에도 같은 방식으로 처리될 것이라고 단정할 수 없다. 이번 연구는 특정 시험 환경에서의 위험을 짚었지만, 초록에 시험한 모델과 언어가 공개되지 않아 사용자는 자신이 쓰는 챗봇도 영향을 받는지 알 수 없다.
