# Исследование выявило пробелы в безопасности запросов на 78 языках

> Исследователи проверили 10 языковых моделей: запросы, отклонённые на английском, иногда приводили к небезопасным ответам после перевода на языки с малым объёмом ресурсов.

Oossa · 2026-10-22 · https://oossa.com/ru/study-finds-safety-gaps-in-translated-prompts-across-78-languages

Исследование 10 широко используемых языковых моделей показало, что отказ отвечать на английском не всегда сохранялся, если вредоносные запросы переводили на 78 языков с малым объёмом ресурсов. По данным исследователей, средняя доля обходов защиты с помощью перевода составила от 21,9% до 44,4% — если учитывать только случаи, когда модель безопасно ответила на английском.

Это условие важно: оно позволяет отделить случаи, когда перевод, по-видимому, обходит отказ, от тех, в которых модель и на английском ответила бы небезопасно. Статья была опубликована на arXiv 21 октября 2026 года и принята на воркшоп по безопасности языковых моделей NeurIPS 2026.

## Что показало исследование

Авторы проверили английский и ещё 78 языков и обнаружили, что риск обхода защиты был выше у некоторых языковых семей. По их словам, общая картина наблюдалась у разных моделей, однако на результаты также влияла некорректность перевода — проблема, при которой текст на другом языке может получиться искажённым или неестественным. При этом после введённых исследователями поправок различия между моделями оставались статистически значимыми.

Авторы также предостерегают от того, чтобы воспринимать показатели отдельных моделей как надёжный рейтинг. Девять из 10 моделей меняли место в рейтинге в зависимости от того, какой из трёх способов оценки одной и той же величины использовался, хотя сами ответы моделей не менялись.

## Что пока неясно

В аннотации не указаны модели и языки, участвовавшие в тестировании, и не приведено число запросов. Поэтому по ней нельзя понять, как результаты соотносятся с конкретным чат-ботом или повседневным использованием. В статье рассматривается конкретная угроза, связанная с запросами, прошедшими перевод, а не все возможные сбои в безопасности.

## Факты

- Исследователи оценили 10 широко используемых языковых моделей на 79 языках: английском и 78 языках с малым объёмом ресурсов.
- Если модель безопасно отвечала на английском, средняя доля обходов защиты с помощью перевода составляла от 21,9% до 44,4%.
- Девять из 10 моделей меняли место в рейтинге при использовании трёх схем расчёта; сами ответы при этом не менялись.
- Статья принята на воркшоп NeurIPS 2026 Foundations of Language Model Security.

## Почему это важно

Для людей, пользующихся чат-ботами на языках с малым объёмом ресурсов, отказ на английском не гарантирует, что тот же запрос будет обработан так же после перевода. Исследование выявляет риск в рамках конкретного теста, но в аннотации не названы модели и языки, поэтому пользователи не могут понять, касается ли проблема их чат-бота.

## Источники и ссылки

1. [Global Security Blind Spots: Translation as a Safety Bypass in Low-Resource Languages](https://arxiv.org/abs/2610.27304) – arXiv, 2026-10-21

Обновлено: 2026-10-22