# پژوهش: شکاف‌های ایمنی در درخواست‌های ترجمه‌شده به ۷۸ زبان

> پژوهشگران ۱۰ مدل زبانی را آزمایش کردند و دریافتند درخواست‌هایی که به انگلیسی رد می‌شوند، ممکن است پس از ترجمه به زبان‌های کم‌منبع پاسخ‌های ناایمن بگیرند.

Oossa · 2026-10-22 · https://oossa.com/fa/study-finds-safety-gaps-in-translated-prompts-across-78-languages

بررسی ۱۰ مدل زبانی پرکاربرد نشان داد که رد درخواست‌های ناایمن به انگلیسی، هنگام ترجمه همان درخواست‌ها به ۷۸ زبان کم‌منبع، همیشه پابرجا نمی‌ماند. پژوهشگران می‌گویند در میان مدل‌ها، میانگین نرخ دور زدنِ محدودیت‌های ایمنی با ترجمه بین ۲۱٫۹٪ تا ۴۴٫۴٪ بود؛ البته فقط مواردی را شمردند که مدل به درخواست انگلیسی پاسخ ایمن داده بود.

این شرط اهمیت دارد: کمک می‌کند مواردی را که به‌نظر می‌رسد ترجمه باعث دور زدن رد درخواست شده، از مواردی جدا کنیم که مدل از ابتدا هم به انگلیسی پاسخ ناایمن می‌داد. این مقاله ۲۱ اکتبر ۲۰۲۶ در arXiv منتشر شد و در کارگاه امنیت مدل‌های زبانی NeurIPS 2026 پذیرفته شد.

## یافته‌های پژوهش

نویسندگان انگلیسی و ۷۸ زبان دیگر را آزمایش کردند و دریافتند خطر دور زدن محدودیت‌ها در برخی خانواده‌های زبانی بیشتر بود. به‌گفته آن‌ها، الگوی کلی در مدل‌های مختلف مشترک بود؛ اما هشدار می‌دهند که رتبه‌بندی زبان‌ها تحت‌تأثیر «انحطاط ترجمه» قرار داشت؛ مشکلی که در آن متن ترجمه‌شده ممکن است تحریف‌شده یا ناآشنا به نظر برسد. بااین‌حال، تفاوت میان مدل‌ها پس از اعمال کنترل‌های پژوهشگران همچنان معنادار بود.

این پژوهش همچنین هشدار می‌دهد که نرخ‌های هر مدل را نباید رتبه‌بندی قابل‌اتکایی دانست. رتبه ۹ مدل از ۱۰ مدل، در سه روش برآورد یک کمیت واحد تغییر کرد، با اینکه پاسخ‌های خود مدل‌ها تغییری نکرده بود.

## آنچه هنوز روشن نیست

چکیده نام مدل‌ها و زبان‌های آزمایش‌شده یا تعداد درخواست‌ها را ذکر نمی‌کند. بنابراین، مشخص نیست این نتایج چه ارتباطی با یک چت‌بات خاص یا استفاده روزمره دارند. مقاله یک نوع مشخص از تهدیدِ درخواست‌های ترجمه‌شده را می‌سنجد، نه همه انواع خطاهای ایمنی را.

## حقایق

- پژوهشگران ۱۰ مدل زبانی پرکاربرد را در ۷۹ زبان ارزیابی کردند: انگلیسی و ۷۸ زبان کم‌منبع.
- با در نظر گرفتن پاسخ‌های ایمن به انگلیسی، میانگین نرخ دور زدن محدودیت‌ها با ترجمه بین ۲۱٫۹٪ تا ۴۴٫۴٪ گزارش شد.
- رتبه ۹ مدل از ۱۰ مدل در سه طرح شرط‌گذاری تغییر کرد، درحالی‌که پاسخ‌های پایه تغییری نکرده بودند.
- این مقاله در کارگاه NeurIPS 2026 با عنوان Foundations of Language Model Security پذیرفته شد.

## چرا مهم است

برای کسانی که در زبان‌های کم‌منبع از چت‌بات‌ها استفاده می‌کنند، رد شدن یک درخواست به انگلیسی لزوماً نشان نمی‌دهد که همان درخواست پس از ترجمه نیز به همان شکل مدیریت می‌شود. این پژوهش در چارچوب همین آزمون مشخص، خطری را نشان می‌دهد؛ اما چون چکیده نام مدل‌ها یا زبان‌های آزمایش‌شده را نمی‌آورد، کاربران نمی‌توانند بفهمند چت‌باتشان تحت‌تأثیر این مسئله هست یا نه.

## منابع و ارجاع‌ها

1. [Global Security Blind Spots: Translation as a Safety Bypass in Low-Resource Languages](https://arxiv.org/abs/2610.27304) – arXiv, 2026-10-21

آخرین به‌روزرسانی: 2026-10-22