بررسی ۱۰ مدل زبانی پرکاربرد نشان داد که رد درخواست‌های ناایمن به انگلیسی، هنگام ترجمه همان درخواست‌ها به ۷۸ زبان کم‌منبع، همیشه پابرجا نمی‌ماند. پژوهشگران می‌گویند در میان مدل‌ها، میانگین نرخ دور زدنِ محدودیت‌های ایمنی با ترجمه بین ۲۱٫۹٪ تا ۴۴٫۴٪ بود؛ البته فقط مواردی را شمردند که مدل به درخواست انگلیسی پاسخ ایمن داده بود.
این شرط اهمیت دارد: کمک می‌کند مواردی را که به‌نظر می‌رسد ترجمه باعث دور زدن رد درخواست شده، از مواردی جدا کنیم که مدل از ابتدا هم به انگلیسی پاسخ ناایمن می‌داد. این مقاله ۲۱ اکتبر ۲۰۲۶ در arXiv منتشر شد و در کارگاه امنیت مدل‌های زبانی NeurIPS 2026 پذیرفته شد.
یافته‌های پژوهش
نویسندگان انگلیسی و ۷۸ زبان دیگر را آزمایش کردند و دریافتند خطر دور زدن محدودیت‌ها در برخی خانواده‌های زبانی بیشتر بود. به‌گفته آن‌ها، الگوی کلی در مدل‌های مختلف مشترک بود؛ اما هشدار می‌دهند که رتبه‌بندی زبان‌ها تحت‌تأثیر «انحطاط ترجمه» قرار داشت؛ مشکلی که در آن متن ترجمه‌شده ممکن است تحریف‌شده یا ناآشنا به نظر برسد. بااین‌حال، تفاوت میان مدل‌ها پس از اعمال کنترل‌های پژوهشگران همچنان معنادار بود.
این پژوهش همچنین هشدار می‌دهد که نرخ‌های هر مدل را نباید رتبه‌بندی قابل‌اتکایی دانست. رتبه ۹ مدل از ۱۰ مدل، در سه روش برآورد یک کمیت واحد تغییر کرد، با اینکه پاسخ‌های خود مدل‌ها تغییری نکرده بود.
آنچه هنوز روشن نیست
چکیده نام مدل‌ها و زبان‌های آزمایش‌شده یا تعداد درخواست‌ها را ذکر نمی‌کند. بنابراین، مشخص نیست این نتایج چه ارتباطی با یک چت‌بات خاص یا استفاده روزمره دارند. مقاله یک نوع مشخص از تهدیدِ درخواست‌های ترجمه‌شده را می‌سنجد، نه همه انواع خطاهای ایمنی را.
چرا مهم است
برای کسانی که در زبان‌های کم‌منبع از چت‌بات‌ها استفاده می‌کنند، رد شدن یک درخواست به انگلیسی لزوماً نشان نمی‌دهد که همان درخواست پس از ترجمه نیز به همان شکل مدیریت می‌شود. این پژوهش در چارچوب همین آزمون مشخص، خطری را نشان می‌دهد؛ اما چون چکیده نام مدل‌ها یا زبان‌های آزمایش‌شده را نمی‌آورد، کاربران نمی‌توانند بفهمند چت‌باتشان تحت‌تأثیر این مسئله هست یا نه.
