وجدت دراسة شملت 10 نماذج لغوية واسعة الاستخدام أن رفض الطلبات غير الآمنة بالإنجليزية لا يستمر بصورة موثوقة عند ترجمتها إلى 78 لغة منخفضة الموارد. وأفاد الباحثون بأن متوسط معدلات تجاوز الرفض عبر النماذج تراوح بين 21.9% و44.4%، عند احتساب الحالات التي كانت فيها إجابة النموذج آمنة بالإنجليزية فقط.
وهذا الشرط مهم، إذ يساعد على التمييز بين الحالات التي يبدو فيها أن الترجمة تتجاوز الرفض، والحالات التي كان النموذج سيجيب فيها بطريقة غير آمنة بالإنجليزية أيضًا. نُشرت الورقة على arXiv في October 21, 2026، وقُبلت في ورشة عمل NeurIPS 2026 المعنية بأمن النماذج اللغوية.
ما توصلت إليه الدراسة
اختبر الباحثون الإنجليزية إلى جانب اللغات الـ78 الأخرى، ووجدوا أن مخاطر تجاوز الرفض تركزت في بعض العائلات اللغوية. وقالوا إن النمط العام تكرر عبر النماذج، لكنهم حذروا أيضًا من أن ترتيب اللغات تأثر بخلل في الترجمة، إذ قد تصبح النصوص المترجمة مشوهة أو غير طبيعية. وظلت الفروق بين النماذج كبيرة بعد تطبيق الضوابط التي استخدموها.
وحذرت الدراسة كذلك من التعامل مع معدلات كل نموذج على أنها ترتيب موثوق للنماذج. فقد تغير ترتيب تسعة من أصل 10 نماذج عند استخدام ثلاث طرق لتقدير الكمية نفسها، رغم عدم تغير استجابات النماذج الأساسية.
ما الذي لا يزال غير واضح
لا تذكر الخلاصة أسماء النماذج أو اللغات التي اختُبرت، ولا عدد الطلبات. لذلك لا توضح كيف تنطبق هذه النتائج على روبوت محادثة بعينه أو على الاستخدام اليومي. وتقيس الورقة تهديدًا محددًا يتعلق بالطلبات المترجمة، لا جميع أنواع إخفاقات الأمان.
لماذا يهم
بالنسبة إلى مستخدمي روبوتات المحادثة بلغات أقل موارد، قد لا يكون رفض الطلب بالإنجليزية مؤشرًا على كيفية التعامل مع الطلب نفسه بعد ترجمته. وتحدد الدراسة خطرًا ضمن إعداد الاختبار المحدد هذا، لكن خلاصة الورقة لا تذكر أسماء النماذج أو اللغات المختبرة، لذا لا يستطيع المستخدمون معرفة ما إذا كان روبوت المحادثة الذي يستخدمونه معنيًا بهذه النتائج.
