تذكر ورقة بحثية جديدة على arXiv أن أنظمة الذكاء الاصطناعي المصممة لتفويض المهام قد تكون عرضة لهجمات تقاومها عادةً النماذج الأقوى التي تقود العمل. اختبر الباحثون نسخًا غير معدّلة من Claude Code وCodex ونظامًا مرجعيًا، وطلبوا منها الإجابة عن أسئلة بالاستناد إلى ملفات محفوظة على القرص. وزرع الباحثون سجلًا مزورًا بين تلك الملفات.
وتقول الورقة إن النموذج القائد أجرى تعديلات ضارة تكاد تكون معدومة في أكثر من 1,000 تجربة عندما بحث في الملفات بنفسه. لكن النتائج اختلفت عندما أوكل المهمة إلى وكيل فرعي أقل تكلفة وقدرة: إذ تسجل الورقة 20 و44 و75 حالة إخفاق في ثلاث مجموعات تضم كل منها 180 تجربة، و553 حالة في مجموعة من 900 تجربة. ولا تحدد خلاصة الورقة أي عدد يقابل نظامًا أو إعدادًا بعينه.
لماذا غيّر التفويض النتيجة؟
في هذه الأنظمة، يتولى المنسّق، وهو الذكاء الاصطناعي القائد، تقسيم المهمة إلى أجزاء وإسناد بعضها إلى وكلاء فرعيين. ويخشى الباحثون أن يعتمد النموذج القائد على قراءة خاطئة للملفات يقدمها وكيل فرعي، حتى لو كان سيرفض تلك المعلومات لو عثر عليها بنفسه. وفي اختبارات الورقة، ارتبط مستوى أمان النظام ككل بالقارئ الأضعف أكثر من ارتباطه بالمنسّق الأقوى.
وهذا مهم لأن اختبارات السلامة غالبًا ما تفحص النماذج كلًّا على حدة، في حين قد تستخدم منتجات مثل وكلاء البرمجة عدة نماذج تعمل معًا. وترى الورقة أن الاكتفاء بفحص النموذج القائد قد يحجب نقاط ضعف ينشئها التفويض. وقد قُبلت الورقة في ورشة NeurIPS 2026 First Workshop on Meta Agents، وهي ورشة تتناول الأنظمة التي تدير وكلاء ذكاء اصطناعي آخرين.
الخطأ انتقل أيضًا عبر أنظمة تجميع المعلومات
وحاكى الباحثون أيضًا خطوة منفصلة، إذ جمع خمسة أنظمة لتجميع المعلومات بيانات من وكلاء. وفي محاكاة شملت 18 نموذجًا، كررت أنظمة التجميع خطأ وكيل فرعي تعرّض للتضليل في 751 تجربة من أصل 757، رغم أنها نادرًا ما كانت غير آمنة عند تقييمها منفردة، بحسب خلاصة الورقة.
تستند هذه النتائج إلى اختبار محدد زُرع فيه سجل مزور، ولا تقيس مدى شيوع مواجهة المستخدمين لهذه المشكلة في الواقع. ولا تعرض خلاصة الورقة نص الهجوم، ولا تحدد إصدارات النماذج وإعداداتها وراء كل نتيجة. لكنها توضح لماذا قد يكشف اختبار نظام الوكلاء كاملًا مخاطر لا تظهر عند فحص أقوى نموذج فيه وحده.
لماذا يهم
بالنسبة إلى المطورين الذين يستخدمون وكلاء الذكاء الاصطناعي للبرمجة، تشير النتائج إلى أن موثوقية النموذج القائد لا تضمن موثوقية النظام إذا كان يثق بوكلاء فرعيين أضعف. ولا توضح الاختبارات مدى شيوع المشكلة في الاستخدام اليومي، لكنها تشير إلى ضرورة تقييم سلسلة الوكلاء كاملة، لا النموذج القائد وحده.