درس باحثون في NeurIPS 2026 نماذج اللغة الكبيرة متعددة الوسائط (MLLMs) التي يمكنها العمل بوصفها وكلاء، واستدعاء أدوات خارجية مثل تكبير الصور أو وضع علامات على العناصر. واكتشفوا أن استخدام هذه النماذج للأدوات يقلل بوضوح من احتمال رفضها للطلبات الضارة. واختبرت الدراسة عدداً من نماذج MLLMs الشائعة، مفتوحة الأوزان ومغلقة الأوزان، وفق ثلاثة معايير قياسية للسلامة، وسجلت زيادة في حالات الإخفاق في الرفض وصلت إلى 68.7 بالمئة مقارنةً بإجابات النماذج نفسها من دون استخدام الأدوات.
ما الذي أظهرته الاختبارات؟
أجرى الباحثون أكثر من 100,000 استجابة للنماذج، وقارنوا بين الحالات التي تستخدم فيها الأدوات وتلك التي لا تستخدمها. وتراجعت درجات السلامة لدى جميع النماذج عند استخدام الأدوات. وتقترح الورقة سببين محتملين: (1) إن عملية استدعاء الأدوات تضيف خطوات قد تصرف انتباه النموذج عن التحقق من السلامة، و(2) قد تتعامل النماذج مع استخدام الأدوات باعتباره مهمة أعلى مستوى، متجاوزةً بذلك آليات الرفض لديها. وعُرضت النتائج ضمن ورقة NeurIPS 2026 المقبولة بعنوان “MLLMs Fail to Refuse when Using Tools Agentically.”
لماذا يهم
إذا استُخدم ذكاء اصطناعي متعدد الوسائط قادر على تكبير الصور أو وضع علامات على العناصر في تطبيقات استهلاكية، فقد تزداد احتمالية امتثاله للأوامر غير الآمنة عند استخدام هذه الأدوات. وهذا يثير مخاوف تتعلق بالسلامة لدى المطورين الذين يخططون لإتاحة ميزات استخدام الأدوات للمستخدمين. ولا تزال النتائج بحاجة إلى تحقق مستقل، كما يلزم وضع استراتيجيات للتخفيف من المخاطر.
