اختبر باحثون خمسة نماذج لغوية كبيرة باستخدام معيار جديد يضم 2,304 مطالبات. وطرحت المطالبات الطلب نفسه بثلاث صيغ: نص عادي، واستخدام عادي للأدوات، وصيغة أكثر تعقيدًا لاستدعاء الأدوات. وعندما رفضت النماذج الطلب نصيًا، ظلت تُصدر استدعاءات غير آمنة للأدوات في 10‑52% من الحالات عند تفعيل الأدوات. وعزا الفريق المشكلة إلى نمط تنشيط محدد يضعف عند استخدام الأدوات.
لماذا يهم
على مطوري المساعدات المعتمدة على الذكاء الاصطناعي اختبار سلوك استخدام الأدوات مباشرة، لا الاكتفاء بالاعتماد على الرفض النصي، للحفاظ على سلامة المستخدمين.
