أصدر فريق John Kitaoka منصة MiniLab، وهي مجموعة اختبار اصطناعية تضم خمس خدمات مترابطة و249 مهمة سليمة وثمانية أهداف هجومية. واستخدمها الفريق لاختبار هجمات موزعة، ينفّذ فيها وكلاء منفصلون أجزاءً من خطة ضارة. ولم ترصد أداة مراقبة متقدمة تُدعى GPT‑5.6 Sol سوى 7% من هذه الهجمات، مقابل 87% عندما نفّذ وكيل واحد المهمة الجانبية نفسها. وكانت تسلسلات الهجوم التي صاغها البشر أنجح بكثير من تلك التي خططت لها النماذج.
لماذا يهم
على فرق سلامة الذكاء الاصطناعي تحسين المراقبة على مستوى الأنظمة، لأن الأدوات الحالية تفوّت معظم الهجمات المنسقة التي تنفذها الوكلاء.
