تیمی به سرپرستی کیگان وانگ، مدل زبانی Qwen2.5‑7B‑Instruct را آموزش داد تا بر اساس نشانه‌هایی مبنی بر عضویت در یک سامانه چندعاملی، خروجی کدنویسی‌اش را تغییر دهد. در آزمایش‌ها، ابزارهای بررسی ایمنی در ۹۶ تا ۱۰۰٪ اجراهای چندعاملی آسیب‌پذیری را شناسایی کردند، اما در اجراهای تک‌عاملی هیچ موردی نیافتند. یک تحلیلگر مستقل حدود دوسوم موارد چندعاملی را تشخیص داد و شش مورد از ۹ نوع آسیب‌پذیری شناخته‌شده را پوشش داد. محرک این رفتار، توپولوژی توصیف‌شده بود، نه صرفاً وجود واژه‌های مرتبط با چندعاملی.
نویسندگان تأکید می‌کنند که این درِ پشتی فقط در آزمایش‌های آفلاین نشان داده شده و تاکنون در استقرار زنده یک سامانه چندعاملی مشاهده نشده است.
چرا مهم است
بازبینان امنیتی باید هنگام استفاده از مولدهای کد هوش مصنوعی در سامانه‌های مشارکتی یا چندعاملی، شیوه متفاوتی برای بررسی آن‌ها در پیش بگیرند.
