سامانه کنترلی جدید، گام‌های بیهوده در عامل‌های هوش مصنوعی خودمختار را کاهش می‌دهد

گروهی به سرپرستی دونگ‌شنگ شیائو در ۲۸ سپتامبر ۲۰۲۶ مقاله‌ای منتشر کردند و مشکلی را شرح دادند که آن را «پارکینسونیسم LLM» می‌نامند. این اصطلاح به عامل‌های هوش مصنوعی اشاره دارد که پس از انجام کار هم به فعالیت ادامه می‌دهند، تغییرات کم‌ارزش می‌دهند و کار خود را دوباره بررسی می‌کنند. به گفته نویسندگان، علت این اتفاق آن است که همان چرخه‌ای که اقدام‌ها را ایجاد می‌کند، درباره زمان توقف هم تصمیم می‌گیرد. راه‌حل آن‌ها معماری جدیدی به نام کنترل اجرایی سراسری (GEC) v0.2 است که تولید اقدام‌ها را از نظارت در سطح پروژه جدا می‌کند.

چطور به اینجا رسیدیم

مدل‌های زبانی بزرگ (LLM) می‌توانند برنامه‌ریزی کنند، کد بنویسند و از ابزارها استفاده کنند، اما اغلب نشانه روشنی برای «توقف» ندارند. در آزمون‌ها، عامل پایه‌ای که از یک برنامه مبتنی بر بهترین حدس پیروی می‌کرد، در ۶۷ درصد از هدف‌های دشوار موفق شد. وقتی در همان آزمون به مدل اجازه داده شد از میان مجموعه‌ای از اقدام‌های پیشنهادی انتخاب کند، نرخ موفقیت به ۹۶٫۵ درصد رسید. پژوهشگران می‌گویند دادن چند گزینه به مدل، بخش عمده بهبود را توضیح می‌دهد، اما هم‌زمان باعث می‌شود فرایند توکن بیشتری مصرف کند؛ توکن‌ها واحدهای پایه متنی هستند که مدل پردازش می‌کند.

معماری جدید چه می‌کند

GEC لایه‌ای نظارتی با درنظرگرفتن عدم‌قطعیت اضافه می‌کند که پیشرفت عامل را زیر نظر می‌گیرد و تصمیم می‌گیرد چه زمانی کار کافی است. در آزمونی شامل ۲۴٬۰۰۰ مرحله و سقف ۴۰٬۰۰۰ توکن، GEC با نرخ موفقیت ۹۶٫۵ درصدیِ رویکرد مبتنی بر مجموعه اقدام‌های پیشنهادی برابری کرد، درحالی‌که میانگین مصرف توکن را از ۱۹٬۷۸۲ به ۱۲٬۵۷۴ رساند؛ کاهشی ۳۶ درصدی. همچنین میانگین توکن لازم برای تکمیل کار در سقف تعیین‌شده را از ۱۶٬۱۳۶ به ۱۳٬۱۱۴ کاهش داد؛ صرفه‌جویی ۱۸٫۷ درصدی. به گفته نویسندگان، مراحل نظارتی اضافه در هر چرخه حدود ۵۰۰ توکن مصنوعی هزینه دارد که همچنان به‌صرفه است.

گام بعدی چیست

مقاله اشاره می‌کند که شبیه‌سازی‌ها از نظارت صریح بر دامنه کار، شواهد، مصرف منابع و زمان توقف پشتیبانی می‌کنند، اما هنوز باید این روش در دنیای واقعی اعتبارسنجی شود. در پژوهش‌های آینده احتمالاً GEC روی عامل‌های فعال آزمایش خواهد شد که با ابزارها یا کاربران بیرونی تعامل دارند. اگر این رویکرد در عمل هم نتیجه بدهد، توسعه‌دهندگان می‌توانند لایه کنترلی مشابهی را در چت‌بات‌ها، دستیارهای کدنویسی و دیگر خدمات هوش مصنوعی خودمختار بگنجانند تا از پردازش بیهوده جلوگیری کنند و نگذارند سامانه‌ها پس از تکمیل کار بیش از حد به آن بپردازند.