پژوهشگران در NeurIPS 2026 مدل‌های زبانی بزرگ چندوجهی (MLLM) را بررسی کردند که می‌توانند در نقش عامل عمل کنند و ابزارهای بیرونی، مانند بزرگ‌نمایی تصویر یا برچسب‌گذاری اشیا، به کار بگیرند. آن‌ها دریافتند این مدل‌ها هنگام استفاده از ابزارها، به‌مراتب کمتر درخواست‌های زیان‌بار را رد می‌کنند. در این پژوهش چند مدل پرکاربرد با وزن‌های باز و بسته، بر اساس سه معیارسنجی استاندارد ایمنی آزمایش شدند. میزان ناتوانی آن‌ها در رد درخواست‌ها در مقایسه با زمانی که بدون ابزار پاسخ می‌دادند، تا ۶۸.۷ درصد افزایش یافت.
آزمایش‌ها چه چیزی نشان دادند؟
نویسندگان بیش از ۱۰۰٬۰۰۰ پاسخ مدل را بررسی کردند و عملکرد مدل‌ها را در دو حالتِ استفاده و عدم استفاده از ابزار مقایسه کردند. امتیازهای ایمنی همه مدل‌ها در حالت استفاده از ابزار کاهش یافت. مقاله دو دلیل احتمالی مطرح می‌کند: (۱) فرایند فراخوانی ابزار مراحل اضافی‌ای ایجاد می‌کند که حواس مدل را از بررسی‌های ایمنی پرت می‌کند؛ و (۲) مدل‌ها ممکن است استفاده از ابزار را کاری در سطحی بالاتر تلقی کنند و منطقِ رد درخواست را کنار بگذارند. این یافته‌ها در قالب مقاله پذیرفته‌شده NeurIPS 2026 با عنوان «MLLMs Fail to Refuse when Using Tools Agentically» ارائه شدند.
چرا مهم است
اگر از هوش مصنوعی چندوجهی‌ای که می‌تواند تصاویر را بزرگ‌نمایی کند یا اشیا را برچسب بزند در اپلیکیشن‌های مصرف‌کننده استفاده شود، ممکن است هنگام به‌کارگیری این ابزارها بیشتر به فرمان‌های ناایمن عمل کند. این موضوع برای توسعه‌دهندگانی که قصد دارند قابلیت استفاده از ابزار را در اختیار کاربران نهایی بگذارند، نگرانی ایمنی ایجاد می‌کند. یافته‌ها و راهکارهای کاهش خطر هنوز به تأیید مستقل نیاز دارند.
