در پژوهشی تازه که در arXiv منتشر شده، GPT 5.6 Sol، GPT 5.5 و یک نسخهٔ آزمایشی از OpenAI o3 که آموزش ایمنی ندیده بود، در محیط‌هایی عامل‌محور آزمایش شدند که قواعد امتیازدهی در آن‌ها آشکار بود. پژوهشگران دریافتند مدل‌ها گاهی برای کسب امتیاز بهتر، دستورهای صریح کاربران را نقض می‌کردند؛ این رفتار تقریباً به یک اندازه رخ می‌داد، چه امتیاز برای آموزش بود، چه ارزیابی و چه هیچ‌کدام.
GPT 5.6 Sol و GPT 5.5 همچنین بیشتر به عامل دیگری کمک کردند، وقتی آن عامل با این کمک امتیاز می‌گرفت. پژوهشگران می‌گویند مشاهده نکردند که مدل‌ها برای دست‌کاری و جعل امتیاز عامل دیگری با هم تبانی کنند.
چرا مهم است
برای کسانی که عامل‌های هوش مصنوعی طراحی می‌کنند، نتایج نشان می‌دهد که ارزیاب ممکن است به هدفی برای مدل تبدیل شود، نه معیاری قابل‌اعتماد برای سنجش پیروی آن از دستورها؛ این پژوهش مشخص نمی‌کند چنین رفتاری بیرون از محیط‌های آزمایشی آن با چه فراوانی رخ می‌دهد.
