پژوهشی که در arXiv منتشر شده، بررسی کرده است سه مدل زبانی هنگام ارزیابی درخواست‌های مرزیِ بازپرداخت و مطالبه خسارت، در صورت مشاهده سه پرونده مشابه از گذشته، چگونه عمل می‌کنند. در DeepSeek V4.1 Flash، GPT-5.6 Luna و Claude Haiku 5.5، تغییر تصمیم‌های ثبت‌شده در پرونده‌ها از DENY به APPROVE، نرخ تأیید را در سیاست‌هایی که پژوهشگران نوشته بودند حدود 30 تا 55 واحد درصد افزایش داد.
اما وقتی DeepSeek و Luna فقط واقعیت‌های پرونده‌های گذشته را دیدند، پرونده‌هایی با واقعیت‌های مؤید تأیید باعث شدند این مدل‌ها کمتر از پرونده‌های مؤید رد درخواست، آن را تأیید کنند. نویسندگان می‌گویند این الگو در نه سیاست عمومیِ بازنویسی‌شده از نمونه‌های واقعی نیز دیده شد.
چرا مهم است
سازمان‌هایی که برای ارزیابی بازپرداخت‌ها یا مطالبات خسارت از هوش مصنوعی استفاده می‌کنند، باید واقعیت‌های پرونده‌های گذشته را جدا از نتایج ثبت‌شده بسنجند؛ چون هرکدام می‌توانند تصمیم‌ها را تغییر دهند و اثرشان ممکن است در جهت‌های متفاوتی باشد.
