مقاله‌ای تازه در arXiv با عنوان «نامرئی‌سازی به‌مثابه منشأ سوگیری احتمالاتی در مدل‌های زبانی» سنجیده است که مدل‌های پیشرو، بر اساس نژادی که برای گزارشگر توصیف می‌شود، چند وقت یک‌بار از اعتماد به گزارش او خودداری می‌کنند. پژوهشگران با اجرای یک بازی دوکوزه‌ای در ۶٬۶۰۰ نوبت دریافتند که مدل‌های OpenAI و Anthropic در ۴۶٪ موارد حاضر نشدند گزارشگری را که سیاه‌پوست توصیف شده بود ارزیابی کنند؛ این رقم برای گزارشگری که سفیدپوست توصیف شده بود ۹٪ بود. اما وقتی مدل‌ها اطلاعات را ارزیابی می‌کردند، اندکی بیشتر به منبع سیاه‌پوست اعتماد داشتند. این سوگیری زمانی از بین می‌رود که در چند دور متوالی، سامانه امتیازدهی به ارزیابی‌های درست پاداش بدهد.
چرا مهم است
توسعه‌دهندگان دستیارهای هوش مصنوعی باید بدانند که مدل‌های زبانی بزرگ فعلی ممکن است بی‌سروصدا اطلاعات را بر اساس نژادی که به منبع نسبت می‌دهند بپذیرند یا رد کنند؛ مسئله‌ای که می‌تواند بر منصفانه‌بودن کاربردهایی مانند پشتیبانی مشتری یا تریاژ پزشکی اثر بگذارد.
