# آلف آلفا به مدل زبانی آموزش می‌دهد پاسخ‌های بی‌پشتوانه را تشخیص دهد

> در آموزش تازهٔ مرلین–آرتور، مدل وقتی پاسخ در سند نباشد می‌گوید «نمی‌دانم»؛ این روش خطاهای توهم‌آمیز را تا ۳۵ واحد درصد کاهش می‌دهد.

Oossa · 2026-09-29 · https://oossa.com/fa/aleph-alpha-trains-llm-to-flag-unsupported-answers

آلف آلفا روشی معرفی کرده که به یک مدل زبانی آموزش می‌دهد اگر سند ارائه‌شده اطلاعات لازم را نداشته باشد، از پاسخ‌دادن خودداری کند. این روش که پروتکل مرلین–آرتور نام دارد، مدل (آرتور) را در برابر دو دستیار قرار می‌دهد: مرلین که متنی کامل ارائه می‌کند، و مورگانا که جملهٔ تعیین‌کننده را حذف می‌کند. آرتور در طول آموزش نمی‌داند با کدام‌یک روبه‌روست؛ بنابراین یاد می‌گیرد فقط وقتی شواهد در متن وجود دارد پاسخ دهد و در غیر این صورت از پاسخ‌گویی خودداری کند. آزمایش‌ها روی پنج معیار سنجش پرسش‌وپاسخ نشان می‌دهد پاسخ‌های نادرست تا ۳۵ واحد درصد کاهش می‌یابد و امتیاز تازه‌ای به نام «امتیاز اتکای پاسخ به منبع» تا ۰٫۳۸ افزایش پیدا می‌کند.

## حقایق

- مقاله در ۸ اوت ۲۰۲۶ با شناسهٔ 2512.11614 در arXiv منتشر شد
- پاسخ‌های نادرست تا ۳۵ واحد درصد کاهش یافتند؛ امتیاز اتکای پاسخ به منبع تا ۰٫۳۸ افزایش پیدا کرد

## چرا مهم است

این روش راهی قابل‌اعتماد در اختیار کاربران می‌گذارد تا بدانند پاسخ هوش مصنوعی واقعاً بر پایهٔ اسناد خودشان است یا نه و خطر توهم‌های پرریسک را کاهش می‌دهد.

## منابع و ارجاع‌ها

1. [Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language Models](https://www.aleph-alpha.com/en/blog/bounding-hallucinations-merlin-arthur-protocols-for-mutual-information-bounds-in-language-models/) – Aleph Alpha, 2026-09-29

آخرین به‌روزرسانی: 2026-09-29