Команда под руководством Y. Yin опубликовала 20 октября 2026 года исследование, согласно которому большие языковые модели-судьи могут самостоятельно снижать собственную предвзятость. Авторы проверили два приёма: промпт, предупреждающий модель о возможной предвзятости перед оценкой, и дополнительный промпт с просьбой проверить свой ответ на предвзятость. На трёх передовых моделях такой подход улучшил результаты в 20 из 21 сочетания модели и вида предвзятости, в некоторых случаях — на 15 пунктов. Ранее предложенный метод с внешним критиком показал худшие результаты на новых тестах на предвзятость.
Почему это важно
Снижение предвзятости с помощью промптов может сделать автоматизированную оценку ИИ надёжнее для разработчиков и исследователей.
