Мойзес Андраде и его коллеги представили SGV — метод проверки для мультимодальных больших языковых моделей. Сначала модель перечисляет признаки правильного поведения, а затем оценивает конкретное действие по этому списку. Авторы показывают, что метод снижает склонность моделей одобрять действия — так называемую предвзятость согласия — и повышает долю обнаруженных ошибок до 25 процентных пунктов, а общую точность — на 14 процентных пунктов. Проверяющие модули улучшили выполнение задач примерно на 20 процентных пунктов по сравнению с прежними лучшими результатами при использовании GUI-специалиста в OSWorld, диффузионной политики в RoboMimic и агента ReAct в VisualWebArena.
Почему это важно
Более эффективная проверка помогает ИИ-агентам не переоценивать свою уверенность и надёжнее справляться с задачами в визуальных веб-сервисах и робототехнике.
