Moises Andrade와 동료들은 멀티모달 LLM을 위한 검증 기법 SGV를 소개했다. 먼저 모델에 올바른 행동의 기준을 나열하게 한 뒤, 특정 행동이 그 기준에 부합하는지 판단하게 하는 방식이다. 논문에 따르면 이 방법은 모델이 행동을 지나치게 승인하는 경향인 ‘동의 편향’을 줄이고, 실패 감지율을 최대 25%포인트, 전체 정확도를 14%포인트 높인다. OSWorld의 GUI 전문 모델, RoboMimic의 확산 정책, VisualWebArena의 ReAct 에이전트에 적용한 결과, 검증기를 사용하면 기존 최고 성과보다 작업 완료율이 약 20%포인트 향상됐다.
왜 중요한가
검증 기능을 개선하면 AI 에이전트가 근거 없이 확신하는 일을 줄여, 시각 기반 웹 도구와 로봇 도구를 사용하는 사람들에게 더 안정적인 성능을 제공할 수 있다.
