# 자기 기준 검증으로 멀티모달 LLM의 동의 편향 줄인다

> 연구진이 멀티모달 언어 모델이 잘못된 행동을 더 정확히 찾아내도록 돕는 2단계 기법 SGV를 선보였다. 후속 작업 성능은 최대 25%포인트 향상됐다.

Oossa · 2026-11-13 · https://oossa.com/ko/self-grounded-verification-reduces-agreement-bias-in-multimodal-llms

Moises Andrade와 동료들은 멀티모달 LLM을 위한 검증 기법 SGV를 소개했다. 먼저 모델에 올바른 행동의 기준을 나열하게 한 뒤, 특정 행동이 그 기준에 부합하는지 판단하게 하는 방식이다. 논문에 따르면 이 방법은 모델이 행동을 지나치게 승인하는 경향인 ‘동의 편향’을 줄이고, 실패 감지율을 최대 25%포인트, 전체 정확도를 14%포인트 높인다. OSWorld의 GUI 전문 모델, RoboMimic의 확산 정책, VisualWebArena의 ReAct 에이전트에 적용한 결과, 검증기를 사용하면 기존 최고 성과보다 작업 완료율이 약 20%포인트 향상됐다.

## 팩트

- SGV는 실패 감지율을 최대 25%포인트 높인다
- OSWorld, RoboMimic, VisualWebArena에서 작업 완료율이 약 20%포인트 향상됐다

## 왜 중요한가

검증 기능을 개선하면 AI 에이전트가 근거 없이 확신하는 일을 줄여, 시각 기반 웹 도구와 로봇 도구를 사용하는 사람들에게 더 안정적인 성능을 제공할 수 있다.

## 출처 및 참고 자료

1. [Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification](https://arxiv.org/abs/2507.11662) – arXiv cs.MA, 2026-11-13

최종 업데이트: 2026-11-13