LAVOIR, 한 번의 추론으로 판단하고 똑똑하게 후속 질문

Furkan Yılmaz가 이끄는 연구진은 2026년 9월 28일 arXiv에 LAVOIR를 공개했다. LAVOIR는 Laya 의사결정 엔진을 기반으로 한 모델로, 한 번의 순전파 과정에서 답변과 함께 어떤 정보가 빠져 있으며 이를 알면 답변이 얼마나 더 나아질지 판단한다. 벤치마크 데이터셋을 이용한 테스트에서 대화당 평균 질문 수를 최대 0.5개로 제한했을 때 정확도가 14.1%포인트 높아졌다. 대규모 대화 데이터셋에서는 전체 질문 비율이 93%에서 8.6%로 줄었다. 응답 시간은 여전히 약 31ms로, 실시간 채팅에 충분히 빠르다.

지금까지의 흐름

TypeSafe의 Jev와 오픈소스 Laya 같은 초기 AI 도우미는 한 번의 순전파로 유형이 정해진 질문에 답했다. 보정된 확률을 출력하지만, 추가 설명을 요청하지는 않는다. 사용자의 메시지에 정책이 어느 부서에 적용되는지처럼 세부 정보가 빠져 있으면 모델은 추측해야 한다. 연구진은 이런 한계를 ‘시스템 1’식 의사결정이라고 불렀다.

LAVOIR는 답변 선택지 옆에 누락됐을 가능성이 있는 정보 항목을 후보로 넣어 이 문제를 해결한다. 가치정보(VOI) 추정치는 각 항목이 올바른 결정을 내릴 확률을 얼마나 높일 수 있는지 알려준다. VOI 수치는 사람의 라벨링 없이 학습된다. 정답 결정은 스키마 규칙으로 정하고, 대규모 언어 모델(LLM)이 질문을 작성하며, 별도의 모델이 질문 문구를 검토한다. 지니 불순도 상한을 적용해 모델이 개선 효과를 과장하지 않도록 한다. 통제된 연구에서 LAVOIR의 의사결정 품질은 이론상 베이즈 최적 성능에 맞먹었고, 질문을 고르는 방식도 가치가 가장 높은 질문을 늘 선택하는 탐욕적 오라클과 거의 동일한 성능을 보였다.

앞으로의 전망

논문에는 오픈소스 코드와 모델 체크포인트가 포함돼 있어 개발자는 LAVOIR를 기존 채팅이나 의사결정 지원 도구에 연동할 수 있다. 질문 수가 크게 줄어 사용 경험을 매끄럽게 유지하면서 고객 지원, 법률 서류 작성, 의료 분류 같은 분야에서 비용이 많이 드는 실수를 줄일 수 있다. 저자들은 실제 사용자 트래픽에서 모델을 시험하고, 하드웨어 속도에 따라 달라지는 세분화된 VOI 상한도 살펴볼 계획이다.

LAVOIR가 널리 도입되면 AI 비서가 속도와 정확성 사이에서 균형을 잡는 방식이 바뀔 수 있다. 늘 추측하는 대신, 예상되는 이득이 대화의 흐름을 끊는 비용보다 클 때만 질문해 대화를 더 목적에 맞게 이끌 수 있다.