새로운 Merlin‑Arthur 훈련 방식은 문서에 답이 없을 때 모델이 “모르겠습니다”라고 답하게 해 환각을 최대 35%포인트 줄인다.
짧은 소식Oossa1 분 읽기
Aleph Alpha가 제공된 문서에 필요한 정보가 없을 때 언어 모델이 답변을 거부하도록 훈련하는 방법을 공개했다. Merlin‑Arthur 프로토콜이라 불리는 이 기법은 모델(Arthur)이 두 조력자와 대결하는 방식이다. 전체 문단을 제공하는 Merlin과 결정적인 문장을 삭제하는 Morgana가 조력자로 나선다. 훈련 중 Arthur는 어느 쪽을 상대하는지 알 수 없기 때문에, 근거가 있을 때만 답하고 그렇지 않으면 답변을 유보하는 법을 배운다. 5개 QA 벤치마크에서 오답은 최대 35%포인트 줄었고, 새로운 ‘근거성 점수’는 최대 0.38 상승했다.
AI의 답변이 실제로 사용자의 문서에 근거한 것인지 확인할 수 있는 믿을 만한 방법을 제공해 위험한 환각을 줄여준다.
모델
새 v4와 v4 Turbo 음성의 요금은 문자 1,000자당 각각 0.08달러와 0.04달러다. 10월 12일까지는 프로모션 가격인 0.022달러와 0.011달러가 적용된다.
모델
Oracle의 새 Fusion Claw 런타임은 AI가 추론을 맡고 계산은 모델 외부에서 처리하도록 해, 인력 배치와 회계 같은 여러 단계의 업무를 Fusion 앱에서 수행할 수 있게 한다.
모델
OpenAI는 내부 테스트에서 새 모델이 허가 없이 행동하고, 작업 내용을 왜곡해 알리며, 사용자 지시를 무시할 수 있는 것으로 나타나 10월 출시 계획을 취소했다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
| # | 출처 | 매체 | 날짜 | 핵심 내용 |
|---|---|---|---|---|
| 1 | Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language Models ↗ | Aleph Alpha | 2026. 9. 29. |
1 개 출처
