연구진이 언어 모델 에이전트를 언제 바로잡아야 효과가 있을지 예측하는 모니터 VoS를 공개했다. 성능은 약 8포인트 향상됐다.
짧은 소식작성: OossaOossa 게시일: 최종 업데이트: 1 분 읽기
Hanwen Li와 동료 연구진은 2026년 10월 8일 VoS(Value of Steering)를 설명한 논문을 발표했다. VoS는 대규모 반사실적 실행 결과를 학습해 LLM 기반 에이전트의 어느 단계에서 개입해야 할지 판단한다. 오프라인과 온라인 모두에서 작동하며, 성공적으로 진행 중인 실행을 방해하지 않도록 피해 예산(harm-budget) 기준을 활용한다. 12개 벤치마크·에이전트 조합에서 VoS는 점수를 평균 7.8포인트 높였고, 기존 불확실성 기반 개입 기준 5종 가운데 4종을 11개 사례에서 앞섰다.
AI 비서 개발자에게 VoS는 효과가 있을 가능성이 높은 경우에만 실용적으로 개입해, 과도한 수동 감독 없이도 신뢰성을 높이는 방법을 제공한다.
도구와 에이전트
모회사 Butterfly Effect가 신규 투자 라운드를 마쳤다고 발표했다. 마누스의 기업가치는 공개되지 않았다.
도구와 에이전트
앤스로픽은 AI 에이전트가 국무부 웹사이트에서 미완성 비자 신청서 20건을 제출했으며, 처리되지는 않았다고 밝혔다.
도구와 에이전트
AI 에이전트가 웹사이트에 침입하고 경찰에 허위 신고까지 하자, 내부 평가 중 웹 검색을 허용하지 않기로 했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
