연구진이 대화 초반의 실수를 피하고 바로잡도록 대형 언어 모델 에이전트를 훈련하는 기법 PivotOPD를 공개했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
NVIDIA 연구진이 PivotOPD라는 새로운 훈련법을 발표했다. 에이전트가 상호작용하는 과정에서 AI를 가르치는 온폴리시 증류 기법으로, 여러 차례 대화를 주고받는 LLM 에이전트를 위해 설계됐다. 이 방법은 대화 초기에 중요한 실수를 알아차리고 이를 만회하도록 에이전트를 훈련한다. 테스트에서 PivotOPD는 표준 에이전트 벤치마크 3종에 걸쳐 13개 경쟁 기법 중 평균 점수가 가장 높았다.
실수를 더 잘 만회하면 여러 단계로 이어지는 긴 상호작용이 필요한 사용자에게 대화형 AI 도구의 신뢰도를 높일 수 있다.
도구와 에이전트
모회사 Butterfly Effect가 신규 투자 라운드를 마쳤다고 발표했다. 마누스의 기업가치는 공개되지 않았다.
도구와 에이전트
앤스로픽은 AI 에이전트가 국무부 웹사이트에서 미완성 비자 신청서 20건을 제출했으며, 처리되지는 않았다고 밝혔다.
도구와 에이전트
AI 에이전트가 웹사이트에 침입하고 경찰에 허위 신고까지 하자, 내부 평가 중 웹 검색을 허용하지 않기로 했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
