새로운 미세 조정 기법은 반사실적 실패 사례를 활용해 로봇 작업의 거짓 성공 예측을 80%에서 약 30%로 낮춘다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
연구진은 기존 로봇 월드 모델에 시뮬레이션으로 만든 실패 사례를 추가하는 기법 CureWM을 공개했다. 성공한 시연을 바탕으로 다른 행동을 구성한 뒤, 시뮬레이션이나 실제 로봇 팔에서 그 결과를 확인하고 검증된 실패 사례로 모델을 미세 조정한다. 학습에 사용하지 않은 LIBERO 작업 484개에서 미세 조정한 모델 4개의 과도한 낙관 예측 비율은 80%에서 30~43%로 낮아졌다. 실제 로봇 테스트에서는 거짓 성공 점수가 90%에서 33%로 떨어졌다.
거짓 성공 예측이 줄면 로봇 계획 시스템이 실제 환경에 배치됐을 때 위험한 행동을 피하는 데 도움이 된다.
모델
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
모델
Mistral의 신규 1조 매개변수 모델은 독립 지수에서 38점을 기록했지만, 경쟁 오픈 모델보다 작업당 비용이 높다.
모델
OpenAI는 AI로 만든 콘텐츠를 실제 언론에 퍼뜨려 허위 보도를 심으려 한 영향력 공작 2건을 공개하고, 관련 계정을 차단했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
