모델이 스스로를 학습시키는 새 후처리 학습 기법으로, MATH 벤치마크에서 토큰 사용량을 6.5배 줄였다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Perplexity와 NVIDIA 연구진이 교사와 학생 역할을 함께 수행하는 강화학습 기법 JOLT를 발표했다. 이 방식은 주요 학습 단계가 끝난 뒤 하나의 모델이 교사이자 학생으로 작동하도록 학습시킨다. MATH 벤치마크에서 JOLT는 GRPO와 같은 정확도를 내면서 학습 토큰을 6.5배 적게 사용했다. 이는 모델 구조를 바꾸지 않고도 효율성을 높일 수 있음을 보여준다.
연구진은 더 적은 비용으로 모델을 미세 조정할 수 있어, 연산 자원이 제한된 연구소도 고성능 수학 추론 모델을 더 쉽게 개발할 수 있다.
비즈니스
중국 AI 기업 DeepSeek가 약 150억 달러를 조달해 해외 진출과 기업공개(IPO) 가능성에 힘을 보탰다.
비즈니스
바이트댄스·알리바바·텐센트가 합법적으로 들여올 수 있는 대체 제품을 찾고 있습니다. 엔비디아 생산량이 주문 수요를 따라가지 못할 전망입니다.
비즈니스
메타가 추론 엔진 두 종의 PyTorch 네이티브 버전을 통해 구글 자체 칩으로 AI 작업을 처리하고 있다. 다만 발표에는 도입 규모나 이용 가능성에 관한 구체적인 내용이 거의 없다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
