Fireworks의 실험에 따르면 학습기와 롤아웃 엔진의 계산이 어긋나면 보상이 급락할 수 있다. MoE 모델에서는 계산 정합성을 맞추는 데 추가 과제도 따른다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Fireworks AI는 학습기와 롤아웃 엔진이 토큰 확률을 서로 다르게 계산할 경우 GLM‑5.2 모델의 강화학습 실행에서 20스텝 만에 보상이 무너졌다고 밝혔다. 계산을 일치시키자 KL 발산은 0으로 유지됐고, 25스텝 전체에서 보상도 안정적이었다. 연구팀은 Qwen‑3.5‑MoE 모델에서 전문가 출력값을 합산하는 방식의 작은 차이가 큰 k3 불일치를 일으킨다는 사실도 발견했다. 이는 MoE 라우팅에서 선택 방식뿐 아니라 정밀도도 맞춰야 한다는 점을 보여준다.
학습기와 롤아웃 엔진의 계산을 일치시키면 ML 팀은 비용이 큰 RL 학습 실패를 막고 강화학습을 더 안정적으로 확장할 수 있다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
