새 ORL 프레임워크는 4B 확산 모델의 품질을 유지하면서 디코딩 속도를 높여 단일 GPU에서 초당 5,000토큰 이상을 구현한다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Yifan Yu가 이끄는 연구진은 확산 언어 모델을 위한 온폴리시 잔차 학습 기법 ORL을 공개했다. ORL은 모델이 자체 예측 경로를 학습하도록 하고, 출력을 더 선명하게 만드는 엔트로피 수축 손실을 추가한다. Qwen3‑4B를 변환한 4 B 모델에 ORL을 적용한 결과, 순전파당 토큰 수는 최대 6.2배, 전체 처리량은 약 6.9배 늘었으며 자기회귀 모델과 비슷하거나 더 나은 품질을 보였다. 같은 기법을 LLaDA‑2.1‑mini에 적용했을 때는 속도가 1.5배 향상됐고, DiffusionGemma에서는 소폭 개선됐다.
개발자는 소비자용 GPU에서 더 빠르고 품질 높은 텍스트 생성을 구현할 수 있어 챗봇 같은 애플리케이션의 비용과 지연 시간을 줄일 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
