Hugging Face는 Qwen3‑4B 채점 모델의 토크나이저를 VocabX로 재구성해 토큰 수와 실행 시간을 줄였다고 밝혔다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Hugging Face는 40억 개 매개변수를 갖춘 Qwen3‑4B 기반 포르투갈어 작문 채점 서비스에서 기존 토크나이저를 VocabX라는 도메인 특화 토크나이저로 교체한 뒤, 평균 응답 길이가 350토큰에서 101토큰으로 줄었다고 밝혔다. 이 변경으로 측정된 추론 비용은 77% 감소했고 채점 품질은 개선됐다. 이 방식은 빈도보다 토큰 비용에 초점을 맞춰 어휘를 재구성하고, 반복되는 JSON 구조를 하나의 매크로 토큰으로 합친다.
소규모 모델을 운영 환경에서 돌리는 기업은 모델을 재학습하지 않고도 더 저렴한 토크나이저를 사용해 지연 시간과 클라우드 비용을 절반으로 줄일 수 있다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
