NVIDIA가 Hugging Face에 Dory1.0‑4B라는 새 대규모 언어 모델을 공개했습니다. 매개변수는 4 billion개이며, 최대 256 K 토큰의 문맥을 처리할 수 있습니다. 이 모델은 반복형(latent‑recurrent) 아키텍처를 사용해 재학습 없이 연산량과 정확도 사이에서 선택할 수 있습니다. BF16과 4‑bit NVFP4 등 여러 형식으로 제공되며, OpenMDW‑1.1 라이선스에 따라 상업용 또는 비상업용 프로젝트에 사용할 수 있습니다.
왜 중요한가
개발자는 다양한 하드웨어에서 하나의 4B 매개변수 모델을 실행하면서도 매우 긴 프롬프트를 처리할 수 있어, 용도별 모델을 여러 개 마련할 필요를 줄일 수 있습니다.