NVIDIAは、Hugging Faceに新たな大規模言語モデル「Dory1.0‑4B」を追加した。パラメータ数は4 billionで、最大256 Kトークンのコンテキストを扱える。ループ型(潜在再帰型)アーキテクチャを採用しており、再学習せずに計算量と精度のバランスを調整できる。BF16や4‑bit NVFP4など複数の形式で提供され、OpenMDW‑1.1ライセンスのもと、商用・非商用のプロジェクトで利用できる。
なぜ重要か
開発者は、さまざまなハードウェアで単一の4Bパラメータモデルを動かしながら、非常に長いプロンプトにも対応できるため、用途別のモデルを複数用意する必要性を減らせる。