Oossa

NVIDIA发布4B参数Dory模型,支持256K上下文

Dory1.0‑4B于2026年10月16日发布,支持循环推理和最长256 000个token的上下文窗口,采用OpenMDW许可协议。

简讯作者: Oossa 发布日期: 1 分钟阅读

NVIDIA在Hugging Face上发布了一款名为Dory1.0‑4B的新型大语言模型。该模型拥有4 billion个参数,可处理最长256 K tokens的上下文。它采用循环式(潜在递归)架构,用户无需重新训练,就能在计算量和准确度之间进行权衡。模型提供多种格式,包括BF16和4‑bit NVFP4;根据OpenMDW‑1.1许可协议,可用于商业或非商业项目。

为什么重要

开发者可以在不同硬件上运行同一款4B参数模型,同时处理超长提示词,从而减少对多款专用模型的需求。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。