NVIDIA于2026年10月14日宣布推出Nemotron 3.5 Super和Nemotron 3.5 Lightning,并表示将开放模型检查点及配套资料。Super有1200亿个参数,每个token会启用120亿个参数;Lightning是纯文本模型,总参数量为300亿,每个token启用30亿个参数。两款模型都采用混合架构,结合Mamba和Transformer组件,并使用混合专家(Mixture-of-Experts)设计,每个token只会激活模型的一部分参数。
这两款模型面向长文档处理和智能体任务,可用于需要软件调用工具、执行多个步骤的场景。Super支持处理文本、图像、视频,也能与交互式工具协作。NVIDIA称,两款模型的上下文长度最高可达100万token。此次发布还包括BF16和压缩版NVFP4检查点,以及训练和评测方案、数据集和推测解码工具。NVIDIA的公告未说明价格或许可条款。
NVIDIA称Super具备哪些能力
NVIDIA称,经过后训练的Super在软件工程基准测试SWE-bench Pro中得分为51.78%,超过Nemotron 3 Ultra,同时启用的参数量约少4.6倍。该公司还表示,面向智能体的训练使DeepSWE的pass@1从6.4%提升至10.4%。这些是NVIDIA公布的评测结果;随附资料中没有独立验证结果。
该公司介绍了Super背后规模不小的训练过程。模型接受了涵盖22种印度语言和34种语言—文字组合的数据持续训练。NVIDIA称,这使模型在五项受测印度语言基准上的成绩最高提升了9.82个百分点。之后的训练则针对长上下文任务和软件工程。该公司表示,早期训练阶段曾使Super的RULER-1M得分从33.5降至更低水平,最后一个训练阶段又将其恢复至81.0。
表现取决于具体配置
NVIDIA还测试了多个智能体并行运行并自行检查答案的方式。在该公司评测的配置中,这种方式将Terminal-Bench 2.1的成绩从62.7%提升至71.9%,将DeepSWE从24.6%提升至34.5%,并将BrowseComp从71.5%提升至79.8%。这些数字反映的是多智能体方案的表现,并不保证在每种部署环境中都能取得相同结果。
在速度方面,NVIDIA称,在其测试的20轮智能体工作负载中,单块GB200 GPU的输出速度最高可达每秒4,856个token,同时每位用户的速度保持在每秒至少50个token。该公司还表示,其NVFP4版本在36项基准测试中的准确率中位数达到BF16版本的99.62%。这些结果依赖NVIDIA硬件和特定测试配置,不能说明模型在其他系统上的表现。
为什么重要
对研究人员和开发者来说,开放的检查点和配套方案让他们无需从头训练,就能试用这些模型或在其基础上开发。NVIDIA公布的基准测试结果显示,Super或适用于软件工程智能体;但现有资料尚未说明独立评测结果、许可条款,以及实际部署所需的硬件。