Zhen Li团队于2026年10月7日发布了一种名为TRIAGE的新技术。它在原生NVFP4格式(4位权重与激活值格式)下运行,可在强化学习过程中平衡策略梯度更新。该方法会在片段级别识别偏差,并进行有界修正,同时保持低精度运算方式不变。在Qwen3‑4B和Qwen3‑30B‑A3B上的测试显示,训练过程稳定,在五项数学推理基准测试中达到全精度质量,推理展开速度最高可达BF16的2.3倍。
为什么重要
开发者可以借助4位硬件更快地训练大型语言模型,同时不损失准确度,从而节省计算成本。
研究人员推出TRIAGE,通过感知更新方向的修正,在保持4位运算的同时,让数学基准测试表现达到全精度水平。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
Zhen Li团队于2026年10月7日发布了一种名为TRIAGE的新技术。它在原生NVFP4格式(4位权重与激活值格式)下运行,可在强化学习过程中平衡策略梯度更新。该方法会在片段级别识别偏差,并进行有界修正,同时保持低精度运算方式不变。在Qwen3‑4B和Qwen3‑30B‑A3B上的测试显示,训练过程稳定,在五项数学推理基准测试中达到全精度质量,推理展开速度最高可达BF16的2.3倍。
开发者可以借助4位硬件更快地训练大型语言模型,同时不损失准确度,从而节省计算成本。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。