Oossa

TRIAGE方法让Qwen模型的4位强化学习训练更稳定

研究人员推出TRIAGE,通过感知更新方向的修正,在保持4位运算的同时,让数学基准测试表现达到全精度水平。

简讯作者: Oossa 发布日期: 1 分钟阅读

Zhen Li团队于2026年10月7日发布了一种名为TRIAGE的新技术。它在原生NVFP4格式(4位权重与激活值格式)下运行,可在强化学习过程中平衡策略梯度更新。该方法会在片段级别识别偏差,并进行有界修正,同时保持低精度运算方式不变。在Qwen3‑4B和Qwen3‑30B‑A3B上的测试显示,训练过程稳定,在五项数学推理基准测试中达到全精度质量,推理展开速度最高可达BF16的2.3倍。

为什么重要

开发者可以借助4位硬件更快地训练大型语言模型,同时不损失准确度,从而节省计算成本。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。