# TRIAGE、Qwenの4ビット強化学習を安定化

> 研究チームが、4ビット実行を維持しながら数学ベンチマークでフル精度と同等の性能を実現する、方向を考慮した補正手法「TRIAGE」を発表した。

Oossa · 2026-10-07 · https://oossa.com/ja/triage-method-stabilizes-4-bit-rl-training-for-qwen-models

Zhen Li氏らのチームは2026年10月7日、新手法「TRIAGE」を発表した。この手法は、重みと活性化に4ビット形式を用いるネイティブNVFP4環境で動作し、強化学習における方策勾配の更新を調整する。セグメント単位で不整合を検出して上限付きの補正を適用するため、低精度での実行を変えずに済む。Qwen3‑4BとQwen3‑30B‑A3Bを使ったテストでは、5つの数学的推論ベンチマークで学習の安定性とフル精度相当の品質が確認され、BF16と比べてロールアウト速度が最大2.3倍向上した。

## 事実

- 発表日：2026-10-07（「Wed Oct 07 2026」）
- TRIAGEはBF16と比べてロールアウトのスループットを最大2.3倍向上させた

## なぜ重要か

精度を損なわずに4ビット対応ハードウェアで大規模言語モデルをより速く学習できるため、開発者は計算コストを抑えられる。

## 出典と参考資料

1. [TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning](https://arxiv.org/abs/2610.07043) – arXiv cs.LG, 2026-10-07

最終更新: 2026-10-07
