Zhen Li ve ekibi, TRIAGE adlı yeni tekniği 7 Ekim 2026'da duyurdu. Yöntem, takviyeli öğrenme sırasında politika gradyanı güncellemelerini dengelemek için doğal NVFP4 biçiminde, yani ağırlıklar ve aktivasyonlar için kullanılan 4 bitlik bir formatta çalışıyor. Segment düzeyindeki uyumsuzlukları saptayan yöntem, sınırlı düzeltmeler uygularken düşük hassasiyetli yürütme biçimini değiştirmiyor. Qwen3‑4B ve Qwen3‑30B‑A3B üzerinde yapılan testlerde, beş matematiksel akıl yürütme kıyaslamasında tam hassasiyet düzeyinde kalite korunurken eğitim kararlı seyretti; rollout hızı da BF16'ya kıyasla 2,3 kata kadar arttı.
Neden önemli
Geliştiricilerin büyük dil modellerini doğruluk kaybı yaşamadan 4 bitlik donanımla daha hızlı eğitmesine olanak tanıyarak hesaplama maliyetlerini düşürüyor.
