# TRIAGE, Qwen modellerinde 4 bit RL eğitimini kararlı hâle getiriyor

> Araştırmacıların geliştirdiği TRIAGE, 4 bitlik çalışmayı korurken matematik testlerinde tam hassasiyetli performansa ulaşan, güncelleme yönünü dikkate alan bir düzeltme yöntemi.

Oossa · 2026-10-07 · https://oossa.com/tr/triage-method-stabilizes-4-bit-rl-training-for-qwen-models

Zhen Li ve ekibi, TRIAGE adlı yeni tekniği 7 Ekim 2026'da duyurdu. Yöntem, takviyeli öğrenme sırasında politika gradyanı güncellemelerini dengelemek için doğal NVFP4 biçiminde, yani ağırlıklar ve aktivasyonlar için kullanılan 4 bitlik bir formatta çalışıyor. Segment düzeyindeki uyumsuzlukları saptayan yöntem, sınırlı düzeltmeler uygularken düşük hassasiyetli yürütme biçimini değiştirmiyor. Qwen3‑4B ve Qwen3‑30B‑A3B üzerinde yapılan testlerde, beş matematiksel akıl yürütme kıyaslamasında tam hassasiyet düzeyinde kalite korunurken eğitim kararlı seyretti; rollout hızı da BF16'ya kıyasla 2,3 kata kadar arttı.

## Gerçekler

- Etkinlik tarihi: 2026-10-07 ("Wed Oct 07 2026")
- TRIAGE, BF16'ya göre rollout verimini 2,3 kata kadar artırdı

## Neden önemli

Geliştiricilerin büyük dil modellerini doğruluk kaybı yaşamadan 4 bitlik donanımla daha hızlı eğitmesine olanak tanıyarak hesaplama maliyetlerini düşürüyor.

## Kaynaklar ve referanslar

1. [TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning](https://arxiv.org/abs/2610.07043) – arXiv cs.LG, 2026-10-07

Son güncelleme: 2026-10-07
