# TRIAGE stabiliseert RL-training in 4-bit voor Qwen-modellen

> Onderzoekers introduceren TRIAGE, een correctiemethode die rekening houdt met de richting van updates. Zo blijft uitvoering in 4-bit mogelijk, met prestaties op wiskundebenchmarks die gelijk zijn aan die van full precision.

Oossa · 2026-10-07 · https://oossa.com/nl/triage-method-stabilizes-4-bit-rl-training-for-qwen-models

Zhen Li en zijn team brachten op Oct 7 2026 een nieuwe techniek uit, TRIAGE genaamd. Die werkt binnen native NVFP4, een 4-bitformaat voor gewichten en activaties, om updates van policy gradients tijdens reinforcement learning in balans te brengen. De methode spoort afwijkingen op segmentniveau op en corrigeert die binnen begrensde marges, zonder de uitvoering in lage precisie te veranderen. Tests met Qwen3‑4B en Qwen3‑30B‑A3B lieten stabiele training en kwaliteit op het niveau van full precision zien op vijf benchmarks voor wiskundig redeneren. De rolloutsnelheid lag daarbij tot 2.3 keer hoger dan bij BF16.

## De feiten

- Datum van het evenement: 2026-10-07 ("Wed Oct 07 2026")
- TRIAGE behaalde tot 2.3× meer rolloutdoorvoer dan BF16

## Waarom het ertoe doet

Hiermee kunnen ontwikkelaars grote taalmodellen sneller trainen op 4-bit-hardware, zonder verlies van nauwkeurigheid. Dat bespaart rekenkosten.

## Bronnen en referenties

1. [TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning](https://arxiv.org/abs/2610.07043) – arXiv cs.LG, 2026-10-07

Laatst bijgewerkt: 2026-10-07