# TRIAGE stabilisiert RL-Training mit 4 Bit für Qwen-Modelle

> Forschende stellen TRIAGE vor: Die richtungsabhängige Korrektur ermöglicht den Betrieb mit 4 Bit und erreicht bei Mathe-Benchmarks die Leistung von Modellen mit voller Präzision.

Oossa · 2026-10-07 · https://oossa.com/de/triage-method-stabilizes-4-bit-rl-training-for-qwen-models

Zhen Li und sein Team haben am 7. Okt. 2026 eine neue Technik namens TRIAGE vorgestellt. Sie arbeitet direkt mit NVFP4, einem 4-Bit-Format für Gewichte und Aktivierungen, und gleicht beim Reinforcement Learning die Policy-Gradient-Updates aus. Die Methode erkennt Abweichungen auf Segmentebene und korrigiert sie in begrenztem Umfang, ohne den Betrieb mit niedriger Präzision zu verändern. Tests mit Qwen3‑4B und Qwen3‑30B‑A3B zeigten ein stabiles Training und die gleiche Qualität wie bei voller Präzision in fünf Benchmarks zum mathematischen Schlussfolgern. Zudem war der Rollout bis zu 2,3-mal schneller als mit BF16.

## Die Fakten

- Ereignisdatum: 2026-10-07 („Mi., 7. Okt. 2026“)
- TRIAGE erzielte beim Rollout einen bis zu 2,3× höheren Durchsatz als BF16

## Warum es wichtig ist

Damit können Entwickler große Sprachmodelle mit 4-Bit-Hardware schneller trainieren, ohne Genauigkeit einzubüßen – und so Rechenkosten sparen.

## Quellen und Referenzen

1. [TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning](https://arxiv.org/abs/2610.07043) – arXiv cs.LG, 2026-10-07

Zuletzt aktualisiert: 2026-10-07