7 октября 2026 года команда Zhen Li представила новый метод TRIAGE. Он работает в формате NVFP4 — с 4-битным представлением весов и активаций — и балансирует обновления градиента политики при обучении с подкреплением. Метод выявляет расхождения на уровне сегментов и корректирует их в заданных пределах, не меняя вычисления в низкой точности. Тесты на Qwen3‑4B и Qwen3‑30B‑A3B показали стабильное обучение и качество на уровне полноточных моделей на пяти математических тестах, а скорость генерации ответов при обучении оказалась до 2,3 раза выше, чем у BF16.
Почему это важно
Метод позволяет разработчикам быстрее обучать большие языковые модели на 4-битном оборудовании без потери точности и экономить вычислительные ресурсы.
