Oossa

TRIAGE estabiliza el entrenamiento RL de 4 bits para Qwen

Investigadores presentan TRIAGE, una solución que tiene en cuenta la dirección de las actualizaciones y permite mantener la ejecución en 4 bits con un rendimiento comparable al de precisión completa en pruebas de matemáticas.

BrevePor Publicado por Oossa: 1 min de lectura

Zhen Li y su equipo presentaron una nueva técnica llamada TRIAGE el 7 de octubre de 2026. Funciona directamente con NVFP4, un formato de pesos y activaciones de 4 bits, para equilibrar las actualizaciones de gradiente de política durante el aprendizaje por refuerzo. El método detecta discrepancias por segmentos y aplica correcciones acotadas, sin modificar la ejecución de baja precisión. Las pruebas con Qwen3‑4B y Qwen3‑30B‑A3B mostraron un entrenamiento estable y una calidad equivalente a la de precisión completa en cinco pruebas de razonamiento matemático, además de una velocidad de generación de muestras hasta 2,3 veces mayor que con BF16.

Por qué importa

Permite a los desarrolladores entrenar modelos de lenguaje grandes más rápido con hardware de 4 bits sin perder precisión, lo que reduce los costes de computación.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.