Un equipo de investigadores encabezado por Hanxin Zhang presentó TurboMamba, un diseño de modelo de lenguaje que combina un bloque global Mamba‑3 con un pequeño Transformer para cada bloque de tokens. La combinación incorpora tres ajustes ligeros: acceso directo al último token del bloque anterior, una pequeña corrección de puntuación y una mezcla aprendida de las frecuencias de los tokens recientes. Las pruebas con el conjunto de datos público FineWeb‑Edu muestran que TurboMamba supera a doce modelos de referencia —incluidos Transformers estándar y variantes de Mamba‑3— tanto en velocidad como en precisión.
Por qué importa
Los investigadores pueden entrenar y ejecutar modelos de lenguaje con mayor rapidez y a menor costo, lo que reduce las barreras económicas para desarrollar nuevos proyectos de IA.
