Un gruppo di ricercatori guidato da Hanxin Zhang ha presentato TurboMamba, un’architettura per modelli linguistici che abbina un blocco globale Mamba‑3 a un piccolo Transformer per ciascun blocco di token. La combinazione introduce tre modifiche leggere: accesso diretto all’ultimo token del blocco precedente, una piccola correzione del punteggio e una combinazione appresa delle frequenze dei token recenti. I test sul dataset pubblico FineWeb‑Edu mostrano che TurboMamba supera dodici modelli di riferimento, tra cui Transformer standard e varianti di Mamba‑3, sia in velocità sia in accuratezza.
Perché conta
I ricercatori possono addestrare ed eseguire modelli linguistici più velocemente e a costi inferiori, riducendo la barriera economica per avviare nuovi progetti di IA.
