Un gruppo di ricercatori guidato da Saikiran Bathula ha pubblicato il 15 Oct 2026 un preprint che descrive un vocabolario fisso e compatto per i piccoli modelli linguistici. Nel modello da 270 M in stile Gemma, i ricercatori hanno sostituito la consueta tabella di embedding appresi con un codebook a 512 bit da appena 16 MB, privo di parametri addestrabili. Addestrato con questa tabella, il modello eguaglia o supera quello originale in benchmark come LAMBADA e PIQA, usando molta meno memoria e funzionando 5–6 volte più velocemente su una CPU da laptop.
Perché conta
Gli sviluppatori possono distribuire modelli linguistici piccoli e veloci su dispositivi edge senza sacrificare le prestazioni nelle attività più comuni.
