Il progetto ggml‑org/llama.cpp ha pubblicato una nuova versione il 2026-10-21. La versione sostituisce un unico fattore di ridimensionamento globale per le proiezioni down dei modelli mixture-of-experts (MoE) con un fattore applicato a ciascun token di ciascun esperto, usando una riduzione massima POOL_1D. La modifica aggiunge inoltre il supporto al parallelismo tensoriale, gestendo POOL_1D nella logica di suddivisione dello stato. L’aggiornamento include anche pulizie del codice e una struttura di ritorno del ridimensionamento riorganizzata.
Perché conta
Gli sviluppatori che usano modelli MoE possono ora ottenere un ridimensionamento più accurato per ogni token, con possibili miglioramenti delle prestazioni nelle configurazioni multi-GPU.
