Il progetto ggml‑org llama.cpp ha pubblicato la versione b11800 il 2026-10-21. L’aggiornamento introduce un’operazione top‑k mask fusa (ggml_top_k_mask), utilizzabile dai modelli QSA, DSA e DeepSeek V4 CSA. L’operazione sostituisce il codice di masking scritto su misura con un singolo nodo che imposta a –inf le celle non selezionate. Funziona per ogni head e può gestire punteggi facoltativi, dimensioni dei blocchi e celle aggiuntive.
Perché conta
Gli sviluppatori possono eseguire più velocemente i modelli supportati, perché la libreria gestisce il masking in un’unica operazione ottimizzata.
