Oossa

llama.cpp accelera GELU su CPU con la versione b11786

Il runtime open source per LLM aggiorna i calcoli su CPU: le funzioni GELU vengono elaborate in precisione completa senza tabelle di lookup.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il progetto ggml‑org/llama.cpp ha pubblicato la versione b11786 il 2026-10-21. L’aggiornamento introduce nuovi kernel per CPU che calcolano direttamente le funzioni f32 gelu_quick e geglu_quick, eliminando la necessità di una tabella di lookup fp16. Sono stati aggiunti anche test per questi kernel e rimossi i vecchi casi di test inf/nan. Sono ora disponibili per il download binari precompilati per macOS, iOS e diverse distribuzioni Linux.

Perché conta

Gli sviluppatori possono eseguire LLM più velocemente su CPU grazie ai nuovi kernel, che evitano la più lenta tabella di lookup.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.