Oossa

llama.cpp accélère ses calculs GELU sur CPU avec la version b11786

Ce moteur open source pour LLM met à jour ses calculs sur CPU afin d’exécuter les fonctions GELU en pleine précision, sans table de correspondance.

BrèvePar Publié par Oossa: 1 min de lecture

Le projet ggml‑org/llama.cpp a publié la version b11786 le 2026-10-21. Cette mise à jour ajoute de nouveaux noyaux CPU qui calculent directement les fonctions f32 gelu_quick et geglu_quick, sans recourir à une table de correspondance fp16. Des tests pour ces noyaux ont également été ajoutés, tandis que les anciens cas de test inf/nan ont été supprimés. Des binaires précompilés pour macOS, iOS et plusieurs distributions Linux sont désormais disponibles au téléchargement.

Pourquoi c'est important

Les développeurs peuvent exécuter des LLM plus rapidement sur CPU, car ces nouveaux noyaux évitent la table de correspondance, plus lente.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.