Oossa

llama.cpp b11496 accélère le chargement des modèles avec SYCL

La bibliothèque open source llama.cpp a publié la version b11496 le 8 octobre 2026. Elle ajoute un mécanisme de chargement massif des modèles basé sur SYCL et utilisant un tampon circulaire épinglé.

BrèvePar Publié par Oossa: 1 min de lecture

L’équipe ggml‑org a publié llama.cpp b11496 le 8 octobre 2026. Cette mise à jour ajoute une étape SYCL qui fait transiter les chargements massifs de modèles par un tampon circulaire épinglé, accélérant ainsi le chargement sur les GPU compatibles. Des binaires pour macOS (Apple Silicon et Intel), iOS et plusieurs versions d’Ubuntu (CPU, Vulkan, CUDA 12) sont disponibles au téléchargement.

Pourquoi c'est important

Les développeurs peuvent charger plus rapidement de grands modèles de langage sur du matériel compatible avec SYCL, ce qui réduit le temps de démarrage des applications utilisant llama.cpp.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.