Oossa

llama.cpp v0.13 étend la prise en charge du DMA pour accélérer les opérations binaires

La bibliothèque open source llama.cpp a publié une nouvelle version le 13 oct. 2026, qui étend la diffusion DMA des opérations binaires sur plusieurs plateformes.

BrèvePar Publié par Oossa: 1 min de lecture

L’équipe ggml‑org a publié la version b11580 de llama.cpp le 13 oct. 2026. Cette mise à jour étend la prise en charge du DMA scalaire (accès direct à la mémoire) pour les opérations binaires, avec notamment de nouveaux noyaux pour la répétition et les données complexes. Elle simplifie également les chemins sans DMA et prend en charge les pas non contigus. Ces changements concernent les versions pour CPU, CUDA, Vulkan et NPU Hexagon sous Linux, Windows, macOS et Android. Les développeurs peuvent désormais effectuer plus efficacement des calculs sur les tenseurs sur des appareils allant des puces Apple Silicon aux puces Snapdragon.

Pourquoi c'est important

Les développeurs peuvent exécuter les modèles llama.cpp plus rapidement sur un plus grand éventail de matériel, ce qui réduit le temps d’inférence pour les utilisateurs finaux.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.