Oossa

llama.cpp b12171 adapte l’allocation mémoire Vulkan

Cette version de llama.cpp détecte la prise en charge de ReBAR et évite les allocations BAR lorsqu’elle est absente. Des versions compilées sont proposées pour plusieurs systèmes d’exploitation et types de matériel.

BrèvePar Publié par Oossa: 1 min de lecture

L’équipe ggml-org a publié llama.cpp b12171, qui apporte une modification à Vulkan : le logiciel détecte si le système prend en charge ReBAR (Resizable BAR) et évite les allocations BAR dans le cas contraire. La page de la version propose des téléchargements pour macOS, iOS et Linux, notamment des versions CPU et Vulkan pour certaines plateformes.

Les notes de version ne précisent pas quels matériels ou usages verront une différence concrète.

Pourquoi c'est important

Pour les personnes qui utilisent llama.cpp avec Vulkan sur des systèmes sans prise en charge de ReBAR, cette modification vise à éviter les allocations BAR. Les notes de version ne chiffrent pas son effet sur les performances ou l’utilisation de la mémoire.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.