Oossa

llama.cpp ajoute TOP_K_MASK à son backend Vulkan

La bibliothèque open source llama.cpp met à jour sa prise en charge de Vulkan avec la fonctionnalité TOP_K_MASK, corrigeant les barrières associées et les déclarations dans l’en-tête.

BrèvePar Publié par Oossa: 1 min de lecture

Le projet ggml‑org/llama.cpp a publié une nouvelle version le 2026‑11‑13. Cette mise à jour ajoute l’opération TOP_K_MASK au backend GPU Vulkan, corrige un problème de barrière lié à ce masque et déclare la fonction dans l’en-tête commun. Ces changements ont été réalisés avec l’aide de Claude Opus 5.5.

Pourquoi c'est important

Les utilisateurs de GPU peuvent désormais appliquer un masque top-k pendant l’inférence et ainsi mieux contrôler la sélection des jetons.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.