Oossa

llama.cpp unterstützt TOP_K_MASK im Vulkan-Backend

Die Open-Source-Bibliothek llama.cpp erweitert ihre Vulkan-Unterstützung um TOP_K_MASK und behebt zugehörige Probleme mit Barrieren und Header-Deklarationen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Projekt ggml-org/llama.cpp hat am 2026-11-13 eine neue Version veröffentlicht. Das Update ergänzt die Operation TOP_K_MASK im Vulkan-GPU-Backend, behebt ein Barrierenproblem im Zusammenhang mit dieser Maske und deklariert die Funktion im gemeinsamen Header. Die Änderungen wurden mit Unterstützung von Claude Opus 5.5 umgesetzt.

Warum es wichtig ist

GPU-Nutzer können beim Inferenzlauf nun Top-k-Maskierung anwenden und so die Auswahl der Tokens genauer steuern.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.