# llama.cpp b12094 versnelt top-k-sampling op Hexagon

> De release van llama.cpp past top-k-sampling aan voor Hexagon-hardware. Door blokken te scannen, hoeft het programma blokken die niet tot de beste resultaten kunnen behoren niet te sorteren. Er zijn geen cijfers over de snelheidswinst.

Oossa · 2026-11-04 · https://oossa.com/nl/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

Het team van ggml-org bracht llama.cpp b12094 uit op November 4, 2026, met een snellere top-k-samplingmethode voor de Hexagon-backend. Bij top-k-sampling wordt tijdens het genereren van tekst gekozen uit de opties met de hoogste scores.

De wijziging is bedoeld voor k-waarden van 2 tot 64 en rijen met meer dan 1,024 items. Blokken die geen van de beste resultaten kunnen bevatten, worden niet gesorteerd. De release vermeldt geen gemeten snelheidswinst.

## De feiten

- De nieuwe methode gebruikt een Hexagon-vector-maxbewerking om blokken van 256 waarden te doorzoeken.
- De methode werkt zowel bij verwerking van één rij als van meerdere rijen.

## Waarom het ertoe doet

Wie llama.cpp op ondersteunde Hexagon-hardware gebruikt, krijgt voor deze workloads een efficiëntere samplingmethode. De release maakt echter niet duidelijk hoeveel sneller die in de praktijk is.

## Bronnen en referenties

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

Laatst bijgewerkt: 2026-11-04