# llama.cpp b12549 verbetert attention-afhandeling voor Inkling2

> De update voegt voor Inkling2 een aparte invoer voor attention met relatieve posities toe en verhelpt problemen met maskers die opnieuw worden gebruikt in modellen met hybride geheugen, waaronder LFM2 en LFM3.

Oossa · 2026-11-19 · https://oossa.com/nl/llama-cpp-b12549-fixes-attention-handling-for-inkling2

Het ggml-org-team heeft llama.cpp b12549 uitgebracht, met aanpassingen aan de afhandeling van attention-maskers voor Inkling2, een model dat door het project wordt ondersteund. De update geeft Inkling2 een aparte invoer die het dense attention-masker en de bias voor relatieve posities op basis van dezelfde cellen opbouwt. Ook is de constructie van maskers voor modellen met hybride geheugen aangepast. Daardoor werd hergebruik van de computationele grafiek met een uniforme cache en flash attention geblokkeerd; dit trof LFM2, LFM3 en Inkling2. De release maakt het bovendien mogelijk om de schaalfactor voor Inkling2’s expertgewichten en de softcap voor de uiteindelijke logits op nul te zetten.

## De feiten

- Release: llama.cpp b12549, gepubliceerd op 19 november 2026.
- De oplossing voor het hergebruik van maskers geldt voor de modellen met hybride geheugen LFM2, LFM3 en Inkling2.

## Waarom het ertoe doet

Voor mensen die deze modellen met hybride geheugen in llama.cpp gebruiken, lossen de aanpassingen een probleem op dat hergebruik van de computationele grafiek met een uniforme cache en flash attention verhinderde. De release notes geven geen cijfers over eventuele snelheidswinst.

## Bronnen en referenties

1. [ggml-org/llama.cpp b12549](https://github.com/ggml-org/llama.cpp/releases/tag/b12549) – llama.cpp, 2026-11-19

Laatst bijgewerkt: 2026-11-19
