# llama.cpp hoppar över LM-huvudet för poolade inbäddningar

> Versionen som släpptes 13 oktober 2026 innehåller ändringar i beräkningsgrafen som undviker onödiga beräkningar i LM-huvudet när endast poolade inbäddningar behövs.

Oossa · 2026-10-13 · https://oossa.com/sv/llama-cpp-update-skips-lm-head-for-pooled-embeddings

Biblioteket llama.cpp, som underhålls av ggml-org, släppte version b11597 den 13 oktober 2026. Uppdateringen ändrar beräkningsgrafen så att modellen inte längre bygger det stora logitlagret i LM-huvudet när ett sammanhang tar fram poolade inbäddningar. Det minskar minnesanvändningen och snabbar upp inferensen för uppgifter som bara kräver inbäddningar. Ändringen justerar också tillhörande noder i grafen för att bevara samma form.

## Fakta

- Versionsetiketten b11597 publicerades tisdag 13 oktober 2026
- Beräkningsgrafen hoppar nu över LM-huvudets logits när poolningstypen inte är NONE

## Varför det spelar roll

Utvecklare som tar fram inbäddningar kan köra llama.cpp-modeller snabbare och på mindre kraftfull hårdvara.

## Källor och referenser

1. [ggml-org/llama.cpp b11597](https://github.com/ggml-org/llama.cpp/releases/tag/b11597) – llama.cpp, 2026-10-13

Senast uppdaterad: 2026-10-13