# llama.cpp snabbar upp promptbearbetning på Intel Arc

> Version b11979 innehåller ändringar i SYCL-avkvantiseringen som gav snabbare promptbearbetning i tester på ett Intel Arc Pro B70. Avkodningen gick lika snabbt som tidigare.

Oossa · 2026-10-29 · https://oossa.com/sv/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

Version b11979 av ggml-org/llama.cpp ändrar hur SYCL-kärnorna konverterar flera kvantiserade modellformat på Intel-grafikkort. På ett Arc Pro B70 mätte projektet snabbare promptbearbetning – alltså bearbetning av prompttext – när tensorerna använde en omordnad layout. Förbättringen varierade beroende på format och modell.

Den största rapporterade förbättringen med den metoden var 28.7% för en Q6_K-modell med 27 miljarder parametrar. För MXFP4-modeller av typen mixture-of-experts gick promptbearbetningen 57% till 61% snabbare i det rapporterade testet, även med en ny layout. Avkodningshastigheten var oförändrad. Mätningarna har rapporterats av projektet, och resultaten för perplexitet var oförändrade eller låg inom variationen mellan körningar.

## Fakta

- llama.cpp b11979 rapporterar 28.7% snabbare promptbearbetning för en Q6_K-modell med 27B parametrar på ett Arc Pro B70.
- Promptbearbetningen för MXFP4 MoE förbättrades med 57% vid pp2048 och 61% vid pp512; avkodningen var oförändrad.

## Varför det spelar roll

Den som kör modeller i de här formaten på ett Intel Arc Pro B70 kan få kortare bearbetningstid för promptar. Förbättringen beror dock på modell och layout och gör inte avkodningen snabbare.

## Källor och referenser

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

Senast uppdaterad: 2026-10-29