# llama.cpp beschleunigt Prefill bei quantisierten Modellen auf Intel-Arc-GPUs

> Release b11979 bringt Änderungen an der SYCL-Dekodierung, die in Tests auf einer Intel Arc Pro B70 das Prefill beschleunigten. Die Decode-Geschwindigkeit blieb unverändert.

Oossa · 2026-10-29 · https://oossa.com/de/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

Mit dem Release ggml-org/llama.cpp b11979 ändert sich, wie die SYCL-Kernels mehrere quantisierte Modellformate auf Intel-GPUs umwandeln. Auf einer Arc Pro B70 maß das Projekt ein schnelleres Prefill – also eine schnellere Verarbeitung des Prompt-Texts –, wenn die Tensoren ein umgeordnetes Layout verwendeten. Wie groß der Leistungsgewinn ausfiel, hing vom Format und Modell ab.

Den größten gemeldeten Zugewinn mit diesem Layout erzielte ein Modell mit 27 Milliarden Parametern im Format Q6_K: 28.7%. Bei MXFP4-Mixture-of-Experts-Modellen verbesserte sich das Prefill im berichteten Test um 57% bis 61%, auch mit einem neu angelegten Layout. Die Decode-Geschwindigkeit blieb unverändert. Die Messwerte stammen vom Projekt; die Perplexitätswerte blieben gleich oder bewegten sich innerhalb der üblichen Schwankungen zwischen den Testläufen.

## Die Fakten

- llama.cpp b11979 meldet für ein Q6_K-Modell mit 27B Parametern auf einer Arc Pro B70 einen Prefill-Zuwachs von 28.7%.
- Das MXFP4-MoE-Prefill verbesserte sich bei pp2048 um 57% und bei pp512 um 61%; die Decode-Geschwindigkeit blieb unverändert.

## Warum es wichtig ist

Wer diese Modellformate auf einer Intel Arc Pro B70 ausführt, kann Prompts möglicherweise schneller verarbeiten. Der Zugewinn hängt jedoch von Modell und Layout ab und beschleunigt nicht das Decoding.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

Zuletzt aktualisiert: 2026-10-29