# llama.cpp får DP4A-kärnor för kvantiserade modeller

> Det öppna inferensbiblioteket LLaMA har nu stöd för cooperative-k DP4A GEMM med formaten q4_0, q4_k och q6_k.

Oossa · 2026-10-19 · https://oossa.com/sv/llama-cpp-adds-opencl-dp4a-kernels-for-quantized-models

Projektet ggml‑org/llama.cpp släppte version b11741 den 2026‑10‑19. Uppdateringen innehåller nya OpenCL-kärnor som använder DP4A-instruktioner för att snabba upp matrismultiplikationer för tre kvantiserade format: q4_0, q4_k och q6_k. Den åtgärdar också ett justeringsproblem och innehåller färdigbyggda binärer för macOS (Apple Silicon och Intel) och flera Ubuntu-versioner, däribland Vulkan-byggen.

## Fakta

- Version b11741 släpptes den 2026‑10‑19
- Lägger till cooperative-k DP4A GEMM för q4_0, q4_k och q6_k

## Varför det spelar roll

Utvecklare kan köra LLaMA-modeller snabbare på OpenCL-kompatibla grafikkort, vilket gör lokal inferens mer praktisk.

## Källor och referenser

1. [ggml-org/llama.cpp b11741](https://github.com/ggml-org/llama.cpp/releases/tag/b11741) – llama.cpp, 2026-10-19

Senast uppdaterad: 2026-10-19