Das Projekt ggml‑org/llama.cpp hat am 2026‑10‑19 Version b11741 veröffentlicht. Sie enthält neue OpenCL-Kernels, die DP4A-Instruktionen nutzen, um Matrixmultiplikationen für drei quantisierte Formate (q4_0, q4_k, q6_k) zu beschleunigen. Das Update behebt außerdem ein Ausrichtungsproblem und enthält vorkompilierte Binärdateien für macOS (Apple Silicon und Intel) sowie mehrere Ubuntu-Versionen, darunter Vulkan-Builds.
Warum es wichtig ist
Entwickler können LLaMA-Modelle auf OpenCL-kompatiblen GPUs schneller ausführen. Dadurch wird die lokale Inferenz praktischer.
