Das ggml‑org-Team hat am 2026‑10‑21 llama.cpp Version b11792 veröffentlicht. Mit dem Update wurde der Aufruf set_rows geändert, sodass Daten auf der GPU bleiben können. Das verbessert die Geschwindigkeit für Nutzerinnen und Nutzer mit GPU. Fertig kompilierte Binärdateien sind jetzt für macOS Apple Silicon, macOS Intel, iOS und verschiedene Ubuntu-Versionen verfügbar (CPU, Vulkan, CUDA 12.8). Die Download-Links stehen auf der GitHub-Tag-Seite.
In den Versionshinweisen wird die Änderung als „place d2t by its set_rows use so it can stay on the GPU (#30912)“ aufgeführt.
Warum es wichtig ist
Entwickler können Llama-Modelle auf kompatiblen GPUs schneller ausführen, ohne zusätzliche Datenübertragungen.
