ggml‑org hat llama.cpp in Version b11469 veröffentlicht. Das Update ergänzt einen MUSA-Kernel für den Tile-Lightning-Indexer, zu dem Xiaodong Ye beigetragen hat. Außerdem gibt es sofort nutzbare Builds für Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Konfigurationen (CPU, Vulkan und CUDA). Das passende Paket können Nutzer auf der GitHub-Release-Seite herunterladen.
Warum es wichtig ist
Entwickler können llama.cpp nun lokal auf mehr Hardware ausführen, darunter MUSA-kompatible GPUs, ohne den Quellcode selbst kompilieren zu müssen.