Open source-biblioteket llama.cpp släppte version b11706 den 2026-10-17. Uppdateringen åtgärdar ett fel i SYCL-bearbetningen av promptar som uppstod efter att vikterna ordnats om för formaten Q4_0/Q8_0. Den innehåller också nya förbyggda binärpaket för Apple Silicon och Intel på macOS, iOS samt flera Linux-konfigurationer, däribland CPU, Vulkan och CUDA 12.8. Paketen kan laddas ner från versionssidan på GitHub.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp på SYCL-kompatibla GPU:er utan fel vid hantering av promptar, vilket ger fler hårdvarualternativ för lokal användning av stora språkmodeller.
