ggml-org-teamet har släppt llama.cpp version b12361. Uppdateringen flyttar MOE-cachekoden från den interna grafhanteringen och innehåller nya förbyggda binärer för macOS (Apple Silicon och Intel), iOS och flera Ubuntu-varianter, däribland CPU- och Vulkan-versioner. En macOS-binär för Apple Silicon med KleidiAI är listad, men är för närvarande inaktiverad. Alla filer kan laddas ner från versionssidan på GitHub.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp lokalt på fler plattformar utan att bygga från källkod, vilket gör det snabbare att testa och experimentera.
