Teamet bakom ggml-org har publicerat llama.cpp version b11465. Den innehåller förbyggda binärfiler för macOS med Apple Silicon (arm64), macOS med Intel (x64), iOS och flera Ubuntu-varianter (CPU, Vulkan och CUDA 12.8). Uppdateringen innehåller också en teständring som bevarar ankaret vid testning av återkommande rollback. Alla filer kan laddas ner från versionssidan på GitHub.
Varför det spelar roll
Utvecklare kan nu köra stora språkmodeller lokalt på fler typer av hårdvara utan att behöva kompilera koden själva.
