ggml-org har släppt llama.cpp version b12340. Uppdateringen åtgärdar en sårbarhet för server-side request forgery (SSRF) i CORS-proxyn och medie-URL:er. Den innehåller också förbyggda binärfiler för macOS med Apple Silicon, macOS med Intel, iOS samt flera CPU- och Vulkan-konfigurationer för Ubuntu. Filerna kan hämtas från versionssidan på GitHub.
Utvecklare kan nu köra den uppdaterade körmiljön utan den tidigare rapporterade SSRF-sårbarheten och får tillgång till färdiga binärfiler för fler plattformar.
Varför det spelar roll
Utvecklare kan driftsätta llama.cpp-servrar säkrare och enklare köra modellen på macOS-, iOS- och Ubuntu-system.