Het ggml‑org-team heeft versie b11672 van llama.cpp uitgebracht. Die bevat vooraf gecompileerde binaries voor macOS op Apple Silicon, macOS op Intel, iOS en verschillende configuraties voor Ubuntu met CPU, Vulkan en CUDA. In de release staat ook een wijziging voor de mtmd-tool lightonocr: die dwingt de langste zijde niet langer op 1540 pixels, maar gebruikt standaard de oorspronkelijke afbeeldingsgrootte.
Waarom het ertoe doet
Ontwikkelaars kunnen LLaMA-modellen nu op meer hardwareconfiguraties draaien zonder de code zelf te hoeven compileren.
