De open-sourcelibrary llama.cpp heeft versie b11500 uitgebracht. De versie bevat direct bruikbare binaries voor macOS op Apple Silicon, macOS op Intel, iOS en verschillende Ubuntu-uitvoeringen (CPU, Vulkan en CUDA). De update verhelpt ook een bug in de verwerking van geheugen op laag niveau (hex-mmadd). De bestanden zijn te downloaden via de GitHub-releasepagina.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp nu op meer apparaten lokaal gebruiken zonder het zelf te hoeven compileren.