ggml-org hat llama.cpp in Version b11503 veröffentlicht. Das Update hebt die eingebundene cpp-httplib-Bibliothek auf Version 0.60.1 an. Außerdem gibt es neue vorkompilierte Versionen für Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Varianten (CPU, Vulkan und CUDA). Die Dateien stehen auf der GitHub-Release-Seite zum Download bereit.
Warum es wichtig ist
Entwickler können LLMs nun auf mehr Plattformen erstellen und ausführen. Die aktualisierte HTTP-Bibliothek erleichtert zudem die Integration.
