Das ggml-org-Team hat llama.cpp in Version b11467 veröffentlicht. Das Update bindet die C-Locale-Funktion (std::setlocale) ein, um die Textverarbeitung zu verbessern. Außerdem gibt es sofort nutzbare Binärdateien für Macs mit Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Varianten (CPU, Vulkan, CUDA). Das passende Paket können Nutzerinnen und Nutzer auf der GitHub-Release-Seite herunterladen.
Warum es wichtig ist
Entwicklerinnen und Entwickler können LLaMA-Modelle nun auf mehr Systemen ausführen, ohne sie selbst kompilieren zu müssen. Das spart Zeit und verringert das Risiko von Einrichtungsfehlern.
