ggml-org hat llama.cpp in Version b12224 veröffentlicht. Das Update verhindert, dass Eingabedaten gesendet werden, die das Backend ohnehin nicht ausliest – damit wird ein kleiner Performance-Fehler behoben. Außerdem sind sofort nutzbare Binaries für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS und mehrere Ubuntu-CPU-Varianten enthalten, darunter Unterstützung für s390x und Vulkan. Die Versionshinweise verlinken auf die Downloads und Attestierungen.
Warum es wichtig ist
Entwickler können Llama.cpp jetzt auf mehr Hardware lokal ausführen, ohne es aus dem Quellcode erstellen zu müssen. Das spart Zeit bei der Einrichtung.
