Das Team von ggml-org hat llama.cpp in Version b11297 veröffentlicht. Die Version unterstützt nun in Arrays umgewandelte Attribute in Jinja-Templates und enthält neue vorgefertigte Binärdateien für macOS (Apple Silicon und Intel), iOS sowie verschiedene Ubuntu-Versionen (CPU, Vulkan und CUDA). Der Download ist über die GitHub-Seite verfügbar.
Warum es wichtig ist
Entwickler können nun vielseitigere Jinja-Templates verwenden und für mehr Plattformen sofort einsatzbereite Binärdateien herunterladen. Das verkürzt die Einrichtungszeit.