Das ggml‑org-Team hat llama.cpp in Version b12259 veröffentlicht. Das Update ergänzt die Unterstützung für das Vision-Modell Kimi K3.1 und korrigiert die Vorverarbeitung für K2.5 und K3.1. Vorab kompilierte Binärdateien gibt es für macOS (Apple Silicon und Intel), iOS sowie mehrere Ubuntu-Versionen.
Warum es wichtig ist
Entwickler können Kimi Vison-Modelle jetzt lokal auf gängigen Desktop- und Mobilplattformen ausführen, ohne Cloud-Dienste zu nutzen.