ggml‑org hat am 21. Okt. 2026 llama.cpp in Version b11782 veröffentlicht. Das Update behebt einen Serverfehler, durch den usage.completion_tokens bei n > 1 zu niedrig gezählt wurden. Bei der Generierung mehrerer Ausgaben fielen die Token-Nutzungsstatistiken dadurch zu niedrig aus. Die Veröffentlichung umfasst außerdem neue vorkompilierte Binärdateien für Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Versionen (CPU, Vulkan, CUDA).
Warum es wichtig ist
Entwickler erhalten genaue Angaben zum Token-Verbrauch und können so Kosten und Leistung überwachen, wenn sie mehrere Vervollständigungen ausführen.
