ggml-org hat am 2026-11-12 Version b12318 von llama.cpp veröffentlicht. Das Update ergänzt einen CUDA-Debug-Bufferpool, mit dem Entwickler mithilfe von compute-sanitizer die Speichernutzung überwachen können. Außerdem enthält es neue vorgefertigte Binärdateien für Apple Silicon, Intel-Macs, iOS sowie mehrere Ubuntu-Konfigurationen mit CPU- und Vulkan-Unterstützung.
Warum es wichtig ist
Entwickler, die LLaMA-Modelle auf NVIDIA-GPUs ausführen, können Speicherprobleme jetzt einfacher aufspüren und so Abstürze während der Inferenz vermeiden.
