Die Open-Source-Bibliothek für große Sprachmodelle llama.cpp ist in Version b11352 erschienen. Das Update beschleunigt die Maskenerstellung für die Modelle Qwen‑4‑exp und GLM5‑next. Außerdem gibt es neue vorab kompilierte Binärdateien für Apple-Silicon- und Intel-Macs sowie für iOS und verschiedene Linux-Varianten – darunter Versionen mit Vulkan- und CUDA-GPU-Unterstützung.
Warum es wichtig ist
Entwickler können neuere Sprachmodelle auf mehr Plattformen schneller ausführen, ohne den Code selbst kompilieren zu müssen.
