Die Open-Source-Bibliothek llama.cpp hat am 22. Okt. 2026 Version b11812 angekündigt. Sie bietet sofort ausführbare Binärdateien für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS und mehrere Ubuntu-Konfigurationen (CPU, Vulkan, CUDA 12). Außerdem enthält die Veröffentlichung Layer-Eingaben für alle Granite-Modelle. Das passende Paket können Nutzer von der GitHub-Veröffentlichungsseite herunterladen.
Warum es wichtig ist
Entwickler können LLMs jetzt auf vielen Desktop- und Mobilgeräten lokal ausführen, ohne einen Cloud-Dienst zu benötigen.
