Die Open-Source-Bibliothek llama.cpp ist am 1. Oktober 2026 in Version b11323 erschienen. Sie umfasst kompilierte Binaries für macOS auf Apple Silicon und Intel, iOS sowie mehrere Ubuntu-Konfigurationen, darunter CPU-, Vulkan- und CUDA-Builds. In den Versionshinweisen wird eine HIP-Anpassung für CDNA-GPUs erwähnt. Die Binaries stehen auf der GitHub-Release-Seite zum Download bereit.
Warum es wichtig ist
Entwickler können llama.cpp nun lokal auf mehr Geräten ausführen, darunter Macs mit Apple Silicon und Ubuntu-Rechner mit GPU-Beschleunigung.
