Команда ggml‑org выпустила llama.cpp версии b11784. В обновлении исправлен сбой в бэкенде Sycl iq3. Доступны готовые бинарные сборки для Apple Silicon, Mac на Intel, iOS и различных конфигураций Ubuntu, включая Vulkan и CUDA 12.8. Скачать их можно на странице релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать llama.cpp на большем числе устройств без сбоев, расширяя доступ к локальному запуску LLM.