Oossa

llama.cpp b11784 исправляет сбой Sycl iq3 и добавляет сборки

Вышла новая версия опенсорсного движка для запуска LLM llama.cpp — b11784. В ней исправлен сбой в бэкенде Sycl iq3 и появились новые сборки для macOS, iOS, Linux и CUDA.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml‑org выпустила llama.cpp версии b11784. В обновлении исправлен сбой в бэкенде Sycl iq3. Доступны готовые бинарные сборки для Apple Silicon, Mac на Intel, iOS и различных конфигураций Ubuntu, включая Vulkan и CUDA 12.8. Скачать их можно на странице релиза на GitHub.

Почему это важно

Теперь разработчики могут запускать llama.cpp на большем числе устройств без сбоев, расширяя доступ к локальному запуску LLM.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.