Oossa

llama.cpp получила поддержку VoxCPM2 и небольшое ускорение

В версии b12531 среды выполнения LLM с открытым исходным кодом llama.cpp появилась поддержка VoxCPM2 и небольшое повышение производительности. Также вышли новые бинарные сборки для macOS, iOS и Linux.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml-org выпустила llama.cpp версии b12531. Обновление добавляет поддержку формата модели VoxCPM2 и немного повышает скорость работы. В него также вошли новые готовые бинарные сборки для macOS на Apple Silicon, macOS на Intel, iOS и нескольких версий Ubuntu. В списке изменений указаны «mtmd: поддержка voxcpm2» и несколько исправлений.

Почему это важно

Теперь разработчики могут запускать новые модели voxcpm2 на большем числе платформ и получить небольшое ускорение.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.