Oossa

llama.cpp b11598 добавляет загрузку метаданных YaRN для Laguna

В новой версии llama.cpp появилась поддержка загрузки метаданных YaRN beta для моделей Laguna. Также доступны сборки для нескольких платформ.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml-org выпустила llama.cpp b11598. В этой версии добавлена загрузка метаданных YaRN beta для моделей Laguna. На странице релиза доступны сборки для macOS, iOS и Linux, в том числе версии для Linux с поддержкой CPU и Vulkan.

В примечаниях к релизу не объясняется, как изменение метаданных отразится на работе программы. Там также нет результатов тестов производительности или дополнительных сведений о поддержке моделей Laguna.

Почему это важно

Пользователи, запускающие модели Laguna в llama.cpp, получили версию с загрузкой метаданных YaRN beta, хотя в примечаниях не сказано, каких практических изменений ожидать.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.