В выпуске b12089 проекта llama.cpp от команды ggml-org добавлена поддержка моделей Metis-1.6. Также можно скачать сборки для macOS, iOS и Linux; некоторые версии для Linux адаптированы под разные процессоры. В примечаниях к выпуску не уточняется, какие именно модели Metis-1.6 поддерживаются, и не описаны изменения производительности.
Почему это важно
Пользователи моделей Metis-1.6, возможно, смогут запускать их в llama.cpp, однако в примечаниях к выпуску не указано, какие именно модели и конфигурации поддерживаются.
