Oossa

В pre-релизе llama.cpp изменены настройки Adreno X2

В b12125 для Adreno X2 и X2E по умолчанию включены несколько операций OpenCL с матрично-векторными вычислениями. Результаты тестов производительности не приводятся.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект llama.cpp опубликовал b12125 в статусе pre-release 5 ноября 2026 года. В нём изменены настройки OpenCL по умолчанию для графических процессоров Adreno X2 и X2E: в частности, на X2 по умолчанию включены операции f32 и q5_K с несколькими столбцами.

Для X2E также по умолчанию выбраны операции проверки с небольшим N в форматах f32 и q5_K и несколькими столбцами. На странице релиза доступны сборки для нескольких платформ, в том числе Windows и Android для устройств Snapdragon, однако результаты тестов производительности не приводятся.

Почему это важно

На устройствах с Adreno X2 или X2E llama.cpp будет использовать другие графические операции по умолчанию, но в примечаниях к релизу не сказано, повлияет ли это на скорость или точность.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.