Команда ggml-org выпустила llama.cpp b12032. Скачать сборки можно для macOS, iOS и ряда систем Linux. В примечаниях к выпуску указано одно изменение в коде: при сборке с SYCL проект теперь использует PkgConfig для поиска заголовочных файлов и библиотек Level Zero. О каких-либо изменениях качества моделей или скорости работы в примечаниях не говорится.
Почему это важно
У разработчиков, собирающих llama.cpp с SYCL, появился ещё один способ находить зависимости Level Zero. В примечаниях к выпуску не уточняется, для каких конфигураций это полезно и повышает ли изменение производительность.