A equipe ggml-org lançou o llama.cpp b12032, com versões para download para macOS, iOS e vários sistemas Linux. As notas da versão listam uma única mudança no código: compilações com SYCL tentarão usar o PkgConfig para localizar arquivos de inclusão e bibliotecas do Level Zero. As notas não mencionam mudanças na qualidade dos modelos nem na velocidade de execução.
Por que importa
Quem compila o llama.cpp com SYCL pode contar com mais uma forma de localizar dependências do Level Zero; as notas da versão não especificam quais configurações serão beneficiadas nem se a mudança melhora o desempenho.