A equipe ggml-org lançou o llama.cpp b12024, que altera a operação de multiplicação de matrizes do LFM-SC para usar um tensor 2D em vez de um 3D. A página da versão lista downloads para macOS, iOS e várias configurações do Linux, incluindo versões para CPU e Vulkan.
As notas não informam se a mudança para o LFM-SC melhora a velocidade ou afeta outros modelos.
Por que importa
Quem usa o LFM-SC com o llama.cpp pode testar a versão atualizada, mas as notas não comprovam nenhum ganho de desempenho.