Oossa

llama.cpp b12024 atualiza o tratamento de tensores para LFM-SC

A versão muda a forma como o llama.cpp trata uma operação com tensores do LFM-SC e oferece downloads para vários sistemas operacionais e tipos de processador.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml-org lançou o llama.cpp b12024, que altera a operação de multiplicação de matrizes do LFM-SC para usar um tensor 2D em vez de um 3D. A página da versão lista downloads para macOS, iOS e várias configurações do Linux, incluindo versões para CPU e Vulkan.

As notas não informam se a mudança para o LFM-SC melhora a velocidade ou afeta outros modelos.

Por que importa

Quem usa o LFM-SC com o llama.cpp pode testar a versão atualizada, mas as notas não comprovam nenhum ganho de desempenho.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.