Oossa

llama.cpp ganha suporte ao VoxCPM2 e fica um pouco mais rápido

O runtime de LLM de código aberto llama.cpp, na versão b12531, passa a oferecer suporte ao voxcpm2 e traz um pequeno ganho de desempenho, além de novos binários para macOS, iOS e Linux.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml-org lançou a versão b12531 do llama.cpp. A atualização adiciona suporte ao formato de modelo voxcpm2 e traz uma ligeira melhoria de velocidade. Também inclui novos binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias versões do Ubuntu. As mudanças estão descritas como “mtmd: support voxcpm2” e incluem algumas correções.

Por que importa

Agora, desenvolvedores podem executar os modelos voxcpm2 mais recentes em mais plataformas, com um pequeno ganho de velocidade.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.