O runtime de LLM de código aberto ganhou novos pacotes pré-compilados para Apple Silicon, Macs Intel, CPUs Ubuntu, Vulkan e CUDA 12.8.
NotaPor OossaPublicado pelo Oossa: Última atualização: 1 min de leitura
A ggml-org publicou a versão b11539 do llama.cpp, um runtime leve para LLMs que funciona em vários dispositivos. Há novos arquivos binários para macOS com Apple Silicon, macOS com processadores Intel, iOS XCFramework e várias compilações para Ubuntu, com suporte a CPU, Vulkan e CUDA 12.8. Os links para download estão na página da versão no GitHub.
Agora, desenvolvedores podem executar o llama.cpp localmente em mais tipos de hardware sem precisar compilá-lo por conta própria.
Modelos
O novo sistema de revisão da empresa, baseado em três agentes Claude, identificou 73.43% dos erros nas alegações centrais, muito acima do melhor resultado anterior, de 14.81%.
Modelos
Usuários gratuitos ficam apenas com o Flash-Lite; assinantes do AI Plus perdem o Pro e mantêm o Flash. Os preços no Brasil começam em R$ 24,99.
Modelos
O novo modelo da Mistral, com um trilhão de parâmetros, marcou 38 em um índice independente, mas custa mais por tarefa do que modelos abertos concorrentes.
Oossa · Newsletter
A semana em IA, explicada
Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.
