A biblioteca de código aberto para inferência com LLaMA atualiza sua biblioteca HTTP e disponibiliza novas versões para macOS, iOS, Linux e diferentes back-ends de GPU.
NotaPor OossaPublicado pelo Oossa: 1 min de leitura
A equipe ggml-org lançou a versão b11468 do llama.cpp. A atualização eleva a biblioteca cpp-httplib incluída ao pacote para a versão 0.60.0. Também disponibiliza binários pré-compilados para macOS com Apple Silicon, macOS com processadores Intel, iOS e diversas versões do Ubuntu, incluindo compilações para CPU, Vulkan e CUDA 12.8.
Desenvolvedores podem baixar binários do LLaMA prontos para executar em mais plataformas, economizando tempo de compilação.
Modelos
O novo sistema de revisão da empresa, baseado em três agentes Claude, identificou 73.43% dos erros nas alegações centrais, muito acima do melhor resultado anterior, de 14.81%.
Modelos
Usuários gratuitos ficam apenas com o Flash-Lite; assinantes do AI Plus perdem o Pro e mantêm o Flash. Os preços no Brasil começam em R$ 24,99.
Modelos
O novo modelo da Mistral, com um trilhão de parâmetros, marcou 38 em um índice independente, mas custa mais por tarefa do que modelos abertos concorrentes.
Oossa · Newsletter
A semana em IA, explicada
Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.
