A biblioteca de inferência Llama de código aberto chega à versão b11555, corrigindo o suporte a F16C em CPUs AVX2 e disponibilizando novas compilações para macOS, iOS e Linux.
NotaPor OossaPublicado pelo Oossa: 1 min de leitura
A ggml-org lançou a versão b11555 do llama.cpp. A atualização corrige um erro que fazia CPUs AVX2 não usarem o conjunto de instruções F16C, mesmo quando ele estava disponível. A versão também traz novos pacotes binários para macOS Apple Silicon, macOS Intel, iOS e várias configurações do Ubuntu, incluindo suporte a Vulkan e CUDA 12.8.
Desenvolvedores que executam modelos Llama em CPUs compatíveis terão inferência mais rápida, sem precisar aplicar correções manualmente.
Modelos
Estudo da Vals AI mostra que configurações multiagente podem consumir até cinco vezes mais tokens que um único modelo para ganhos mínimos de qualidade.
Modelos
O modelo Odyssey‑3 já cria e executa mundos 3D a partir de comandos de texto. Há uma demonstração online gratuita e inscrições abertas para acesso à API.
Modelos
O novo sistema de revisão da empresa, baseado em três agentes Claude, identificou 73.43% dos erros nas alegações centrais, muito acima do melhor resultado anterior, de 14.81%.
Oossa · Newsletter
A semana em IA, explicada
Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.
