Oossa

llama.cpp adiciona conversão NEON de fp32 para fp16 na versão b11761

A versão lançada em 21 de outubro de 2026 corrige um bug oculto no caminho ARM NEON e habilita a conversão de fp32 para fp16 por hardware, acelerando a inferência no Apple Silicon e em outras CPUs ARM.

NotaPor Publicado pelo Oossa: 1 min de leitura

A biblioteca de código aberto llama.cpp lançou a versão b11761 em 21 de outubro de 2026. A correção ajusta o caminho NEON para que a conversão de fp32 para fp16 use a instrução de hardware, em vez de uma alternativa por software. A mudança também adiciona um erro de compilação para detectar incompatibilidades semelhantes entre macros. A correção se aplica a dispositivos Apple Silicon com macOS, ARM64 com Linux e dispositivos ARM com Android mencionados nas notas da versão.

Por que importa

Quem usa dispositivos com processadores ARM terá inferência de modelos mais rápida, pois a biblioteca passa a usar a conversão nativa de precisão reduzida do processador.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.