Oossa

llama.cpp ganha novos kernels Q8_0 e i8mm para Apple e Linux

A biblioteca de código aberto para inferência de LLaMA agora inclui kernels quantizados mais rápidos para ARM SVE e i8mm, além de novos binários para macOS, iOS e Ubuntu.

NotaPor Publicado pelo Oossa: 1 min de leitura

O projeto llama.cpp lançou a versão b11811 em 22 de outubro de 2026. A atualização inclui kernels GEMV de produto escalar SVE para Q8_0 e kernels GEMM SVE i8mm, que aceleram a inferência de modelos quantizados em CPUs ARM. Já estão disponíveis para download binários pré-compilados para Apple Silicon e Intel no macOS, iOS e várias versões do Ubuntu (CPU, Vulkan e CUDA 12.8).

Por que importa

Desenvolvedores podem executar modelos LLaMA mais rapidamente em hardware ARM recente e em GPUs Linux, sem precisar escrever código personalizado.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.