Oossa

llama.cpp ganha kernels GELU mais rápidos para CPU na versão b11786

O runtime de LLMs de código aberto atualiza os cálculos matemáticos na CPU para processar funções GELU em precisão total, sem tabela de consulta.

NotaPor Publicado pelo Oossa: 1 min de leitura

O projeto ggml‑org/llama.cpp lançou a versão b11786 em 2026-10-21. A atualização traz novos kernels de CPU que calculam diretamente as funções f32 gelu_quick e geglu_quick, eliminando a necessidade de uma tabela de consulta fp16. Também foram adicionados testes para esses kernels, e os antigos casos de teste inf/nan foram removidos. Já estão disponíveis para download binários pré-compilados para macOS, iOS e várias distribuições do Linux.

Por que importa

Os desenvolvedores podem executar LLMs mais rapidamente em CPUs porque os novos kernels dispensam a tabela de consulta, que é mais lenta.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.