Oossa

llama.cpp får snabbare GELU-kärnor för CPU i b11786

Den öppna LLM-körmiljön uppdaterar CPU-beräkningarna så att GELU-funktioner kan beräknas med full precision utan en uppslagstabell.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet ggml-org/llama.cpp släppte version b11786 den 2026-10-21. Uppdateringen lägger till nya CPU-kärnor som beräknar funktionerna f32 gelu_quick och geglu_quick direkt, utan behov av en fp16-uppslagstabell. Tester för kärnorna har också lagts till, och de gamla testfallen för inf/nan har tagits bort. Förbyggda binärfiler för macOS, iOS och flera Linux-varianter finns nu att ladda ner.

Varför det spelar roll

Utvecklare kan köra LLM:er snabbare på CPU:er eftersom de nya kärnorna slipper den långsammare uppslagstabellen.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.