Oossa

llama.cpp åtgärdar brus i MoE-routing och skiljer på Apple-enheter

Versionen från 20 oktober 2026 justerar poängsättningen i MoE-routern och tydliggör CPU- respektive GPU-namn på Apple Silicon.

NotisAv Publicerad av Oossa: 1 min läsning

Biblioteket llama.cpp släppte en ny version den 20 oktober 2026. Den ändrar routern för mixture-of-experts (MoE), så att valet inte längre påverkas av slumpmässigt brus från backend-systemet. Korrigeringen ger varje expert ett eget poängintervall och minskar skillnaderna i utdata från 4e‑3 till under 5e‑7. Uppdateringen lägger också till det faktiska namnet på Apple-enheten (till exempel M2 Ultra) i testtabellerna, så att CPU- och GPU-resultat går att skilja åt.

Varför det spelar roll

Utvecklare som använder llama.cpp på Apple Silicon får jämnare modellutdata och tydligare prestandarapporter.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.