Biblioteket llama.cpp släppte en ny version den 20 oktober 2026. Den ändrar routern för mixture-of-experts (MoE), så att valet inte längre påverkas av slumpmässigt brus från backend-systemet. Korrigeringen ger varje expert ett eget poängintervall och minskar skillnaderna i utdata från 4e‑3 till under 5e‑7. Uppdateringen lägger också till det faktiska namnet på Apple-enheten (till exempel M2 Ultra) i testtabellerna, så att CPU- och GPU-resultat går att skilja åt.
Varför det spelar roll
Utvecklare som använder llama.cpp på Apple Silicon får jämnare modellutdata och tydligare prestandarapporter.