De llama.cpp-bibliotheek heeft op 20 oktober 2026 een nieuwe versie uitgebracht. De mixture-of-experts-router (MoE) is aangepast, zodat de selectie niet langer afhankelijk is van willekeurige ruis van de back-end. Elke expert heeft nu een eigen scorebereik, waardoor de verschillen in uitvoer zijn teruggebracht van 4e-3 tot minder dan 5e-7. De update vermeldt ook de daadwerkelijke naam van het Apple-apparaat (zoals M2 Ultra) in testtabellen, zodat CPU- en GPU-resultaten van elkaar te onderscheiden zijn.
Waarom het ertoe doet
Ontwikkelaars die llama.cpp op Apple Silicon gebruiken, krijgen consistentere modeluitvoer en duidelijkere prestatierapporten.
