Oossa

llama.cpp behebt MoE-Routingfehler und unterscheidet Apple-Geräte

Das Release vom 20. Oktober 2026 passt die MoE-Bewertung an und macht auf Apple Silicon CPU- und GPU-Ergebnisse besser unterscheidbar.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Die llama.cpp-Bibliothek hat am 20. Oktober 2026 eine neue Version veröffentlicht. Sie ändert den Mixture-of-Experts-Router (MoE), sodass die Auswahl nicht mehr von zufälligem Rauschen im Backend abhängt. Durch die Korrektur erhält jeder Experte einen eigenen Wertebereich. Dadurch sinken die Abweichungen bei den Ausgaben von 4e‑3 auf unter 5e‑7. Außerdem ergänzt das Update in den Testtabellen den konkreten Namen des Apple-Geräts, etwa M2 Ultra. So lassen sich CPU- und GPU-Ergebnisse voneinander unterscheiden.

Warum es wichtig ist

Entwickler, die llama.cpp auf Apple Silicon nutzen, erhalten konsistentere Modellausgaben und besser nachvollziehbare Leistungsberichte.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.