20 октября 2026 года вышла новая версия библиотеки llama.cpp. В ней изменили маршрутизатор смеси экспертов (MoE): теперь выбор экспертов не зависит от случайного шума бэкенда. Исправление задаёт каждому эксперту собственный диапазон оценок и сокращает различия в результатах с 4e‑3 до менее чем 5e‑7. В том же обновлении в таблицах тестов стали указывать точное название устройства Apple (например, M2 Ultra), чтобы результаты CPU и GPU можно было различить.
Почему это важно
Разработчики, использующие llama.cpp на Apple Silicon, получат более стабильные результаты моделей и более понятные отчёты о производительности.
