Библиотека с открытым исходным кодом llama.cpp выпустила версию b11761 21 октября 2026 года. В ней исправлена ветка NEON: преобразование fp32 в fp16 теперь выполняется аппаратной инструкцией, а не программным обходным путём. Также добавлена ошибка компиляции, которая поможет выявлять похожие несоответствия макросов. Исправление распространяется на Apple Silicon с macOS, устройства с Linux ARM64 и Android на ARM, перечисленные в примечаниях к релизу.
Почему это важно
На устройствах с ARM инференс моделей будет быстрее: библиотека теперь использует встроенную в процессор аппаратную конвертацию в формат половинной точности.
