De opensourcelibrary llama.cpp heeft op 21 oktober 2026 versie b11761 uitgebracht. De NEON-code is aangepast, zodat de omzetting van fp32 naar fp16 nu de hardware-instructie gebruikt in plaats van een softwarematige fallback. Ook is een foutmelding tijdens het compileren toegevoegd om vergelijkbare verschillen tussen macro's op te sporen. De oplossing geldt voor macOS op Apple Silicon, Linux ARM64 en Android-apparaten met ARM-processors die in de release-opmerkingen worden genoemd.
Waarom het ertoe doet
Gebruikers van ARM-apparaten kunnen modellen sneller uitvoeren doordat de library voortaan de ingebouwde conversie naar halfprecisie van de processor gebruikt.
