Open source-biblioteket llama.cpp släppte version b11761 den 21 okt. 2026. Uppdateringen rättar NEON-grenen så att konverteringen från fp32 till fp16 nu använder en hårdvaruinstruktion i stället för en programvarulösning. Ändringen lägger också till ett kompileringsfel som fångar liknande avvikelser mellan makron. Enligt versionsinformationen gäller åtgärden macOS på Apple Silicon samt Linux- och Android-enheter med ARM64 respektive ARM.
Varför det spelar roll
Användare med ARM-baserade enheter får snabbare inferens eftersom biblioteket nu använder processorns inbyggda konvertering till halvprecision.
