La libreria open source llama.cpp ha rilasciato la versione b11761 il 21 ottobre 2026. La correzione interviene sul ramo NEON: la conversione da fp32 a fp16 ora usa l’istruzione hardware anziché una soluzione software alternativa. La modifica aggiunge anche un errore in fase di compilazione per individuare eventuali incongruenze analoghe tra macro. La correzione riguarda i dispositivi Apple Silicon con macOS, quelli con ARM64 e i dispositivi Android con processori ARM indicati nelle note di rilascio.
Perché conta
Gli utenti con dispositivi basati su ARM potranno eseguire inferenze più rapide perché la libreria ora sfrutta la conversione nativa del processore alla precisione dimezzata.