Il team ggml-org ha pubblicato la versione b11769 di llama.cpp. L’aggiornamento corregge un bug per cui il router del server non inoltrava correttamente ai processi figli i segnali di disconnessione dei client, con possibili ritardi nell’annullamento delle richieste. La modifica elimina anche un test sensibile alle variazioni temporali. Sono ora disponibili nuovi binari precompilati per macOS con Apple Silicon, macOS con processori Intel, iOS e diverse varianti di Ubuntu.
Perché conta
Gli sviluppatori possono eseguire llama.cpp in locale con un annullamento delle richieste più affidabile, riducendo il calcolo sprecato quando le attività vengono interrotte.
