Oossa

llama.cpp non sovrascrive più gli slot occupati

La versione del 10 ottobre 2026 corregge un bug per cui una nuova richiesta poteva compromettere una generazione in corso sovrascrivendone la cache del prompt.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il progetto llama.cpp ha pubblicato la versione b11552 il 2026‑10‑10. La modifica impedisce a una richiesta di aggiornare la cache del prompt di uno slot già occupato. In precedenza, lo slot veniva sovrascritto e la generazione proseguiva con un contesto errato. Ora lo slot occupato resta invariato e la nuova richiesta attende che si liberi.

Perché conta

Gli sviluppatori che usano llama.cpp riscontreranno meno errori di generazione quando più richieste condividono la stessa memoria GPU.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.