Projektet llama.cpp släppte version b11552 den 2026-10-10. Ändringen hindrar en begäran från att uppdatera promptcachen för en plats som redan används. Tidigare skrevs den upptagna platsen över, vilket fick genereringen att fortsätta med fel kontext. Nu lämnas den upptagna platsen oförändrad och den nya begäran får vänta tills platsen blir ledig.
Varför det spelar roll
Utvecklare som använder llama.cpp får färre genereringsfel när flera begäranden delar på samma GPU-minne.