Oossa

Uppdatering av llama.cpp hindrar överskrivning av upptagna platser

Versionen från 10 oktober 2026 åtgärdar en bugg där en ny begäran kunde förstöra en pågående generering genom att skriva över dess promptcache.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet llama.cpp släppte version b11552 den 2026-10-10. Ändringen hindrar en begäran från att uppdatera promptcachen för en plats som redan används. Tidigare skrevs den upptagna platsen över, vilket fick genereringen att fortsätta med fel kontext. Nu lämnas den upptagna platsen oförändrad och den nya begäran får vänta tills platsen blir ledig.

Varför det spelar roll

Utvecklare som använder llama.cpp får färre genereringsfel när flera begäranden delar på samma GPU-minne.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.