Oossa

llama.cpp-uppdatering åtgärdar buffertöverskrivning

Versionen från 15 okt. 2026 åtgärdar ett fel där parallella trådar skrev utanför en konverteringsbuffert, vilket förbättrar stabiliteten på flerkärniga processorer.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet ggml‑org/llama.cpp släppte version b11633 den 15 okt. 2026. Uppdateringen ändrar hur SET_ROWS allokerar sin konverteringsbuffert, så att varje tråd får eget utrymme. Tidigare skrev trådar utöver den första utanför bufferten, vilket kunde orsaka krascher vid körning med flera trådar. Åtgärden gör att SET_ROWS körs med en uppgift per tråd, så att buffertens storlek motsvarar antalet trådar.

Varför det spelar roll

Utvecklare som använder llama.cpp på flerkärniga processorer får färre krascher när de kör modeller parallellt.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.