Oossa

llama.cpp b11972 åtgärdar två buffertgränsbuggar

Versionen från ggml-org begränsar kontrollvektorernas lagerindex och justerar loopar för bildpositioner så att de inte skriver utanför tilldelade buffertar.

NotisAv Publicerad av Oossa: 1 min läsning

Teamet bakom ggml-org har släppt llama.cpp b11972, med åtgärder för två fall där data kunde skrivas utanför tilldelade buffertar. Den ena åtgärden avvisar lagerindex för kontrollvektorer som överstiger modellens antal lager. Den andra ändrar loopar för bildpositioner i flera bildkodare så att de håller sig inom antalet bildpatchar när bildrutnät inte är jämnt delbara med sammanslagningsstorleken. PaddleOCR kräver nu också att bilderna är anpassade till sammanslagningsstorleken när dess graf byggs.

Varför det spelar roll

Den som kör modeller med bildinmatning eller kontrollvektorer kan undvika minneskorruption i de här fallen, även om versionsinformationen inte anger hur ofta de inträffar.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.