Oossa

llama.cpp corregge i trasferimenti DMA con stride elevati su Hexagon

La release b12030 corregge gli indirizzi di memoria errati nel fallback DMA di Hexagon quando gli stride dei trasferimenti raggiungono o superano 16 MB.

BreveDi Pubblicato da Oossa: 1 min di lettura

La release b12030 di ggml-org/llama.cpp corregge un bug nei trasferimenti di memoria su Hexagon che interessa gli stride pari o superiori a 16 MB. Su Hexagon v75 e versioni successive, il descrittore DMA memorizza le dimensioni delle righe e gli stride su 24 bit; il vecchio fallback suddivideva i trasferimenti in base al numero di righe, ma poteva comunque troncare gli stride troppo grandi, causando indirizzi errati. In questi casi, la correzione esegue un trasferimento per riga; la release aggiunge inoltre due test CONT con stride di origine superiori a 16 MB.

Perché conta

Per chi usa llama.cpp su hardware Hexagon interessato, la correzione dovrebbe evitare indirizzi di memoria errati durante i trasferimenti con stride molto elevati; le note della release non specificano quali carichi di lavoro siano interessati.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.