Oossa

llama.cpp b11977 corregge la gestione delle viste SCALE in OpenVINO

La versione corregge un bug che poteva applicare la scalatura all’intero tensore sorgente anziché a una vista ritagliata, con il rischio di superare i limiti del buffer dei risultati.

BreveDi Pubblicato da Oossa: 1 min di lettura

La versione b11977 di llama.cpp di ggml-org corregge la gestione delle operazioni SCALE sulle viste ritagliate dei tensori nel backend OpenVINO. In precedenza, una vista con stride poteva essere trattata come se fosse il tensore sorgente completo, generando un risultato più grande del previsto e rischiando di mandare in crash i test.

La correzione elabora la vista come una porzione e impedisce di applicare SCALE in-place alle viste non contigue, perché ricopiare il risultato potrebbe sovrascrivere elementi errati. La versione include inoltre build per piattaforme come macOS, Linux, Android e Windows.

Perché conta

Per gli sviluppatori che usano il backend OpenVINO di llama.cpp con input costituiti da viste ritagliate di tensori, questa correzione risolve un caso che poteva mandare in crash i test o scrivere i risultati negli elementi sbagliati.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.