Oossa

llama.cpp b11977 corrige o tratamento de views pelo OpenVINO

A versão corrige um erro que podia aplicar a escala ao tensor de origem inteiro, em vez de a uma view fatiada, e ultrapassar o buffer de resultado.

NotaPor Publicado pelo Oossa: 1 min de leitura

A versão b11977 do llama.cpp, do ggml-org, corrige o tratamento de operações SCALE em views fatiadas de tensores pelo backend OpenVINO. Antes, uma view com stride podia ser tratada como o tensor de origem inteiro, gerando um resultado maior que o esperado e podendo causar falhas nos testes.

A correção processa a view como um recorte e rejeita operações SCALE in-place em views não contíguas, nas quais copiar o resultado de volta poderia gravar nos elementos errados. A versão também lista builds para plataformas como macOS, Linux, Android e Windows.

Por que importa

Para desenvolvedores que usam o backend OpenVINO do llama.cpp com entradas de tensores fatiadas, essa correção resolve um caso que poderia causar falhas nos testes ou gravar resultados nos elementos errados.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.