Oossa

llama.cpp corrige transferências DMA com grandes strides no Hexagon

A versão b12030 corrige endereços de memória incorretos em uma alternativa de transferência DMA no Hexagon quando os strides chegam a 16 MB ou mais.

NotaPor Publicado pelo Oossa: 1 min de leitura

A versão b12030 do ggml-org/llama.cpp corrige um erro de transferência de memória no Hexagon que afeta strides de 16 MB ou mais. No Hexagon v75 e posteriores, o descritor de DMA armazena o tamanho e os strides das linhas em 24 bits; a alternativa anterior dividia as transferências pelo número de linhas, mas ainda podia truncar strides grandes demais, gerando endereços incorretos. A correção faz uma transferência por linha nesses casos, e a versão inclui dois testes CONT com strides de origem acima de 16 MB.

Por que importa

Para quem usa llama.cpp em hardware Hexagon afetado, a correção deve evitar endereços de memória incorretos durante transferências com strides muito grandes; as notas da versão não informam em quais cargas de trabalho isso ocorre.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.