Oossa

llama.cpp corrige o tratamento de layouts Conv2D no SYCL

A versão b11815 corrige resultados incorretos de Conv2D no SYCL em determinados layouts de tensores e informa que os 2.006 testes de backend passaram.

NotaPor Publicado pelo Oossa: 1 min de leitura

A versão b11815 do projeto llama.cpp corrige o tratamento, pelo backend SYCL, da convolução bidimensional (Conv2D) com entradas e kernels ordenados por canais. Antes, a operação podia ler entradas não contíguas usando deslocamentos incorretos entre elementos e retornar resultados errados sem avisar.

A mudança restringe a operação a entradas e kernels contíguos, em linha com o contrato do backend CUDA, e adiciona uma verificação de contiguidade da entrada. O projeto informa que os testes de Conv2D no SYCL passaram de 16 falhas para nenhuma: os 2.006 testes foram aprovados.

Por que importa

Para quem desenvolve usando o backend SYCL do llama.cpp, a correção resolve um caso em que o Conv2D podia produzir resultados errados sem avisar. No entanto, as notas da versão não especificam quais aplicações ou hardwares podem ser afetados por esse layout.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.