Oossa

llama.cpp b11847 corrige compilações HIP em novas GPUs AMD

A versão corrige uma incompatibilidade no tipo de operando BF16 que impedia a compilação de projetos HIP para GPUs RDNA3 e RDNA4.

NotaPor Publicado pelo Oossa: 1 min de leitura

O projeto llama.cpp lançou a versão b11847 com uma correção para compilações HIP voltadas às GPUs AMD RDNA3 e RDNA4. A alteração usa vetores `short` de 16 bits para os operandos BF16 passados às instruções matriciais da AMD; os valores permanecem idênticos em nível de bits quando reinterpretados.

A página da versão inclui compilações para Ubuntu x64 com ROCm 10.0. Ela não informa se esses pacotes pré-compilados incluem a correção específica, então talvez seja necessário compilar o código-fonte atualizado.

Por que importa

Desenvolvedores que compilam o llama.cpp com HIP para as gerações de GPUs AMD mencionadas não devem mais encontrar esse erro específico de compilação; a página da versão não confirma quais pacotes pré-compilados incluem a correção.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.