O projeto llama.cpp lançou a versão b11847 com uma correção para compilações HIP voltadas às GPUs AMD RDNA3 e RDNA4. A alteração usa vetores `short` de 16 bits para os operandos BF16 passados às instruções matriciais da AMD; os valores permanecem idênticos em nível de bits quando reinterpretados.
A página da versão inclui compilações para Ubuntu x64 com ROCm 10.0. Ela não informa se esses pacotes pré-compilados incluem a correção específica, então talvez seja necessário compilar o código-fonte atualizado.
Por que importa
Desenvolvedores que compilam o llama.cpp com HIP para as gerações de GPUs AMD mencionadas não devem mais encontrar esse erro específico de compilação; a página da versão não confirma quais pacotes pré-compilados incluem a correção.