Il progetto llama.cpp ha pubblicato la versione b11847, che corregge le build HIP destinate alle GPU AMD RDNA3 e RDNA4. La modifica usa vettori `short` a 16 bit per gli operandi BF16 passati alle istruzioni matriciali di AMD; i valori restano identici a livello di bit quando vengono reinterpretati.
L’elenco della versione include build Ubuntu x64 per ROCm 10.0. Non specifica se questi pacchetti precompilati includano la correzione, quindi potrebbe essere necessario compilare il progetto dal codice sorgente aggiornato.
Perché conta
Gli sviluppatori che compilano llama.cpp con HIP per le generazioni di GPU AMD indicate non dovrebbero più incorrere in questo specifico errore di compilazione; l’elenco della versione non conferma quali pacchetti precompilati includano la correzione.
