Le projet llama.cpp a publié la version b11847, qui corrige les builds HIP destinés aux GPU AMD RDNA3 et RDNA4. La modification utilise des vecteurs `short` de 16 bits pour les opérandes BF16 transmis aux instructions matricielles d’AMD ; les valeurs restent identiques au niveau binaire lors de leur réinterprétation.
La liste des versions comprend des builds Ubuntu x64 pour ROCm 10.0. Elle ne précise pas si ces paquets précompilés intègrent le correctif en question ; les utilisateurs devront donc peut-être compiler le projet à partir du code source mis à jour.
Pourquoi c'est important
Les développeurs qui compilent llama.cpp avec HIP pour les générations de GPU AMD concernées ne devraient plus rencontrer cette erreur de compilation précise. La liste des versions ne confirme pas quels paquets précompilés intègrent le correctif.