Projektet llama.cpp har släppt version b11847 med en korrigering för HIP-byggen riktade mot AMD:s RDNA3- och RDNA4-GPU:er. Ändringen använder 16-bitarsvektorer av typen `short` för BF16-operander som skickas till AMD:s matrisinstruktioner. Värdena förblir bitidentiska när de tolkas på nytt.
I versionslistan finns Ubuntu x64-byggen för ROCm 10.0. Det framgår inte om de färdigbyggda paketen innehåller den specifika korrigeringen, så användare kan behöva bygga från den uppdaterade källkoden.
Varför det spelar roll
Utvecklare som bygger llama.cpp med HIP för de angivna generationerna av AMD-GPU:er bör inte längre stöta på just det här kompileringsfelet. Versionslistan bekräftar inte vilka färdigbyggda paket som innehåller korrigeringen.
