llama.cppプロジェクトは、AMDのRDNA3およびRDNA4 GPUを対象とするHIPビルドを修正したバージョンb11847をリリースしました。この変更では、AMDの行列演算命令に渡すBF16オペランドに16ビットの`short`ベクトルを使用します。値を再解釈してもビット列は完全に一致します。
リリース一覧には、ROCm 10.0向けのUbuntu x64ビルドが掲載されています。ただし、これらのビルド済みパッケージに今回の修正が含まれているかは明記されていないため、更新されたソースからビルドする必要がある場合があります。
なぜ重要か
記載された世代のAMD GPU向けにHIPを使ってllama.cppをビルドする開発者は、この特定のコンパイルエラーに遭遇しなくなるはずです。ただし、リリース一覧では、どのビルド済みパッケージに修正が含まれるかは確認できません。