Вышла версия llama.cpp b11847 с исправлением сборки HIP для GPU AMD RDNA3 и RDNA4. Теперь для операндов BF16, передаваемых матричным инструкциям AMD, используются 16-битные векторы `short`; при интерпретации векторов значения остаются побитово идентичными.
В списке релиза указаны сборки для Ubuntu x64 с ROCm 10.0. Не уточняется, содержат ли эти готовые пакеты именно это исправление, поэтому пользователям, возможно, придётся собрать программу из обновлённого исходного кода.
Почему это важно
Разработчики, собирающие llama.cpp с HIP для указанных поколений GPU AMD, больше не должны сталкиваться с этой конкретной ошибкой компиляции. В списке релиза не указано, какие готовые пакеты содержат исправление.
