Oossa

llama.cpp b11847 corrige compilaciones HIP en GPU AMD recientes

La versión corrige una incompatibilidad en el tipo de operando BF16 que impedía compilar las versiones HIP para GPU RDNA3 y RDNA4.

BrevePor Publicado por Oossa: 1 min de lectura

El proyecto llama.cpp publicó la versión b11847, que corrige las compilaciones HIP para GPU AMD RDNA3 y RDNA4. El cambio usa vectores `short` de 16 bits para los operandos BF16 que se pasan a las instrucciones matriciales de AMD; al reinterpretarlos, los valores siguen siendo idénticos bit a bit.

La página de la versión incluye compilaciones para Ubuntu x64 con ROCm 10.0. No especifica si esos paquetes precompilados incluyen la corrección concreta, por lo que quizá los usuarios tengan que compilar el código fuente actualizado.

Por qué importa

Los desarrolladores que compilen llama.cpp con HIP para las generaciones de GPU AMD indicadas ya no deberían encontrarse con este error concreto de compilación; la página de la versión no confirma qué paquetes precompilados incluyen la corrección.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.