El equipo de ggml-org publicó llama.cpp b12050, que incorpora un cambio en Vulkan para mejorar el manejo de cargas de trabajo pequeñas en las tarjetas gráficas AMD RDNA 3 y RDNA 4. Las notas de la versión no incluyen resultados de pruebas comparativas ni cuantifican ninguna mejora de velocidad.
Entre las versiones descargables hay paquetes para macOS, iOS y varias plataformas de CPU Linux.
Por qué importa
Quienes ejecuten llama.cpp en GPU RDNA 3 o RDNA 4 podrían obtener un mejor manejo de las cargas pequeñas, pero las notas de la versión no indican cuánto cambia el rendimiento en la práctica.
