El equipo de ggml-org lanzó llama.cpp b11623, que incorpora una ruta SIMT implicit GEMM para convoluciones 2D en GPU AMD sin compatibilidad con WMMA. El cambio también omite esta ruta cuando las reducciones son cortas; las notas de la versión no cuantifican su velocidad ni indican qué tarjetas AMD se benefician. Hay compilaciones descargables para macOS, iOS y varias plataformas Linux.
Por qué importa
Para quienes desarrollan con llama.cpp en GPU AMD, esta ruta permite realizar convoluciones cuando no está disponible WMMA, pero las notas no aclaran su impacto en el rendimiento ni qué hardware es compatible.
