A equipe ggml-org lançou o llama.cpp b11623, que adiciona um caminho SIMT de GEMM implícito para convoluções 2D em GPUs AMD sem suporte a WMMA. A mudança também ignora esse caminho para reduções curtas; as notas da versão não quantificam o ganho de velocidade nem informam quais placas AMD são beneficiadas. Há builds para download para macOS, iOS e várias plataformas Linux.
Por que importa
Para desenvolvedores que executam o llama.cpp em GPUs AMD, a novidade oferece um caminho de convolução quando o WMMA não está disponível, mas as notas não esclarecem o impacto no desempenho nem quais hardwares são compatíveis.
