A equipe ggml-org lançou o llama.cpp b12050, com uma mudança no Vulkan voltada a melhorar o processamento de cargas de trabalho pequenas em placas de vídeo AMD RDNA 3 e RDNA 4. As notas da versão não apresentam resultados de benchmarks nem quantificam possíveis ganhos de velocidade.
As versões para download incluem pacotes para macOS, iOS e várias plataformas Linux com CPU.
Por que importa
Quem usa o llama.cpp em GPUs RDNA 3 ou RDNA 4 pode ter um processamento melhor de cargas de trabalho pequenas, mas as notas da versão não informam o impacto no desempenho na prática.
