L’équipe ggml-org a publié llama.cpp b11623, qui ajoute une voie GEMM implicite SIMT pour les convolutions 2D sur les GPU AMD sans prise en charge de WMMA. Cette voie est également désactivée pour les réductions courtes ; les notes de version ne chiffrent pas le gain de vitesse et ne précisent pas quelles cartes AMD en bénéficient. Des versions téléchargeables sont proposées pour macOS, iOS et plusieurs plateformes Linux.
Pourquoi c'est important
Pour les développeurs qui utilisent llama.cpp sur des GPU AMD, cette nouveauté ajoute une voie de convolution lorsque WMMA n’est pas disponible. Les notes ne précisent toutefois ni son impact sur les performances ni le matériel pris en charge.
