L’équipe ggml-org a publié llama.cpp b12050, qui apporte une modification à Vulkan visant à améliorer la gestion des petites charges de travail sur les cartes graphiques AMD RDNA 3 et RDNA 4. Les notes de version ne fournissent aucun résultat de benchmark et ne chiffrent pas le gain de vitesse.
Des versions téléchargeables sont proposées pour macOS, iOS et plusieurs plateformes Linux avec processeur.
Pourquoi c'est important
Les personnes qui utilisent llama.cpp sur un GPU RDNA 3 ou RDNA 4 pourraient bénéficier d’une meilleure gestion des petites charges de travail, mais les notes de version ne précisent pas l’ampleur du changement de performances en pratique.
