Le projet llama.cpp a publié la préversion b12173, qui ajoute la prise en charge OpenCL des opérations de répétition pour les types f16, i32, i16 et bf16. OpenCL permet d’exécuter des tâches de calcul sur les processeurs et les cartes graphiques compatibles.
La page de la version répertorie des compilations pour plusieurs plateformes, notamment Linux, Windows, macOS, iOS et Android, ainsi que différentes options matérielles et d’accélération. Elle ne précise pas quels appareils ou quelles charges de travail bénéficient le plus de cette modification.
Pourquoi c'est important
Les développeurs qui utilisent llama.cpp avec OpenCL pourraient exécuter des opérations de répétition sur ces quatre types de données, même si les notes de version ne précisent pas quels appareils en bénéficient concrètement.
