L’équipe ggml-org a publié llama.cpp b12024. Cette version modifie le remodelage des opérations de multiplication matricielle pour LFM-SC : elles utilisent désormais un tenseur 2D plutôt qu’un tenseur 3D. La page de la version propose des téléchargements pour macOS, iOS et plusieurs configurations Linux, notamment des versions pour CPU et Vulkan.
Les notes ne précisent pas si cette modification pour LFM-SC améliore la vitesse ni si elle a un effet sur d’autres modèles.
Pourquoi c'est important
Les personnes qui utilisent LFM-SC avec llama.cpp peuvent essayer cette nouvelle version, mais les notes ne permettent pas de conclure à un gain de performances.
