L’équipe ggml-org a publié llama.cpp b11849, qui ajoute la prise en charge de l’opération SGN sur Hexagon, l’architecture de processeur de Qualcomm. Selon les notes de version, cette modification inclut la prise en charge de la demi-précision et une optimisation qui utilise le bit de signe.
La version propose également des compilations pour macOS, iOS et Ubuntu, notamment des versions CPU pour x64, arm64 et s390x. Les notes ne précisent pas quels appareils ou types de charges de travail pourraient bénéficier d’un changement concret en matière de vitesse ou de performances.
Pourquoi c'est important
Les développeurs qui utilisent llama.cpp avec du matériel Hexagon peuvent désormais exploiter l’opération SGN, mais les notes de version ne quantifient pas son effet sur les performances des modèles.
