L’équipe ggml-org a publié llama.cpp b12102, qui modifie la façon dont le logiciel vérifie la plage mémoire des vues de tenseur à pas. L’ancien contrôle pouvait rejeter des vues dont les lignes se chevauchaient, même lorsqu’elles restaient dans les limites de la source, tout en autorisant certaines vues à pas plus larges qui dépassaient ces limites.
Les fonctions de vue mises à jour transmettent leurs pas au constructeur de tenseur, qui vérifie les octets effectivement atteints par la vue. La version vérifie également qu’une vue à pas commence par des éléments contigus le long de sa première dimension. Des paquets d’installation sont proposés pour macOS, Linux, Android et Windows, entre autres plateformes.
Pourquoi c'est important
Pour les développeurs qui utilisent llama.cpp, cette vérification révisée peut empêcher des vues de tenseur dépassant les limites de passer la validation ; les notes de version ne chiffrent pas son effet sur les performances des modèles.
