Le projet llama.cpp a publié la version b12027, qui permet le découpage des tenseurs pour les modèles LFM3. La version propose également des téléchargements précompilés pour plusieurs plateformes, notamment macOS, iOS et différentes configurations d’Ubuntu.
Les notes de version ne précisent pas quels modèles LFM3 ni quelles configurations matérielles sont compatibles avec cette nouveauté.
Pourquoi c'est important
Les développeurs qui utilisent LFM3 avec llama.cpp peuvent essayer le découpage des tenseurs, même si les notes de version ne précisent ni les configurations prises en charge ni les bénéfices attendus.
