L’équipe ggml-org a mis à jour llama.cpp afin qu’il lise les paramètres de tiling de LFM2-VL dans les métadonnées GGUF. Le modèle peut ainsi répartir les images en tuiles selon les valeurs de min_tiles, max_tiles, tile_size et max_pixels_tolerance enregistrées dans le fichier du modèle. Cette version inclut également des binaires précompilés pour de nombreuses plateformes — macOS, Linux, Windows et Android — ainsi que pour divers accélérateurs matériels, notamment CUDA 13, Vulkan et OpenCL.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter des LLM de traitement d’images sur davantage d’appareils sans avoir à écrire de code personnalisé pour le tiling.
