Il team di ggml‑org ha aggiornato llama.cpp per leggere dai metadati GGUF le impostazioni di tiling di LFM2‑VL. Il modello può così suddividere le immagini in riquadri in base ai valori di min_tiles, max_tiles, tile_size e max_pixels_tolerance memorizzati nel file del modello. La versione include anche binari precompilati per un'ampia gamma di piattaforme: macOS, Linux, Windows, Android e vari acceleratori hardware, tra cui CUDA 13, Vulkan e OpenCL.
Perché conta
Gli sviluppatori possono ora eseguire modelli LLM per l'elaborazione delle immagini su più dispositivi, senza dover scrivere codice personalizzato per il tiling.