Het team van ggml-org heeft llama.cpp bijgewerkt, zodat het LFM2-VL-tilinginstellingen uit GGUF-metadata kan lezen. Daardoor kan het model afbeeldingen opdelen in tegels op basis van de waarden voor min_tiles, max_tiles, tile_size en max_pixels_tolerance die in het modelbestand staan. De release bevat ook voorgecompileerde binaries voor uiteenlopende platforms: macOS, Linux, Windows, Android en diverse hardwareversnellers, zoals CUDA 13, Vulkan en OpenCL.
Waarom het ertoe doet
Ontwikkelaars kunnen imageverwerkende LLM's nu op meer apparaten draaien zonder zelf tilingcode te schrijven.
