ggml-org-teamet har uppdaterat llama.cpp så att programmet kan läsa inställningar för LFM2-VL-tiling från GGUF-metadata. Det gör att modellen kan dela upp bilder i rutor utifrån värdena för min_tiles, max_tiles, tile_size och max_pixels_tolerance som lagras i modellfilen. Uppdateringen innehåller också förkompilerade binärer för en rad plattformar – macOS, Linux, Windows, Android och olika hårdvaruacceleratorer, som CUDA 13, Vulkan och OpenCL.
Varför det spelar roll
Utvecklare kan nu köra LLM-modeller för bildbehandling på fler enheter utan att skriva egen kod för bildrutornas uppdelning.
