Das ggml-org-Team hat llama.cpp aktualisiert: Die Software liest nun LFM2-VL-Tiling-Einstellungen aus den GGUF-Metadaten aus. Dadurch kann das Modell Bilder anhand der in der Modelldatei gespeicherten Werte für min_tiles, max_tiles, tile_size und max_pixels_tolerance in Kacheln aufteilen. Die Veröffentlichung enthält außerdem vorkompilierte Binärdateien für zahlreiche Plattformen – macOS, Linux, Windows und Android – sowie für verschiedene Hardwarebeschleuniger wie CUDA 13, Vulkan und OpenCL.
Warum es wichtig ist
Entwickler können Bildverarbeitungs-LLMs jetzt auf mehr Geräten ausführen, ohne eigenen Code für das Tiling schreiben zu müssen.
