ggml‑org团队更新了llama.cpp,使其能够从GGUF元数据中读取LFM2‑VL分块设置。这样,模型就能根据模型文件中存储的min_tiles、max_tiles、tile_size和max_pixels_tolerance值,将图像拆分为多个图块。此次发布还附带适用于多种平台的预编译二进制文件,包括macOS、Linux、Windows、Android,以及CUDA 13、Vulkan和OpenCL等多种硬件加速平台。
为什么重要
开发者现在可以在更多设备上运行图像处理大语言模型,无需自行编写分块代码。