Oossa

llama.cpp supporta il tiling LFM2 e più piattaforme

Il runtime LLM open source legge i parametri di tiling dai file GGUF e offre binari per molte nuove configurazioni di CPU, GPU e sistemi operativi.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il team di ggml‑org ha aggiornato llama.cpp per leggere dai metadati GGUF le impostazioni di tiling di LFM2‑VL. Il modello può così suddividere le immagini in riquadri in base ai valori di min_tiles, max_tiles, tile_size e max_pixels_tolerance memorizzati nel file del modello. La versione include anche binari precompilati per un'ampia gamma di piattaforme: macOS, Linux, Windows, Android e vari acceleratori hardware, tra cui CUDA 13, Vulkan e OpenCL.

Perché conta

Gli sviluppatori possono ora eseguire modelli LLM per l'elaborazione delle immagini su più dispositivi, senza dover scrivere codice personalizzato per il tiling.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.