Oossa

llama.cpp adiciona suporte a tiling do LFM2 e amplia builds

O runtime de LLM de código aberto agora lê parâmetros de tiling em arquivos GGUF e oferece binários para novos alvos de CPU, GPU e sistemas operacionais.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml‑org atualizou o llama.cpp para ler configurações de tiling do LFM2‑VL nos metadados de arquivos GGUF. Assim, o modelo pode dividir imagens em blocos com base nos valores de min_tiles, max_tiles, tile_size e max_pixels_tolerance armazenados no arquivo do modelo. A versão também inclui binários pré-compilados para uma ampla variedade de plataformas — macOS, Linux, Windows, Android — e aceleradores de hardware, como CUDA 13, Vulkan e OpenCL.

Por que importa

Desenvolvedores agora podem executar LLMs de processamento de imagens em mais dispositivos sem precisar criar código personalizado para dividir as imagens em blocos.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.