Oossa

llama.cpp b12171 ajusta alocação de memória no Vulkan

A versão do llama.cpp detecta o suporte a ReBAR e evita alocações BAR quando ele não está disponível. Há builds para vários sistemas operacionais e tipos de hardware.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml-org lançou o llama.cpp b12171 com uma mudança no Vulkan: o programa detecta se o sistema oferece suporte a ReBAR, ou Resizable BAR, e evita alocações BAR quando esse suporte não está disponível. A página da versão lista builds para download para macOS, iOS e Linux, incluindo versões para CPU e Vulkan em algumas plataformas.

As notas da versão não informam quais hardwares ou cargas de trabalho terão uma diferença prática.

Por que importa

Para quem usa o llama.cpp com Vulkan em sistemas sem suporte a ReBAR, a mudança busca evitar alocações BAR; as notas da versão não quantificam o efeito sobre o desempenho ou o uso de memória.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.