Oossa

llama.cpp b11784 corrige falha no Sycl iq3 e traz novos binários

A nova versão do executor de LLMs de código aberto llama.cpp corrige uma falha no Sycl iq3 e oferece novas compilações para macOS, iOS, Linux e CUDA.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml-org lançou a versão b11784 do llama.cpp. Ela inclui uma correção para uma falha no backend Sycl iq3. O lançamento oferece binários pré-compilados para Apple Silicon, Macs com Intel, iOS e várias configurações do Ubuntu, incluindo Vulkan e CUDA 12.8. Os binários estão disponíveis para download na página do lançamento no GitHub.

Por que importa

Os desenvolvedores podem executar o llama.cpp em mais tipos de hardware sem falhas, ampliando o acesso à inferência local de LLMs.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.