Oossa

llama.cpp b11769 corrige o tratamento de desconexões

A versão b11769 da biblioteca de código aberto llama.cpp atualiza o roteamento do servidor para cancelar solicitações mais rapidamente e adiciona novas compilações binárias para macOS, Linux e iOS.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml‑org lançou a versão b11769 do llama.cpp. A atualização corrige um bug que impedia o roteador do servidor de repassar por completo aos processos filhos os sinais de desconexão dos clientes, o que podia atrasar o cancelamento das solicitações. A mudança também remove um teste sensível a variações de tempo. Novos binários pré-compilados estão disponíveis para macOS com Apple Silicon, macOS com Intel, iOS e várias versões do Ubuntu.

Por que importa

Desenvolvedores podem executar o llama.cpp localmente com cancelamento de solicitações mais confiável, reduzindo o desperdício de capacidade computacional em tarefas interrompidas.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.