Oossa

llama.cpp b12419 muda o tratamento de strings de parada vazias

A versão orienta o servidor do llama.cpp a ignorar strings de parada vazias. Também oferece compilações para download para vários sistemas operacionais e tipos de processador.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe ggml-org lançou o llama.cpp b12419 com uma mudança no servidor: agora, ele ignora strings de parada vazias. Essas strings são sequências de texto que indicam ao modelo quando encerrar uma resposta.

A página da versão lista compilações para macOS, iOS e Linux, incluindo versões para CPU e Vulkan em alguns sistemas Linux.

Por que importa

Quem executa o servidor do llama.cpp pode fornecer strings de parada vazias sem que o servidor as trate como sequências de parada; as notas da versão não explicam outras mudanças de comportamento.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.