Oossa

llama.cpp b11818 adiciona entrada tipada para reranking

A versão permite que o servidor aceite conteúdo tipado no endpoint de reranking e retorna erros mais claros para entradas não compatíveis.

NotaPor Publicado pelo Oossa: 1 min de leitura

A versão llama.cpp b11818 adiciona suporte a entradas com conteúdo tipado no endpoint de reranking do servidor. A atualização também rejeita solicitações multimodais de reranking quando o modelo não tem um modelo de chat para reranking, em vez de descartar imagens silenciosamente. Downloads de mídia inválidos ou dados em base64, assim como valores negativos de `top_n`, agora geram um erro 400 em vez de um erro do servidor.

O README também informa que a entrada do TEI aceita o mesmo formato que a do Jina. A versão lista compilações para vários sistemas operacionais e configurações de hardware; a fonte não especifica uma data de lançamento além do horário de publicação.

Por que importa

Desenvolvedores que usam o endpoint de reranking do llama.cpp podem enviar conteúdo tipado. Já as solicitações feitas com modelos sem um modelo de chat para reranking são rejeitadas explicitamente, em vez de terem as imagens ignoradas silenciosamente.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.