Oossa

llama.cpp b11818 ajoute les entrées typées au reranking

Cette version permet au serveur d’accepter des contenus typés sur son point de terminaison de reranking et renvoie des erreurs plus explicites pour les entrées non prises en charge.

BrèvePar Publié par Oossa: 1 min de lecture

La version llama.cpp b11818 prend désormais en charge les contenus typés en entrée sur le point de terminaison de reranking du serveur. Elle rejette également les requêtes multimodales de reranking lorsque le modèle ne dispose pas de modèle de chat pour le reranking, au lieu d’ignorer les images sans le signaler. Les téléchargements de médias invalides, les données base64 incorrectes et les valeurs négatives de `top_n` renvoient désormais une erreur 400 plutôt qu’une erreur serveur.

Le README indique aussi que l’entrée TEI accepte le même format que Jina. La version propose des builds pour plusieurs systèmes d’exploitation et configurations matérielles ; la source ne précise pas de date de sortie au-delà de son horodatage de publication.

Pourquoi c'est important

Les développeurs qui utilisent le point de terminaison de reranking de llama.cpp peuvent envoyer des contenus typés. Si le modèle ne dispose pas d’un modèle de chat pour le reranking, les requêtes sont explicitement rejetées au lieu que les images soient ignorées sans le signaler.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.