Oossa

llama.cpp b11818 unterstützt typisierte Eingaben fürs Reranking

Das Update ermöglicht typisierte Inhalte am Rerank-Endpunkt des Servers und liefert verständlichere Fehlermeldungen bei nicht unterstützten Eingaben.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Mit llama.cpp b11818 können am Rerank-Endpunkt des Servers nun typisierte Inhalte übergeben werden. Außerdem weist das Update multimodale Rerank-Anfragen zurück, wenn das Modell keine Rerank-Chatvorlage hat, statt Bilder stillschweigend zu ignorieren. Bei ungültigen Mediendownloads oder Base64-Daten sowie bei negativen `top_n`-Werten wird jetzt ein Fehler 400 statt eines Serverfehlers zurückgegeben.

Laut README akzeptiert die TEI-Eingabe dasselbe Format wie Jina. Für die Veröffentlichung gibt es Builds für verschiedene Betriebssysteme und Hardwarekonfigurationen; abgesehen vom Veröffentlichungszeitstempel nennt die Quelle kein Veröffentlichungsdatum.

Warum es wichtig ist

Entwickler, die den Rerank-Endpunkt von llama.cpp verwenden, können typisierte Inhalte senden. Bei Modellen ohne Rerank-Chatvorlage erhalten sie eine ausdrückliche Ablehnung, statt dass Bilder stillschweigend ignoriert werden.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.