La versione b11818 di llama.cpp aggiunge il supporto ai contenuti tipizzati nell’endpoint di reranking del server. L’aggiornamento rifiuta anche le richieste di reranking multimodale quando il modello non dispone di un template chat per il reranking, invece di ignorare le immagini senza avvisare. I download di contenuti multimediali non validi, i dati base64 non validi e i valori negativi di `top_n` ora restituiscono un errore 400 anziché un errore del server.
Il README specifica inoltre che l’input TEI accetta lo stesso formato di Jina. La versione include build per diversi sistemi operativi e configurazioni hardware; la fonte non indica una data di rilascio, oltre alla data di pubblicazione.
Perché conta
Gli sviluppatori che usano l’endpoint di reranking di llama.cpp possono inviare contenuti tipizzati; chi usa modelli senza un template chat per il reranking riceve un rifiuto esplicito, invece di vedere le immagini ignorate senza avviso.
