llama.cpp b11818では、サーバーの再ランキングエンドポイントが型付きコンテンツ入力に対応しました。また、モデルに再ランキング用チャットテンプレートがない場合、マルチモーダルの再ランキング要求を拒否するようになり、画像が黙って無視されることはなくなりました。メディアのダウンロードやbase64データが無効な場合、または`top_n`の値が負の場合は、サーバーエラーではなく400エラーが返されます。
READMEによると、TEI入力はJinaと同じ形式を受け付けます。このリリースでは、複数のOSとハードウェア構成向けのビルドが提供されています。公開時刻以外にリリース日は明記されていません。
なぜ重要か
llama.cppの再ランキングエンドポイントを使う開発者は型付きコンテンツを送信できるようになり、再ランキング用チャットテンプレートのないモデルを使う場合は、画像が黙って無視されるのではなく、明示的に拒否されるようになりました。
