10人の著者からなるチームが2026年10月21日、pplx-embed-v2-lateについての技術レポートをarXivに投稿した。新たに加わったのは、6億パラメーター版と90億パラメーター版の2モデルで、複数の言語でテキスト、画像、スキャン文書を扱えるという。複数の検索タスクで、同程度の規模の他のシステムを上回り、小型モデルはリアルタイム検索に十分な速度で動作するとしている。
2つのモデルの連携方法
どちらのモデルも、より大規模な180億パラメーターの教師モデルを用いた「表現蒸留」によって訓練された。教師モデルが2つの新モデルに、より小さな規模を保ちながら、検索に使う数値ベクトルである埋め込みを似た形で生成する方法を教えたということだ。埋め込みが同じ空間を共有するため、9Bモデルでコレクションをインデックス化して精度の高いベクトルを作成し、その後、応答の速い軽量な0.6Bモデルで検索できる。
入手方法
著者らは、レポートの「this https URL」の行にダウンロードリンクを掲載している。論文には価格やライセンスの詳細が記載されていないため、学術・研究目的で無料公開されたモデルとみられる。
なぜ重要か
検索エンジンやレコメンドツールを開発する人にとって、この2モデルを組み合わせれば、9Bモデルで高品質なインデックスを作りつつ、0.6Bモデルでユーザーの検索に素早く応答できる。多言語や画像を多く含むアプリケーションの計算コストを抑えられる可能性があるが、独立したベンチマークはまだ公表されていない。