GoogleのEmbeddingGemma 2は、テキスト、コード、画像、動画、音声に対応する、検索・情報取得向けのオープンウェイトモデルだ。Googleによると、これらを共通の768次元空間にマッピングするため、開発者はメディアの種類ごとに別々の埋め込み空間を維持せずに、複数の種類をまたいで検索できる。このモデルはApache 2.0ライセンスのもと、Hugging Faceで公開されている。
開発者は必要なエンコーダーだけを読み込める。モデルの規模は、テキストとコード向けの2億7,000万パラメーターから、完全なマルチモーダル対応の7億4,000万パラメーターまである。メモリーを節約するためにベクトルの次元数を減らすこともできるが、Googleの報告では、128次元にすると画像、動画、音声の検索品質は約75%まで低下する。
なぜ重要か
ローカル検索を構築する開発者は、1つのモデルで文書やメディアを横断して検索できる。一方、ストレージ節約のためにベクトルを小さくすると、テキスト以外の検索結果の品質が下がる可能性がある。記事には独立したテスト結果は示されていない。