研究チームが、Pinterestの「Related Pins」機能でおすすめを探すために使われているシステム「PinGER」を発表した。このシステムは、最近傍検索を生成型検索に置き換える。アイテムの表現の中から似たものを探すのではなく、モデルがアイテムを識別するためのトークン列「セマンティックID」を生成する。
論文は、従来のシステムにあったトレードオフに焦点を当てている。従来のシステムでは、ユーザーの行動履歴にある各アイテムを複数のトークンで表していた。入力を一度に処理できる量を示すコンテキストウィンドウが固定されているため、各アイテムを単一の埋め込みで表す場合に比べ、モデルが扱えるアイテム数は少なくなる。PinGERの著者らによると、このシステムは生成結果にセマンティックIDを使いながら、入力する履歴をよりコンパクトにしている。
PinGERはどうやって履歴をコンパクトにするのか？
PinGERは、セマンティックIDのトークンと、アイテムをコンパクトに表す密なトークンを交互に配置する。アテンションマスクにより、後続のアイテムが参照できるのは密なトークンだけになる。著者らによると、これにより学習時にはモデルがセマンティックIDの各位置から学べる一方、推論時にはアイテムごとに1つのトークンを使い、同じ関数を計算できる。これが、固定サイズのコンテキストにユーザーの履歴をより多く収めることを目指す、中心的な変更点だ。
このシステムでは、Pinterestが異なる目標に沿って検索結果を調整することもできる。著者らは、目標に応じた出力、強化学習、そして生成されるIDの接頭辞が繰り返されるのを抑えるペナルティについて説明している。これらを組み合わせることで、表示面ごとの目的に対応し、候補の多様性を高めることを目指す。論文の要旨では、個々のユーザーに対してこうした目標をどう設定するのかは説明されていない。
Related Pinsでは何が変わったのか？
著者らによると、PinGERはPinterestのRelated Pinsに導入され、新しいPinの保存数が3.60%、全体の保存数が0.62%増加した。また、表示面全体のエンドツーエンドのレイテンシが0.7%低下し、置き換えた最近傍検索のコストがなくなったという。これらはシステムの著者らが報告した結果であり、要旨には測定期間やトラフィックの数値は記載されていない。
PinGERのサービング構成は、多くの候補を探索するワイドビーム生成に対応し、デコード対象を有効なアイテムIDに限定する。その後、ホストマシンに保存されたインデックスを使って候補を特定する。論文は、コンパクトな入力、制御された生成、サービング基盤を組み合わせたこの仕組みを、実験室でのテストにとどまらず、すでにレコメンデーション製品で稼働しているシステムの一部として紹介している。
なぜ重要か
Related Pinsを見ている人にとって、保存数が増えたという報告は、おすすめを通じて保存されるPinが増える可能性を示している。一方、測定されたレイテンシの変化は小さい。要旨には結果の測定期間やユーザーごとの違いが記されていないため、個々のユーザーが変化を実感できるかどうかは分からない。
