OpenRouterの「Auto」は、リクエストごとにモデルを選び、推論の度合いも調整する汎用ルーターだ。同社は、タスクの難易度やベンチマーク結果、リアルタイムの価格のバランスを取りながら、コスト面で最適なモデルを選ぶことを目指しているとしている。
OpenRouterのページには、コンテキストウィンドウは200万トークンと記載されている。Autoが選択する可能性のあるモデルや、費用の算出方法については説明されていない。
なぜ重要か
OpenRouterの利用者は、モデル選びをAutoに任せられる。ただし、どのモデルが選ばれるのか、リクエストにいくらかかるのかは、ページに記載されていない。