AlphaSenseは、生成検索がCerebrasの高速推論チップ上で動作するようになったと発表した。この提携により、最初のトークンが返るまでの時間は19.5秒から2.3秒へと88%短縮され、システムは最短10~20秒で回答の初期結果を提示できる。モデル処理の高速化により、AlphaSenseは計画立案、検索先の振り分け、抜粋の評価といった複数段階の調査ワークフローを維持しながら、対話的な操作感を実現する。
なぜ重要か
アナリストは、数時間ではなく数分で根拠に基づく回答を得られるため、決算説明会や市場調査について、より速く分析を重ねられる。