Snowflakeは本日、プライベートプレビュー中のSnowflake Decisionサービスに、snowflake-decision-fastという高速版を追加したと発表した。この新モデルは、カテゴリ、スコア、Yes/Noの確率など、構造化された回答を約300 ms以内に返す。また、Cortex AI Gateway経由でREST APIを公開し、SQL以外のアプリケーションからモデルを直接呼び出せるようにした。同社によると、この速度により、チケットのリアルタイム振り分けや不正チェックなど、低遅延が求められるタスクに対応できる。
なぜ重要か
開発者は、別個の推論パイプラインを構築することなく、サポートツールに即時のAIによる振り分けやスコアリングを追加できる。