Googleは、API GatewayがストリーミングAPIに対応し、パブリックプレビューとして提供を開始したと発表しました。新機能はServer-Sent Events、チャンク転送のHTTPレスポンス、WebSocket、gRPCストリーミングに対応し、ストリームは最大1時間開いたままにできます。ゲートウェイ作成時にフラグを1つ指定するだけで有効になり、既存のOpenAPI仕様を変更する必要はありません。プレビューでは、ゲートウェイID、プロジェクト番号、リージョンに基づく予測可能なホスト名もゲートウェイに付与されます。
なぜ重要か
AIを活用したチャットやライブダッシュボードを構築するチームは、モデルの出力を生成と同時に配信しながら、認証、レート制限、ログ記録を維持できます。