Oossa

OpenAIのGPT‑6 Astra、Amazon BedrockでUltraFastモード開始

AWSがGPT‑6 Astra向けの高速化プラン「UltraFast」の提供を開始。最大6倍の推論速度を実現し、毎秒300トークンに達するとしている。

短信OossaOossa公開日: 1 分で読める

AWSは、OpenAIのGPT‑6 AstraがAmazon BedrockでUltraFastモードを利用できるようになったと発表した。この新しいプランは、リアルタイムのコーディングアシスタントや対話型エージェントなど、速度が重要なワークロードを対象としている。AWSによると、標準APIの最大6倍の速度で動作し、毎秒約300トークンを生成できる。ユーザーはBedrockのコンソールまたはAPIから有効にできるが、地域ごとの提供状況や料金が適用される。

なぜ重要か

開発者は、ライブのコード支援ツールなど、応答の速さが求められるAI機能を、体感できるほどすばやく応答するよう構築できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。