AWSは、OpenAIのGPT-6.1 SolをAmazon Bedrockで「Ultrafast」モードで実行できるようになったと発表した。この新モードは、リアルタイムのコーディング支援、対話型エージェント、顧客向けチャットなど、応答速度が重要なタスクの推論を高速化する。ユーザーはBedrockのコンソールまたはAPIから有効にできる。AWSによると、このサービスにはBedrockの標準的なセキュリティ、ガバナンス、監査機能が備わっている。
なぜ重要か
開発者は自前でハードウェアを管理することなく、より高速で対話性の高いAIツールを構築できる。