AWS объявила, что GPT‑6 Astra от OpenAI теперь доступна в режиме UltraFast на Amazon Bedrock. Новый тариф рассчитан на задачи, где скорость особенно важна, например на помощников для программирования в реальном времени и интерактивных агентов. По данным AWS, режим работает до шести раз быстрее стандартного API и обеспечивает скорость около 300 токенов в секунду. Подключить его можно через консоль Bedrock или API — с учетом региональной доступности и цен.
Почему это важно
Разработчики смогут создавать функции ИИ, чувствительные к задержкам, например помощников для написания кода в реальном времени, которые отвечают заметно быстрее.
