A AWS anunciou que o GPT‑6 Astra, da OpenAI, já está disponível no Amazon Bedrock com o modo UltraFast. A nova opção é voltada a tarefas em que a velocidade é essencial, como assistentes de programação em tempo real e agentes interativos. Segundo a AWS, o modo pode ser até seis vezes mais rápido que a API padrão, com cerca de 300 tokens por segundo. Os usuários podem ativá-lo pelo console do Bedrock ou por suas APIs, sujeito à disponibilidade regional e aos preços.
Por que importa
Desenvolvedores podem criar recursos de IA sensíveis à latência, como assistentes de programação ao vivo, que respondem bem mais rápido.
