AWS anunció que GPT‑6 Astra, de OpenAI, ya está disponible con la modalidad UltraFast en Amazon Bedrock. Esta nueva opción está pensada para cargas de trabajo en las que la velocidad es fundamental, como asistentes de programación en tiempo real y agentes interactivos. Según AWS, puede funcionar hasta seis veces más rápido que la API estándar, con un rendimiento de unos 300 tokens por segundo. Los usuarios pueden activarla desde la consola de Bedrock o mediante sus API, sujeto a la disponibilidad regional y los precios.
Por qué importa
Los desarrolladores pueden crear funciones de IA sensibles a la latencia, como asistentes de programación en vivo, que respondan notablemente más rápido.
