AWS a annoncé que GPT-6.1 Sol d’OpenAI peut fonctionner en mode Ultrafast sur Amazon Bedrock. Ce nouveau mode accélère l’inférence pour les tâches où le temps de réponse est essentiel, comme les assistants de programmation en temps réel, les agents interactifs et les chatbots destinés aux clients. Les utilisateurs peuvent l’activer depuis la console Bedrock ou via ses API. AWS indique que le service comprend les fonctionnalités habituelles de Bedrock en matière de sécurité, de gouvernance et d’audit.
Pourquoi c'est important
Les développeurs peuvent créer des outils d’IA interactifs plus rapides sans avoir à gérer leur propre matériel.
