AWS hat angekündigt, dass GPT-6.1 Sol von OpenAI auf Amazon Bedrock im Ultrafast-Modus ausgeführt werden kann. Der neue Modus beschleunigt die Inferenz bei Aufgaben, bei denen es auf kurze Antwortzeiten ankommt, etwa bei Coding-Assistenten in Echtzeit, interaktiven Agenten und Chats mit Kunden. Nutzer können den Modus über die Bedrock-Konsole oder die APIs aktivieren. Laut AWS umfasst der Dienst die üblichen Sicherheits-, Governance- und Audit-Funktionen von Bedrock.
Warum es wichtig ist
Entwickler können schnellere, interaktive KI-Tools entwickeln, ohne eigene Hardware verwalten zu müssen.
