Amazon Web Services hat bekannt gegeben, dass das Modell GLM 5.3 von Z.ai (auch bekannt als Zhipu AI) jetzt auf der Bedrock-Plattform verfügbar ist. Das Modell verfügt über 753 Milliarden Parameter und basiert auf einer Mixture-of-Experts-Architektur. Dabei kann es Teile einer Anfrage an spezialisierte Teilmodelle weiterleiten, um effizienter zu arbeiten. Bedrock-Nutzer können GLM 5.3 über dieselben OpenAI-kompatiblen APIs aufrufen, die sie bereits verwenden – ohne eigene Hardware betreiben zu müssen.
Was bietet GLM 5.3?
GLM 5.3 ist auf langwierige Programmieraufgaben und agentengestützte Arbeitsabläufe ausgelegt, bei denen große Mengen an Kontext berücksichtigt werden müssen. Ein Beispiel ist die Überarbeitung einer Codebasis mit Hunderten von Dateien. Z.ai hebt außerdem die starke Leistung im Bereich Cybersicherheit hervor und verweist auf eine Spitzenpunktzahl von 84.5 im CyberGym-Benchmark. Auf Bedrock profitiert das Modell von Prompt-Caching, Inferenz über mehrere Regionen hinweg und drei Servicestufen (Flex, Standard, Priority), mit denen Nutzer Kosten und Latenz gegeneinander abwägen können.
So legen Sie los
Berechtigte Unternehmenskunden können das Modell im Tab „Playground“ der Bedrock-Konsole aktivieren – ganz ohne Code. Entwickler können das Modell über die OpenAI-kompatiblen APIs Responses oder Chat Completions aufrufen oder Bedrocks native Invoke- und Converse-Aufrufe nutzen. Der Blogbeitrag zeigt außerdem ein Python-Beispiel, das mithilfe kurzlebiger AWS-Tokens eine Anfrage zur Überarbeitung von Code an das Modell sendet.
Warum es wichtig ist
Unternehmen können jetzt ein sehr großes Modell für Programmier- und Sicherheitsaufgaben nutzen, ohne GPU-Server kaufen zu müssen. Das senkt die Anfangskosten und vereinfacht die Einhaltung von Compliance-Vorgaben. Das integrierte Prompt-Caching kann bei langwierigen Code-Analysen Latenz und Tokenkosten reduzieren. Das Modell steht allerdings nur berechtigten Unternehmenskonten zur Verfügung; zudem wurden keine Preise genannt. Wie viel sich tatsächlich einsparen lässt, ist daher unklar.
