Oossa

AWS ermöglicht Zugriff auf OpenAI-GPT-6-Modelle aus Kanada

Über Amazon Bedrock können Entwickler in Kanada die neuesten OpenAI-Modelle GPT-5.6, GPT-6 und GPT-6.1 jetzt per regionsübergreifender Inferenz aufrufen.

Von Von Oossa veröffentlicht: 1 Min. Lesezeit

Liana Mikah · Unsplash

AWS hat bekannt gegeben, dass Kunden in den Regionen Canada (Central) und Canada West (Calgary) jetzt die neuesten GPT-Modelle von OpenAI über Amazon Bedrock nutzen können. Die Funktion heißt Cross-Region Inference (CRIS): Sie leitet Anfragen aus einer kanadischen Quellregion an Zielregionen in den USA weiter, in denen die Modelle ausgeführt werden. So erhalten Entwickler in Kanada Zugriff auf GPT-5.6 (Sol, Terra, Luna), GPT-6 (Astra, Sol, Luna) und GPT-6.1 Sol, ohne das AWS-Netzwerk zu verlassen.

Funktionsweise und Verfügbarkeit

Sie senden eine Anfrage an den Bedrock-Runtime-Endpunkt in Ihrer kanadischen Region. Bedrock leitet sie dann je nach gewähltem Inferenzprofil an eine unterstützte US-Region weiter. Es gibt zwei Profiltypen: ein geografisches US-Profil, das den Datenverkehr auf Nordamerika beschränkt, und ein globales Profil, das jede kommerzielle AWS-Region einbezieht. Alle aufgeführten Modelle unterstützen Text- und Bildeingaben, ein Kontextfenster von 1 Million Tokens, den Reasoning-Modus und Tool-Aufrufe. Außerdem unterstützen sie Prompt-Caching, um die Kosten für wiederholte Prompts zu senken.

Es gelten die regulären Preise von Amazon Bedrock. Berechtigungen werden über IAM-Richtlinien erteilt, etwa über die verwaltete Richtlinie AmazonBedrockLimitedAccess oder benutzerdefinierte Richtlinien mit den geringstmöglichen Berechtigungen. Unternehmen, die Service Control Policies verwenden, können CRIS-Datenverkehr zulassen und zugleich direkte Aufrufe anderer Regionen einschränken.

Erste Schritte

Um die Modelle auszuprobieren, benötigen Sie ein AWS-Konto, in dem ca‑central‑1 oder ca‑west‑1 aktiviert ist, eine IAM-Rolle mit bedrock:InvokeModel-Berechtigungen sowie Python 3.9+ mit den Paketen openai, boto3 und aws‑bedrock‑token‑generator. Beispielcode zeigt, wie Sie die OpenAI Responses API, die Chat Completions API oder die Bedrock Converse API aufrufen. Dazu richten Sie den Client auf den regionalen Endpunkt aus und geben die ID des Inferenzprofils an, zum Beispiel „global.openai.gpt‑6‑astra“.

Warum es wichtig ist

Entwickler in Kanada können jetzt generative KI-Anwendungen mit den neuesten OpenAI-Modellen erstellen, ohne auf eine lokale Bereitstellung warten zu müssen. Dabei bleibt die Latenz niedrig, und die Regeln zur Datenresidenz in Nordamerika werden eingehalten. IAM-Berechtigungen müssen weiterhin verwaltet werden; für Produktionsanwendungen kann es außerdem nötig sein, höhere Kontingente für Tokens pro Minute zu beantragen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.