Oossa

AWS ontsluit OpenAI GPT-6-modellen via andere regio’s voor Canada

Ontwikkelaars in Canada kunnen via cross-region inference nu de nieuwste OpenAI-modellen GPT-5.6, GPT-6 en GPT-6.1 aanroepen in Amazon Bedrock.

Door Gepubliceerd door Oossa: 1 min lezen

Liana Mikah · Unsplash

AWS heeft aangekondigd dat klanten in de regio’s Canada (Central) en Canada West (Calgary) nu de nieuwste GPT-modellen van OpenAI kunnen gebruiken via Amazon Bedrock. De functie heet cross-region inference (CRIS) en stuurt verzoeken vanuit een Canadese bronregio door naar bestemmingsregio’s in de VS, waar de modellen draaien. Zo krijgen Canadese ontwikkelaars toegang tot GPT-5.6 (Sol, Terra, Luna), GPT-6 (Astra, Sol, Luna) en GPT-6.1 Sol, zonder het AWS-netwerk te verlaten.

Zo werkt het en dit is beschikbaar

Je stuurt een verzoek naar het Bedrock Runtime-eindpunt in je Canadese regio. Bedrock stuurt het vervolgens door naar een ondersteunde regio in de VS, op basis van het inference-profiel dat je kiest. Er zijn twee soorten profielen: een profiel voor de VS (houdt het verkeer binnen Noord-Amerika) en een wereldwijd profiel (maakt gebruik van elke commerciële AWS-regio). Alle genoemde modellen ondersteunen tekst- en afbeeldingsinvoer, een contextvenster van 1 miljoen tokens, redeneermodus en het aanroepen van tools. Ze ondersteunen ook prompt caching, om de kosten van herhaalde prompts te verlagen.

De standaardtarieven van Amazon Bedrock zijn van toepassing. Toegang wordt verleend via IAM-beleidsregels, zoals het beheerde beleid AmazonBedrockLimitedAccess, of via aangepaste beleidsregels met minimale rechten. Organisaties die Service Control Policies gebruiken, kunnen CRIS-verkeer toestaan en tegelijk rechtstreekse aanroepen naar andere regio’s beperken.

Aan de slag

Om de modellen uit te proberen, heb je een AWS-account nodig waarop ca‑central‑1 of ca‑west‑1 is ingeschakeld, een IAM-rol met bedrock:InvokeModel-machtigingen en Python 3.9+ met de pakketten openai, boto3 en aws‑bedrock‑token‑generator. Voorbeeldcode laat zien hoe je de OpenAI Responses API, Chat Completions API of Bedrock Converse API kunt aanroepen door de client naar het regionale eindpunt te laten verwijzen en de ID van het inference-profiel mee te geven (bijvoorbeeld ‘global.openai.gpt‑6‑astra’).

Waarom het ertoe doet

Canadese ontwikkelaars kunnen nu generatieve AI-apps bouwen met de nieuwste OpenAI-modellen, zonder te wachten op een lokale implementatie. Daarbij blijft de latentie laag en wordt voldaan aan regels voor gegevensopslag binnen Noord-Amerika. Ze moeten nog wel de IAM-machtigingen beheren en voor productie mogelijk een hogere limiet voor tokens per minuut aanvragen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.