Oossa

AWS ger kanadensare åtkomst till OpenAI:s GPT‑6-modeller

Amazon Bedrock låter nu utvecklare i Kanada använda de senaste modellerna OpenAI GPT‑5.6, GPT‑6 och GPT‑6.1 via inferens mellan regioner.

Av Publicerad av Oossa: 1 min läsning

Liana Mikah · Unsplash

AWS meddelade att kunder i regionerna Canada (Central) och Canada West (Calgary) nu kan använda OpenAI:s senaste GPT-modeller via Amazon Bedrock. Funktionen, som kallas inferens mellan regioner (CRIS), skickar anrop från en kanadensisk källregion till målregioner i USA där modellerna körs. Det ger kanadensiska utvecklare tillgång till GPT‑5.6 (Sol, Terra, Luna), GPT‑6 (Astra, Sol, Luna) och GPT‑6.1 Sol utan att lämna AWS-nätverket.

Så fungerar det och det här finns tillgängligt

Du skickar en begäran till Bedrock Runtime-slutpunkten i din kanadensiska region. Bedrock vidarebefordrar den sedan till en region i USA som stöds, utifrån den inferensprofil du väljer. Det finns två typer av profiler: en geografisk USA-profil (som håller trafiken inom Nordamerika) och en global profil (som kan använda vilken kommersiell AWS-region som helst). Alla modeller som listas stöder text- och bildinmatning, ett kontextfönster på 1 miljon token, resonemangsläge och verktygsanrop. De stöder också promptcachelagring, vilket sänker kostnaden för återkommande prompter.

Prissättningen följer Amazon Bedrocks standardpriser. Behörigheter tilldelas via IAM-policyer, till exempel den hanterade policyn AmazonBedrockLimitedAccess eller anpassade policyer med minsta möjliga behörighet. Organisationer som använder Service Control Policies kan tillåta CRIS-trafik och samtidigt begränsa direkta anrop till andra regioner.

Kom igång

För att testa modellerna behöver du ett AWS-konto där ca‑central‑1 eller ca‑west‑1 är aktiverad, en IAM-roll med behörigheten bedrock:InvokeModel samt Python 3.9+ med paketen openai, boto3 och aws‑bedrock‑token‑generator. Exempelkod visar hur du anropar OpenAI Responses API, Chat Completions API eller Bedrock Converse API genom att ange den regionala slutpunkten för klienten och tillhandahålla inferensprofilens ID (till exempel ”global.openai.gpt‑6‑astra”).

Varför det spelar roll

Kanadensiska utvecklare kan nu bygga appar med generativ AI och de senaste OpenAI-modellerna utan att vänta på en lokal driftsättning, med låg fördröjning och inom reglerna för datalagring i Nordamerika. De behöver fortfarande hantera IAM-behörigheter och kan behöva begära högre kvoter för token per minut inför produktionsdrift.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.