Oossa

AWS、カナダからOpenAI GPT-6モデルへのクロスリージョンアクセスを提供

Amazon Bedrockで、カナダの開発者がクロスリージョン推論を通じて最新のOpenAI GPT‑5.6、GPT‑6、GPT‑6.1モデルを呼び出せるようになった。

著者: Oossa公開日: 1 分で読める

Liana Mikah · Unsplash

AWSは、Canada (Central)リージョンとCanada West (Calgary)リージョンの顧客が、Amazon Bedrockを通じてOpenAIの最新GPTモデルを利用できるようになったと発表した。クロスリージョン推論(CRIS)と呼ばれるこの機能は、カナダのソースリージョンから、モデルが稼働する米国の宛先リージョンへリクエストをルーティングする。これにより、カナダの開発者はAWSネットワークの外に出ることなく、GPT‑5.6(Sol、Terra、Luna)、GPT‑6(Astra、Sol、Luna)、GPT‑6.1 Solを利用できる。

仕組みと利用できるモデル

カナダのリージョンにあるBedrock Runtimeエンドポイントにリクエストを送ると、Bedrockは選択した推論プロファイルに基づき、対応する米国のリージョンに転送する。プロファイルは2種類あり、北米内でトラフィックを処理する米国地理プロファイルと、商用AWSリージョンのいずれかを利用するグローバルプロファイルがある。記載されている全モデルが、テキストと画像の入力、100万トークンのコンテキストウィンドウ、推論モード、ツール呼び出しに対応する。また、同じプロンプトを繰り返し使う際のコストを抑えるプロンプトキャッシュも利用できる。

料金はAmazon Bedrockの標準料金に従う。権限は、管理ポリシーのAmazonBedrockLimitedAccessや、カスタムの最小権限ポリシーなど、IAMポリシーで付与する。サービスコントロールポリシーを利用する組織は、他リージョンへの直接呼び出しを制限したまま、CRISのトラフィックを許可できる。

利用を始めるには

モデルを試すには、ca‑central‑1またはca‑west‑1を有効にしたAWSアカウント、bedrock:InvokeModel権限を持つIAMロール、そしてopenai、boto3、aws‑bedrock‑token‑generatorパッケージをインストールしたPython 3.9以降が必要だ。サンプルコードでは、クライアントにリージョンのエンドポイントを指定し、推論プロファイルID(例:「global.openai.gpt‑6‑astra」)を渡して、OpenAI Responses API、Chat Completions API、またはBedrock Converse APIを呼び出す方法を紹介している。

なぜ重要か

カナダの開発者は、現地での提供開始を待たずに最新のOpenAIモデルを使った生成AIアプリを構築でき、レイテンシーを抑えながら北米のデータレジデンシー規則にも準拠できる。IAM権限の管理は引き続き必要で、本番環境のワークロードでは、トークン毎分のクォータ引き上げを申請する必要がある場合もある。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。