Oossa

AWS دسترسی کاربران کانادایی به مدل‌های OpenAI GPT‑6 را فراهم کرد

Amazon Bedrock اکنون به توسعه‌دهندگان کانادایی امکان می‌دهد از طریق استنتاج بین‌منطقه‌ای، مدل‌های جدید OpenAI یعنی GPT‑5.6، GPT‑6 و GPT‑6.1 را فراخوانی کنند.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Liana Mikah · Unsplash

AWS اعلام کرد مشتریان در مناطق Canada (Central) و Canada West (Calgary) اکنون می‌توانند از طریق Amazon Bedrock به جدیدترین مدل‌های GPT شرکت OpenAI دسترسی داشته باشند. این قابلیت که «استنتاج بین‌منطقه‌ای» (CRIS) نام دارد، درخواست‌ها را از یک منطقه مبدأ در کانادا به مناطق مقصد در آمریکا هدایت می‌کند؛ جایی که مدل‌ها اجرا می‌شوند. به این ترتیب، توسعه‌دهندگان کانادایی می‌توانند بدون خروج از شبکه AWS از GPT‑5.6 (Sol, Terra, Luna)، GPT‑6 (Astra, Sol, Luna) و GPT‑6.1 Sol استفاده کنند.

نحوه کار و مدل‌های در دسترس

درخواست را به نقطه پایانی Bedrock Runtime در منطقه کانادایی خود می‌فرستید. سپس Bedrock بر اساس پروفایل استنتاجی که انتخاب کرده‌اید، آن را به یکی از مناطق پشتیبانی‌شده در آمریکا ارسال می‌کند. دو نوع پروفایل وجود دارد: پروفایل جغرافیایی آمریکا که ترافیک را در آمریکای شمالی نگه می‌دارد، و پروفایل جهانی که از هر منطقه تجاری AWS استفاده می‌کند. همه مدل‌های فهرست‌شده از ورودی متن و تصویر، پنجره زمینه 1-million-token، حالت استدلال و فراخوانی ابزار پشتیبانی می‌کنند. آن‌ها همچنین از ذخیره‌سازی موقت درخواست‌ها پشتیبانی می‌کنند که هزینه درخواست‌های تکراری را کاهش می‌دهد.

قیمت‌گذاری مطابق نرخ‌های معمول Amazon Bedrock است. دسترسی از طریق سیاست‌های IAM، مانند سیاست مدیریت‌شده AmazonBedrockLimitedAccess یا سیاست‌های سفارشی با حداقل سطح دسترسی لازم، اعطا می‌شود. سازمان‌هایی که از Service Control Policies استفاده می‌کنند می‌توانند ترافیک CRIS را مجاز کنند و در عین حال تماس‌های مستقیم با مناطق دیگر را محدود نگه دارند.

شروع به کار

برای آزمایش مدل‌ها به یک حساب AWS با دسترسی فعال به ca‑central‑1 یا ca‑west‑1، یک نقش IAM با مجوزهای bedrock:InvokeModel و Python 3.9+ به‌همراه بسته‌های openai، boto3 و aws‑bedrock‑token‑generator نیاز دارید. کد نمونه نشان می‌دهد چطور می‌توان با APIهای OpenAI Responses، Chat Completions یا Bedrock Converse تماس گرفت؛ کافی است کلاینت را به نقطه پایانی منطقه‌ای متصل کنید و شناسه پروفایل استنتاج را وارد کنید (برای نمونه، «global.openai.gpt‑6‑astra»).

چرا مهم است

توسعه‌دهندگان کانادایی اکنون می‌توانند بدون انتظار برای راه‌اندازی محلی، با جدیدترین مدل‌های OpenAI اپلیکیشن‌های هوش مصنوعی مولد بسازند، تأخیر را پایین نگه دارند و در چارچوب قواعد محل نگهداری داده‌ها در آمریکای شمالی فعالیت کنند. با این حال، همچنان باید مجوزهای IAM را مدیریت کنند و ممکن است برای بارهای کاری عملیاتی به افزایش سهمیه توکن در دقیقه نیاز داشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.