Amazon Web Services اعلام کرد دو نسخه جدید از مدل زبانی OpenAI اکنون بهطور عمومی در پلتفرم Bedrock این شرکت در دسترساند. نام این مدلها GPT‑6.2 Astra و GPT‑6.2 Sol است. کاربران میتوانند مانند مدلهای قبلی میزبانیشده در AWS، از طریق کنسول Bedrock یا فراخوانی API به آنها دسترسی داشته باشند.
Astra برای کارهایی عرضه شده که به استدلال عمیق یا قضاوت نیاز دارند. بهگفته شرکت، این مدل میتواند به پرسشهای پیچیده کسبوکار پاسخ دهد، کارهای پژوهشی انجام دهد و از پروژههای پیشرفته برنامهنویسی پشتیبانی کند. Astra همچنین حالت «Ultrafast» دارد که تأخیر پاسخ را برای برنامههای تعاملی، مانند دستیارهای برنامهنویسی یا عاملهای بلادرنگ، کاهش میدهد.
Sol برای کارهای پرتکرار و پرحجمی طراحی شده که در آنها سرعت و هزینه اهمیت دارد. اشکالزدایی دستهای کد، تحلیل اسناد و خودکارسازی گردشکارهای چندمرحلهای از کاربردهای معمول آن هستند. هر دو مدل تحت کنترلهای امنیتی و نظارتی AWS اجرا میشوند؛ بنابراین کاربران میتوانند بررسی کنند چه کسی مدل را فراخوانی کرده و چه دادههایی پردازش شدهاند.
تفاوت مدلهای جدید چیست؟
تفاوت اصلی Astra و Sol در موازنه میان عملکرد و قیمت است. حالت Ultrafast در Astra برای تعاملهای کمتأخیر طراحی شده، اما ممکن است هزینه هر توکن آن از Sol بیشتر باشد؛ مدلی که برای پردازش ارزان و پُربازده بهینه شده است. AWS در اطلاعیه خود قیمت دقیق را اعلام نکرده و مشتریان را برای اطلاع از نرخهای منطقهای به مستندات Bedrock ارجاع داده است.
هر دو مدل ورودیهای متنی و تصویری را پشتیبانی میکنند و میتوان آنها را با سرویسهای موجود AWS، مانند Lambda، SageMaker و Step Functions، یکپارچه کرد. این کار ساخت خط لولههای هوش مصنوعی سرتاسری را برای توسعهدهندگان آسانتر میکند، بیآنکه دادهها از AWS خارج شوند.
این تغییر برای توسعهدهندگان چه معنایی دارد؟
برای تیمهایی که از قبل در AWS فعالیت میکنند، اضافهشدن مدلهای GPT‑6.2 نیاز به ساخت حساب جداگانه OpenAI یا مدیریت قراردادهای ابری مستقل را برطرف میکند. آنها اکنون میتوانند تازهترین مدلهای OpenAI را از همان کنسولی فراخوانی کنند که برای ذخیرهسازی، پردازش و تحلیل به کار میبرند.
گزینه Ultrafast به توسعهدهندگان امکان میدهد ابزارهای گفتوگومحوری بسازند که برای کاربران سریع و روان به نظر برسند؛ در مقابل، کسبوکارها میتوانند با Sol کارهای تکراری برنامهنویسی یا ورود داده را با هزینه کمتر خودکار کنند. از آنجا که میزبانی مدلها بر عهده AWS است، سازمانها همچنین از قابلیتهای ثبت رخداد و کنترل دسترسیِ داخلی بهره میبرند که به رعایت الزامات انطباق کمک میکنند.
چرا مهم است
توسعهدهندگان اکنون میتوانند بدون خروج از اکوسیستم AWS از تازهترین مدلهای OpenAI استفاده کنند و مدیریت صورتحساب و امنیت را سادهتر کنند. حالت Ultrafast به برنامههای مشتریمحور امکان پاسخگویی سریعتر میدهد و Sol گزینهای ارزانتر برای خودکارسازی در مقیاس بزرگ فراهم میکند. شرکتها همچنان باید قیمتهای دقیق را بررسی کنند و بسنجند که آیا دقت مدلها نیازهایشان را برآورده میکند یا نه.