Oossa

مدل GLM 5.3 از Z.ai به Amazon Bedrock آمد

مدل GLM 5.3 با 753 میلیارد پارامتر، اکنون از طریق APIهای مدیریت‌شده Bedrock برای کارهای برنامه‌نویسی و امنیتی در دسترس است.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

Emile Perron · Unsplash

Amazon Web Services اعلام کرد مدل GLM 5.3 شرکت Z.ai (که با نام Zhipu AI هم شناخته می‌شود) اکنون در پلتفرم Bedrock این شرکت در دسترس است. این مدل 753 میلیارد پارامتر دارد و بر پایه معماری ترکیبیِ متخصصان ساخته شده است؛ یعنی برای افزایش بهره‌وری می‌تواند بخش‌هایی از درخواست را به زیرمدل‌های تخصصی ارجاع دهد. کاربران Bedrock می‌توانند GLM 5.3 را با همان APIهای سازگار با OpenAI که از قبل استفاده می‌کنند فراخوانی کنند، بی‌آنکه خودشان سخت‌افزاری راه‌اندازی کنند.

GLM 5.3 چه قابلیت‌هایی دارد؟

GLM 5.3 برای کارهای برنامه‌نویسی طولانی‌مدت و فرایندهای عامل‌محور تنظیم شده است؛ فرایندهایی که باید حجم زیادی از اطلاعات زمینه‌ای را حفظ کنند، مثل بازآرایی کدبیس‌هایی با صدها فایل. Z.ai همچنین بر عملکرد قوی این مدل در امنیت سایبری تأکید کرده و به امتیاز بالای 84.5 آن در آزمون CyberGym اشاره می‌کند. این مدل در Bedrock از قابلیت ذخیره‌سازی موقت پرامپت‌ها، استنتاج میان‌منطقه‌ای و سه سطح خدماتی Flex، Standard و Priority بهره می‌برد که به کاربران امکان می‌دهد میان هزینه و تأخیر انتخاب کنند.

چطور استفاده از آن را شروع کنیم؟

مشتریان سازمانی واجد شرایط می‌توانند بدون نیاز به کدنویسی، مدل را از زبانه Playground در کنسول Bedrock فعال کنند. توسعه‌دهندگان نیز می‌توانند مدل را با APIهای سازگار با OpenAI، یعنی Responses یا Chat Completions، یا با فراخوانی‌های بومی Bedrock به نام Invoke و Converse اجرا کنند. پست وبلاگی همچنین نمونه‌ای از اسکریپت Python را نشان می‌دهد که با استفاده از توکن‌های موقت AWS، درخواست بازآرایی کد را برای مدل می‌فرستد.

چرا مهم است

اکنون شرکت‌ها می‌توانند بدون خرید سرورهای GPU از یک مدل بزرگ برنامه‌نویسی و امنیتی استفاده کنند؛ در نتیجه هزینه‌های اولیه کاهش می‌یابد و رعایت الزامات انطباق ساده‌تر می‌شود. قابلیت داخلی ذخیره‌سازی موقت پرامپت‌ها می‌تواند در نشست‌های طولانی تحلیل کد، تأخیر و هزینه توکن را کم کند. بااین‌حال، استفاده از مدل به حساب‌های سازمانی واجد شرایط محدود است و جزئیات قیمت‌گذاری اعلام نشده؛ بنابراین میزان دقیق صرفه‌جویی هنوز مشخص نیست.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.