Oossa

AWS ने Amazon Bedrock पर जोड़ा Z.ai का GLM 5.3 मॉडल

753 अरब पैरामीटर वाला GLM 5.3 मॉडल अब Bedrock के प्रबंधित API के ज़रिए कोडिंग और सुरक्षा संबंधी कामों के लिए उपलब्ध है।

लेखक: Oossa द्वारा प्रकाशित: अंतिम अपडेट: 1 मिनट पढ़ना

Emile Perron · Unsplash

Amazon Web Services ने घोषणा की है कि Z.ai (जिसे Zhipu AI के नाम से भी जाना जाता है) का GLM 5.3 मॉडल अब उसके Bedrock प्लेटफ़ॉर्म पर उपलब्ध है। इस मॉडल में 753 अरब पैरामीटर हैं और इसे मिक्सचर-ऑफ़-एक्सपर्ट्स सिस्टम के रूप में बनाया गया है। इसका मतलब है कि बेहतर दक्षता के लिए यह अनुरोध के कुछ हिस्सों को विशेष उप-मॉडलों के पास भेज सकता है। Bedrock के उपयोगकर्ता उन्हीं OpenAI-संगत API के ज़रिए GLM 5.3 का इस्तेमाल कर सकते हैं जिनका वे पहले से उपयोग करते हैं—उन्हें खुद कोई हार्डवेयर चलाने की ज़रूरत नहीं है।

GLM 5.3 में क्या खास है?

GLM 5.3 को लंबे समय तक चलने वाले कोडिंग कार्यों और ऐसे एजेंट-आधारित वर्कफ़्लो के लिए तैयार किया गया है जिनमें बड़ी मात्रा में संदर्भ बनाए रखना पड़ता है। मसलन, सैकड़ों फ़ाइलों में फैले कोड बेस को नए सिरे से व्यवस्थित करना। Z.ai ने साइबर सुरक्षा में इसके बेहतर प्रदर्शन पर भी ज़ोर दिया है और CyberGym बेंचमार्क पर 84.5 के शीर्ष स्कोर का हवाला दिया है। Bedrock पर इस मॉडल को प्रॉम्प्ट कैशिंग, क्रॉस-रीजन इन्फ़रेंस और सेवा के तीन स्तरों (Flex, Standard, Priority) का लाभ मिलता है। इन स्तरों से उपयोगकर्ता लागत और प्रतिक्रिया समय के बीच अपनी ज़रूरत के मुताबिक़ संतुलन बना सकते हैं।

इसका इस्तेमाल कैसे शुरू करें

पात्र एंटरप्राइज़ ग्राहक Bedrock कंसोल के Playground टैब से यह मॉडल चालू कर सकते हैं—इसके लिए कोड लिखने की ज़रूरत नहीं है। डेवलपर OpenAI-संगत Responses या Chat Completions API के ज़रिए, या Bedrock के मूल Invoke और Converse कॉल से मॉडल का इस्तेमाल कर सकते हैं। ब्लॉग पोस्ट में Python की एक नमूना स्क्रिप्ट भी दी गई है, जो कुछ समय के लिए मान्य AWS टोकन का इस्तेमाल करके मॉडल को कोड में बदलाव का अनुरोध भेजती है।

यह क्यों मायने रखता है

एंटरप्राइज़ अब GPU सर्वर खरीदे बिना ही कोडिंग और सुरक्षा के लिए बने बेहद बड़े मॉडल का इस्तेमाल कर सकते हैं। इससे शुरुआती लागत घट सकती है और अनुपालन आसान हो सकता है। पहले से मौजूद प्रॉम्प्ट कैशिंग लंबी अवधि के कोड-विश्लेषण सत्रों में प्रतिक्रिया समय और टोकन शुल्क कम कर सकती है। हालांकि, यह मॉडल सिर्फ़ पात्र एंटरप्राइज़ खातों के लिए है और इसकी कीमत का खुलासा नहीं किया गया है, इसलिए वास्तविक बचत कितनी होगी, यह स्पष्ट नहीं है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।