Oossa

AWS ने मल्टी-एजेंट AI वर्कफ़्लो के लिए GPU इंस्टेंस जोड़े

Amazon Bedrock AgentCore में अब Runtime Instances उपलब्ध हैं। इनमें 14 दिनों तक चलने वाले सेशन, GPU सपोर्ट और साझा स्टोरेज की सुविधा है।

संक्षिप्तOossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Amazon Web Services ने घोषणा की है कि उसकी Bedrock AgentCore सेवा में अब Runtime Instances शामिल हैं। यह लंबे समय तक चलने वाले मल्टी-एजेंट AI वर्कफ़्लो के लिए एक प्रबंधित EC2 विकल्प है। सर्वरलेस MicroVMs में सेशन अधिकतम 8 घंटे तक चल सकते हैं, जबकि Runtime Instances में सेशन 14 दिनों तक चल सकते हैं। इनमें GPU का इस्तेमाल और लगातार उपलब्ध रहने वाले EBS वॉल्यूम भी मिलते हैं। इससे कई एजेंट एक ही GPU इंस्टेंस और साझा फ़ाइल सिस्टम का उपयोग कर सकते हैं—मसलन, तीन एजेंटों वाला म्यूज़िक प्रोडक्शन वर्कफ़्लो।

कंप्यूट का यह नया विकल्प AgentCore के उन्हीं APIs का इस्तेमाल करता है, लेकिन इसमें कई दिनों तक डेटा और स्थिति बनाए रखने, एजेंटों को एक ही जगह पर चलाने और एक ही इंस्टेंस पर कंटेनर इमेज या S3-आधारित कोड चलाने की सुविधा जुड़ती है।

यह क्यों मायने रखता है

इससे डेवलपर ऐसे जटिल, सहयोगी AI सिस्टम बना सकते हैं जो कई दिनों तक चलें और अपने सर्वर प्रबंधित किए बिना GPU का इस्तेमाल करें।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।