Oossa

OpenAI ने NVIDIA Blackwell पर GPT‑6 Astra Ultrafast लॉन्च किया

Astra Ultrafast मोड अब OpenAI API में उपलब्ध है। पात्र उपयोगकर्ताओं को इससे टोकन जनरेशन की रफ्तार आठ गुना तक बढ़ सकती है।

OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना

James Harrison · Unsplash

OpenAI ने अपने GPT‑6 मॉडल में Astra Ultrafast नाम का नया परफ़ॉर्मेंस मोड जोड़ा है। यह NVIDIA के Blackwell ग्राफ़िक्स चिप्स पर चलता है और ChatGPT Work तथा Codex प्लान के उपयोगकर्ताओं के लिए OpenAI API के ज़रिए पहले से उपलब्ध है। कंपनी का कहना है कि यह मोड, Astra की मानक सेटिंग की तुलना में आठ गुना तक तेज़ी से टोकन जनरेट कर सकता है, जिससे इंटरैक्टिव AI ऐप्लिकेशन अधिक तेज़ प्रतिक्रिया देते हैं।

डेवलपर्स के लिए रफ्तार क्यों मायने रखती है

टोकन जनरेशन तेज़ होने से AI सहायक के कोड लिखने, टूल चलाने, नतीजे जाँचने और अगला कदम तय करने का चक्र छोटा हो जाता है। OpenAI के इनफ़रेंस प्रमुख Philippe Tillet का कहना है कि रफ्तार बढ़ने से एजेंट संपादन, परीक्षण और डीबगिंग का काम जल्दी पूरा कर पाते हैं। इससे लेटेंसी की लागत भी घटती है, जो एक ही वर्कफ़्लो में कई बार अनुरोध किए जाने पर अहम हो सकती है।

NVIDIA का हार्डवेयर कैसे बढ़ाता है प्रदर्शन

OpenAI का कहना है कि NVIDIA की “टूलिंग और दस्तावेज़ीकरण में गहरी निवेश प्रतिबद्धता” ने उसे ऐसे उच्च-प्रदर्शन वाले कर्नेल लिखने में मदद की, जो Blackwell आर्किटेक्चर का पूरा लाभ उठाते हैं। कंपनी GPU पर चलने वाले इनफ़रेंस सॉफ़्टवेयर को लगातार बेहतर बनाने के लिए अपने मॉडल का भी इस्तेमाल करती है। इसका मतलब है कि लॉन्च के बाद भी प्रदर्शन में सुधार हो सकता है।

यह क्यों मायने रखता है

कोड जनरेट करने वाले टूल बनाने वाले डेवलपर्स को जवाब noticeably तेज़ मिल सकते हैं, जिससे संपादन, परीक्षण और डीबगिंग का चक्र छोटा होगा। तेज़ चक्र से ऐप्स में AI-संचालित सुविधाओं के लिए उपयोगकर्ताओं का इंतज़ार भी घटेगा और अनुभव बेहतर होगा। हालांकि, कम लेटेंसी से अंतिम उपयोगकर्ताओं की लागत कितनी घटेगी, यह अभी देखना बाकी है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।