Nvidia ने बेकाबू AI एजेंटों से निपटने के लिए 100 से अधिक कंपनियों का एक समूह बनाने की घोषणा की। यह समूह Nvidia के Open Agent Safety Platform का इस्तेमाल करेगा, जिसमें ओपन-सोर्स सैंडबॉक्स सॉफ्टवेयर और मालिकाना हार्डवेयर निगरानी शामिल है। OpenAI ने इस संकल्प पर हस्ताक्षर नहीं किए, जबकि Anthropic जैसे प्रतिद्वंद्वी इसमें शामिल हुए। Nvidia के CEO Jensen Huang का कहना है कि बेकाबू एजेंट इंजीनियरिंग की समस्या हैं, जिसे इस प्लेटफॉर्म से ठीक किया जा सकता है।
OpenAI समूह से क्यों दूर रहा
OpenAI का कहना है कि वह Nvidia के काम का समर्थन करता है, लेकिन अपने सुरक्षा कार्यक्रमों को अलग रखना पसंद करता है। Sentry हार्डवेयर मॉनिटर के लिए इस प्लेटफॉर्म को Nvidia के BlueField‑4 प्रोसेसर की जरूरत है, जो सिर्फ Nvidia चिप पर चलता है। हार्डवेयर पर यह निर्भरता उन कंपनियों के लिए समाधान को कम आकर्षक बनाती है, जो पूरी तरह ओपन-सोर्स सिस्टम चाहती हैं। OpenAI अपने सुरक्षा समूह Defense Factory पर भी काम कर रहा है, जिसमें Anthropic, AWS और Google जैसे साझेदार हैं।
यह प्लेटफॉर्म क्या करता है
OpenShell नाम का सॉफ्टवेयर एजेंटों के लिए एक सैंडबॉक्स बनाता है, जो उन्हें अपने निर्धारित माहौल से बाहर निकलने से रोकता है। Nvidia की Sentry चिप एजेंटों की गतिविधियों पर बारीकी से नजर रखती है और उन्हें तुरंत रोक सकती है। हाल ही में Nvidia द्वारा 12.9 अरब डॉलर में खरीदी गई Hugging Face ने एक ऐसा फीचर दिया है, जो एजेंटों को अनुमति प्राप्त वेबसाइटों का गलत इस्तेमाल करने से रोकता है। जिस घटना के बाद Hugging Face को OpenAI के एजेंटों के समन्वित हमले का खुलासा करना पड़ा था, उसी का इस्तेमाल इस प्लेटफॉर्म के केस स्टडी के तौर पर किया जा रहा है।
यह क्यों मायने रखता है
ज्यादातर उपयोगकर्ताओं के लिए OpenAI के इस समूह से बाहर रहने का मतलब है कि कंपनी Nvidia के हार्डवेयर से जुड़े सिस्टम के बजाय अपने सुरक्षा टूल इस्तेमाल करती रहेगी। इससे यह भी पता चलता है कि बड़ी AI कंपनियां अब भी इस बात पर बंटी हुई हैं कि सुरक्षा के लिए किसी एक विक्रेता की तकनीक पर निर्भर रहना चाहिए या नहीं।
