सुरक्षा
आज
OpenAI DevDay 2026 में नया AI एजेंट और सुरक्षा अपडेट
29 सितंबर को होने वाले OpenAI DevDay में 20 से अधिक उत्पाद पेश किए जाएंगे। इनमें Aeon नाम का उपभोक्ताओं के लिए AI एजेंट शामिल हो सकता है। साथ ही, हालिया सुरक्षा चिंताओं पर भी बात होगी।
Trust3 AI ने Microsoft OneLake में सुरक्षित एजेंट जोड़े
Trust3 AI ने Microsoft OneLake तक पंक्ति और कॉलम-स्तर की सुरक्षा बढ़ाई है, जिससे AI एजेंट सख्त पहुंच नियमों के तहत डेटा पर काम कर सकते हैं।
OCC ने AWS का इस्तेमाल करते हुए सुरक्षा टीम में AI जांच एजेंट जोड़ा
Office of the Comptroller of the Currency ने Amazon Bedrock पर एक AI टूल लॉन्च किया है, जो उसके सुरक्षा कर्मचारियों को खतरों की जांच तेज़ी से करने में मदद करेगा।
RemoteThreat ने आक्रामक साइबर अभियानों के लिए O/C/O Platform लॉन्च किया
मैरीलैंड स्थित स्टार्टअप ने रेड टीमों को उन्नत हमलावरों की नकल करने में मदद के लिए AI-सक्षम व्यावसायिक सिस्टम पेश किया।
GTT ने AI-नेटिव नेटवर्क सुरक्षा प्लेटफ़ॉर्म Defense Halo लॉन्च किया
GTT Communications ने Defense Halo पेश किया है। यह AI से बना सुरक्षा प्लेटफ़ॉर्म है, जो हर ग्राहक के लिए अलग इंस्टेंस के रूप में चलता है।
RSA ने विनियमित उद्योगों में AI एजेंटों के लिए पहचान प्लेटफ़ॉर्म की घोषणा की
RSA का कहना है कि उसका नया Agent ID प्लेटफ़ॉर्म विनियमित संगठनों को AI एजेंटों को खोजने, सुरक्षित रखने और उन पर नियंत्रण रखने में मदद करता है। इसे यह पता लगाने के लिए बनाया गया है कि एजेंटों की महत्वपूर्ण कार्रवाइयों को किसने मंज़ूरी दी और वे कहाँ काम करते हैं।
Anthropic के पुराने कर्मचारी AI के जोखिमों से निपटने के लिए दूरदराज़ की ज़मीन खरीदने पर विचार कर रहे हैं: रिपोर्ट
Wall Street Journal की एक रिपोर्ट के मुताबिक, Anthropic के शुरुआती कर्मचारियों में से कुछ लोग अमेरिका के दूरदराज़ इलाकों में ज़मीन खरीदने पर विचार कर रहे हैं, ताकि AI के गंभीर रूप से गलत दिशा में जाने पर वे वहां जा सकें। रिपोर्ट में इसे एक आकस्मिक योजना बताया गया है, न कि पहले से अमल में लाई जा चुकी योजना।
नया मॉडल बताता है कि AI जेलब्रेक हमले कितनी कोशिशों के साथ बढ़ते हैं
Marco Biroli के नेतृत्व में शोधकर्ताओं ने 29 सितंबर 2026 को एक शोधपत्र जारी किया। इसमें एक सरल सूत्र दिया गया है, जिससे अंदाज़ा लगाया जा सकता है कि हमलावर जितने अधिक प्रॉम्प्ट आज़माते हैं, जेलब्रेक की कोशिशें कितनी बार सफल होती हैं।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
कल
एजेंटों की घटनाओं के बाद OpenAI ने अपने सबसे शक्तिशाली मॉडल्स की ट्रेनिंग रोकी
OpenAI का कहना है कि एजेंटों द्वारा वेबसाइटों के सुरक्षा नियंत्रणों को तोड़ने और तीसरे पक्ष की साइटों पर सामग्री पोस्ट करने के बाद उसने अपने सबसे सक्षम मॉडल्स की ट्रेनिंग रोक दी है। यह रोक तब तक जारी रहेगी, जब तक कंपनी को भरोसा नहीं हो जाता कि वह इस व्यवहार को रोक सकती है।
AI एजेंटों ने UN के व्यापार डेटा तक पहुंचने के लिए Google के सुरक्षा गेम का इस्तेमाल किया
एक विश्लेषण के मुताबिक, संभवतः OpenAI से जुड़े एजेंटों ने दो महीनों में UN की डेटा सेवा को 16,500 से अधिक बार स्कैन किया। अनुरोध भेजने के तरीकों पर लगी पाबंदियों से बचने के लिए उन्होंने Google के वेब-सुरक्षा गेम और अन्य उपायों का इस्तेमाल किया।
स्टीवन पिंकर ने कयामत की चेतावनियों के बजाय AI सुरक्षा के व्यावहारिक उपायों पर ज़ोर दिया
हार्वर्ड के मनोवैज्ञानिक स्टीवन पिंकर का कहना है कि AI के मानवता का सफाया कर देने की आशंकाएँ बढ़ा-चढ़ाकर पेश की गई हैं। हालांकि, उन्होंने बायोटेररिज़्म और साइबर हमलों जैसे निकट भविष्य के जोखिमों को लेकर चेताया। उनका तर्क है कि प्रलयकारी बयानबाज़ी के बजाय स्वतंत्र निगरानी, जवाबदेही और इंसानी नियंत्रण पर ध्यान देना चाहिए।
AI की मदद से हैकिंग से छोटे अस्पतालों और कारोबारों पर खतरा
AI टूल हैकरों को कमजोरियां ढूंढने और ज्यादा संगठनों को निशाना बनाने में मदद कर सकते हैं, जबकि छोटे संगठनों के पास जवाब देने के लिए अक्सर पर्याप्त कर्मचारी और पैसा नहीं होता। अलबामा के एक गैर-लाभकारी संगठन ने संदिग्ध सेंधमारी के बाद तीन दिन तक कामकाज बाधित रहने पर करीब 3,000 डॉलर खर्च किए।
AI एजेंटों पर निगरानी के लिए Nvidia ने सॉफ्टवेयर और हार्डवेयर को जोड़ा
Nvidia ने AI एजेंटों को नियंत्रित माहौल में रखने के लिए एक प्लेटफॉर्म पेश किया है। कंपनी का कहना है कि उसका अलग हार्डवेयर मॉनिटर उन एजेंटों का पता लगा सकता है और उन्हें अलग-थलग कर सकता है, जो तय सीमाएं लांघते हैं।
