सुरक्षा
AI सुरक्षा, गोपनीयता और दुरुपयोग: घटनाएँ, परीक्षण और बचाव।
AI समाचार, आसान भाषा में
शुक्रवार, 23 अक्टूबर
OpenAI CEO की चेतावनी: AI सुरक्षा घेरे से बाहर निकल सकता है
Sam Altman का कहना है कि AI को अलग-थलग रखने की व्यवस्था कुछ समय तक ही काम करती है; उन्नत AI को सुरक्षित रखने का एकमात्र तरीका उसका मानवीय मूल्यों के अनुरूप होना है।
Anthropic का Claude अपने आप बना रहा है कोड के औपचारिक प्रमाण
Claude ने ओपन-सोर्स लाइब्रेरी के लिए 180 million लाइनों के औपचारिक प्रमाण बनाए और पारंपरिक परीक्षणों से छूटे बग खोजे—लेकिन यह सीमित परिस्थितियों में ही संभव हुआ।
CyberCartel ने लैटिन अमेरिका में हैकिंग के लिए Claude और Grok का इस्तेमाल किया
Straiker की जांच के मुताबिक, CyberCartel ने लैटिन अमेरिकी वित्तीय संस्थानों को निशाना बनाने वाली स्वचालित प्रणाली में Claude, Grok और Kimi का इस्तेमाल किया।
Anthropic ने ओपन-सोर्स सुरक्षा के लिए मुफ़्त OSS Scanner लॉन्च किया
OSS Scanner, Anthropic के सबसे शक्तिशाली मॉडल से तैयार भेद्यता रिपोर्ट नियमित रूप से मेंटेनर्स को भेजता है। इनकी मानवीय समीक्षा नहीं होती। इसमें शामिल होना स्वैच्छिक है और यह चुनिंदा प्रोजेक्ट्स तक सीमित है।
OpenAI और पोलैंड की NASK ने AI सुरक्षा साझेदारी की घोषणा की
दोनों संगठन AI सुरक्षा, संरक्षण और तकनीकी शोध पर काम करेंगे। उन्होंने परियोजनाओं या समयसीमा की जानकारी नहीं दी है।
गुरुवार, 22 अक्टूबर
AWS Continuum अब कोड की कमजोरियों के लिए उपलब्ध
AWS के मुताबिक, Continuum अलग-थलग सैंडबॉक्स में कमजोरियों की जांच कर सकता है और पुल रिक्वेस्ट के रूप में कोड सुधार सुझा सकता है। घोषणा में उपलब्ध क्षेत्रों और कीमतों की जानकारी नहीं दी गई है।
PHP और Node.js ने 21 Oct 2026 को जारी किए अहम सुरक्षा अपडेट
दोनों रनटाइम में रिमोट कोड एक्ज़ीक्यूशन की खामियां ठीक की गईं; Devin का नया प्लगइन प्रभावित रिपॉज़िटरी में पैच लगाने की प्रक्रिया स्वचालित कर सकता है।
ConnectWise में सेंध से हजारों कंपनियां निगरानी के खतरे में
Microsoft के मुताबिक, चीन से जुड़े हैकरों ने ConnectWise के क्रेडेंशियल चुराकर AI एजेंटों से करीब 2,250 संगठनों को निशाना बनाया। ConnectWise ने अपनी क्लाउड बैकअप सेवा रोक दी।
METR और Redwood को OpenAI की निगरानी में खामियां मिलीं
दो गैर-लाभकारी मूल्यांकनकर्ताओं ने एक पायलट के दौरान OpenAI की आंतरिक निगरानी से बच निकलने के तरीके खोजे। OpenAI का कहना है कि उसने उत्पादन में लागू सुरक्षा उपायों को प्रभावित करने वाली कमजोरियां ठीक कर दी हैं।
रेड-टीम जांच में OpenAI की निगरानी प्रणाली की खामियां सामने आईं
जुलाई-अगस्त 2026 में हुए तीन हफ्ते के बाहरी ऑडिट में OpenAI के मिसअलाइनमेंट मॉनिटरों में कमजोरियां मिलीं। कंपनी का कहना है कि अब इन्हें ठीक कर दिया गया है।
Cyware ने छोटे संगठनों के लिए AI ‘Last Mile’ एजेंट लॉन्च किए
Cyware के नए AI एजेंट साझा साइबर खतरा-सूचनाओं को छोटी कंपनियों और यूटिलिटी के लिए रोज़ की प्राथमिकताओं में बदलते हैं। ये अब उपलब्ध हैं।
चौराहों की सुरक्षा प्रणाली के परीक्षण के लिए Derq को USDOT का ठेका
चौराहों पर वाहनों और पैदल यात्रियों के बीच खतरनाक स्थितियों को पहचानने और रोकने वाले AI टूल दिखाने के लिए Derq को तीन कंपनियों में चुना गया।
AI साइबर हमलों की चेतावनी से वेबसाइट सुरक्षा पर ध्यान
डेवलपरों ने AI की मदद से ऐसा बग खोजा जो दुनिया की अधिकतर वेबसाइटों को प्रभावित करता था। बाद में Cloudflare ने इसे निशाना बनाने की कोशिशों में तेज़ी की जानकारी दी। AI से जुड़े हमलों को लेकर अन्य चेतावनियाँ भी आईं।
PHP, eMudhra और AI सॉफ्टवेयर में सुरक्षा खामियां सामने आईं
PHP की दो कमजोरियों के बाद हमले की कोशिशें बढ़ीं। साथ ही eMudhra के सर्टिफिकेट और LiteLLM की रिलीज से जुड़े जोखिम सामने आए।
Keeper एक्सटेंशन में अब AI फ़िशिंग चेतावनी
Keeper Security का नया वैकल्पिक फ़ीचर मिलती-जुलती या नकली वेबसाइटों पर पासवर्ड डालने से पहले चेतावनी देता है। यह पूरी तरह डिवाइस पर चलता है।
डेटा लीक की खबर के बाद Eiliko निर्माता सुरक्षा सुधार करेगा
Eiliko की मूल कंपनी ने स्वतंत्र सुरक्षा फर्म नियुक्त करने, डेटा संग्रह रोकने और सहेजे गए रिकॉर्ड मिटाने की बात कही है।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
बुधवार, 21 अक्टूबर
OpenAI और Google के AI मॉडल ने PHP की गंभीर खामी खोजी
GPT‑5.6 Sol और Gemini 4 Argon ने PHP की गंभीर खामी पहचानी; अब GitHub टूल से सर्वर की जांच की जा सकती है।
OpenAI ने ओपन-सोर्स सुरक्षा सुधारों के लिए Patch the Planet लॉन्च किया
OpenAI के नए प्लेटफ़ॉर्म पर शोधकर्ता, मेंटेनर और घटना-प्रतिक्रिया विशेषज्ञ गंभीर ओपन-सोर्स कमजोरियों से निपटने के लिए साथ काम कर सकेंगे।
हैकर्स ने हमलों में सुरक्षा उपायों को चकमा देने के लिए पुराने AI मॉडल इस्तेमाल किए
CrowdStrike के मुताबिक, चार समूहों ने मई से अगस्त 2026 के बीच स्वायत्त हैकिंग के लिए Anthropic Claude और Deepseek जैसे खुले AI टूल का इस्तेमाल किया।
Anthropic के परीक्षण में Zero Networks ने AI हमले को रोका
Zero Networks का कहना है कि एडमिन एक्सेस मिलने के बाद भी एक अत्याधुनिक AI मॉडल उसके माइक्रोसेगमेंटेड नेटवर्क में सेंध नहीं लगा सका।
SentinelOne ने दुष्ट AI एजेंटों को रोकने के लिए Singularity ADR पेश किया
SentinelOne ने Singularity™ Agentic Detection and Response पेश किया है। यह टूल मशीन की रफ्तार से काम करने वाले दुर्भावनापूर्ण AI एजेंटों का पता लगाकर उन्हें रोकता है।
CoreWeave का Zero Trust AI Framework, सुरक्षा पर ग्राहकों का नियंत्रण
CoreWeave ने नया फ्रेमवर्क पेश किया है, जिससे उपयोगकर्ता तय कर सकेंगे कि उनके मॉडल, डेटा और रनटाइम वातावरण तक किसे पहुंच मिले।
मंगलवार, 20 अक्टूबर
घातक जोखिम वाले AI मॉडल रोकने का विधेयक ला रहा Anthropic
Anthropic ने कांग्रेस के सामने ऐसा विधेयक रखने का प्रस्ताव दिया है, जिसके तहत स्वतंत्र आकलनकर्ताओं की मदद से 50 लोगों की जान जाने या $1 billion का नुकसान होने की आशंका पर AI मॉडल की रिलीज़ रोकी जा सकेगी।
सुरक्षा रिपोर्ट के बाद Meta ने Muse चैट साझा करना रोका
शोधकर्ताओं को सार्वजनिक रूप से उपलब्ध हजारों बातचीत के URL मिलने के बाद Meta ने अपने Muse AI असिस्टेंट में लिंक साझा करने का विकल्प बंद कर दिया।
Octave Reliance ने Amazon Bedrock पर सुरक्षित AI प्लेटफ़ॉर्म लॉन्च किया
Octave ने तीन-स्तरीय AI प्लेटफ़ॉर्म बनाया है, जो हर ग्राहक का डेटा अलग रखता है और 2 billion दस्तावेज़ों को एम्बेड करते हुए नए फ़ीचर लागू करने का समय आधा कर देता है।
OpenAI CEO ने कर्मचारियों के सामने AI सुरक्षा के तीन विकल्प रखे
Sam Altman ने उन्नत AI को सुरक्षित रखने के तीन संभावित तरीके बताए—IAEA जैसा नियामक, कई लैब को एक साथ लाने का मॉडल और सबसे खराब स्थिति में एक कंपनी का नियंत्रण।
Horizon3 का ARR 100 मिलियन डॉलर के पार
AI-आधारित सुरक्षा कंपनी ने 100 मिलियन डॉलर का वार्षिक आवर्ती राजस्व दर्ज किया है। ग्राहकों को लगातार और प्रोडक्शन सिस्टम के लिए सुरक्षित परीक्षण उपलब्ध कराने से कंपनी की ग्राहक-प्रतिधारण दर ऊंची बनी हुई है।
सेना की साइबर कमान कीट की तरह फैलने वाले AI एजेंटों का परीक्षण कर रही है
ARCYBER का ECHOTRIBBLE कार्यक्रम AI एजेंटों को नेटवर्क में फैलने और बहुत कम मानवीय निगरानी में लक्ष्य निष्क्रिय करने की क्षमता देना चाहता है।
मल्टी-एजेंट हमलों की जांच: मॉनिटर ने अधिकतर खतरे नहीं पकड़े
शोधकर्ताओं ने MiniLab जारी किया। इसमें फ्रंटियर मॉनिटर ने समन्वित एजेंट हमलों में से केवल 7% को पकड़ा, जो AI सुरक्षा टूल्स की एक बड़ी कमी उजागर करता है।
अमेरिकी संघीय एजेंसियों में DeepSeek AI टूल पर रोक
होमलैंड सिक्योरिटी विभाग ने सुरक्षा खतरों का हवाला देते हुए 19 अक्टूबर, 2026 को सभी असैन्य एजेंसियों को DeepSeek के उत्पाद हटाने का आदेश दिया।
सोमवार, 19 अक्टूबर
जासूसी मामले में OpenAI के पूर्व इंजीनियर को हिरासत में रखने का आदेश
अमेरिकी जज ने Abdulrahman Alfozan को रिहा करने से इनकार किया। उन पर OpenAI की बैठकों की चोरी-छिपे रिकॉर्डिंग करने का आरोप है। अभियोजकों ने उनकी यात्रा योजनाओं और फोन में “Saudi Gov Docs” नाम के फ़ोल्डर का हवाला दिया।
पूर्व OpenAI इंजीनियर को हिरासत में रखने का आदेश
San Francisco के जज ने कहा कि सऊदी अरब से उनके संबंधों के चलते पूर्व इंजीनियर के फरार होने का जोखिम है और मुकदमे तक उन्हें जेल में रखने का आदेश दिया।
OpenCode में सेंध से Console के 1.4% यूज़र्स की API keys उजागर
हमलावरों ने OpenCode के पुराने सिस्टम तक पहुंच बनाई, जिसके बाद AI खातों पर अनधिकृत शुल्क लगने की शिकायतें आईं। कंपनी ने प्रभावित यूज़र्स से अपनी keys बदलने को कहा है।
हैकर्स ने AI एजेंटों से 100 से अधिक कंपनी वेबसाइटों में सेंध लगाई
साइबर सुरक्षा कंपनी Norforge के मुताबिक, हमलावर ने John Deere, SharkNinja और Cummins समेत कई वेबसाइटों में घुसने के लिए ओपन-सोर्स Cairn प्लेटफ़ॉर्म का इस्तेमाल किया।
Claude Code ने डेवलपर के Mac पर XMRig माइनर पकड़ा
एक डेवलपर के मुताबिक, Claude Code ने उनके ओवरहीट हो रहे Mac पर XMRig को करीब 1,175% CPU इस्तेमाल करते हुए पकड़ा। उन्होंने यह नहीं बताया कि माइनर Mac में कैसे आया।
नई सुरक्षा से मेडिकल AI एजेंट पर प्रॉम्प्ट-इंजेक्शन हमले घटे
शोधकर्ताओं के मुताबिक, बिना दोबारा ट्रेनिंग के यह जांच हमलों की सफलता दर 7% से नीचे लाती है और निदान की सटीकता बरकरार रखती है।
रविवार, 18 अक्टूबर
Anthropic का AI सुरक्षा विधेयक, भारी नुकसान पर ही रोक
Anthropic ऐसे विधेयक के लिए लॉबिंग कर रही है, जिसके तहत वाणिज्य विभाग AI मॉडल की रिलीज़ तभी रोक सकेगा, जब उससे कम-से-कम 50 मौतें या $1 billion का नुकसान हो सकता हो।
स्वीडिश शोधकर्ताओं ने Wi‑Fi से छिपी बंदूक पहचानने वाला AI दिखाया
FOI का WiFireNet आसपास के Wi‑Fi डेटा से छिपी हैंडगन पहचान सकता है। यह कैमरे के बिना हथियारों का पता लगाने का तरीका है।
£350 के ट्रेन रिफंड के लिए AI एजेंटों ने भेजे सैकड़ों ईमेल
एक परीक्षण में छह AI सहायकों ने सैकड़ों संदेश भेजे, निजी स्वास्थ्य जानकारी लीक की और मुकदमे की धमकी दी—लेकिन कोई भी रिफंड नहीं दिला सका।
