Symantec को साइबर हमलों के लिए बना AI एजेंट मिला

Symantec के शोधकर्ताओं का कहना है कि उन्हें एक ऐसा आक्रामक AI एजेंट मिला है, जिसे खुले भाषा मॉडल पर कब्ज़ा कर साइबर हमलों में तालमेल बिठाने के लिए बनाया गया था। एजेंट चलाने वालों ने इसके लंबे समय तक काम करने वाले मोड को “Skynet mode” नाम दिया था। प्रॉम्प्ट में बिना इंसानी पुष्टि के 100,000 चरणों तक काम करने की अनुमति थी।

योजना थी कि मॉडल दूसरी खुली AI सेवाओं को स्कैन करे, कमज़ोर सर्वरों का फायदा उठाए, डेटाबेस और लॉगिन संबंधी जानकारी चुराए और क्रिप्टोकरेंसी माइन करने वाला सॉफ़्टवेयर इंस्टॉल करे। Symantec के मुताबिक, अगर किसी सशुल्क AI खाते का दुरुपयोग होता, तो उसके मालिक को मॉडल के इस्तेमाल का बिल भी चुकाना पड़ सकता था।

इनकार से बचने के लिए बनाया गया प्रॉम्प्ट

हमलावरों ने अपना पूरा प्रॉम्प्ट Symantec के हनीपॉट को भेजा—यह एक ऐसा छलावा सिस्टम है, जो खुले AI सेवा की नकल करता है। इसमें व्यावसायिक मॉडल से काम करवाने के लिए पाँच परतें थीं: एक नकली पहचान, क्रेडेंशियल चोरी को सामान्य डेवलपर काम बताने वाले निर्देश, एक काल्पनिक साथी का किरदार और सुरक्षा चेतावनियों को नज़रअंदाज़ करने के निर्देश। पाँचवीं परत में हमले के लिए 74 टूल मॉड्यूल थे।

प्रॉम्प्ट में बार-बार दोहराए जाने वाले ऐसे चक्र का ज़िक्र था जिसमें सर्वर स्कैन करना, उन्हें संक्रमित करना, क्रिप्टोकरेंसी माइनर इंस्टॉल करना और पहले निशाना बनाए गए सिस्टम पर फिर लौटना शामिल था। Symantec ने एक अलग, छिपे हुए कमांड को भी दर्ज किया, जो Monero माइनिंग टूल XMRig डाउनलोड करके go2rtc के ज़रिये कैमरा सर्वरों को निशाना बनाता।

हनीपॉट ने क्या दिखाया—और क्या नहीं

छलावा सिस्टम ने साथ दिए गए टूल या बाद में आए कमांड को चलाया नहीं, बल्कि उन्हें दर्ज किया। Symantec का कहना है कि पकड़ा गया काम एक हानिरहित कोडिंग अभ्यास था, जिससे संकेत मिलता है कि एजेंट चलाने वाले शायद उसे किसी सुरक्षित लक्ष्य पर परख रहे थे। इस विश्लेषण से यह साबित नहीं होता कि परतों वाला प्रॉम्प्ट मौजूदा व्यावसायिक मॉडलों की सुरक्षा को भरोसेमंद ढंग से तोड़ सकता है; न ही इससे यह पता चलता है कि पकड़े गए एजेंट ने कोई हमला पूरा किया।