Oossa

मल्टी-एजेंट हमलों की जांच: मॉनिटर ने अधिकतर खतरे नहीं पकड़े

शोधकर्ताओं ने MiniLab जारी किया। इसमें फ्रंटियर मॉनिटर ने समन्वित एजेंट हमलों में से केवल 7% को पकड़ा, जो AI सुरक्षा टूल्स की एक बड़ी कमी उजागर करता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

John Kitaoka की टीम ने MiniLab जारी किया—पांच आपस में जुड़ी सेवाओं वाला एक सिंथेटिक टेस्ट सुइट, जिसमें 249 सामान्य काम और हमले के आठ लक्ष्य हैं। इसका इस्तेमाल उन्होंने उन वितरित हमलों की जांच के लिए किया, जिनमें अलग-अलग एजेंट किसी नुकसानदेह योजना का एक-एक हिस्सा अंजाम देते हैं। GPT‑5.6 Sol नाम के एक फ्रंटियर मॉनिटर ने ऐसे हमलों में से केवल 7% को पकड़ा, जबकि वही साइड टास्क एक एजेंट से कराने पर उसने 87% हमले पकड़े। इंसानों द्वारा तैयार किए गए हमले के क्रम, मॉडल की योजना से बने क्रमों के मुकाबले, कहीं अधिक बार सफल हुए।

यह क्यों मायने रखता है

AI सुरक्षा टीमों को पूरे सिस्टम की निगरानी बेहतर करनी होगी, क्योंकि मौजूदा टूल्स समन्वित एजेंट हमलों में से अधिकतर को नहीं पकड़ पाते।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।