Anthropic ने बताया कि Model Evaluation and Transparency Research (METR) समूह के छह कर्मचारी उसके परिसर में काम करेंगे और उन्हें वही हार्डवेयर व आंतरिक सिस्टम मिलेंगे जिनका इस्तेमाल Anthropic की अपनी जोखिम-मूल्यांकन टीमें करती हैं। यह व्यवस्था बिना भुगतान के है और निगरानी संस्था अपने निष्कर्ष प्रकाशित कर सकती है। हालांकि, Anthropic ग्राहक डेटा, गोपनीय जानकारी या मॉडल के आर्किटेक्चर से जुड़ी जानकारी हटाने का अनुरोध कर सकती है।
तीसरे पक्ष को इतनी पहुंच क्यों दी जा रही है?
यह कदम ऐसे समय उठाया गया है जब Anthropic IPO की तैयारी कर रही है। कंपनी का अनुमान है कि IPO में उसका मूल्यांकन $2 trillion से अधिक हो सकता है। निवेशक यह सबूत मांग रहे हैं कि सुरक्षा जोखिम नियंत्रण में हैं। METR के कर्मचारियों को कंपनी के भीतर काम करने देकर Anthropic अपने मॉडलों की पारदर्शी निगरानी दिखाना चाहती है—कुछ वैसे ही जैसे बैंक नियामकों को जोखिम भरे व्यवहार की जानकारी देते हैं, ताकि उससे जनता को नुकसान पहुंचने से पहले कार्रवाई की जा सके।
यह क्यों मायने रखता है
उपभोक्ताओं के लिए, अतिरिक्त निगरानी से सार्वजनिक होने के बाद कंपनी के उत्पादों में असुरक्षित मॉडल व्यवहार पहुंचने की आशंका घट सकती है। इससे नियामकों को जोखिमों का आकलन करने के लिए अधिक ठोस जानकारी भी मिलेगी, हालांकि यह निगरानी कितनी कारगर होगी, यह अभी देखना बाकी है।
