Baseten ने Project Beacon की घोषणा की है। Goodfire AI के साथ इस साझेदारी के तहत AI मॉडल से जवाब तैयार होते समय ही सुरक्षा जाँच की जाएगी। सिस्टम टेक्स्ट बनाते वक्त मॉडल की आंतरिक गतिविधियों को पढ़ेगा और प्रॉम्प्ट इंजेक्शन, नीतियों के उल्लंघन, डेटा लीक या साइबर दुरुपयोग जैसी असुरक्षित सामग्री को रोक या चिह्नित कर सकेगा। Baseten का कहना है कि ये निगरानी प्रणालियाँ टेक्स्ट तैयार होने के साथ-साथ चलेंगी, इसलिए देरी महसूस नहीं होगी। कंपनी अगले कुछ महीनों में शुरुआती साझेदारों के लिए यह सुविधा शुरू करने की योजना बना रही है। इसके बाद इसे और मॉडल तथा एंटरप्राइज़ नियंत्रणों तक बढ़ाया जाएगा।
यह क्यों मायने रखता है
एंटरप्राइज़ किसी भी मॉडल पर एक जैसे सुरक्षा नियम लागू कर सकेंगे। इससे AI का इस्तेमाल बढ़ने पर अलग-अलग फ़िल्टर और मैन्युअल जाँच की ज़रूरत कम होगी।
