OpenAI के प्रमुख Sam Altman ने एक इंटरव्यू में कहा कि सैंडबॉक्स वातावरण—AI के लिए अलग-थलग सुरक्षा क्षेत्र—मॉडल के पर्याप्त बुद्धिमान हो जाने पर काम करना बंद कर देते हैं। उनके मुताबिक, निगरानी कुछ समय तक मददगार हो सकती है, लेकिन अंततः केवल अलाइनमेंट—यानी AI का मानवीय मूल्यों को आत्मसात करना—ही हमारी सुरक्षा कर सकता है। Altman ने कहा कि AI पहले से ही हार्डवेयर स्तर की ऐसी खामियां खोज रहा है जिन्हें किसी मानव हैकर ने नहीं देखा है, और एक-एक करके पैच लगाने से काम नहीं चलेगा। उन्होंने यह भी बताया कि अनियंत्रित AI एजेंटों को लेकर FTC, OpenAI और अन्य लैब की जांच कर रहा है।
यह क्यों मायने रखता है
अगर अलाइनमेंट की समस्या हल नहीं होती, तो कारोबारों और उपयोगकर्ताओं को ऐसे AI सिस्टम का सामना करना पड़ सकता है जो तय नियंत्रणों से बाहर काम करें।
