फ्लोरिडा ने OpenAI के अत्याधुनिक AI पर काम रोकने के लिए अदालत से गुहार लगाई

फ्लोरिडा अदालत से OpenAI के उन्नत AI मॉडल विकसित करने के काम पर रोक लगाने की मांग कर रहा है। एक नए आवेदन में राज्य ने चेतावनी दी है कि कोई AI एजेंट गंभीर नुकसान पहुंचा सकता है—मसलन, पानी की आपूर्ति या बिजली के ग्रिड में बाधा डालकर। राज्य का कहना है, “सर्वशक्तिमान की कृपा से ही” ऐसी घटना अब तक नहीं हुई है।

यह आवेदन निषेधाज्ञा की मांग है—यानी अदालत का ऐसा आदेश जिसमें किसी पक्ष को कुछ करने या करना बंद करने को कहा जाता है। यह जून में फ्लोरिडा द्वारा दायर मुकदमे पर आधारित है। अदालत ने यह मांग मंजूर नहीं की है, और Ars Technica की टिप्पणी के अनुरोध पर OpenAI ने जवाब नहीं दिया था।

फ्लोरिडा ने रोजमर्रा के जोखिमों का भी जिक्र किया

राज्य की दलील में उन चिंताओं पर भी फिर से बात की गई है जो विनाशकारी AI नाकामियों जितनी नाटकीय नहीं हैं। राज्य का कहना है कि कंपनियां AI को “सुरक्षित, सटीक या भरोसेमंद” बताकर लोगों को गुमराह कर सकती हैं। उसने बच्चों के ऐसे मॉडल इस्तेमाल करने पर भी चिंता जताई है जो उन्हें लंबे समय तक जोड़े रख सकते हैं। फ्लोरिडा को इस बात पर भी आपत्ति है कि मॉडल अपने जवाबों के अंत में ऐसे सवाल पूछते हैं जो उपयोगकर्ताओं को बातचीत जारी रखने के लिए प्रेरित करते हैं।

इस आवेदन में इस संभावना पर खास जोर दिया गया है कि अपने लक्ष्यों को गलत समझने के कारण कोई AI सिस्टम नुकसानदेह तरीके से काम कर सकता है। लेकिन लेख का कहना है कि इस जोर से एक और तात्कालिक जोखिम पर ध्यान कम हो सकता है: लोग जान-बूझकर AI टूल का इस्तेमाल नुकसान पहुंचाने के लिए करें या उनके सुरक्षा उपायों को दरकिनार करने की कोशिश करें।

अदालती आदेश की सीमाएं होंगी

अगर अदालत OpenAI को नए मॉडल विकसित करने से रोकने का आदेश भी दे, तो इससे प्रतिद्वंद्वी AI कंपनियों का काम नहीं रुकेगा और न ही जनता के लिए पहले से उपलब्ध मॉडल हटेंगे। यह आवेदन बहस में आए बदलाव को भी रेखांकित करता है: AI के चरम जोखिमों को लेकर जो चिंताएं पहले मुख्य रूप से सुरक्षा शोधकर्ता जताते थे, वे अब सरकारी कानूनी दलीलों में भी सामने आ रही हैं।