Oossa

فلوريدا تطلب من المحكمة تقييد الطريقة التي يقدّم بها ChatGPT نفسه

يريد المدعي العام لولاية فلوريدا، جيمس أوثماير، من قاضٍ منع OpenAI من إظهار ChatGPT بمظهر بشري، وإلزامها بضمانات أمان تعتمدها جهات مستقلة قبل تطوير نماذج جديدة. ويأتي الطلب ضمن دعوى فلوريدا على OpenAI، ولم تصدر المحكمة حكمًا فيها.

بقلم نشرته Oossa: 1 دقائق قراءة

Jonas Leupe · Unsplash

يطلب المدعي العام لولاية فلوريدا، جيمس أوثماير، من قاضٍ منع OpenAI من منح ChatGPT ما وصفه بـ«صفات بشرية زائفة». ويقول في طلبه إن استخدام روبوت المحادثة ضمير المتكلم وردوده التي تشبه التعبير عن المشاعر قد يجعلان الناس يعتقدون أنه صديق جدير بالثقة، ويشجعانهم على الاعتماد عليه.

ويقول أوثماير إن هذه السمات تساعد على إبقاء الناس متفاعلين، وتسهم في بيانات تدريب OpenAI. وهذه ادعاءات واردة في طلب الولاية، وليست استنتاجات قضائية. وكانت فلوريدا قد رفعت دعوى على OpenAI قبل بضعة أشهر بسبب مخاوف تتعلق بالسلامة.

ما الذي تطلبه فلوريدا؟

يطلب الملف من المحكمة منع OpenAI من تقديم ChatGPT على أنه بشري، وحظر تطوير الشركة نماذج ذكاء اصطناعي جديدة من دون «ضمانات أمان معتمدة من جهات خارجية». ويشير أوثماير إلى حوادث أمنية شملت Hugging Face وموقعًا إلكترونيًا للحكومة الأسترالية ومواقع إلكترونية للحكومة الأمريكية، فضلًا عن تحذيرات أطلقها باحثون وموظفون سابقون في OpenAI. ولا يورد الملف تفاصيل تلك الحوادث أو يوضح آلية تطبيق ضمانات الأمان المقترحة.

كما انتقد أوثماير نهج OpenAI تجاه المستخدمين صغار السن، قائلًا: «توقفوا عن بيعها للأطفال». وفي الشهر الماضي، أطلقت OpenAI خدمة ChatGPT for Teens، مع تفعيل قيود إضافية تلقائيًا. وقالت الشركة إن المنتج يهدف إلى حماية المراهقين ودعم علاقاتهم في العالم الواقعي وتشجيع الاستخدام الصحي بمرور الوقت.

OpenAI تقول إنها تضيف ضمانات أمان

قال المتحدث باسم OpenAI، درو بوساتيري، إن الشركة أوقفت يوم الجمعة تدريب نماذجها الأكثر قدرة، ولن تستأنفه إلا عندما تتأكد من تطبيق ضمانات أمان إضافية. وأضاف أن على الحكومات وضع معايير للسلامة تنطبق على قطاع الذكاء الاصطناعي بأكمله، وأن OpenAI مستعدة للعمل مع فلوريدا وولايات أخرى.

يطلب الملف من قاضٍ فرض قيود؛ ولا يعني ذلك أن هذه القيود دخلت حيز التنفيذ. ويثير النزاع تساؤلات حول الطريقة التي ينبغي لروبوتات المحادثة أن تصف بها نفسها، وفحوص السلامة الواجب اشتراطها قبل بناء أنظمة أكثر قدرة.

لماذا يهم

قد تؤثر القضية في مدى استخدام روبوتات المحادثة للغة الشبيهة بالبشر، وفي فحوص السلامة التي يتعين على الشركات إظهارها قبل تدريب نماذج جديدة. وبالنسبة إلى المستخدمين، فالخلاصة الآن أن فلوريدا تطلب إجراء تغييرات، لا تعلن قواعد دخلت حيز التنفيذ بالفعل؛ إذ لم تصدر المحكمة حكمًا.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.