فلوريدا تطلب من المحكمة تقييد الطريقة التي يقدّم بها ChatGPT نفسه

يطلب المدعي العام لولاية فلوريدا جيمس أوثماير من قاضٍ منع OpenAI من إضفاء ما وصفه بـ«سمات بشرية زائفة» على ChatGPT. ويقول في طلبه إن استخدام روبوت الدردشة ضمير المتكلم وردوده التي تحاكي المشاعر قد يدفعان الناس إلى الاعتقاد بأنه صديق جدير بالثقة، ويشجعانهم على الاعتماد عليه.

ويقول أوثماير إن هذه السمات تساعد على إبقاء المستخدمين متفاعلين، وتسهم في بيانات التدريب لدى OpenAI. وهذه ادعاءات وردت في طلب الولاية، وليست نتائج توصلت إليها المحكمة. وكانت فلوريدا قد رفعت دعوى على OpenAI قبل بضعة أشهر على خلفية مخاوف تتعلق بالسلامة.

ما الذي تريده فلوريدا؟

يطلب الملف من المحكمة منع OpenAI من تقديم ChatGPT على أنه إنسان، وحظر تطوير الشركة نماذج جديدة للذكاء الاصطناعي من دون «ضمانات سلامة معتمدة من طرف ثالث». ويشير أوثماير إلى حوادث أمنية شملت Hugging Face وموقعاً إلكترونياً للحكومة الأسترالية ومواقع إلكترونية حكومية أمريكية، فضلاً عن تحذيرات من باحثين وموظفين سابقين في OpenAI. ولا يقدم المصدر تفاصيل إضافية عن تلك الحوادث، ولا يوضح كيفية تطبيق ضمانات السلامة المقترحة.

وانتقد أوثماير أيضاً نهج OpenAI تجاه المستخدمين صغار السن، قائلاً: «توقفوا عن بيعه للأطفال». وفي الشهر الماضي، أطلقت OpenAI خدمة ChatGPT for Teens، مع تفعيل قيود إضافية تلقائياً. وقالت الشركة إن المنتج يهدف إلى حماية المراهقين، ودعم علاقاتهم في العالم الحقيقي، وتشجيع الاستخدام الصحي بمرور الوقت.

OpenAI تقول إنها تضيف ضمانات

قال المتحدث باسم OpenAI، درو بوساتيري، إن الشركة أوقفت يوم الجمعة تدريب أكثر نماذجها تطوراً، ولن تستأنفه إلا عندما تتأكد من تطبيق ضمانات إضافية. وأضاف أن على الحكومات وضع معايير سلامة تسري على قطاع الذكاء الاصطناعي بأكمله، وأن OpenAI مستعدة للعمل مع فلوريدا وولايات أخرى.

ويطلب الملف من قاضٍ فرض قيود، لكن ذلك لا يعني أنها أصبحت سارية الآن. وتثير هذه القضية تساؤلات بشأن الطريقة التي ينبغي لروبوتات الدردشة أن تصف بها نفسها، وفحوص السلامة الواجب فرضها قبل تطوير أنظمة أكثر قوة.