تطرح OpenAI علامة مائية غير مرئية تُسمى textGrain لمخرجات ChatGPT وCodex، وستكون مفعّلة للمستخدمين في الاتحاد الأوروبي. وتقول الشركة إن الميزة ستُفعّل خلال الأسابيع المقبلة للامتثال لمتطلبات قانون الذكاء الاصطناعي الأوروبي، التي تنص على إمكان وسم النصوص المُولّدة بطريقة قابلة للقراءة آليًا. أما مطورو واجهة API من OpenAI، فيمكنهم تفعيل العلامة المائية أو إيقافها متى أرادوا، على خلاف نهج Anthropic الذي يفرض علامة مائية على كل مخرجات Claude حول العالم.
آلية عمل العلامة المائية وحدودها
تُدرج textGrain نمطًا إحصائيًا في اختيار النموذج للكلمات، على غرار SynthID من Google، التي يستخدمها Claude من Anthropic. وتقول الاختبارات الداخلية لدى OpenAI إن أداة الكشف تعثر على النمط في نحو 95% من مقاطع علم النفس المؤلفة من 400 رمز (نحو 300 كلمة)، لكن النسبة لا تتجاوز نحو 60% في مقاطع الرياضيات بالطول نفسه. ويؤدي تغيير جزء صغير من النص إلى خفض احتمال الكشف: فاستبدال 10% من الكلمات بمرادفات يخفض معدل الكشف من نحو 92% إلى 66%، فيما يؤدي استبدال ربع الكلمات إلى خفضه لنحو 17%.
إمكانية الوصول إلى أداة الكشف
في الوقت الحالي، ستتيح OpenAI أداة الكشف لباحثين مختارين ومؤسسات متخصصة فقط، من خلال تقديم طلب. وستكتفي الأداة بالإبلاغ عن وجود علامة مائية من OpenAI، ولن تكشف عن كاتب النص أو أي مطالبات استُخدمت.
لماذا يهم
سيظهر على مخرجات ChatGPT لمستخدمي الاتحاد الأوروبي مؤشر مخفي يمكن للجهات التنظيمية قراءته، للمساعدة في الامتثال لقواعد الوسم الجديدة. ويمكن للمطورين اختيار إخفاء هذا المؤشر، ما قد يؤثر في سهولة تعرّف الجهات الأخرى على النصوص المُولّدة بالذكاء الاصطناعي. ويعني انخفاض دقة الكشف بعد التحرير أن المستخدمين قد يظلون قادرين على إزالة العلامة المائية بإعادة صياغة المحتوى على نحو محدود.
