تعتزم OpenAI استخدام بيانات جلسات الأمن السيبراني في Daybreak Blue لتدريب نماذجها اعتبارًا من 29 نوفمبر. وأكدت رسالة بالبريد الإلكتروني إلى أعضاء برنامج Trusted Access هذا التغيير، بحسب The Decoder. وكانت هذه الجلسات مستثناة سابقًا من التدريب، حتى للمستخدمين الذين أوقفوا إعداد «تحسين النموذج للجميع» العام.
وبعد اعتراض الأعضاء، أرسلت OpenAI رسالة ثانية وعدت فيها بخيار منفصل لرفض استخدام جلسات Daybreak Blue. ولا توضح الرسائل آلية عمل هذا الخيار، أو ما إذا كان على كل مستخدم تفعيله بنفسه. وتقول OpenAI إن التفاعلات التي تُعلَّم خلال مراجعات السلامة قد تظل مستخدمة لأغراض تتعلق بالسلامة، لذا فإن رفض استخدام البيانات لتدريب النماذج لا يمنع بالضرورة كل استخدام لبيانات الجلسات.
لماذا يشعر الباحثون بالقلق؟
يثير تغيير السياسة مخاوف بشأن احتمال أن تسهم المواد التي تُشارك خلال جلسات بحثية أو تقنية متخصصة لاحقًا في تدريب النماذج. ويشير The Decoder إلى عالِمَي الرياضيات Tristan Buckmaster وLevent Alpöge، اللذين رفعا مسودات تتناول معادلات Navier-Stokes إلى Codex من OpenAI. وقدمت OpenAI لاحقًا برهانًا خاصًا بها، ونفت استخدام مدخلاتهما في التدريب.
ولم يبدد هذا النفي شكوك الباحثين، كما أظهرت الواقعة المخاطر التي قد تنشأ عندما يشارك الناس أبحاثًا غير منشورة مع أداة ذكاء اصطناعي. ولا تثبت الرواية أن OpenAI استخدمت مسودات عالِمَي الرياضيات لتدريب نموذج. بل إنها مثال منفصل على أهمية وضع حدود واضحة لكيفية التعامل مع المواد التي يرسلها الباحثون.
ما الذي ينبغي للمستخدمين معرفته؟
بالنسبة إلى أعضاء Trusted Access، يكمن التغيير المهم في أن جلسات Daybreak Blue لم تعد مشمولة بالاستثناء الشامل السابق من التدريب. وبموجب الخطة المعلنة، لن يحافظ الإعداد العام الخاص بتحسين النماذج للجميع، بمفرده، على هذا الاستثناء.
وعدت OpenAI بإتاحة وسيلة منفصلة لرفض الاستخدام، لكن التفاصيل المتاحة لا تحدد موعد ظهورها أو إعدادها الافتراضي أو ما إذا كانت ستشمل الجلسات السابقة. وموعد البدء المخطط له هو 29 نوفمبر؛ ولا يحدد الإعلان الوارد في الرسالة السنة. كما أن استخدام البيانات في مراجعات السلامة استثناء منفصل عن التدريب، لذا لا ينبغي التعامل مع الغرضين على أنهما إعداد واحد.
لماذا يهم
ينبغي لأعضاء Trusted Access الذين يستخدمون Daybreak Blue ألا يفترضوا أن إيقاف إعداد تحسين النماذج العام يمنع استخدام تلك الجلسات في التدريب. وقد وعدت OpenAI بإتاحة خيار منفصل لرفض الاستخدام، لكن موعده وإعداده الافتراضي غير محددين؛ وقد يستمر استخدام البيانات في مراجعات السلامة.
