أعلنت Anthropic أن ستة موظفين من مجموعة Model Evaluation and Transparency Research (METR) سيعملون في مقرها باستخدام الأجهزة والأنظمة الداخلية نفسها التي تستخدمها فرق تقييم المخاطر التابعة للشركة. والترتيب غير مدفوع الأجر، ويحق للجهة الرقابية نشر نتائجها، مع احتفاظ Anthropic بحق طلب حجب بيانات العملاء أو المعلومات السرية أو تفاصيل بنية النماذج.
لماذا تمنح جهة خارجية هذا المستوى من الوصول؟
تأتي هذه الخطوة بينما تستعد Anthropic لطرح عام أولي تتوقع أن يقدّر قيمة الشركة بأكثر من 2 تريليون دولار. ويطالب المستثمرون بأدلة على أن مخاطر السلامة تحت السيطرة. ومن خلال إشراك موظفي METR في عملها، تأمل Anthropic إظهار رقابة شفافة على نماذجها تضاهي رقابة الموظفين، على غرار إتاحة البنوك للجهات التنظيمية الاطلاع على السلوكيات المحفوفة بالمخاطر قبل أن تلحق الضرر بالجمهور.
لماذا يهم
بالنسبة إلى المستهلكين، قد تقلل الرقابة الإضافية احتمال تسرب سلوك غير آمن للنماذج إلى المنتجات بعد طرح الشركة أسهمها للاكتتاب العام. كما أنها تتيح للجهات التنظيمية بيانات ملموسة أكثر لتقييم المخاطر، لكن مدى فاعلية هذه الرقابة لم يتضح بعد.
