Anthropic اعلام کرد شش نفر از کارکنان گروه «پژوهش ارزیابی و شفافیت مدل» (METR) در محوطه شرکت و با همان تجهیزات و سامانه‌های داخلی تیم‌های ارزیابی ریسک Anthropic کار خواهند کرد. این همکاری بدون دستمزد است و نهاد ناظر می‌تواند یافته‌هایش را منتشر کند؛ هرچند Anthropic می‌تواند درخواست کند اطلاعات مشتریان، داده‌های محرمانه یا جزئیات معماری مدل حذف شوند.
چرا چنین دسترسی گسترده‌ای به یک نهاد بیرونی داده می‌شود؟
این اقدام در حالی صورت می‌گیرد که Anthropic برای عرضه اولیه سهام آماده می‌شود و انتظار دارد ارزش شرکت به بیش از ۲ تریلیون دلار برسد. سرمایه‌گذاران خواستار شواهدی هستند که نشان دهد خطرهای ایمنی مهار شده‌اند. Anthropic امیدوار است با حضور پژوهشگران METR در شرکت، نظارتی شفاف و شبیه نظارت بر کارکنان بر مدل‌هایش برقرار کند؛ مشابه روشی که بانک‌ها با آن به ناظران اجازه می‌دهند رفتارهای پرخطر را پیش از آسیب‌رساندن به عموم بررسی کنند.
چرا مهم است
برای مصرف‌کنندگان، نظارت بیشتر می‌تواند احتمال راه‌یافتن رفتار ناایمن مدل‌ها به محصولات پس از ورود شرکت به بورس را کاهش دهد. این نظارت همچنین داده‌های ملموس‌تری برای ارزیابی خطرها در اختیار نهادهای ناظر می‌گذارد، هرچند میزان اثربخشی آن هنوز مشخص نیست.
