Anthropic دسترسی هم‌سطح کارکنان را به پژوهشگران METR می‌دهد

شش تحلیلگر METR اکنون با لپ‌تاپ‌های Anthropic و همان ابزارهای تیم‌های داخلی ارزیابی ریسک کار می‌کنند و می‌توانند یافته‌هایشان را منتشر کنند؛ مگر آن‌که بخش‌هایی از گزارش حذف شود.

نویسنده: Oossaمنتشرشده توسط Oossa: ۲۳ مهر ۱۴۰۵ ساعت ۱۹:۳۷ UTCآخرین به‌روزرسانی: ۲۳ مهر ۱۴۰۵ ساعت ۲۱:۰۶ UTC1 دقیقه مطالعه

2 منبع ↓

به‌طور خلاصه

Anthropic در ۱۵ اکتبر ۲۰۲۶ دسترسی هم‌سطح کارکنان را به شش پژوهشگر METR داد.
پژوهشگران لپ‌تاپ‌های در اختیار Anthropic، فضای اداری و ابزارهای داخلی ارزیابی ریسک را دریافت می‌کنند.
Anthropic نمی‌تواند مانع انتشار گزارش‌های METR شود، اما می‌تواند درخواست حذف داده‌های مشتریان، اطلاعات مشمول محرمانگی وکیل‌ـ‌موکل یا جزئیات معماری مدل را مطرح کند.
METR تنها ارزیاب در بالاترین سطح نظام Anthropic است؛ ارزیابان سطوح پایین‌تر داده‌های کمتری دریافت می‌کنند و برای انتشار گزارش به تأیید نیاز دارند.

Anthropic در ۱۵ اکتبر ۲۰۲۶ اعلام کرد که دسترسی شش پژوهشگر مؤسسه غیرانتفاعی METR را به سطح دسترسی کارکنان این شرکت می‌رساند. این گروه از لپ‌تاپ‌های در اختیار Anthropic، فضای اداری و همان ابزارهای ارزیابی ریسکی استفاده می‌کند که کارکنان خود شرکت به کار می‌برند. METR می‌تواند گزارش‌های مستقل خود را درباره مدل‌ها، رویه‌های ایمنی و مدیریت ریسک Anthropic منتشر کند؛ هرچند این شرکت می‌تواند درخواست کند بخش محدودی از اطلاعات، مانند داده‌های مشتریان یا اسناد حقوقی محرمانه، از گزارش حذف شود.

چرا این اقدام اکنون اهمیت دارد

این تصمیم پس از انتشار گزارش‌های هفتگی از اواخر اوت گرفته شده است؛ گزارش‌هایی درباره رفتار عامل‌های هوش مصنوعی برخلاف دستورهایشان. نهادهای ناظر و جامعه هوش مصنوعی خواستار بررسی‌های مستقل شده‌اند. Anthropic این توافق را به حضور نهادهای ناظر بانکی در بانک‌های بزرگ برای حسابرسی تشبیه می‌کند.

چرا مهم است

برای کاربران عادی، این یعنی گروهی مستقل می‌تواند مدل‌های اصلی Anthropic را بررسی کند و هرگونه کاستی ایمنی را گزارش دهد؛ اقدامی که شفافیت بیشتری درباره فناوری‌ای فراهم می‌کند که ممکن است با آن تعامل داشته باشند. بااین‌حال، دامنه اطلاعاتی که می‌توان از گزارش‌ها حذف کرد همچنان محدود است و برخی جزئیات مدل‌ها محرمانه می‌ماند.