Anthropic پس از بیش از یک سال، سیاست استفاده از چت‌بات Claude را تغییر داده است. قوانین جدید، بدرفتاری مکرر و بی‌دلیل کاربران با این مدل را ممنوع می‌کند. این شرکت می‌گوید فعلاً راهکار اصلی اجرای این قانون، پایان‌دادن به گفت‌وگوست، اما ممکن است در آینده اقدام‌های دیگری، از جمله مسدودکردن کاربران، اضافه کند. این به‌روزرسانی همچنین محدودیت‌های پیشین درباره استفاده از Claude برای ساخت سلاح، نظارت و کارزارهای فریب‌کارانه سیاسی یا تجاری را سخت‌گیرانه‌تر می‌کند.
قوانین جدید چه مواردی را در بر می‌گیرند؟
این سیاست چند محدودیت پیشین را در قالب ممنوعیت واحدی برای کارزارهای فریب‌کارانه کنار هم قرار می‌دهد. بر اساس آن، پنهان‌کردن هویت عامل انتشار پیام، گسترش محتوا با حساب‌های جعلی یا انتشار اطلاعات نادرست انتخاباتی ممنوع است. بند مربوط به سلاح اکنون نرم‌افزارهای مؤثر در عملکرد سلاح را هم در بر می‌گیرد؛ از جمله مسلح‌کردن پهپادها و دیگر خودروهای خودران. محدودیت‌های نظارتی نیز روشن‌تر شده‌اند: نمی‌توان از Claude برای ردیابی افراد بدون رضایت آن‌ها یا کمک به نیروهای انتظامی در تصمیم‌گیری درباره بازداشت افراد استفاده کرد.
Anthropic همچنین بندی ایمنی برای هر نوع سخت‌افزاری افزوده که ممکن است Claude آن را کنترل کند. اگر هوش مصنوعی به ماشین‌هایی متصل باشد که امکان آسیب‌رساندن دارند، اپراتوری واجد صلاحیت باید بتواند تجهیزات را زیر نظر بگیرد و متوقف کند.
چرا این تغییر مهم است؟
Anthropic می‌گوید سیاست جدید در واکنش به افزایش تلاش‌ها برای سوءاستفاده از Claude تدوین شده است؛ از جمله استفاده از آن برای نوشتن کد کنترل سلاح یا شناسایی مخالفان سیاسی. این شرکت امیدوار است با تعیین محدودیت‌های سخت‌گیرانه‌تر، این خطرها را کاهش دهد و معیار روشن‌تری برای پروژه‌های آینده در حوزه سخت‌افزار هوش مصنوعی ارائه کند.
چرا مهم است
برای کاربران عادی، این تغییر یعنی Claude گفت‌وگوهایی را که در آن‌ها رفتار خصمانه به‌طور مکرر ادامه پیدا کند، پایان می‌دهد و احتمال سوءاستفاده از مدل برای اهداف نفرت‌پراکنانه یا زیان‌بار را کاهش می‌دهد. همچنین نشان‌دهنده محدودیت‌های سخت‌گیرانه‌تر برای استفاده از هوش مصنوعی در پروژه‌های خطرناک است؛ محدودیت‌هایی که ممکن است خطر انتشار اطلاعات نادرست تولیدشده با هوش مصنوعی یا محتوای مرتبط با سلاح را برای عموم کاهش دهند.
