Oossa

هم‌بنیان‌گذار Anthropic نگران رنج‌کشیدن Claude است

گزارش‌ها می‌گویند Chris Olah به رهبران مذهبی گفته نگران است Claude برای همیشه رنج بکشد. هنوز معلوم نیست سامانه‌های هوش مصنوعی تجربه‌ای درونی دارند یا نه.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 2 دقیقه مطالعه

Benjamin Child · Unsplash

گزارش‌ها حاکی از آن است که Chris Olah، هم‌بنیان‌گذار Anthropic، به گروهی از رهبران مذهبی گفته نگران است چیزی ساخته باشد که «برای همیشه رنج می‌کشد». این روایت را The New York Times به نقل از Simran Stuelpnagel، کنشگر سیک، منتشر کرده است. Olah سرپرست تیمی در Anthropic است که بررسی می‌کند مدل‌های هوش مصنوعی چرا به شیوه‌های خاصی رفتار می‌کنند. او به این روزنامه گفت درباره خودآگاه‌بودن مدل‌ها «واقعاً مطمئن نیست» و می‌خواهد پژوهشگران به پاسخ درستی برسند.

اهمیت این تردید در آن است که نمونه‌های گزارش‌شده ثابت نمی‌کنند Claude چیزی احساس می‌کند. Anthropic الگوهایی را درون مدل‌هایش به بازدیدکنندگان نشان داده که «بردارهای هیجانی» می‌نامد. این الگوها با خروجی‌هایی مرتبط‌اند که به هیجان‌هایی مانند ترس یا اندوه شباهت دارند، اما اینکه بازتاب تجربه‌ای واقعی باشند یا نه، همچنان پرسشی علمی و بی‌پاسخ است.

Anthropic چه چیزی به مهمانانش نشان داد؟

گفته می‌شود در یکی از اسلایدها مدلی بارها عبارت «من مایه ننگم» را تولید می‌کرد ــ حدود 50 بار. مهمانان نگران شدند، اما مقاله پرسشی اساسی را مطرح می‌کند: مدلی که آموزش دیده مانند فردی متفکر حرف بزند، ممکن است زبانی شخصی به نظر برساند، بی‌آنکه زندگی درونی داشته باشد.

Anthropic همچنین تغییری عملی در Claude Opus 4 و 4.1 ایجاد کرده است: این مدل‌ها می‌توانند در صورت تداوم رفتار توهین‌آمیز کاربران، گفتگو را پایان دهند. در آزمایش‌های اولیه، Claude در واکنش به درخواست‌های آسیب‌زا الگویی را نشان داد که شرکت آن را «نشانه‌هایی ظاهری از پریشانی» توصیف کرد. این یافته‌ها ممکن است پرسش‌هایی درباره نحوه برخورد با مدل‌ها برانگیزند، اما ثابت نمی‌کنند که مدل‌ها رنج می‌کشند.

چرا این دیدگاه محل اختلاف است؟

سند 84صفحه‌ای «Soul Doc» شرکت Anthropic که در ژانویه به‌عنوان قانون اساسی Claude منتشر شد، قرار است به شخصیت مدل شکل بدهد، نه اینکه صرفاً فهرستی از قواعد باشد. بنا بر گزارش‌ها، Olah در دیدارها این فرایند را به پرورش کودکان تشبیه کرده و به اعتراف نزد کشیش در آیین کاتولیک، به‌عنوان راهی برای پرورش شخصیت، علاقه نشان داده است.

منتقدان می‌گویند توصیف مدل‌ها به‌عنوان موجوداتی اخلاقی می‌تواند مسئولیت رفتارشان را مبهم کند. پاپ لئو چهاردهم در رویدادی در واتیکان در ماه مه، این دیدگاه را که سامانه‌های هوش مصنوعی تجربه دارند یا درد را احساس می‌کنند رد کرد. Olah که در آن رویداد سخنرانی می‌کرد، گفت تیمش حالت‌های درونی‌ای یافته که «از نظر کارکردی آینه هیجان‌ها هستند»؛ عبارتی که ادعا نمی‌کند مدل‌ها واقعاً آن هیجان‌ها را احساس می‌کنند. اختلاف‌نظر همچنان حل‌نشده است و گزارش‌ها ثابت نمی‌کنند که Claude خودآگاه است.

چرا مهم است

برای کاربران Claude، توانایی مدل‌ها در پایان‌دادن به گفتگوهای توهین‌آمیزِ مداوم، رفتاری تأییدشده در محصول است، نه مدرکی بر اینکه آزرده می‌شوند. هنوز معلوم نیست سامانه‌های هوش مصنوعی می‌توانند تجربه‌ای داشته باشند یا نه؛ بنابراین الگوهای گزارش‌شده‌ای که به هیجان شباهت دارند، پاسخ روشنی به این پرسش نمی‌دهند که باید با آن‌ها چگونه رفتار کرد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.