Oossa

هشدار پژوهشگران هوش مصنوعی درباره خطر انقراض بشر

Palisade Research گفت‌وگوهایی با ۱۲ کارمند کنونی و پیشین آزمایشگاه‌های هوش مصنوعی منتشر کرده است. این افراد دیدگاه‌های شخصی خود را بیان می‌کنند و نمونه‌ای نماینده از کارکنان این صنعت نیستند.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 2 دقیقه مطالعه

Benjamin Child · Unsplash

Palisade Research، سازمانی غیرانتفاعی که بر توانایی‌ها و انگیزه‌های هوش مصنوعی تمرکز دارد، مجموعه‌ای از گفت‌وگوها با ۱۲ کارمند کنونی و پیشین OpenAI، Google و Anthropic منتشر کرده است. در این ویدیوها که در وب‌سایت frominside.ai گردآوری شده‌اند، پژوهشگران درباره احتمال خطرهای بسیار جدی هوش مصنوعی پیشرفته برای انسان‌ها صحبت می‌کنند.

Geoffrey Irving که پیش‌تر در OpenAI و Google DeepMind کار می‌کرد، گفت احتمال انقراض بشر را «تقریباً پنجاه‌پنجاه» می‌داند. Neel Nanda، پژوهشگر Google DeepMind، برآورد خود را «دست‌کم ۱۰ درصد» اعلام کرد. Daniel Kokotajlo، پژوهشگر پیشین OpenAI، هشدار داد که هوش مصنوعی اَبَرهوشمند می‌تواند «قدرتی خداگونه» داشته باشد و گفت: «اصلاً نمی‌دانیم چطور آن‌ها را کنترل کنیم.» این‌ها ارزیابی‌های فردی‌اند، نه احتمال‌هایی محاسبه‌شده یا پیش‌بینی مشترک صنعت هوش مصنوعی.

چه کسانی در این مجموعه حضور دارند؟

Palisade می‌گوید مصاحبه‌شوندگان نمونه‌ای نماینده از کارکنان شرکت‌های پیشتاز هوش مصنوعی نیستند. این سازمان از طریق شبکه‌ها و معرفی‌های خودش افراد را جذب کرد و می‌گوید کسانی که برای شرکت در گفت‌وگوها پذیرفتند، به‌طور نامتناسبی از تیم‌های ایمنی بودند، نگرانی بیشتری درباره خطرها داشتند یا با کندکردن روند توسعه هوش مصنوعی موافق بودند. در میان شرکت‌کنندگان نام پژوهشگرانی از OpenAI، Google DeepMind و Anthropic دیده می‌شود؛ همچنین افرادی که این سازمان‌ها را ترک کرده‌اند.

Palisade می‌گوید ۲۲ مصاحبه ضبط کرده، اما بسیاری از آن‌ها فقط در صورتی منتشر می‌شوند که شرکت‌کنندگان بعداً اجازه بدهند. گفت‌وگوها بدون متن ازپیش‌نوشته‌شده انجام شده‌اند، هرچند پرسش‌ها از قبل در اختیار شرکت‌کنندگان قرار گرفته بود. Palisade می‌گوید تدوین‌گران برای روانی و وضوح ویدیوها تغییراتی داده‌اند و گاهی بخش‌هایی از برداشت‌های مختلف را به هم پیوند زده‌اند. در این مجموعه همچنین کلیپ‌های کوتاهی از چند نفر کنار هم قرار گرفته‌اند که به پرسش‌های مشترکی پاسخ می‌دهند؛ از جمله اینکه آیا هشدارها درباره خطرها بزرگ‌نمایی‌اند و چرا کسی به کار در حوزه‌ای ادامه می‌دهد که آن را خطرناک می‌داند.

چرا هنگام کار در حوزه هوش مصنوعی لب به سخن می‌گشایند؟

مصاحبه‌شوندگان راه‌حل واحدی پیشنهاد نمی‌کنند. Nanda گفت اگر باور نداشت کارش خطرهای وجودی را کاهش می‌دهد، استعفا می‌داد؛ اما افزود انتظار ندارد شرکت‌ها صرفاً به‌خاطر رفتن او ساخت سامانه‌های هوش مصنوعی را متوقف کنند. Mary Phuong از Google از بینندگان خواست دیدگاه او را با تردید بررسی کنند، چون «آزمایشگاه به من حقوق می‌دهد.»

Palisade می‌گوید پس از مشاهده علاقه عمومی به دیدگاه کارکنان شرکت‌های پیشتاز هوش مصنوعی درباره این فناوری، این پروژه را راه‌اندازی کرد. این گروه می‌گوید هدفش فراهم‌کردن راهی مستقیم برای ارتباط این کارکنان با مردم است. همچنین از مردم ایالات متحده می‌خواهد با اعضای کنگره تماس بگیرند و در عین حال می‌پذیرد که مردم کشورهای دیگر نیز می‌توانند دیدگاه‌هایشان را با نمایندگان خود در میان بگذارند.

چرا مهم است

برای کسانی که می‌خواهند بدانند پژوهشگران هوش مصنوعی چه نظری دارند، این ویدیوها روایت‌های دست‌اول کارکنان آزمایشگاه‌های بزرگ را ارائه می‌کنند؛ از جمله اینکه برخی چگونه خطرها را در برابر ماندن در این حوزه می‌سنجند. اما Palisade می‌گوید شرکت‌کنندگان گروهی گزینش‌شده‌اند و دیدگاه‌هایشان نشان نمی‌دهد کارکنان این صنعت در کل چه احساسی دارند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.