یک مؤسسه غیرانتفاعی به نام Palisade Research مجموعهای از ویدئوهای گفتوگو با پژوهشگران هوش مصنوعی از OpenAI، Google DeepMind و Anthropic منتشر کرده است. این دانشمندان در ویدئوها میگویند هوش مصنوعی ابرهوشمندِ آینده میتواند به همان اندازهای که دربارهاش هیاهو شده خطرناک باشد. جفری اروینگ که در OpenAI و DeepMind کار کرده، احتمال انقراض بشر را «تقریباً مثل شیر یا خط» میداند. نیل ناندا، پژوهشگر DeepMind، این خطر را «دستکم ۱۰ درصد» برآورد میکند. دنیل کوکوتایلو، کارمند سابق OpenAI، میگوید یک سامانه ابرهوشمند «قدرتی در حد خدا» خواهد داشت و راهی برای مهار آن نداریم.
پژوهشگران چه گفتند
در این ویدئوها همچنین درباره این صحبت میشود که چرا دانشمندان با وجود خطرها همچنان در حوزه هوش مصنوعی کار میکنند. مری فونگ از Google میگوید «آزمایشگاه به من حقوق میدهد»؛ حرفی که به تعارض منافع اشاره دارد. ناندا اضافه میکند اگر فکر نمیکرد کارش خطر وجودی را کاهش میدهد، استعفا میداد؛ اما شرکتها در هر صورت به ساخت این سامانهها ادامه میدادند.
Palisade Research ویدئوهای کامل را در frominside.ai منتشر کرده و کلیپهای کوتاهی هم گردآوری کرده است که بر اظهارنظرهای تکاندهندهتر تمرکز دارند. این وبسایت یک راهکار ایمنی جامع و واحد ارائه نمیکند؛ خود پژوهشگران هم درباره چگونگی مقابله با این تهدید اختلافنظر دارند.
چرا مهم است
این هشدارها نشان میدهد حتی مهندسان برجسته هوش مصنوعی هم خطر پیامدهای فاجعهبار را جدی میدانند. برای کاربران عادی، یعنی بحث ایمنی هوش مصنوعی صرفاً موضوعی دانشگاهی نیست؛ این بحث میتواند بر سرعت عرضه ابزارهای قدرتمند هوش مصنوعی و تدابیر حفاظتی آنها اثر بگذارد.
