پاپ لئو چهاردهم از دولت‌ها خواست کنترل تصمیم‌های مربوط به جان و آزادی انسان‌ها و به‌کارگیری زور را در دست انسان‌ها نگه دارند و برای ممنوعیت سلاح‌های خودمختار مرگبار گام بردارند. او روز ۳۰ اکتبر در سخنرانی برای شرکت‌کنندگان در نشستی درباره هوش مصنوعی در واتیکان گفت این فناوری باید «خلع سلاح» شود و «ماشین‌ها ابزارند، نه اشخاص».
بر اساس متن منتشرشده از سوی مقر مقدس، این نشست را آکادمی پاپی حیات و مؤسسه آینده حیات به‌طور مشترک برگزار کردند. لئو از کشورهایی که قرار است نوامبر در ژنو گرد هم بیایند خواست برای ممنوعیت سلاح‌های خودمختار مرگبار گام‌های عملی بردارند. او از توافق یا سیاست تازه‌ای خبر نداد، بلکه از دولت‌ها خواست اقدام کنند.
منظور از «خلع سلاح» چیست؟
محور سخنرانی لئو این بود که کنترل تصمیم‌ها باید در دست انسان بماند. او گفت تصمیم‌های مربوط به جان، آزادی و به‌کارگیری زور باید «به‌طور مؤثر، آگاهانه و مسئولانه تحت نظارت انسان» باشند. او قرار دادن نام کسی در فهرست اهداف یا ثبت او در پایگاه داده کنترل مرزی را مثال زد و هشدار داد که ممکن است افراد به داده‌هایی صرفاً عددی تقلیل داده شوند.
او همچنین با اعطای حقوق یا شخصیت حقوقی به سامانه‌های هوش مصنوعی مخالفت کرد. لئو در سخنرانی‌اش گفت ماشین‌ها تجربه‌ها و روابط انسانی ندارند و هشدار داد که به‌رسمیت‌شناختن آن‌ها به‌عنوان اشخاص حقوقی می‌تواند مسئولیت‌پذیری در قبال آسیب‌دیدن انسان‌ها را مبهم کند. منظور سخنرانی این نیست که سامانه‌های هوش مصنوعی اکنون جایگاه حقوقی دارند؛ بلکه این است که پیشنهاد چنین کاری می‌تواند پاسخ‌گویی را دشوارتر کند.
درخواست برای تدوین قواعد و پاسخ‌گویی
در متن منتشرشده از سوی مقر مقدس، پنج اصل آمده است: آینده هوش مصنوعی به انتخاب‌های انسان‌ها بستگی دارد؛ ماشین‌ها ابزارند؛ برخی تصمیم‌ها نباید به آن‌ها واگذار شوند؛ هوش مصنوعی باید در خدمت خیر همگانی باشد؛ و نهادها باید اصول اخلاقی را در عمل اجرا کنند. لئو خواستار معیارهای مشترک، نظارت مستقل و راه‌هایی برای اعتراض به تصمیم‌ها و جبران آسیب‌ها شد.
واتیکان نیوز گزارش داد که لئو شرکت‌کنندگان نشست را نگران وضعیت هوش مصنوعی توصیف کرد و گفت اقدام بیشتری لازم است. ورج اشاره می‌کند که این سخنرانی در ادامه سند ماه مه او، «Magnifica Humanitas»، است و یادآور درخواست پاپ فرانسیس در ۲۰۲۴ است که هیچ ماشینی نباید انتخاب کند جان انسانی را بگیرد یا نه. سخنان لئو این هشدار را به مطالبه‌ای گسترده‌تر برای نظارت بر توسعه و استفاده از هوش مصنوعی پیوند می‌دهد.
چرا مهم است
برای افرادی که با غربالگری مرزی یا دیگر تصمیم‌های حساس و سرنوشت‌ساز روبه‌رو هستند، پیشنهاد لئو این است که یک انسان مسئول ــ نه صرفاً یک سامانه هوش مصنوعی ــ بر تصمیم‌های مؤثر بر آزادی یا امنیت آن‌ها نظارت کند. این سخنرانی فراخوانی از دولت‌ها و نهادها برای تدوین قواعد است؛ به این معنا نیست که قواعد تازه یا ممنوعیت سلاحی تصویب شده باشد.
