دعا البابا لاوون الرابع عشر الحكومات إلى إبقاء القرارات المتعلقة بحياة الإنسان وحريته واستخدام القوة بيد البشر، واتخاذ خطوات نحو حظر الأسلحة الذاتية الفتاكة. وقال في كلمة ألقاها في 30 أكتوبر أمام المشاركين في اجتماع للفاتيكان حول الذكاء الاصطناعي، إن هذه التكنولوجيا يجب «نزع سلاحها»، وإن «الآلات أدوات وليست أشخاصًا».
وبحسب نص الكرسي الرسولي، نظمت الاجتماعَ الأكاديمية البابوية للحياة ومعهد مستقبل الحياة معًا. وحث لاوون الدول التي ستجتمع في جنيف في نوفمبر على اتخاذ خطوات ملموسة نحو حظر الأسلحة الذاتية الفتاكة. ولم يعلن عن اتفاق أو سياسة جديدة، بل دعا الحكومات إلى التحرك.
ماذا يعني «نزع السلاح»؟
ركزت كلمة لاوون على المجالات التي ينبغي أن تظل القرارات فيها خاضعة للسيطرة البشرية. وقال إن القرارات التي تمس الحياة والحرية واستخدام القوة يجب أن تخضع «لإشراف بشري فعّال ومستنير ومسؤول». وضرب مثالًا بإدراج شخص على قائمة أهداف أو إضافته إلى قاعدة بيانات لمراقبة الحدود، محذرًا من اختزال الناس إلى مجرد نقاط بيانات.
كما عارض منح أنظمة الذكاء الاصطناعي حقوقًا أو شخصية قانونية. وقال في كلمته إن الآلات لا تختبر التجارب أو العلاقات الإنسانية، محذرًا من أن التعامل معها بوصفها أشخاصًا قانونيين قد يحجب هوية المسؤول عندما يتعرض الناس للأذى. والمقصود في الكلمة ليس أن أنظمة الذكاء الاصطناعي مُنحت وضعًا قانونيًا، بل إن مقترحات منحها هذا الوضع قد تجعل المساءلة أصعب.
دعوة إلى قواعد ومساءلة
يعرض نص الكرسي الرسولي خمسة مبادئ: مستقبل الذكاء الاصطناعي مرهون بالخيارات البشرية؛ والآلات أدوات؛ ولا ينبغي تفويض بعض القرارات؛ وينبغي أن يخدم الذكاء الاصطناعي الصالح العام؛ وعلى المؤسسات تطبيق المبادئ الأخلاقية عمليًا. ودعا لاوون إلى معايير مشتركة ورقابة مستقلة وآليات للاعتراض على القرارات وطلب الإنصاف عن الأضرار.
وأفادت Vatican News بأن لاوون قال إن المشاركين في الاجتماع يتشاركون القلق إزاء الذكاء الاصطناعي، وإن الحاجة إلى مزيد من التحرك قائمة. وأشارت The Verge إلى أن الكلمة تأتي امتدادًا لوثيقته الصادرة في مايو، Magnifica Humanitas، وتردد صدى دعوة البابا فرنسيس في 2024 إلى ألا تقرر أي آلة ما إذا كان ينبغي إزهاق حياة إنسان. وربطت كلمة لاوون هذا التحذير بمطالبة أوسع بالإشراف على تطوير الذكاء الاصطناعي واستخدامه.
لماذا يهم
بالنسبة إلى المتأثرين بفحص الحدود أو غيره من القرارات المصيرية، يقترح لاوون أن يشرف إنسان مسؤول، لا نظام ذكاء اصطناعي بمفرده، على القرارات التي تمس حريتهم أو سلامتهم. والكلمة دعوة للحكومات والمؤسسات إلى وضع قواعد؛ ولا تعني إقرار قواعد جديدة أو اعتماد حظر للأسلحة.
