Папа Лев XIV призвал правительства сохранить контроль человека над решениями, затрагивающими жизнь и свободу людей и применение силы, а также предпринять шаги к запрету смертоносного автономного оружия. Выступая 30 октября перед участниками ватиканской встречи по вопросам ИИ, он заявил, что эту технологию необходимо «разоружить», и подчеркнул: «Машины — это инструменты, а не личности».
Согласно стенограмме Святого Престола, встречу совместно организовали Папская академия жизни и Институт будущего жизни. Лев призвал государства, которые соберутся в Женеве в ноябре, предпринять конкретные шаги к запрету смертоносного автономного оружия. Он не объявлял о новом соглашении или политике, а призывал правительства к действиям.
Что значит «разоружить» ИИ?
В обращении Лев говорил о том, какие решения должны оставаться под контролем человека. По его словам, решения, затрагивающие жизнь, свободу и применение силы, должны приниматься при «эффективном, осознанном и ответственном надзоре человека». В качестве примеров он привел внесение человека в список целей или в базу данных пограничного контроля и предупредил, что людей могут свести к набору данных.
Он также выступил против наделения систем ИИ правами или статусом юридического лица. В обращении он заявил, что у машин нет человеческого опыта и отношений, и предупредил: признание за ними статуса юридического лица может затруднить установление ответственности, если людям причинен вред. Как следует из его выступления, речь не о том, что системы ИИ уже получили правовой статус, а о том, что такие предложения могут осложнить привлечение к ответственности.
Призыв к правилам и ответственности
В стенограмме Святого Престола сформулированы пять принципов: будущее ИИ зависит от выбора людей; машины — это инструменты; некоторые решения нельзя делегировать; ИИ должен служить общему благу; учреждения должны воплощать этические принципы на практике. Лев призвал установить общие стандарты, обеспечить независимый надзор и создать механизмы обжалования решений и получения возмещения за причиненный вред.
По сообщению Vatican News, Лев сказал, что участников встречи объединяет обеспокоенность развитием ИИ, и заявил о необходимости действовать активнее. The Verge отмечает, что это обращение развивает идеи его майского документа Magnifica Humanitas и перекликается с призывом папы Франциска в 2024 году не позволять машинам решать, лишать ли человека жизни. Лев связал это предостережение с более широким требованием контролировать разработку и применение ИИ.
Почему это важно
Для людей, на которых влияют пограничные проверки и другие решения с серьезными последствиями, предложение Льва означает, что за решениями, затрагивающими их свободу или безопасность, должен следить ответственный человек, а не только система ИИ. Это призыв к правительствам и учреждениям установить правила; он не означает, что новые правила уже приняты или запрет на оружие введен.
