レオ14世は各国政府に対し、人命や自由、武力行使に関わる判断は人間が担うべきだと訴え、殺傷型自律兵器の禁止に向けた措置を講じるよう呼びかけた。10月30日、バチカンで開かれたAIに関する会議の参加者を前に、技術は「武装解除」されなければならず、「機械は道具であり、人ではない」と述べた。
聖座の記録によると、この会議は教皇庁生命アカデミーとFuture of Life Instituteが共同で主催した。レオ14世は、11月にジュネーブで会合する各国に対し、殺傷型自律兵器の禁止に向けた具体的な措置を取るよう促した。新たな合意や政策を発表したわけではなく、各国政府に行動を求めたものだ。
「武装解除」とは何を意味するのか
レオ14世の演説では、どの判断に人間の関与を保つべきかが焦点となった。人命や自由、武力に関わる判断には、「実効的で、十分な情報に基づく、責任ある人間の監督」が必要だと述べた。標的リストに人を載せたり、国境管理のデータベースに登録したりする例を挙げ、人々が単なるデータとして扱われかねないと警告した。
また、AIシステムに権利や法的人格を与えることにも反対した。演説では、機械には人間の経験や人間関係がないと述べ、機械を法的な主体として扱えば、人が被害を受けた際に誰が責任を負うのかが曖昧になりかねないと警告した。演説の趣旨は、AIシステムに法的地位がすでに認められているということではなく、そうした提案が責任の所在を不明確にするおそれがあるという点だ。
ルールと責任の明確化を求める
聖座の記録では、5つの原則が示されている。AIの未来は人間の選択に左右されること、機械は道具であること、一部の判断は委ねるべきでないこと、AIは共通善に資するべきこと、そして組織や制度は倫理原則を実践に移すべきことだ。レオ14世は、共通の基準や独立した監督、判断に異議を申し立て、被害の救済を求める仕組みを設けるよう訴えた。
バチカン・ニュースによると、レオ14世は会議参加者がAIへの懸念を共有していると述べ、さらなる対応が必要だと訴えた。The Vergeは、この演説が5月の文書『Magnifica Humanitas』を発展させたものであり、どの機械にも人の命を奪うかどうかを決めさせてはならないとしたフランシスコ教皇の2024年の呼びかけにも通じると指摘している。レオ14世の演説はこの警告を、AIの開発と利用に対する幅広い監督を求める主張へと結びつけている。
なぜ重要か
国境審査など重大な判断の影響を受ける人々にとって、レオ14世の提案は、自由や安全に関わる判断をAIだけに委ねず、責任を負う人間が監督すべきだというものだ。演説は各国政府や組織にルールづくりを求めるもので、新たな規則や兵器禁止が採択されたわけではない。
