O Papa Leão XIV pediu aos governos que mantenham as pessoas no controle de decisões que envolvam a vida humana, a liberdade e o uso da força, e que tomem medidas para proibir armas autônomas letais. Em discurso em 30 October a participantes de um encontro sobre IA no Vaticano, ele disse que a tecnologia precisa ser “desarmada” e que “máquinas são ferramentas, não pessoas”.
A transcrição da Santa Sé informa que o encontro foi organizado em conjunto pela Pontifícia Academia para a Vida e pelo Future of Life Institute. Leão incentivou os países que se reunirão em Genebra em novembro a tomar medidas concretas para proibir armas autônomas letais. Ele não anunciou um novo acordo ou política; pediu que os governos tomem providências.
O que significa “desarmar”?
O discurso de Leão se concentrou em quais decisões devem permanecer sob controle humano. Ele afirmou que decisões que afetam a vida, a liberdade e o uso da força precisam de “supervisão humana efetiva, informada e responsável”. Como exemplos, citou incluir alguém em uma lista de alvos ou em um banco de dados de controle de fronteiras, alertando que as pessoas poderiam ser reduzidas a pontos de dados.
Ele também se opôs a conceder direitos ou personalidade jurídica a sistemas de IA. No discurso, disse que as máquinas não têm experiências nem relações humanas e alertou que tratá-las como pessoas jurídicas poderia obscurecer quem é responsável quando alguém sofre danos. A questão, segundo o discurso, não é que sistemas de IA tenham recebido status jurídico, mas que propostas nesse sentido poderiam dificultar a responsabilização.
Um apelo por regras e responsabilização
A transcrição da Santa Sé apresenta cinco princípios: o futuro da IA depende das escolhas humanas; máquinas são ferramentas; certas decisões não devem ser delegadas; a IA deve servir ao bem comum; e as instituições devem pôr princípios éticos em prática. Leão pediu padrões compartilhados, supervisão independente e formas de contestar decisões e buscar reparação por danos.
A Vatican News informa que Leão descreveu os participantes do encontro como pessoas que compartilhavam inquietações sobre a IA e disse que era preciso agir mais. O The Verge observa que o discurso dá continuidade ao documento de maio, Magnifica Humanitas, e ecoa o apelo feito pelo Papa Francisco em 2024 para que nenhuma máquina decida se uma vida humana deve ser tirada. Leão relacionou esse alerta a uma exigência mais ampla de supervisão do desenvolvimento e do uso da IA.
Por que importa
Para quem é afetado por triagens de fronteira ou outras decisões de alto impacto, a proposta de Leão é que uma pessoa responsável — e não apenas um sistema de IA — supervisione decisões que afetem sua liberdade ou segurança. O discurso é um apelo para que governos e instituições estabeleçam regras; não significa que novas regras ou uma proibição de armas tenham sido adotadas.
