El papa León XIV pidió a los gobiernos que mantengan a las personas al mando de las decisiones relacionadas con la vida humana, la libertad y el uso de la fuerza, y que den pasos para prohibir las armas autónomas letales. Al hablar el 30 de octubre ante los participantes de un encuentro sobre IA en el Vaticano, afirmó que la tecnología debe «desarmarse» y que «las máquinas son herramientas, no personas».
La transcripción de la Santa Sede señala que el encuentro fue organizado conjuntamente por la Academia Pontificia para la Vida y el Future of Life Institute. León instó a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de las armas autónomas letales. No anunció un nuevo acuerdo ni una política; pidió a los gobiernos que actúen.
¿Qué significa «desarmarse»?
El discurso de León se centró en qué decisiones deben seguir bajo control humano. Dijo que las decisiones que afectan a la vida, la libertad y el uso de la fuerza deben contar con una «supervisión humana efectiva, informada y responsable». Como ejemplos, mencionó incluir a alguien en una lista de objetivos o registrarlo en una base de datos de control fronterizo, y advirtió que las personas podrían quedar reducidas a puntos de datos.
También se opuso a conceder derechos o personalidad jurídica a los sistemas de IA. En su discurso, dijo que las máquinas no tienen experiencias ni relaciones humanas y advirtió que tratarlas como personas jurídicas podría ocultar quién es responsable cuando alguien resulta perjudicado. El planteamiento del discurso no es que los sistemas de IA ya hayan obtenido ese estatus jurídico, sino que las propuestas para concedérselo podrían dificultar la rendición de cuentas.
Un llamado a establecer reglas y exigir responsabilidades
La transcripción de la Santa Sede expone cinco principios: el futuro de la IA depende de las decisiones humanas; las máquinas son herramientas; ciertas decisiones no deben delegarse; la IA debe servir al bien común; y las instituciones deben llevar los principios éticos a la práctica. León pidió normas comunes, supervisión independiente y mecanismos para impugnar decisiones y reclamar reparación por los daños.
Vatican News informa que León describió a los participantes del encuentro como personas que compartían su inquietud por la IA y dijo que hacía falta actuar más. The Verge señala que el discurso retoma el documento que publicó en mayo, Magnifica Humanitas, y se hace eco del llamado del papa Francisco en 2024 a que ninguna máquina decida si se le quita la vida a una persona. El discurso de León vincula esa advertencia con una exigencia más amplia de supervisión del desarrollo y el uso de la IA.
Por qué importa
Para quienes se ven afectados por controles fronterizos u otras decisiones de gran impacto, la propuesta de León es que una persona responsable —y no solo un sistema de IA— supervise las decisiones que afectan a su libertad o seguridad. El discurso es un llamado a los gobiernos y las instituciones para que establezcan reglas; no significa que se hayan aprobado nuevas normas ni una prohibición de armas.
