Paus Leo XIV heeft regeringen opgeroepen mensen de controle te laten houden over beslissingen die raken aan het menselijk leven, de vrijheid en het gebruik van geweld. Ook moeten landen stappen zetten richting een verbod op dodelijke autonome wapens. Tijdens een toespraak op 30 oktober voor deelnemers aan een bijeenkomst over AI in het Vaticaan zei hij dat de technologie moet worden ‘ontwapend’ en dat ‘machines hulpmiddelen zijn, geen personen’.
Volgens het transcript van de Heilige Stoel werd de bijeenkomst gezamenlijk georganiseerd door de Pauselijke Academie voor het Leven en het Future of Life Institute. Leo moedigde landen die in november in Genève bijeenkomen aan concrete stappen te zetten richting een verbod op dodelijke autonome wapens. Hij kondigde geen nieuwe overeenkomst of beleidsmaatregel aan, maar riep regeringen op in actie te komen.
Wat betekent ‘ontwapend’?
In zijn toespraak ging Leo in op de vraag bij welke beslissingen mensen de controle moeten houden. Beslissingen over leven, vrijheid en geweld moeten volgens hem ‘onder effectief, geïnformeerd en verantwoord menselijk toezicht’ staan. Als voorbeelden noemde hij het plaatsen van iemand op een lijst met doelwitten of het opnemen van iemand in een grenscontroledatabase. Hij waarschuwde dat mensen zo kunnen worden gereduceerd tot gegevenspunten.
Ook keerde hij zich tegen het toekennen van rechten of rechtspersoonlijkheid aan AI-systemen. In zijn toespraak zei hij dat machines geen menselijke ervaringen of relaties hebben. Hij waarschuwde dat de erkenning van machines als rechtspersonen kan verhullen wie verantwoordelijk is wanneer mensen schade oplopen. Het punt van zijn toespraak is niet dat AI-systemen inmiddels een juridische status hebben gekregen, maar dat voorstellen daartoe de verantwoordingsplicht kunnen bemoeilijken.
Oproep tot regels en verantwoording
In het transcript van de Heilige Stoel staan vijf principes: de toekomst van AI hangt af van menselijke keuzes; machines zijn hulpmiddelen; sommige beslissingen mogen niet worden gedelegeerd; AI moet het algemeen welzijn dienen; en instellingen moeten ethische principes in de praktijk brengen. Leo riep op tot gezamenlijke normen, onafhankelijk toezicht en mogelijkheden om beslissingen aan te vechten en herstel te vragen voor geleden schade.
Vatican News meldt dat Leo zei dat de deelnemers aan de bijeenkomst hun zorgen over AI deelden en dat er meer actie nodig was. The Verge merkt op dat de toespraak voortbouwt op zijn document Magnifica Humanitas van mei en aansluit bij de oproep van paus Franciscus uit 2024 dat geen enkele machine mag beslissen of een mensenleven wordt beëindigd. Leo verbindt die waarschuwing aan een bredere oproep tot toezicht op de ontwikkeling en het gebruik van AI.
Waarom het ertoe doet
Voor mensen die te maken krijgen met grenscontroles of andere beslissingen met grote gevolgen, houdt Leo’s voorstel in dat een verantwoordelijke mens — en niet alleen een AI-systeem — toezicht moet houden op beslissingen die hun vrijheid of veiligheid raken. De toespraak is een oproep aan regeringen en instellingen om regels vast te stellen; er zijn daarmee geen nieuwe regels of een verbod op wapens ingevoerd.
