Papst Leo XIV. hat Regierungen dazu aufgerufen, bei Entscheidungen über menschliches Leben, Freiheit und den Einsatz von Gewalt die Kontrolle beim Menschen zu belassen und Schritte zu einem Verbot autonomer tödlicher Waffen einzuleiten. Am 30. Oktober sagte er bei einem KI-Treffen im Vatikan, die Technologie müsse „entwaffnet“ werden: „Maschinen sind Werkzeuge, keine Personen.“
Laut dem Transkript des Heiligen Stuhls wurde das Treffen gemeinsam von der Päpstlichen Akademie für das Leben und dem Future of Life Institute organisiert. Leo rief die Staaten, die sich im November in Genf treffen, dazu auf, konkrete Schritte hin zu einem Verbot autonomer tödlicher Waffen zu unternehmen. Ein neues Abkommen oder eine neue Regelung kündigte er nicht an; er forderte die Regierungen zum Handeln auf.
Was bedeutet „entwaffnen“?
In seiner Ansprache ging es vor allem darum, bei welchen Entscheidungen die Kontrolle beim Menschen bleiben muss. Entscheidungen, die Leben, Freiheit und Gewalt betreffen, müssten „unter wirksamer, informierter und verantwortungsvoller menschlicher Aufsicht“ stehen, sagte er. Als Beispiele nannte er, jemanden auf eine Zielliste zu setzen oder in eine Datenbank zur Grenzkontrolle aufzunehmen. Dabei warnte er davor, Menschen auf Datenpunkte zu reduzieren.
Zudem sprach er sich dagegen aus, KI-Systemen Rechte oder Rechtspersönlichkeit zu verleihen. Maschinen hätten keine menschlichen Erfahrungen oder Beziehungen, sagte er in seiner Ansprache. Würden sie als Rechtspersonen behandelt, könne dadurch verschleiert werden, wer verantwortlich ist, wenn Menschen zu Schaden kommen. Die Aussage der Rede ist nicht, dass KI-Systemen bereits ein rechtlicher Status verliehen wurde, sondern dass entsprechende Vorschläge die Rechenschaftspflicht erschweren könnten.
Forderung nach Regeln und Rechenschaft
Im Transkript des Heiligen Stuhls werden fünf Grundsätze genannt: Die Zukunft der KI hängt von menschlichen Entscheidungen ab; Maschinen sind Werkzeuge; bestimmte Entscheidungen dürfen nicht delegiert werden; KI sollte dem Gemeinwohl dienen; und Institutionen sollten ethische Grundsätze in die Praxis umsetzen. Leo forderte gemeinsame Standards, unabhängige Aufsicht sowie Möglichkeiten, Entscheidungen anzufechten und bei Schäden Abhilfe zu erhalten.
Laut Vatican News sagte Leo, die Teilnehmenden des Treffens teilten ihre Besorgnis über KI und betonte, es müsse mehr unternommen werden. The Verge merkt an, dass die Ansprache an sein Dokument Magnifica Humanitas vom Mai anknüpft und den Appell von Papst Franziskus aus dem Jahr 2024 aufgreift, keine Maschine darüber entscheiden zu lassen, ob ein Menschenleben beendet wird. Leo verband diese Warnung mit der weiter gefassten Forderung nach Aufsicht über die Entwicklung und den Einsatz von KI.
Warum es wichtig ist
Für Menschen, die von Grenzkontrollen oder anderen folgenreichen Entscheidungen betroffen sind, bedeutet Leos Vorschlag: Eine verantwortliche Person – und nicht allein ein KI-System – muss Entscheidungen über ihre Freiheit oder Sicherheit beaufsichtigen. Die Ansprache ist ein Aufruf an Regierungen und Institutionen, Regeln festzulegen; sie bedeutet nicht, dass neue Vorschriften oder ein Waffenverbot beschlossen wurden.
