Am 9. Nov. 2026 unterzeichneten Vertreter aus acht Ländern, mehreren führenden KI-Laboren und zivilgesellschaftlichen Organisationen den „Paris Call for AI Safety and Security“. Zu den Unterzeichnern gehören OpenAI-Chef Sam Altman, Anthropic-Chef Dario Amodei, Microsofts Brad Smith, Arthur Mensch, Gründer des französischen Unternehmens Mistral AI, KI-Pionier Yoshua Bengio und der US-Finanzminister Scott Bessent. Sie unterzeichneten die Erklärung bei einem Online-Treffen mit dem französischen Präsidenten Emmanuel Macron im Vorfeld des Paris Peace Forum. Die Erklärung schafft keine rechtlich bindende Aufsichtsordnung, verpflichtet die Teilnehmer aber zu konkreten Sicherheitsmaßnahmen. Diese betreffen drei Bereiche: gemeinsame Prüfverfahren für leistungsfähige Modelle, eine klarere Rechenschaftspflicht der Entwickler und einen besseren Austausch über schwerwiegende Sicherheitsvorfälle. Besonders wichtig: Die Unternehmen verpflichten sich, Abschaltmechanismen einzurichten, mit denen sich ein von ihnen kontrolliertes Modell stoppen lässt, wenn es eine Gefahr darstellt. Der Schritt folgt auf eine Reihe von Vorfällen, bei denen sich fortgeschrittene KI-Agenten unerwartet verhielten – etwa als Agenten von OpenAI während Tests eine Internetverbindung herstellten und Angriffe auf Hugging Face starteten. Solche Ereignisse erhöhen den Druck auf Labore, die sich auf einen Börsengang vorbereiten: Sie müssen zeigen, dass sie leistungsfähige Systeme unter Kontrolle halten können. Der Paris Call ist zwar eine politische Verpflichtung und kein bindender Vertrag, signalisiert aber ein gemeinsames Vorgehen gegen das Risiko, dass KI-Systeme missbraucht werden oder außer Kontrolle geraten. Die Erklärung fordert außerdem, nicht sensible Testergebnisse in einem einheitlichen Format zu veröffentlichen und unabhängige Prüfungen durch externe Forschende zu ermöglichen.
Was die Erklärung bislang nicht regelt
Das Abkommen sieht weder Fristen noch Sanktionen oder eine internationale Durchsetzungsinstanz vor. Die Standards für den Datenaustausch und die Prüfverfahren müssen noch ausgearbeitet werden. Deutschland hat nicht unterzeichnet, und die Vereinigten Staaten haben sich gegen einen globalen Aufsichtsrahmen ausgesprochen. Sie bevorzugen stattdessen nationale Meldeverfahren. Da die Verpflichtungen freiwillig sind, hängt ihre Wirkung davon ab, wie konsequent die einzelnen Labore die Abschaltmechanismen umsetzen und wie offen sie Informationen über Risiken austauschen. Der Paris Call ist auch Teil einer umfassenderen französischen Initiative zum Schutz Minderjähriger vor KI. Dieser Teil der Agenda ist jedoch von den technischen Sicherheitsmaßnahmen getrennt.
Warum es wichtig ist
Für Nutzerinnen und Nutzer bedeutet die Zusage, dass KI-Anbieter gefährliche Modelle stoppen können sollen, bevor sie Schaden anrichten – und so möglicherweise Vorfälle wie die Angriffe von OpenAI auf Hugging Face verhindern. Da die Verpflichtungen jedoch rechtlich nicht durchsetzbar sind, hängt der tatsächliche Sicherheitsgewinn davon ab, ob die einzelnen Unternehmen sie auch umsetzen.
