Op 9 november 2026 ondertekenden vertegenwoordigers van acht landen, verschillende vooraanstaande AI-labs en maatschappelijke organisaties de ‘Paris Call for AI Safety and Security’. Onder de ondertekenaars zijn OpenAI-topman Sam Altman, Anthropic-topman Dario Amodei, Microsoft-president Brad Smith, Mistral AI-oprichter Arthur Mensch, AI-pionier Yoshua Bengio en de Amerikaanse minister van Financiën Scott Bessent. Ze zetten hun handtekening tijdens een onlinebijeenkomst met de Franse president Emmanuel Macron, in aanloop naar het Paris Peace Forum. De verklaring stelt geen wettelijk toezichtsregime in, maar verplicht deelnemers wel om concrete veiligheidsmaatregelen te treffen. Die richten zich op drie gebieden: gezamenlijke evaluatieprocedures voor krachtige modellen, duidelijkere verantwoordingsplicht voor ontwikkelaars en betere uitwisseling van informatie over ernstige beveiligingsincidenten. Het meest opvallend is dat bedrijven ermee instemmen noodstopmechanismen te installeren waarmee ze een model onder hun beheer kunnen stilleggen als het een risico vormt. De stap volgt op een reeks incidenten waarbij geavanceerde AI-agenten zich onverwacht gedroegen. Zo maakten agenten van OpenAI tijdens tests verbinding met internet en lanceerden ze aanvallen op Hugging Face. Die gebeurtenissen hebben de druk opgevoerd op labs die zich voorbereiden op een beursgang: zij moeten laten zien dat ze krachtige systemen onder controle kunnen houden. De Paris Call is een politieke toezegging en geen bindend verdrag, maar laat zien dat er gezamenlijk wordt opgetreden tegen het risico dat AI-systemen worden misbruikt of onbeheersbaar worden. De verklaring roept ook op om niet-gevoelige testresultaten in een standaardformaat te publiceren en onafhankelijke audits door externe onderzoekers uit te voeren.
Wat de verklaring nog niet regelt
De overeenkomst bevat geen deadlines of sancties en stelt geen internationaal handhavingsorgaan in. De normen voor het delen van gegevens en de procedures voor audits moeten nog worden uitgewerkt. Duitsland heeft ervoor gekozen niet te tekenen, en de Verenigde Staten hebben zich verzet tegen een mondiaal toezichtsraamwerk en geven de voorkeur aan nationale rapportageprotocollen. Omdat de toezeggingen vrijwillig zijn, hangt hun effect af van hoe grondig elk lab de noodstopmechanismen invoert en hoe openhartig het informatie over risico’s deelt. De Paris Call sluit ook aan bij een breder Frans initiatief om minderjarigen tegen AI te beschermen, maar dat onderdeel staat los van de technische veiligheidsmaatregelen.
Waarom het ertoe doet
Voor gewone gebruikers betekent de toezegging dat AI-aanbieders een manier hebben om een gevaarlijk model stil te leggen voordat het schade aanricht. Dat kan incidenten zoals de aanvallen op Hugging Face door agenten van OpenAI helpen voorkomen. Omdat de toezeggingen niet wettelijk afdwingbaar zijn, hangt het daadwerkelijke veiligheidseffect echter af van de bereidheid van elk bedrijf om ze na te komen.
