# Anthropic stelt AI-wet voor om gevaarlijke modellen tegen te houden

> Anthropic wil dat het Congres AI-modellen kan laten tegenhouden als die 50 doden of $1 billion aan schade kunnen veroorzaken. Onafhankelijke beoordelaars moeten de risico’s inschatten.

Oossa · 2026-10-20 · https://oossa.com/nl/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropic heeft een conceptwetsvoorstel verspreid dat het Congres vraagt het Amerikaanse ministerie van Handel de bevoegdheid te geven de verspreiding van een AI-model tegen te houden zodra er sprake is van een „acuut catastrofaal risico”. Het voorstel omschrijft dat als een risico dat meer dan 50 mensenlevens kan eisen of meer dan een miljard dollar aan materiële schade kan veroorzaken. Het gevaar moet voortkomen uit een biologisch wapen, een model dat aan de controle ontsnapt of een cyberaanval.

## Zo zou de wet werken

Het voorstel voorziet in „onafhankelijke beoordelaars”, geregistreerd bij het ministerie van Handel, die de risico’s van een model inschatten. AI-bedrijven mogen de beoordelaars betalen, maar de betaling mag niet afhangen van de uitkomst van de beoordeling. Als een beoordelaar een risico vaststelt, heeft die 72 uur om het ministerie van Handel op de hoogte te brengen. Het ministerie moet vervolgens een rechter in Washington D.C. vragen de verspreiding van het model te laten stilleggen. Het wetsvoorstel verbiedt federale instanties om zelfstandig een model tegen te houden.

## Reactie uit de sector

Anthropic zegt dat het wetsvoorstel aansluit bij zijn Advanced AI Framework, dat het bedrijf sinds juni onder de aandacht brengt van wetgevers. Het bedrijf heeft verder geen commentaar gegeven. Andere AI-bedrijven hebben gepleit voor vrijwillige interne toezichthouders in plaats van verplicht toezicht, en de CEO van Nvidia heeft betoogd dat de sector geen nieuwe wetten nodig heeft.

## De feiten

- Het conceptwetsvoorstel zou een model tegenhouden als het een „voorzienbaar, acuut risico” vormt op meer dan 50 doden of meer dan $1 billion aan materiële schade.
- Onafhankelijke beoordelaars die bij het Amerikaanse ministerie van Handel zijn geregistreerd, zouden de risico’s inschatten.
- Beoordelaars hebben 72 uur om het ministerie van Handel te waarschuwen. Dat moet vervolgens een rechter in Washington D.C. vragen om het model stil te leggen.
- Het wetsvoorstel verbiedt federale instanties zelfstandig de verspreiding van een model tegen te houden.
- Anthropic brengt zijn Advanced AI Framework sinds juni onder de aandacht van federale en deelstaatwetgevers.

## Waarom het ertoe doet

Als het wetsvoorstel wordt aangenomen, kan de introductie van AI-systemen met ernstige veiligheidsrisico’s worden tegengehouden. Zo krijgt het publiek een wettelijke bescherming tegen extreme schade. Voor ontwikkelaars komt er een nieuwe nalevingsstap bij voordat ze krachtige modellen lanceren. Het is nog onduidelijk hoe onafhankelijk de beoordelingen zullen zijn en hoe snel rechtbanken in de praktijk kunnen handelen.

## Bronnen en referenties

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

Laatst bijgewerkt: 2026-10-20