Anthropic heeft een conceptwetsvoorstel verspreid dat het Congres vraagt het Amerikaanse ministerie van Handel de bevoegdheid te geven de verspreiding van een AI-model tegen te houden zodra er sprake is van een „acuut catastrofaal risico”. Het voorstel omschrijft dat als een risico dat meer dan 50 mensenlevens kan eisen of meer dan een miljard dollar aan materiële schade kan veroorzaken. Het gevaar moet voortkomen uit een biologisch wapen, een model dat aan de controle ontsnapt of een cyberaanval.
Zo zou de wet werken
Het voorstel voorziet in „onafhankelijke beoordelaars”, geregistreerd bij het ministerie van Handel, die de risico’s van een model inschatten. AI-bedrijven mogen de beoordelaars betalen, maar de betaling mag niet afhangen van de uitkomst van de beoordeling. Als een beoordelaar een risico vaststelt, heeft die 72 uur om het ministerie van Handel op de hoogte te brengen. Het ministerie moet vervolgens een rechter in Washington D.C. vragen de verspreiding van het model te laten stilleggen. Het wetsvoorstel verbiedt federale instanties om zelfstandig een model tegen te houden.
Reactie uit de sector
Anthropic zegt dat het wetsvoorstel aansluit bij zijn Advanced AI Framework, dat het bedrijf sinds juni onder de aandacht brengt van wetgevers. Het bedrijf heeft verder geen commentaar gegeven. Andere AI-bedrijven hebben gepleit voor vrijwillige interne toezichthouders in plaats van verplicht toezicht, en de CEO van Nvidia heeft betoogd dat de sector geen nieuwe wetten nodig heeft.
Waarom het ertoe doet
Als het wetsvoorstel wordt aangenomen, kan de introductie van AI-systemen met ernstige veiligheidsrisico’s worden tegengehouden. Zo krijgt het publiek een wettelijke bescherming tegen extreme schade. Voor ontwikkelaars komt er een nieuwe nalevingsstap bij voordat ze krachtige modellen lanceren. Het is nog onduidelijk hoe onafhankelijk de beoordelingen zullen zijn en hoe snel rechtbanken in de praktijk kunnen handelen.
