Anthropic is stilletjes begonnen met lobbyen voor een nieuwe AI-veiligheidswet. Het voorstel zou de Amerikaanse overheid toestaan de release van een AI-model tegen te houden, maar alleen als het model minstens 50 doden of $1 miljard schade kan veroorzaken. Volgens het wetsvoorstel zou het ministerie van Handel de beslissing nemen en zou een onafhankelijke beoordelaar de risicobeoordelingen van het AI-lab controleren.
Zo zou de wet werken
Volgens Politico zou een externe beoordelaar die bij het ministerie van Handel is geregistreerd, periodiek de labs van Anthropic en zijn AI-modellen beoordelen. Het lab zou de beoordelaar mogen betalen, maar die betaling mag de onafhankelijkheid van de beoordelaar niet beïnvloeden. Anthropic zegt dat deze aanpak aansluit bij zijn ‘Advanced AI Framework’, dat het sinds juni onder de aandacht brengt van wetgevers.
Waarom het ertoe doet
Als de wet wordt aangenomen, krijgt het ministerie van Handel de bevoegdheid om risicovolle AI-modellen tegen te houden, maar pas wanneer een zeer hoge schadedrempel is bereikt. Voor gewone gebruikers betekent dit dat de meeste AI-tools beschikbaar blijven, tenzij er een duidelijk gevaar op grote schaal ontstaat. Veiligheidsrisico’s blijven daardoor grotendeels iets waar bedrijven zelf mee aan de slag moeten.
