Anthropic har spridit ett lagförslag där kongressen uppmanas ge det amerikanska handelsdepartementet rätt att stoppa distributionen av en AI-modell när en ”överhängande katastrofrisk” har konstaterats. Med en sådan risk menas en risk för att fler än 50 personer dödas eller att egendomsskadorna överstiger en miljard dollar. Faran måste härröra från ett biologiskt vapen, att modellen tar sig ur sina skyddsmekanismer eller en cyberattack.
Så skulle lagen fungera
Förslaget innebär att ”oberoende granskare” som är registrerade hos handelsdepartementet ska bedöma riskerna med en modell. AI-företag får betala granskarna, men ersättningen får inte vara kopplad till bedömningens utfall. Om en granskare upptäcker en risk har hen 72 timmar på sig att underrätta handelsdepartementet. Departementet måste då be en domare i Washington, D.C., besluta om att stoppa lanseringen av modellen. Lagen förbjuder federala myndigheter att stoppa en modell på egen hand.
Branschens reaktion
Anthropic säger att lagförslaget speglar företagets Advanced AI Framework, som det har förespråkat inför lagstiftare sedan juni. Företaget har inte lämnat några ytterligare kommentarer. Andra AI-företag har förespråkat frivilliga interna granskare i stället för obligatorisk tillsyn, och Nvidias vd har hävdat att branschen inte behöver några nya lagar.
Varför det spelar roll
Om lagförslaget antas kan det stoppa lanseringen av AI-system som utgör allvarliga säkerhetshot och ge allmänheten ett rättsligt skydd mot extrema skadeverkningar. För utvecklare skulle det innebära ett nytt krav att uppfylla innan kraftfulla modeller lanseras. Det är fortfarande oklart hur oberoende granskningarna skulle vara och hur snabbt domstolarna i praktiken skulle kunna agera.
