# Anthropic föreslår lag som kan stoppa farliga AI-modeller

> Anthropic föreslår en lag som skulle stoppa lanseringen av AI-modeller om de riskerar att orsaka 50 dödsfall eller skador för 1 miljard dollar, efter bedömning av oberoende granskare.

Oossa · 2026-10-20 · https://oossa.com/sv/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropic har spridit ett lagförslag där kongressen uppmanas ge det amerikanska handelsdepartementet rätt att stoppa distributionen av en AI-modell när en ”överhängande katastrofrisk” har konstaterats. Med en sådan risk menas en risk för att fler än 50 personer dödas eller att egendomsskadorna överstiger en miljard dollar. Faran måste härröra från ett biologiskt vapen, att modellen tar sig ur sina skyddsmekanismer eller en cyberattack.

## Så skulle lagen fungera

Förslaget innebär att ”oberoende granskare” som är registrerade hos handelsdepartementet ska bedöma riskerna med en modell. AI-företag får betala granskarna, men ersättningen får inte vara kopplad till bedömningens utfall. Om en granskare upptäcker en risk har hen 72 timmar på sig att underrätta handelsdepartementet. Departementet måste då be en domare i Washington, D.C., besluta om att stoppa lanseringen av modellen. Lagen förbjuder federala myndigheter att stoppa en modell på egen hand.

## Branschens reaktion

Anthropic säger att lagförslaget speglar företagets Advanced AI Framework, som det har förespråkat inför lagstiftare sedan juni. Företaget har inte lämnat några ytterligare kommentarer. Andra AI-företag har förespråkat frivilliga interna granskare i stället för obligatorisk tillsyn, och Nvidias vd har hävdat att branschen inte behöver några nya lagar.

## Fakta

- Lagförslaget skulle kunna stoppa en modell om den innebär en ”förutsebar, överhängande risk” för fler än 50 dödsfall eller egendomsskador på över 1 miljard dollar.
- Riskbedömningar skulle göras av oberoende granskare som är registrerade hos det amerikanska handelsdepartementet.
- Granskarna har 72 timmar på sig att underrätta handelsdepartementet, som därefter måste be en domare i Washington, D.C., besluta om att stoppa modellen.
- Lagförslaget förbjuder federala myndigheter att på egen hand stoppa distributionen av en modell.
- Anthropic har sedan juni förespråkat sitt Advanced AI Framework inför lagstiftare på federal och delstatlig nivå.

## Varför det spelar roll

Om lagförslaget antas kan det stoppa lanseringen av AI-system som utgör allvarliga säkerhetshot och ge allmänheten ett rättsligt skydd mot extrema skadeverkningar. För utvecklare skulle det innebära ett nytt krav att uppfylla innan kraftfulla modeller lanseras. Det är fortfarande oklart hur oberoende granskningarna skulle vara och hur snabbt domstolarna i praktiken skulle kunna agera.

## Källor och referenser

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

Senast uppdaterad: 2026-10-20