# Anthropic legt Gesetzentwurf gegen KI-Modelle mit tödlichem Risiko vor

> Anthropic schlägt ein Gesetz vor, das die Veröffentlichung von KI-Modellen stoppen würde, wenn sie 50 Todesfälle oder Schäden in Höhe von 1 Milliarde US-Dollar verursachen könnten. Die Prüfung sollen unabhängige Gutachter übernehmen.

Oossa · 2026-10-20 · https://oossa.com/de/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropic hat einen Gesetzentwurf verbreitet, der den Kongress auffordert, dem US-Handelsministerium zu erlauben, die Verbreitung eines KI-Modells zu stoppen, wenn eine „unmittelbare katastrophale Gefahr“ festgestellt wird. Als solche Gefahr gilt ein Risiko, bei dem mehr als 50 Menschen ums Leben kommen oder Sachschäden von über 1 Milliarde US-Dollar entstehen könnten. Die Gefahr muss von einer biologischen Waffe, dem Entkommen des Modells aus seinen Kontrollmechanismen oder einem Cyberangriff ausgehen.

## So soll das Gesetz funktionieren

Der Vorschlag sieht vor, dass beim Handelsministerium registrierte „unabhängige Gutachter“ das Risiko eines Modells bewerten. Die Gutachter könnten von KI-Unternehmen bezahlt werden, die Zahlung dürfte jedoch nicht vom Ergebnis der Prüfung abhängen. Stellt ein Gutachter ein Risiko fest, muss er das Handelsministerium innerhalb von 72 Stunden informieren. Dieses müsste dann bei einem Richter in Washington, D.C., beantragen, die Veröffentlichung des Modells zu stoppen. Das Gesetz würde Bundesbehörden untersagen, ein Modell eigenmächtig zu stoppen.

## Reaktionen der Branche

Anthropic zufolge spiegelt der Gesetzentwurf den Advanced AI Framework des Unternehmens wider, für den es seit Juni bei Abgeordneten wirbt. Das Unternehmen hat sich nicht weiter dazu geäußert. Andere KI-Unternehmen setzen sich für freiwillige interne Kontrollen statt einer verpflichtenden Aufsicht ein. Der CEO von Nvidia hat erklärt, die Branche brauche keine neuen Gesetze.

## Die Fakten

- Der Gesetzentwurf würde ein Modell stoppen, wenn es ein „absehbares, unmittelbares Risiko“ von mehr als 50 Todesfällen oder Sachschäden von über 1 Milliarde US-Dollar darstellt.
- Unabhängige Gutachter, die beim US-Handelsministerium registriert sind, sollen die Risiken bewerten.
- Gutachter haben 72 Stunden Zeit, das Handelsministerium zu informieren. Dieses müsste anschließend bei einem Richter in Washington, D.C., eine Anordnung zum Stopp des Modells beantragen.
- Der Gesetzentwurf verbietet Bundesbehörden, die Verbreitung eines Modells eigenmächtig zu stoppen.
- Anthropic wirbt seit Juni bei Abgeordneten auf Bundes- und Landesebene für seinen Advanced AI Framework.

## Warum es wichtig ist

Würde das Gesetz verabschiedet, könnte es die Veröffentlichung von KI-Systemen mit schwerwiegenden Sicherheitsrisiken verhindern und der Öffentlichkeit einen rechtlichen Schutz vor extremen Schäden bieten. Für Entwickler käme vor der Einführung leistungsfähiger Modelle ein zusätzlicher Compliance-Schritt hinzu. Unklar ist weiterhin, wie unabhängig die Prüfungen wären und wie schnell Gerichte in der Praxis handeln könnten.

## Quellen und Referenzen

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

Zuletzt aktualisiert: 2026-10-20