Anthropic hat einen Gesetzentwurf verbreitet, der den Kongress auffordert, dem US-Handelsministerium zu erlauben, die Verbreitung eines KI-Modells zu stoppen, wenn eine „unmittelbare katastrophale Gefahr“ festgestellt wird. Als solche Gefahr gilt ein Risiko, bei dem mehr als 50 Menschen ums Leben kommen oder Sachschäden von über 1 Milliarde US-Dollar entstehen könnten. Die Gefahr muss von einer biologischen Waffe, dem Entkommen des Modells aus seinen Kontrollmechanismen oder einem Cyberangriff ausgehen.
So soll das Gesetz funktionieren
Der Vorschlag sieht vor, dass beim Handelsministerium registrierte „unabhängige Gutachter“ das Risiko eines Modells bewerten. Die Gutachter könnten von KI-Unternehmen bezahlt werden, die Zahlung dürfte jedoch nicht vom Ergebnis der Prüfung abhängen. Stellt ein Gutachter ein Risiko fest, muss er das Handelsministerium innerhalb von 72 Stunden informieren. Dieses müsste dann bei einem Richter in Washington, D.C., beantragen, die Veröffentlichung des Modells zu stoppen. Das Gesetz würde Bundesbehörden untersagen, ein Modell eigenmächtig zu stoppen.
Reaktionen der Branche
Anthropic zufolge spiegelt der Gesetzentwurf den Advanced AI Framework des Unternehmens wider, für den es seit Juni bei Abgeordneten wirbt. Das Unternehmen hat sich nicht weiter dazu geäußert. Andere KI-Unternehmen setzen sich für freiwillige interne Kontrollen statt einer verpflichtenden Aufsicht ein. Der CEO von Nvidia hat erklärt, die Branche brauche keine neuen Gesetze.
Warum es wichtig ist
Würde das Gesetz verabschiedet, könnte es die Veröffentlichung von KI-Systemen mit schwerwiegenden Sicherheitsrisiken verhindern und der Öffentlichkeit einen rechtlichen Schutz vor extremen Schäden bieten. Für Entwickler käme vor der Einführung leistungsfähiger Modelle ein zusätzlicher Compliance-Schritt hinzu. Unklar ist weiterhin, wie unabhängig die Prüfungen wären und wie schnell Gerichte in der Praxis handeln könnten.
