Anthropic lobbyiert inzwischen diskret für ein neues KI-Sicherheitsgesetz. Der Vorschlag würde der US-Regierung erlauben, die Veröffentlichung eines KI-Modells zu verhindern – allerdings nur, wenn das Modell mindestens 50 Todesfälle oder Schäden in Höhe von mindestens $1 billion verursachen könnte. Der Gesetzentwurf würde dem Handelsministerium die Entscheidung übertragen und eine unabhängige Prüfstelle damit beauftragen, die Risikobewertungen des KI-Labors zu überprüfen.
So würde das Gesetz funktionieren
Laut Politico würde eine beim Handelsministerium registrierte externe Prüfstelle Anthropic-Labore und deren KI-Modelle regelmäßig überprüfen. Das KI-Labor könnte die Prüfstelle bezahlen, dürfte dadurch aber deren Unabhängigkeit nicht beeinflussen. Anthropic zufolge folgt der Ansatz dem „Advanced AI Framework“, für das das Unternehmen seit Juni bei Abgeordneten wirbt.
Warum es wichtig ist
Würde das Gesetz verabschiedet, könnte das Handelsministerium riskante KI-Modelle blockieren – allerdings erst, wenn eine sehr hohe Schadensschwelle erreicht ist. Für Nutzerinnen und Nutzer im Alltag hieße das, dass die meisten KI-Tools verfügbar blieben, solange keine eindeutige Gefahr großen Ausmaßes besteht. Sicherheitsbedenken müssten damit weitgehend von den Unternehmen selbst angegangen werden.
