Oossa

Kalifornien setzt auf unabhängige KI-Risikoprüfungen

Der Fahrplan von Gouverneur Gavin Newsom sieht vor, dass lizenzierte unabhängige Prüfer die Risiken fortgeschrittener KI bewerten und der Staat ihre Arbeit beaufsichtigt.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Der kalifornische Gouverneur Gavin Newsom hat einen Fahrplan zur Umsetzung der neuen KI-Gesetze des Bundesstaats vorgelegt. Er sieht eine unabhängige Aufsicht über fortgeschrittene KI vor. Zu den Empfehlungen gehört, große Entwickler fortgeschrittener KI dazu zu verpflichten, lizenzierte Prüfer die Risiken katastrophaler Folgen bewerten zu lassen. Diese Prüfer sollen dem Staat Bericht erstatten, nicht den Unternehmen, die sie prüfen.

Dem Fahrplan zufolge sollte der Staat außerdem Bewertungen automatisierter KI-Forschung und -Entwicklung priorisieren, einschließlich rekursiver Selbstverbesserung. Fathom, eine Organisation, die sich für unabhängige Überprüfungen einsetzt, erklärt, der Bericht greife viele ihrer Empfehlungen auf. Der Fahrplan skizziert einen vorgeschlagenen Rahmen; wann die Anforderungen in Kraft treten sollen, legt er nicht fest.

Warum es wichtig ist

Würde der Plan umgesetzt, müssten Entwickler fortgeschrittener KI unabhängige Risikobewertungen durchlaufen. Wann diese Pflichten beginnen würden, geht aus dem Fahrplan jedoch nicht hervor.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.