Der kalifornische Gouverneur Gavin Newsom hat einen Fahrplan zur Umsetzung der neuen KI-Gesetze des Bundesstaats vorgelegt. Er sieht eine unabhängige Aufsicht über fortgeschrittene KI vor. Zu den Empfehlungen gehört, große Entwickler fortgeschrittener KI dazu zu verpflichten, lizenzierte Prüfer die Risiken katastrophaler Folgen bewerten zu lassen. Diese Prüfer sollen dem Staat Bericht erstatten, nicht den Unternehmen, die sie prüfen.
Dem Fahrplan zufolge sollte der Staat außerdem Bewertungen automatisierter KI-Forschung und -Entwicklung priorisieren, einschließlich rekursiver Selbstverbesserung. Fathom, eine Organisation, die sich für unabhängige Überprüfungen einsetzt, erklärt, der Bericht greife viele ihrer Empfehlungen auf. Der Fahrplan skizziert einen vorgeschlagenen Rahmen; wann die Anforderungen in Kraft treten sollen, legt er nicht fest.
Warum es wichtig ist
Würde der Plan umgesetzt, müssten Entwickler fortgeschrittener KI unabhängige Risikobewertungen durchlaufen. Wann diese Pflichten beginnen würden, geht aus dem Fahrplan jedoch nicht hervor.