Kaliforniens guvernör Gavin Newsom har presenterat en plan för hur delstatens nya AI-lagar ska genomföras. Den föreslår oberoende tillsyn av avancerad AI. Bland rekommendationerna finns ett krav på att stora utvecklare av avancerad AI ska låta licensierade granskare bedöma katastrofala risker. Granskarna ska rapportera till delstaten, inte till företagen de granskar.
I planen står också att delstaten bör prioritera granskningar av automatiserad forskning och utveckling inom AI, däribland rekursiv självförbättring. Organisationen Fathom, som arbetar för oberoende verifiering, säger att rapporten återspeglar många av dess rekommendationer. Planen beskriver ett föreslaget ramverk, men anger inte när kraven ska börja gälla.
Varför det spelar roll
Om planen antas måste utvecklare av avancerad AI genomgå oberoende riskbedömningar, men det framgår inte när kraven ska börja gälla.