De gouverneur van Californië, Gavin Newsom, heeft een roadmap gepresenteerd voor de uitvoering van de nieuwe AI-wetten van de staat. Daarin wordt gepleit voor onafhankelijk toezicht op frontier AI. De aanbevelingen omvatten een verplichting voor grote ontwikkelaars van frontier AI om erkende beoordelaars de catastrofale risico’s te laten toetsen. Die beoordelaars rapporteren aan de staat, niet aan de bedrijven die ze beoordelen.
Ook stelt de roadmap dat de staat prioriteit moet geven aan beoordelingen van geautomatiseerd AI-onderzoek en -ontwikkeling, waaronder recursieve zelfverbetering. Fathom, een organisatie die zich inzet voor onafhankelijke verificatie, zegt dat het rapport veel van zijn aanbevelingen weerspiegelt. De roadmap schetst een voorgesteld kader, maar geeft niet aan wanneer de verplichtingen ingaan.
Waarom het ertoe doet
Als het plan wordt aangenomen, moeten ontwikkelaars van frontier AI onafhankelijke risicobeoordelingen ondergaan. De roadmap vermeldt echter niet wanneer die verplichtingen ingaan.