Oossa

Californisch plan steunt onafhankelijke AI-risicotoetsing

De roadmap van gouverneur Gavin Newsom roept op onafhankelijke, erkende beoordelaars frontier AI-risico’s te laten toetsen. De staat houdt toezicht op hun werk.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

De gouverneur van Californië, Gavin Newsom, heeft een roadmap gepresenteerd voor de uitvoering van de nieuwe AI-wetten van de staat. Daarin wordt gepleit voor onafhankelijk toezicht op frontier AI. De aanbevelingen omvatten een verplichting voor grote ontwikkelaars van frontier AI om erkende beoordelaars de catastrofale risico’s te laten toetsen. Die beoordelaars rapporteren aan de staat, niet aan de bedrijven die ze beoordelen.

Ook stelt de roadmap dat de staat prioriteit moet geven aan beoordelingen van geautomatiseerd AI-onderzoek en -ontwikkeling, waaronder recursieve zelfverbetering. Fathom, een organisatie die zich inzet voor onafhankelijke verificatie, zegt dat het rapport veel van zijn aanbevelingen weerspiegelt. De roadmap schetst een voorgesteld kader, maar geeft niet aan wanneer de verplichtingen ingaan.

Waarom het ertoe doet

Als het plan wordt aangenomen, moeten ontwikkelaars van frontier AI onafhankelijke risicobeoordelingen ondergaan. De roadmap vermeldt echter niet wanneer die verplichtingen ingaan.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.