El gobernador de California, Gavin Newsom, presentó una hoja de ruta para aplicar las nuevas leyes estatales sobre IA, que propone una supervisión independiente de la IA de frontera. Entre las recomendaciones figura exigir a los grandes desarrolladores de IA de frontera que permitan a evaluadores autorizados analizar riesgos catastróficos y que estos informen al estado, no a las empresas que evalúan.
La hoja de ruta también señala que el estado debería dar prioridad a las evaluaciones de la investigación y el desarrollo automatizados de IA, incluida la automejora recursiva. Fathom, una organización que promueve la verificación independiente, afirma que el informe recoge muchas de sus recomendaciones. La hoja de ruta describe un marco propuesto, pero no establece cuándo entrarían en vigor los requisitos.
Por qué importa
Si se adopta, el plan exigiría a los desarrolladores de IA de frontera someterse a evaluaciones de riesgos independientes, pero la hoja de ruta no indica cuándo comenzarían esas obligaciones.