Oossa

Roteiro da Califórnia prevê avaliações independentes de riscos da IA

O roteiro do governador Gavin Newsom propõe que avaliadores independentes licenciados analisem os riscos da IA de ponta, sob supervisão do estado.

NotaPor Publicado pelo Oossa: 1 min de leitura

O governador da Califórnia, Gavin Newsom, divulgou um roteiro para implementar as novas leis estaduais sobre IA. O documento prevê supervisão independente da IA de ponta e recomenda exigir que grandes desenvolvedores desse tipo de IA permitam que avaliadores licenciados analisem riscos catastróficos. Os avaliadores se reportariam ao estado, e não às empresas examinadas.

O roteiro também afirma que o estado deve priorizar avaliações de pesquisa e desenvolvimento automatizados de IA, incluindo o autoaperfeiçoamento recursivo. A Fathom, organização que defende a verificação independente, diz que o relatório incorpora muitas de suas recomendações. O documento apresenta uma proposta de estrutura, mas não define quando as exigências entrariam em vigor.

Por que importa

Se adotado, o plano exigiria que desenvolvedores de IA de ponta passassem por avaliações independentes de riscos, mas o roteiro não informa quando essas obrigações começariam.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.