개빈 뉴섬 캘리포니아 주지사는 주의 새로운 AI 법률 시행을 위한 로드맵을 발표했다. 여기에는 첨단 AI에 대한 독립적 감독 방안이 담겼다. 대규모 첨단 AI 개발사가 허가받은 평가기관의 치명적 위험 평가를 받도록 하고, 평가기관은 평가 대상 기업이 아니라 주정부에 결과를 보고하도록 하는 내용이다.
로드맵은 재귀적 자기개선 등 자동화된 AI 연구·개발에 대한 평가를 우선시해야 한다고도 제안한다. 독립 검증을 옹호하는 단체 Fathom은 보고서가 자사의 여러 권고를 반영했다고 밝혔다. 이 로드맵은 제안된 체계를 개괄할 뿐, 요건의 시행 시점은 정하지 않았다.
왜 중요한가
이 계획이 채택되면 첨단 AI 개발사는 독립적인 위험 평가를 받아야 하지만, 로드맵은 의무가 언제 시작될지 밝히지 않았다.