Anthropic이 의회에 제출할 법안 초안을 회람했다. 이 법안은 ‘임박한 재앙적 위험’이 확인될 경우 미 상무부가 AI 모델의 배포를 중단할 수 있도록 하는 내용을 담았다. 법안은 재앙적 위험을 50명 넘는 사망자나 10억 달러를 초과하는 재산 피해를 낼 수 있는 위험으로 규정한다. 위험은 생물학 무기, 모델의 통제 이탈 또는 사이버 공격에서 비롯돼야 한다.
법안의 작동 방식
법안은 상무부에 등록된 ‘독립 평가기관’이 모델의 위험성을 평가하도록 제안한다. 평가기관은 AI 기업으로부터 보수를 받을 수 있지만, 평가 결과에 따라 보수가 달라져서는 안 된다. 평가기관이 위험을 발견하면 72시간 안에 상무부에 알려야 하며, 상무부는 이후 워싱턴 D.C. 법원 판사에게 모델 출시 중단 명령을 요청해야 한다. 법안은 연방 기관이 독자적으로 모델을 중단하는 것을 금지한다.
업계 반응
Anthropic은 이번 법안이 자사가 6월부터 의원들에게 제안해 온 Advanced AI Framework를 반영한다고 밝혔다. 회사는 이외에 추가 입장을 내놓지 않았다. 다른 AI 기업들은 의무적 감독 대신 자율적인 내부 감시 체계를 지지해 왔으며, Nvidia 최고경영자는 업계에 새로운 법률이 필요하지 않다고 주장했다.
왜 중요한가
법안이 채택되면 심각한 안전 위협을 초래할 수 있는 AI 시스템의 출시를 막아, 극단적 피해로부터 대중을 보호하는 법적 장치가 마련될 수 있다. 개발사에는 고성능 모델 출시 전 새로운 준수 절차가 추가된다. 평가가 얼마나 독립적으로 이뤄질지, 실제로 법원이 얼마나 신속하게 대응할 수 있을지는 아직 불분명하다.
