앤트로픽이 첨단 AI 모델의 안전·보안 법안 초안을 미 의회 의원들에게 비공개로 제안했습니다. 초안에는 기업의 안전 평가와 정보 공개 의무가 담겼지만, 정부가 모델 출시나 사용을 중단할 수 있는 경우와 절차도 좁게 정했습니다. 이는 아직 법안으로 통과된 내용이 아닙니다.
초안에 따르면 모델 중단을 검토할 수 있는 위험은 생물무기 개발·방출, 개발자의 통제 상실, 사이버 공격에서 비롯된 것이어야 합니다. 여기에 50명이 넘는 사람의 사망 또는 중상, 혹은 10억달러 초과 피해가 발생할 예측 가능하고 임박한 위험이 있어야 합니다. 두 조건이 모두 충족돼야 하는 구조입니다.
중단 결정은 법원에 맡긴다
미 상무부에 등록된 독립 평가기관이 기업과 첨단 모델을 정기적으로 평가하도록 했습니다. 평가기관은 기업으로부터 보수를 받을 수 있지만, 보수를 평가 결과에 연동할 수 없습니다. 평가 중 법안이 정한 임박한 위험을 발견하면 평가를 마친 뒤 72시간 안에 상무부에 보고해야 합니다.
상무부가 위험이 있다고 보면 법원에 모델 중단을 요청할 수 있고, 중단 명령은 워싱턴DC 연방지방법원 판사가 내릴 수 있습니다. 다른 연방 부처·기관이나 공무원이 모델의 개발, 배포, 내부 사용을 중단시키는 것은 초안에서 금지했습니다. 기업에는 안전 체계와 신규 첨단 모델의 투명성 보고서, 중대 사고 보고, 내부 고발자 보호도 요구합니다.
주별 규제는 쟁점
초안은 위험 정보 공개, 제3자 평가, 중대 사고 보고에 관한 일부 주법을 연방 기준으로 대체합니다. 기업 부담을 줄이기 위해 전국 단일 기준을 요구해 온 기술 업계의 주장과 맞닿아 있지만, 캘리포니아·일리노이·뉴욕 등의 규제가 약해질 수 있다는 우려도 있습니다.
미 의회에서는 하원의 FRONTIER Act 등 유사한 논의가 이어지고 있습니다. 앤트로픽은 초안을 얼마나 널리 제안했는지, 의원들이 어떤 반응을 보였는지는 공개하지 않았습니다.
왜 중요한가
AI 기업에는 안전 평가와 사고 보고 의무가 생길 수 있지만, 정부가 모델을 중단시키려면 법원 절차를 거치게 하는 것이 초안의 방향입니다. 다만 이 제안은 아직 법이 아니며, 일부 주의 기존 안전 규제가 실제로 얼마나 대체될지는 의회의 논의 결과에 달려 있습니다.
