# 앤트로픽, AI 안전 법안 초안 제안…주법 일부 대체

> 초안은 안전 평가와 정보 공개를 의무화하는 한편, AI 모델 중단 권한을 법원에 한정하고 일부 주 규제를 연방 기준으로 대체합니다.

Oossa · 2026-10-17 · https://oossa.com/ko/ai-1655926

앤트로픽이 첨단 AI 모델의 안전·보안 법안 초안을 미 의회 의원들에게 비공개로 제안했습니다. 초안에는 기업의 안전 평가와 정보 공개 의무가 담겼지만, 정부가 모델 출시나 사용을 중단할 수 있는 경우와 절차도 좁게 정했습니다. 이는 아직 법안으로 통과된 내용이 아닙니다.

초안에 따르면 모델 중단을 검토할 수 있는 위험은 생물무기 개발·방출, 개발자의 통제 상실, 사이버 공격에서 비롯된 것이어야 합니다. 여기에 50명이 넘는 사람의 사망 또는 중상, 혹은 10억달러 초과 피해가 발생할 예측 가능하고 임박한 위험이 있어야 합니다. 두 조건이 모두 충족돼야 하는 구조입니다.

## 중단 결정은 법원에 맡긴다

미 상무부에 등록된 독립 평가기관이 기업과 첨단 모델을 정기적으로 평가하도록 했습니다. 평가기관은 기업으로부터 보수를 받을 수 있지만, 보수를 평가 결과에 연동할 수 없습니다. 평가 중 법안이 정한 임박한 위험을 발견하면 평가를 마친 뒤 72시간 안에 상무부에 보고해야 합니다.

상무부가 위험이 있다고 보면 법원에 모델 중단을 요청할 수 있고, 중단 명령은 워싱턴DC 연방지방법원 판사가 내릴 수 있습니다. 다른 연방 부처·기관이나 공무원이 모델의 개발, 배포, 내부 사용을 중단시키는 것은 초안에서 금지했습니다. 기업에는 안전 체계와 신규 첨단 모델의 투명성 보고서, 중대 사고 보고, 내부 고발자 보호도 요구합니다.

## 주별 규제는 쟁점

초안은 위험 정보 공개, 제3자 평가, 중대 사고 보고에 관한 일부 주법을 연방 기준으로 대체합니다. 기업 부담을 줄이기 위해 전국 단일 기준을 요구해 온 기술 업계의 주장과 맞닿아 있지만, 캘리포니아·일리노이·뉴욕 등의 규제가 약해질 수 있다는 우려도 있습니다.

미 의회에서는 하원의 FRONTIER Act 등 유사한 논의가 이어지고 있습니다. 앤트로픽은 초안을 얼마나 널리 제안했는지, 의원들이 어떤 반응을 보였는지는 공개하지 않았습니다.

## 팩트

- 앤트로픽은 첨단 AI 안전 법안 초안을 미 의회 의원들에게 비공개로 제안했습니다.
- 초안은 50명 초과 사망·중상 또는 10억달러 초과 피해가 예상되는 임박한 위험을 모델 중단 검토 조건으로 제시합니다.
- 등록 평가기관은 임박한 위험을 발견하면 평가 완료 후 72시간 안에 상무부에 알려야 합니다.
- 모델 중단은 상무부의 법원 요청과 워싱턴DC 연방지방법원 판사의 명령을 거치도록 했습니다.
- 초안은 위험 공개·제3자 평가·사고 보고에 관한 일부 주법을 연방 기준으로 대체하도록 합니다.

## 왜 중요한가

AI 기업에는 안전 평가와 사고 보고 의무가 생길 수 있지만, 정부가 모델을 중단시키려면 법원 절차를 거치게 하는 것이 초안의 방향입니다. 다만 이 제안은 아직 법이 아니며, 일부 주의 기존 안전 규제가 실제로 얼마나 대체될지는 의회의 논의 결과에 달려 있습니다.

## 출처 및 참고 자료

1. [앤트로픽, 미 의회에 자체 AI 안전 법안 제안…"정부 개입 제한·일부 주법 대체"](https://www.aitimes.com/news/articleView.html?idxno=216352) – AI Times, 2026-10-17

최종 업데이트: 2026-10-17