# 오픈AI·앤트로픽, 캘리포니아에 AI 안전 규제 제안

> 오픈AI는 긴급 종료 기능과 독립 감사를, 앤트로픽은 위험 모델의 출시를 법원이 막을 수 있는 절차를 제안했습니다.

Oossa · 2026-10-29 · https://oossa.com/ko/ai-ai-2853160

오픈AI와 앤트로픽이 캘리포니아주에 인공지능(AI) 안전 규제를 강화하라고 촉구했다. 두 회사 모두 정부 감독과 개발사의 안전 책임을 늘려야 한다고 봤지만, 위험한 모델을 통제하는 방법에는 차이를 보였다.

로이터에 따르면 앤트로픽은 개빈 뉴섬 캘리포니아 주지사에게 보낸 서한에서, AI 모델이 대중에게 심각한 위험을 줄 수 있다고 판단되면 정부가 법원에 출시 금지 명령을 요청할 수 있어야 한다고 제안했다. 오픈AI는 별도 서한에서 투명성 법률을 강화하고 개발사의 안전 의무를 넓히자고 밝혔다.

## 전체 종료보다 위험에 맞춘 통제를

두 회사의 의견이 엇갈린 대목은 이른바 ‘킬 스위치’다. 오픈AI는 AI 기업이 모델을 긴급 종료할 수 있는 통제 기능을 갖춰야 한다고 제안했다. 반면 앤트로픽은 모든 모델에 시스템 전체를 한꺼번에 끄는 장치를 의무화하는 데 반대했다.

앤트로픽은 전체 종료 장치가 실제 위험을 해결하지 못하면서 당국에 잘못된 안도감을 줄 수 있다고 주장했다. 대신 문제가 생긴 AI 에이전트만 비활성화하거나 특정 고객의 접근을 막는 식으로 위험이 발생한 지점에 개입하자는 입장이다. 두 방식은 모델의 통제력을 높이려는 목표는 같지만, 조치 범위와 실행 방식이 다르다.

## 현행 법에 안전 의무를 더하자는 오픈AI

오픈AI는 캘리포니아주의 AI 투명성 법률인 SB53에 긴급 종료 기능, 매년 받는 외부 독립 감사, 강화된 사이버 보안 기준을 추가하자고 제안했다. SB53은 2025년에 제정됐으며, 첨단 AI 개발사에 안전 프레임워크와 투명성 보고서 공개, 중대한 안전 사고 보고를 요구한다.

오픈AI는 안전 프레임워크가 AI 연구·개발을 자동화하는 모델의 능력도 다뤄야 한다고 밝혔다. 주지사가 9월 전문가 패널을 구성해 안전 규제 개선안을 마련하도록 한 뒤 나온 제안들이다. 오픈AI는 지난해 SB53 논의 때는 주 단위의 과도한 규제에 반대했지만, 최근에는 전국 단위의 의무 기준과 주 정부 차원의 규제 추진을 함께 지지하는 쪽으로 입장을 바꿨다. 다만 이번 제안이 실제 법으로 이어질지는 정해지지 않았다.

## 팩트

- 앤트로픽은 캘리포니아 주지사에게 보낸 서한에서 위험 모델의 출시를 법원이 막을 수 있도록 하자고 제안했다.
- 오픈AI는 긴급 종료 통제 기능, 매년 외부 독립 감사, 강화된 사이버 보안 기준을 요구했다.
- 2025년 제정된 캘리포니아주 SB53은 첨단 AI 개발사에 안전 프레임워크와 투명성 보고서 공개, 중대 사고 보고를 요구한다.
- 앤트로픽은 모델 전체 종료보다 개별 에이전트 비활성화나 특정 고객의 접근 차단을 선호한다고 밝혔다.

## 왜 중요한가

캘리포니아의 AI 개발사와 서비스를 이용하는 사람에게는 제안이 법제화될 경우 안전 보고와 외부 감사, 위험 모델 통제 방식이 달라질 수 있다. 하지만 두 회사의 서한은 규정이 확정됐다는 뜻이 아니며, 실제로 어떤 의무가 생길지는 아직 알 수 없다.

## 출처 및 참고 자료

1. [오픈AI·앤트로픽, 캘리포니아주에 AI 규제 강화 촉구...'킬 스위치'는 입장 엇갈려](https://www.aitimes.com/news/articleView.html?idxno=216789) – AI Times, 2026-10-29

최종 업데이트: 2026-10-29