뉴욕주가 새 주법 시행을 앞두고 11월 10일 대형 AI 개발사를 위한 등록 포털을 열었다. 이 법은 2027년 1월 1일 시행된다. RAISE 법에 따라 연간 매출이 $500 million을 넘고 프런티어 AI 시스템을 개발하는 기업은 해당 날짜까지 등록해야 한다. TechCrunch는 OpenAI와 Anthropic이 적용 대상에 포함될 것으로 예상된다고 보도했다.
법 적용 대상 개발사는 자사 웹사이트에 안전 프레임워크를 공개하고, 모델에 관한 공개 보고서를 발행하며, 중대한 안전 사고를 72시간 이내에 주정부에 보고해야 한다. 뉴욕주는 위반 시 최대 $1 million, 이후 위반에는 최대 $3 million의 벌금을 부과할 수 있다. 등록하지 않은 기업에도 집행 조치를 취할 수 있지만, 주정부 대변인은 어떤 조치가 이뤄질지는 구체적으로 밝히지 않았다.
새로 출범한 디지털 혁신·거버넌스·무결성·신뢰 사무국(Office of Digital Innovation, Governance, Integrity, and Trust, DIGIT)이 프로그램을 운영하고 기업들을 감독한다. 이번 요건으로 안전 정보 공개와 사고 보고가 기업의 자발적 공개에만 의존하지 않고 주정부의 공식 감독 절차에 포함된다.
뉴욕주는 또 무엇을 마련하고 있나?
캐시 호컬 주지사는 11월 10일 빙엄턴대학교에 뉴욕 AI 책임·연구 센터(New York Center for AI Responsibility and Research)도 출범시켰다. 이 센터는 첨단 AI 시스템을 독립적으로 평가하고, DIGIT와 협력해 기업의 안전 프레임워크를 검토할 예정이다. 호컬 주지사는 1월에 기부금과 자본금으로 $55 million을 확보해 이 센터 설립 계획을 처음 발표했다.
RAISE 법은 AI 안전을 겨냥한 다른 주 규정에 더해졌다. 뉴욕주는 이미 AI 동반자 서비스 운영자가 이용자에게 챗봇과 대화 중이라는 사실을 정기적으로 알리고, 자살 생각이나 자해 징후를 감지하기 위해 합리적인 노력을 기울이도록 하고 있다. 10월에 서명된 별도의 법은 미성년자를 대상으로 한 특정 챗봇 행위를 제한한다. 여기에는 사람처럼 보이도록 속이는 상호작용과 자살이나 섭식 장애를 부추기는 응답이 포함된다. 이 법은 2027년 6월 1일 시행된다.
캘리포니아주의 SB 53도 프런티어 AI 기업에 안전 프레임워크 공개, 내부고발자 보호, 중대 사고 보고를 요구하지만 보고 기한은 15일이다. 일리노이주의 SB 315는 2027년 초 시행될 예정이며, 비슷한 요건에 더해 독립적인 안전 감사를 포함한다.
왜 중요한가
뉴욕 주민에게 이 법은 일정 규모 이상의 AI 개발사가 안전 계획을 공개하고 중대 사고를 정해진 기한 안에 보고해야 한다는 뜻이다. 다만 각 공개 보고서에 어떤 내용이 담길지, 주정부가 얼마나 자주 집행 조치를 취할지는 정해져 있지 않다.
