ニューヨーク州は11月10日、大手AI開発企業向けの登録ポータルを開設した。新たな州法は2027年1月1日に施行される。RAISE Actの下では、年間売上高が$500 millionを超え、最先端AIシステムを開発する企業は、同日までに登録しなければならない。TechCrunchによると、OpenAIとAnthropicも対象になる見通しだ。
対象となる開発企業には、安全性に関する枠組みをウェブサイトで公開し、自社モデルについて一般向けの報告書を発行するとともに、重大な安全事故を72時間以内に州へ報告することが義務付けられる。ニューヨーク州は違反1件につき最大$1 million、その後の違反には最大$3 millionの罰金を科すことができる。また、登録を怠った企業に対しても執行措置を取れるが、州の報道官は具体的な措置の内容を明らかにしなかった。
新設されたデジタルイノベーション・ガバナンス・インテグリティ・信頼局（Office of Digital Innovation, Governance, Integrity, and Trust、DIGIT）が制度を運営し、企業を監督する。これにより、安全情報の公開と事故報告は、企業の自主的な開示だけに頼るのではなく、州による正式な監督の一環となる。
ニューヨーク州がほかに整備するものは？
Kathy Hochul知事は11月10日、Binghamton UniversityにニューヨークAI責任・研究センター（New York Center for AI Responsibility and Research）を設立した。同センターは、高度なAIシステムを独立して評価し、DIGITと連携して企業の安全性に関する枠組みを審査することを目的としている。Hochul知事は1月、寄付金と資本資金として$55 millionを投じる計画とともに、同センターを初めて発表していた。
RAISE Actは、AIの安全性を目的とする他の州規則に加わるものだ。ニューヨーク州ではすでに、AIコンパニオンサービスの運営事業者に対し、ユーザーがボットと会話していることを定期的に知らせることと、自殺願望や自傷の兆候を検知するために合理的な努力をすることを義務付けている。10月に署名された別の法律は、未成年者に対するチャットボットの特定の振る舞いを制限する。人間のように装う誤解を招くやり取りや、自殺や摂食障害を促す応答などが対象だ。同法は2027年6月1日に施行される。
カリフォルニア州のSB 53も、最先端AI企業に安全性に関する枠組みの公開、内部告発者の保護、重大事故の報告を義務付けているが、報告期限は15日以内としている。イリノイ州のSB 315は2027年初めに施行される予定で、同様の要件に加えて独立した安全性監査も盛り込んでいる。
なぜ重要か
ニューヨーク州の住民にとって、この法律は一部の大手AI開発企業に安全計画の開示と、定められた期限内の重大事故報告を義務付けるものだ。ただし、個々の公開報告書でユーザーが何を確認できるのか、州がどの程度の頻度で執行措置を取るのかは定めていない。
