New York hat am 10. November ein Registrierungsportal für große KI-Entwickler freigeschaltet. Das geschieht im Vorfeld eines neuen Landesgesetzes, das am 1. Januar 2027 in Kraft tritt. Nach dem RAISE Act müssen sich Unternehmen, die Frontier-KI-Systeme entwickeln und einen Jahresumsatz von mehr als $500 million erzielen, bis zu diesem Datum registrieren. TechCrunch berichtet, dass voraussichtlich auch OpenAI und Anthropic unter das Gesetz fallen.
Das Gesetz verpflichtet die betroffenen Entwickler, Sicherheitskonzepte auf ihren Websites zu veröffentlichen, öffentliche Berichte über ihre Modelle vorzulegen und kritische Sicherheitsvorfälle innerhalb von 72 Stunden dem Bundesstaat zu melden. New York kann bei einem Verstoß Strafen von bis zu $1 million und bei weiteren Verstößen von bis zu $3 million verhängen. Der Bundesstaat kann auch gegen Unternehmen vorgehen, die sich nicht registrieren. Eine Sprecherin machte jedoch keine Angaben dazu, welche Maßnahmen das konkret umfassen könnte.
Das neu gegründete Office of Digital Innovation, Governance, Integrity, and Trust, kurz DIGIT, wird das Programm betreiben und die Unternehmen beaufsichtigen. Damit werden Sicherheitsinformationen und die Meldung von Vorfällen Teil der formellen staatlichen Aufsicht, statt sich allein auf freiwillige Angaben der Unternehmen zu stützen.
Was plant New York noch?
Am 10. November gründete Gouverneurin Kathy Hochul außerdem das New York Center for AI Responsibility and Research an der Binghamton University. Das Zentrum soll fortschrittliche KI-Systeme unabhängig bewerten und mit DIGIT die Sicherheitskonzepte der Unternehmen prüfen. Hochul hatte das Vorhaben im Januar erstmals angekündigt; dafür stehen $55 million an Spenden und staatlichen Investitionen bereit.
Der RAISE Act ergänzt andere bundesstaatliche Vorschriften zur KI-Sicherheit. New York verpflichtet Anbieter von KI-Begleitdiensten bereits dazu, Nutzer regelmäßig daran zu erinnern, dass sie mit einem Bot sprechen, und angemessene Maßnahmen zu ergreifen, um Anzeichen für Suizidgedanken oder Selbstverletzung zu erkennen. Ein weiteres, im Oktober unterzeichnetes Gesetz schränkt bestimmte Chatbot-Interaktionen mit Minderjährigen ein, darunter täuschend echt wirkende menschliche Interaktionen sowie Antworten, die zu Suizid oder Essstörungen ermutigen. Es tritt am 1. Juni 2027 in Kraft.
Auch Kaliforniens SB 53 verpflichtet Anbieter von Frontier-KI dazu, Sicherheitskonzepte zu veröffentlichen, Hinweisgeber zu schützen und kritische Vorfälle zu melden. Dafür haben sie jedoch 15 Tage Zeit. Illinois’ SB 315 soll Anfang 2027 in Kraft treten und enthält ähnliche Vorgaben sowie unabhängige Sicherheitsprüfungen.
Warum es wichtig ist
Für die Menschen in New York bedeutet das Gesetz, dass der Bundesstaat bestimmte große KI-Entwickler verpflichten wird, ihre Sicherheitspläne offenzulegen und schwerwiegende Vorfälle innerhalb einer festgelegten Frist zu melden. Offen bleibt, welche Informationen die öffentlichen Berichte enthalten und wie häufig der Bundesstaat die Vorschriften durchsetzen wird.
