New York opende op 10 november een registratieportaal voor grote AI-ontwikkelaars, vooruitlopend op een nieuwe staatswet die op 1 januari 2027 ingaat. Volgens de RAISE Act moeten bedrijven met een jaaromzet van meer dan $500 miljoen die geavanceerde AI-systemen ontwikkelen zich uiterlijk op die datum registreren. TechCrunch meldt dat OpenAI en Anthropic naar verwachting onder de wet vallen.
De wet verplicht de betrokken ontwikkelaars om veiligheidskaders op hun websites te publiceren, openbare rapporten over hun modellen uit te brengen en ernstige veiligheidsincidenten binnen 72 uur bij de staat te melden. New York kan boetes opleggen van maximaal $1 miljoen voor een overtreding en maximaal $3 miljoen voor latere overtredingen. De staat kan ook handhavend optreden tegen bedrijven die zich niet registreren, al wilde een woordvoerder niet zeggen wat die maatregelen zouden inhouden.
Het onlangs opgerichte Office of Digital Innovation, Governance, Integrity, and Trust, kortweg DIGIT, voert het programma uit en houdt toezicht op de bedrijven. Met deze regels worden veiligheidsinformatie en het melden van incidenten onderdeel van het formele staatstoezicht, in plaats van dat de overheid uitsluitend afgaat op vrijwillige informatieverstrekking door bedrijven.
Wat bereidt New York nog meer voor?
Op 10 november richtte gouverneur Kathy Hochul ook het New York Center for AI Responsibility and Research op, aan Binghamton University. Het centrum moet geavanceerde AI-systemen onafhankelijk beoordelen en met DIGIT samenwerken om de veiligheidskaders van bedrijven te toetsen. Hochul kondigde het centrum in januari voor het eerst aan, met $55 million aan donaties en kapitaal.
De RAISE Act komt boven op andere regels van staten die AI-veiligheid moeten waarborgen. New York verplicht aanbieders van AI-diensten met virtuele gesprekspartners al om gebruikers regelmatig te herinneren aan het feit dat ze met een bot praten, en om redelijke inspanningen te leveren om signalen van suïcidale gedachten of zelfbeschadiging op te merken. Een aparte wet die in oktober werd ondertekend, beperkt bepaald chatbotgedrag tegenover minderjarigen, zoals misleidende, menselijk aandoende interacties en reacties die zelfmoord of eetstoornissen aanmoedigen. Die wet gaat in op 1 juni 2027.
Ook Californiës SB 53 verplicht bedrijven die geavanceerde AI ontwikkelen om veiligheidskaders te publiceren, klokkenluiders te beschermen en ernstige incidenten te melden, maar geeft ze daarvoor 15 dagen. Illinois’ SB 315 treedt naar verwachting begin 2027 in werking en bevat vergelijkbare eisen, plus onafhankelijke veiligheidstoetsen.
Waarom het ertoe doet
Voor inwoners van New York betekent de wet dat de staat bepaalde grote AI-ontwikkelaars verplicht veiligheidsplannen openbaar te maken en ernstige incidenten binnen een vaste termijn te melden. De wet bepaalt niet wat gebruikers precies in elk openbaar rapport te zien krijgen, of hoe vaak de staat handhavend zal optreden.
