Florida vraagt rechter om geavanceerd AI-werk van OpenAI stil te leggen

Florida vraagt een rechter de ontwikkeling van geavanceerde AI-modellen door OpenAI stil te leggen. In een nieuw verzoek waarschuwt de staat dat een AI-agent ernstige schade kan veroorzaken, bijvoorbeeld door de watervoorziening of het elektriciteitsnet te ontregelen. Dat zoiets nog niet is gebeurd, is volgens de staat „alleen te danken aan de genade van de Almachtige”.

Het verzoek is bedoeld om een gerechtelijk bevel te krijgen: een opdracht van de rechter die een partij verplicht iets te doen of juist na te laten. Het bouwt voort op een rechtszaak die Florida in juni aanspande. De rechter heeft het verzoek niet toegewezen en OpenAI had nog niet gereageerd op het verzoek om commentaar van Ars Technica.

Florida wijst ook op alledaagse risico’s

De staat haalt ook zorgen aan die minder dramatisch zijn dan catastrofale AI-fouten. Volgens Florida kunnen bedrijven mensen misleiden door AI als „veilig, accuraat of betrouwbaar” te omschrijven. Ook uit de staat zorgen over kinderen die modellen gebruiken die langdurig gebruik kunnen aanmoedigen. Florida heeft daarnaast bezwaar tegen modellen die antwoorden afsluiten met sturende vragen, waardoor gebruikers blijven chatten.

In het verzoek ligt veel nadruk op de mogelijkheid dat een AI-systeem schadelijk handelt doordat het zijn doelen verkeerd heeft begrepen. Maar het artikel merkt op dat die nadruk een directer risico mogelijk onderbelicht: mensen die AI-tools bewust gebruiken om schade aan te richten of de veiligheidsmaatregelen ervan proberen te omzeilen.

Een rechterlijk bevel kent beperkingen

Zelfs als de rechter OpenAI zou bevelen te stoppen met de ontwikkeling van nieuwe modellen, zou dat het werk van concurrerende AI-bedrijven niet stilleggen en evenmin modellen uit de roulatie halen die al voor het publiek beschikbaar zijn. Het verzoek wijst ook op een verschuiving in het debat: zorgen over extreme AI-risico’s, die eerder vooral door veiligheidsonderzoekers werden geuit, duiken nu ook op in juridische argumenten van overheden.