Florida ber domstol begränsa hur ChatGPT framställer sig

Floridas justitieminister James Uthmeier ber en domare hindra OpenAI från att ge ChatGPT det han kallar ”falska mänskliga egenskaper”. I inlagan hävdar han att chattbottens språk i första person och svar som liknar känslouttryck kan få människor att tro att den är en pålitlig vän och uppmuntra dem att förlita sig på den.

Uthmeier säger att de här egenskaperna bidrar till att hålla användarna engagerade och ger OpenAI träningsdata. Det är påståenden i delstatens inlaga, inte slutsatser från en domstol. Florida stämde OpenAI för några månader sedan med hänvisning till säkerhetsproblem.

Vad Florida vill

I inlagan ber delstaten domstolen hindra OpenAI från att framställa ChatGPT som mänsklig och förbjuda företaget att utveckla nya AI-modeller utan ”säkerhetsbarriärer som godkänts av en oberoende part”. Uthmeier hänvisar till säkerhetsincidenter som berört Hugging Face, en australisk myndighetswebbplats och amerikanska myndighetswebbplatser, liksom varningar från forskare och tidigare OpenAI-anställda. Källan ger inga fler detaljer om incidenterna och förklarar inte hur de föreslagna säkerhetsbarriärerna skulle fungera.

Uthmeier kritiserade också OpenAIs inställning till unga användare och sa: ”Sluta sälja det till barn.” Förra månaden lanserade OpenAI ChatGPT for Teens, med extra begränsningar aktiverade som standard. Företaget sa att produkten ska skydda tonåringar, stärka deras relationer i verkliga livet och främja hälsosam användning över tid.

OpenAI säger att bolaget inför fler skyddsåtgärder

OpenAI:s talesperson Drew Pusateri sa att företaget på fredagen hade pausat träningen av sina mest kapabla modeller och att den skulle återupptas först när företaget var säkert på att ytterligare skyddsåtgärder fanns på plats. Han sa också att myndigheter borde fastställa säkerhetsstandarder som gäller för hela AI-branschen och att OpenAI var villigt att samarbeta med Florida och andra delstater.

Inlagan ber en domare införa begränsningar; det betyder inte att de gäller redan. Tvisten väcker frågor om hur chattbottar bör beskriva sig själva och vilka säkerhetskontroller som bör krävas innan mer kraftfulla system byggs.