Oossa

Florida ber domstol begränsa hur ChatGPT framställer sig

Floridas justitieminister James Uthmeier vill att en domare hindrar OpenAI från att få ChatGPT att framstå som mänsklig och kräver säkerhetsåtgärder för nya modeller som godkänts av en oberoende part. Begäran är en del av Floridas stämning mot OpenAI. Domstolen har inte fattat något beslut.

Av Publicerad av Oossa: 1 min läsning

Jonas Leupe · Unsplash

Floridas justitieminister James Uthmeier ber en domare hindra OpenAI från att ge ChatGPT det han kallar ”falska mänskliga egenskaper”. I sin begäran hävdar han att chatbotens språk i första person och känsloliknande svar kan få människor att tro att den är en pålitlig vän och uppmuntra dem att förlita sig på den.

Uthmeier säger att de här egenskaperna bidrar till att hålla kvar användarna och ger OpenAI träningsdata. Det är påståenden i delstatens inlaga, inte slutsatser från en domstol. Florida stämde OpenAI för några månader sedan med hänvisning till säkerhetsproblem.

Vad Florida vill

I sin begäran ber delstaten domstolen stoppa OpenAI från att framställa ChatGPT som mänsklig och hindra företaget från att utveckla nya AI-modeller utan ”säkerhetsåtgärder som godkänts av en oberoende part”. Uthmeier hänvisar till säkerhetsincidenter med Hugging Face, en australisk myndighetswebbplats och amerikanska myndighetswebbplatser, liksom varningar från forskare och tidigare OpenAI-anställda. Inlagan beskriver inte incidenterna närmare eller förklarar hur de föreslagna säkerhetsåtgärderna skulle fungera.

Uthmeier kritiserade också OpenAIs sätt att vända sig till unga användare och sa: ”Sluta sälja det till barn.” Förra månaden lanserade OpenAI ChatGPT for Teens, med extra begränsningar aktiverade som standard. Företaget sa att produkten ska skydda tonåringar, stödja deras relationer i verkliga livet och uppmuntra till hälsosam användning över tid.

OpenAI säger att fler säkerhetsåtgärder införs

OpenAIs talesperson Drew Pusateri sa att företaget hade pausat träningen av sina mest avancerade modeller på fredagen och skulle återuppta den först när det var övertygat om att ytterligare säkerhetsåtgärder fanns på plats. Han sa också att regeringar bör fastställa säkerhetsstandarder som gäller hela AI-branschen och att OpenAI var villigt att samarbeta med Florida och andra delstater.

I sin begäran ber Florida en domare införa begränsningar; det innebär inte att begränsningarna redan gäller. Tvisten väcker frågor om hur chatbotar bör beskriva sig själva och vilka säkerhetskontroller som ska krävas innan kraftfullare system utvecklas.

Varför det spelar roll

Fallet kan påverka hur fritt chatbotar får använda mänskligt språk och vilka säkerhetskontroller företag måste visa upp innan de tränar nya modeller. För användarna är det viktigaste att Florida begär förändringar – det handlar inte om regler som redan har trätt i kraft. Domstolen har inte fattat något beslut.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.