Florida beantragt vor Gericht Einschränkungen für die Selbstdarstellung von ChatGPT

Floridas Generalstaatsanwalt James Uthmeier fordert einen Richter auf, OpenAI zu untersagen, ChatGPT mit dem aus seiner Sicht „falschen Anschein menschlicher Eigenschaften“ auszustatten. In seinem Antrag heißt es, die Ich-Form und Antworten, die Gefühle nachahmen, könnten den Eindruck erwecken, der Chatbot sei ein vertrauenswürdiger Freund, und Menschen dazu verleiten, sich auf ihn zu verlassen.

Uthmeier zufolge tragen diese Funktionen dazu bei, Nutzer bei der Stange zu halten und Trainingsdaten für OpenAI zu liefern. Das sind Behauptungen im Antrag des Bundesstaats, keine gerichtlichen Feststellungen. Florida hat OpenAI vor einigen Monaten wegen Sicherheitsbedenken verklagt.

Was Florida fordert

Der Antrag fordert das Gericht auf, OpenAI zu untersagen, ChatGPT als menschlich darzustellen, und dem Unternehmen zu verbieten, neue KI-Modelle ohne „von Dritten genehmigte Sicherheitsvorkehrungen“ zu entwickeln. Uthmeier verweist auf Sicherheitsvorfälle bei Hugging Face, einer australischen Regierungswebsite und Websites der US-Regierung sowie auf Warnungen von Forschern und ehemaligen OpenAI-Mitarbeitern. Der Quelle zufolge werden die Vorfälle nicht näher erläutert; auch bleibt offen, wie die vorgeschlagenen Schutzmaßnahmen umgesetzt werden sollen.

Uthmeier kritisierte außerdem OpenAIs Umgang mit jungen Nutzern und sagte: „Hört auf, es an Kinder zu verkaufen.“ Im vergangenen Monat brachte OpenAI ChatGPT für Teenager auf den Markt, bei dem zusätzliche Einschränkungen standardmäßig aktiviert sind. Das Unternehmen erklärte, das Produkt solle Teenager schützen, ihre Beziehungen im echten Leben stärken und langfristig eine gesunde Nutzung fördern.

OpenAI erklärt, zusätzliche Schutzmaßnahmen einzuführen

OpenAI-Sprecher Drew Pusateri sagte, das Unternehmen habe am Freitag das Training seiner leistungsfähigsten Modelle vorübergehend ausgesetzt. Es werde erst wieder aufgenommen, wenn OpenAI sicher sei, dass zusätzliche Schutzmaßnahmen greifen. Außerdem sagte er, Regierungen sollten branchenweit geltende Sicherheitsstandards festlegen und OpenAI sei bereit, mit Florida und anderen Bundesstaaten zusammenzuarbeiten.

Der Antrag fordert einen Richter auf, Beschränkungen zu verhängen; das bedeutet nicht, dass sie bereits gelten. Der Streit wirft die Frage auf, wie Chatbots sich selbst beschreiben sollten und welche Sicherheitsprüfungen vorgeschrieben sein sollten, bevor leistungsfähigere Systeme entwickelt werden.