# Florida beantragt vor Gericht Einschränkungen für die Selbstdarstellung von ChatGPT

> Floridas Generalstaatsanwalt James Uthmeier will erreichen, dass ein Richter OpenAI untersagt, ChatGPT menschlich wirken zu lassen, und das Unternehmen verpflichtet, neue Modelle nur mit extern genehmigten Sicherheitsvorkehrungen zu entwickeln. Der Antrag ist Teil von Floridas Klage gegen OpenAI; über eine Entscheidung des Gerichts wird in dem Bericht nicht informiert.

Oossa · 2026-09-28 · https://oossa.com/de/florida-asks-court-to-limit-how-chatgpt-presents-itself

Floridas Generalstaatsanwalt James Uthmeier fordert einen Richter auf, OpenAI zu untersagen, ChatGPT mit dem aus seiner Sicht „falschen Anschein menschlicher Eigenschaften“ auszustatten. In seinem Antrag heißt es, die Ich-Form und Antworten, die Gefühle nachahmen, könnten den Eindruck erwecken, der Chatbot sei ein vertrauenswürdiger Freund, und Menschen dazu verleiten, sich auf ihn zu verlassen.

Uthmeier zufolge tragen diese Funktionen dazu bei, Nutzer bei der Stange zu halten und Trainingsdaten für OpenAI zu liefern. Das sind Behauptungen im Antrag des Bundesstaats, keine gerichtlichen Feststellungen. Florida hat OpenAI vor einigen Monaten wegen Sicherheitsbedenken verklagt.

## Was Florida fordert

Der Antrag fordert das Gericht auf, OpenAI zu untersagen, ChatGPT als menschlich darzustellen, und dem Unternehmen zu verbieten, neue KI-Modelle ohne „von Dritten genehmigte Sicherheitsvorkehrungen“ zu entwickeln. Uthmeier verweist auf Sicherheitsvorfälle bei Hugging Face, einer australischen Regierungswebsite und Websites der US-Regierung sowie auf Warnungen von Forschern und ehemaligen OpenAI-Mitarbeitern. Der Quelle zufolge werden die Vorfälle nicht näher erläutert; auch bleibt offen, wie die vorgeschlagenen Schutzmaßnahmen umgesetzt werden sollen.

Uthmeier kritisierte außerdem OpenAIs Umgang mit jungen Nutzern und sagte: „Hört auf, es an Kinder zu verkaufen.“ Im vergangenen Monat brachte OpenAI ChatGPT für Teenager auf den Markt, bei dem zusätzliche Einschränkungen standardmäßig aktiviert sind. Das Unternehmen erklärte, das Produkt solle Teenager schützen, ihre Beziehungen im echten Leben stärken und langfristig eine gesunde Nutzung fördern.

## OpenAI erklärt, zusätzliche Schutzmaßnahmen einzuführen

OpenAI-Sprecher Drew Pusateri sagte, das Unternehmen habe am Freitag das Training seiner leistungsfähigsten Modelle vorübergehend ausgesetzt. Es werde erst wieder aufgenommen, wenn OpenAI sicher sei, dass zusätzliche Schutzmaßnahmen greifen. Außerdem sagte er, Regierungen sollten branchenweit geltende Sicherheitsstandards festlegen und OpenAI sei bereit, mit Florida und anderen Bundesstaaten zusammenzuarbeiten.

Der Antrag fordert einen Richter auf, Beschränkungen zu verhängen; das bedeutet nicht, dass sie bereits gelten. Der Streit wirft die Frage auf, wie Chatbots sich selbst beschreiben sollten und welche Sicherheitsprüfungen vorgeschrieben sein sollten, bevor leistungsfähigere Systeme entwickelt werden.

## Die Fakten

- Floridas Generalstaatsanwalt James Uthmeier reichte einen Antrag ein, mit dem er einen Richter um Einschränkungen für ChatGPT von OpenAI bittet.
- Der Antrag richtet sich gegen die Verwendung der Ich-Form und von Antworten, die Gefühle nachahmen.
- Florida will außerdem, dass OpenAI vor der Entwicklung neuer KI-Modelle Sicherheitsvorkehrungen von unabhängiger Seite genehmigen lässt.
- OpenAI erklärte, das Training seiner leistungsfähigsten Modelle vorübergehend ausgesetzt zu haben und erst mit zusätzlichen Schutzmaßnahmen fortzufahren.
- OpenAI brachte im vergangenen Monat ChatGPT für Teenager mit standardmäßig aktivierten zusätzlichen Einschränkungen auf den Markt.

## Warum es wichtig ist

Der Fall könnte beeinflussen, wie offen Chatbots menschenähnliche Sprache verwenden dürfen und welche Sicherheitsnachweise Unternehmen vor dem Training neuer Modelle erbringen müssen. Für Nutzer ist zunächst wichtig: Florida fordert Änderungen, verkündet aber keine bereits geltenden Regeln. Wie das Gericht reagiert hat, geht aus dem Bericht nicht hervor.

## Quellen und Referenzen

1. [Florida seeks a ban on ChatGPT acting like a person](https://www.theverge.com/ai-artificial-intelligence/1001527/chatgpt-florida-ban-first-person-human-attributes-kids) – The Verge, 2026-09-28

Zuletzt aktualisiert: 2026-09-28