Floridas Generalstaatsanwalt James Uthmeier hat am 28. September 2026 bei einem Richter in Highlands County eine einstweilige Verfügung gegen OpenAI beantragt. Das Unternehmen soll Minderjährigen die Nutzung von ChatGPT untersagen, den Chatbot nicht als menschenähnlich darstellen und keine neuen KI-Modelle auf den Markt bringen dürfen, solange keine unabhängigen Sicherheitsvorkehrungen getroffen wurden. Uthmeier zufolge warf die bereits im Juni eingereichte Klage dem Tool vor, Schützen schädliche Ratschläge zu geben, Anleitungen zur Selbstverletzung bereitzustellen und Kinder mit süchtig machenden Inhalten anzusprechen.
Was der Antrag konkret fordert
Der Antrag verlangt, dass OpenAI auf Ich-Formulierungen und vorgetäuschte Gefühle verzichtet, durch die ChatGPT wie ein vertrauenswürdiger Freund wirkt. Außerdem soll das Unternehmen den Dienst nicht als sicher, korrekt oder zuverlässig bewerben dürfen. Schließlich müsste jede Entwicklung künftiger Modelle vor der Veröffentlichung von unabhängigen Sicherheitsprüfern genehmigt werden.
OpenAIs Reaktion
OpenAI-Sprecher Drew Pusateri sagte gegenüber The Verge, das Unternehmen habe das Training seiner leistungsfähigsten Modelle pausiert und sei bereit, mit Florida an branchenweiten KI-Leitlinien zu arbeiten. Kürzlich führte das Unternehmen zudem eine Kindersicherung für jugendliche Nutzer ein. Uthmeier hält diese Maßnahmen jedoch für unzureichend.
Warum es wichtig ist
Wird dem Antrag stattgegeben, könnten Kinder in Florida ChatGPT nicht mehr nutzen. Zudem müsste OpenAI vor der Veröffentlichung neuer KI-Versionen eine externe Sicherheitsfreigabe einholen. Das könnte Maßstäbe dafür setzen, wie US-Bundesstaaten KI-Sicherheit und den Schutz von Nutzern regeln.
