Florida bittet Gericht, OpenAIs Arbeit an Spitzen-KI auszusetzen

Florida bittet ein Gericht, OpenAIs Entwicklung fortschrittlicher KI-Modelle zu bremsen. In einem neuen Antrag warnt der Bundesstaat, ein KI-Agent könne schwere Schäden verursachen – etwa indem er die Wasserversorgung oder das Stromnetz beeinträchtigt. „Nur durch die Gnade des Allmächtigen“ sei ein solcher Vorfall bislang ausgeblieben, argumentiert der Bundesstaat.

Bei dem Antrag geht es um eine einstweilige Verfügung – also eine gerichtliche Anordnung, die eine Partei zu einer Handlung verpflichtet oder ihr eine Handlung untersagt. Er baut auf einer Klage auf, die Florida im Juni eingereicht hat. Das Gericht hat dem Antrag nicht stattgegeben; OpenAI hatte auf eine Anfrage von Ars Technica um Stellungnahme nicht reagiert.

Florida verweist auch auf alltägliche Risiken

Der Bundesstaat greift in seiner Argumentation auch Bedenken auf, die weniger dramatisch sind als katastrophale KI-Pannen. Unternehmen könnten Menschen in die Irre führen, indem sie KI als „sicher, genau oder zuverlässig“ bezeichneten, heißt es. Außerdem äußert Florida Bedenken, dass Kinder Modelle nutzen, die zu einer langen Nutzung verleiten können. Der Bundesstaat kritisiert auch, dass Modelle ihre Antworten mit Suggestivfragen beenden, die Nutzer zum Weiterchatten einladen.

Besonderes Gewicht legt der Antrag auf die Möglichkeit, dass ein KI-System schädlich handeln könnte, weil es seine Ziele missverstanden hat. Der Artikel merkt jedoch an, dass diese Schwerpunktsetzung ein unmittelbareres Risiko ausblenden könnte: Menschen, die KI-Tools bewusst einsetzen, um Schaden anzurichten, oder versuchen, deren Schutzvorkehrungen zu umgehen.

Eine gerichtliche Anordnung hätte Grenzen

Selbst wenn das Gericht OpenAI die Entwicklung neuer Modelle untersagen würde, käme die Arbeit konkurrierender KI-Unternehmen dadurch nicht zum Stillstand. Auch bereits öffentlich verfügbare Modelle würden dadurch nicht vom Markt genommen. Der Antrag macht zudem einen Wandel in der Debatte deutlich: Bedenken über extreme KI-Risiken, die früher vor allem von Sicherheitsforschern geäußert wurden, finden sich nun auch in juristischen Argumenten von Regierungen.