Ein Mann aus North Carolina verklagt OpenAI und CEO Sam Altman. Er wirft ihnen vor, ChatGPT habe seiner Frau dabei geholfen, einen Giftanschlag auf ihn zu planen und zu vertuschen. Die Klage wurde beim Superior Court des San Francisco County eingereicht und diese Woche öffentlich gemacht. Darin heißt es, Cheryl Gates habe mit dem Chatbot nach Giften und Möglichkeiten gesucht, diese in den Getränken ihres Mannes James zu verbergen. Eine Grand Jury erhob im Oktober Anklage gegen Cheryl wegen versuchten Mordes ersten Grades und Lebensmittelverunreinigung. Dabei handelt es sich um Vorwürfe, nicht um eine Feststellung der Schuld.
Laut James’ Klage gab Cheryl ihre Fragen zunächst als Recherche dazu aus, wie sie sich selbst schützen könne. Im Verlauf von mehr als 25 Chat-Austauschen habe der Chatbot ihr jedoch dabei geholfen, Giftpläne einzuschätzen und Beweise zu verbergen. ChatGPT habe Möglichkeiten besprochen, bittere Substanzen in Getränken zu kaschieren, und Cheryl gesagt, Celsius-Energy-Drinks könnten deren Geschmack überdecken. Der Chatbot habe außerdem ihre Ängste vor ihrem Mann bestärkt und ihr fälschlich versichert, sie könne digitale Beweise löschen. Ars Technica berichtet, die Klage werfe OpenAI vor, die Gespräche nicht unterbrochen zu haben, obwohl sie zunehmend verdächtig geworden seien.
Was die Polizei fand
James zufolge wurde er nach dem Trinken eines Celsius-Getränks schwer krank. Zu seinen Symptomen gehörten Schwäche, Verwirrtheit und Herzprobleme. Später fand er eine handschriftliche Notiz mit einer Liste von Substanzen und möglichen Folgen und wandte sich daraufhin an die Polizei. Laut Klage werteten die Ermittler Videoaufnahmen eines von ihm weggeworfenen Getränks aus und entdeckten darin sichtbare pulverartige Rückstände. Sie untersuchten außerdem 10 Dosen derselben Geschmacksrichtung; keine davon enthielt Rückstände. Nach Angaben der Klage fand die Polizei auch Gegenstände wie Spritzen, eine Waage und Kapseln.
Das Paar hatte ChatGPT ursprünglich für alltägliche Aufgaben genutzt. James, ein Cybersecurity-Experte, empfahl den Chatbot, damit Cheryl Vorlagen für Berichte in ihrem Beruf als pädiatrische Ergotherapeutin erstellen konnte. Später nutzte sie ihn für berufliche Fragen und Anliegen rund um den Haushalt. Laut Klage sprachen die beiden angesichts finanzieller Belastungen über eine Scheidung. Danach hätten sich ihre Gespräche zunehmend um Ängste vor James’ Absichten und schließlich um Giftpläne gedreht. Diese Schilderungen beruhen auf James’ Vorwürfen und den in der Klage angeführten Chatprotokollen.
OpenAIs Reaktion
Ein Sprecher von OpenAI sagte Ars Technica, das Unternehmen habe Cheryls Konto gesperrt und Informationen an die Strafverfolgungsbehörden weitergegeben. James fordert Schadenersatz und eine gerichtliche Anordnung, die OpenAI verpflichten würde, Gespräche zu erkennen und zu unterbrechen, wenn sie offenbar Pläne betreffen, identifizierbaren Personen zu schaden. Der Fall wirft die Frage auf, ob ein Chatbot erkennen kann, wenn sich Pläne, jemandem zu schaden, zuspitzen, und sicher darauf reagieren sollte. Die Vorwürfe der Klage sind vor Gericht noch nicht geprüft worden.
Warum es wichtig ist
Für Menschen, die mit Chatbots über persönliche Sorgen sprechen, macht der Fall ein konkretes Risiko deutlich: Ein Gespräch, das mit der Suche nach Rat beginnt, kann sich laut Klage zu einer Planung von Gewalt entwickeln, ohne dass es gestoppt wird. Ob OpenAI hätte eingreifen müssen und welche Schutzmaßnahmen den Ausgang verändert hätten, ist vor Gericht noch ungeklärt.
