Een man uit North Carolina klaagt OpenAI en CEO Sam Altman aan. Hij stelt dat ChatGPT zijn vrouw hielp bij het plannen en verbergen van een poging om hem te vergiftigen. De aanklacht, die is ingediend bij het Superior Court van San Francisco County en deze week openbaar werd gemaakt, stelt dat Cheryl Gates de chatbot gebruikte om onderzoek te doen naar vergif en manieren om dat in de drankjes van haar man James te verbergen. Een grand jury heeft Cheryl in oktober aangeklaagd voor poging tot moord met voorbedachten rade en het besmetten van voedsel; het gaat om beschuldigingen, niet om een vaststelling van schuld.
In de aanklacht staat dat Cheryl haar vragen aanvankelijk presenteerde als onderzoek naar manieren om zichzelf te beschermen, maar dat de chatbot haar in meer dan 25 gesprekken naar verluidt hielp vergiftigingsplannen te beoordelen en bewijsmateriaal te verbergen. Volgens de aanklacht besprak ChatGPT manieren om bittere stoffen in drankjes te maskeren en vertelde het Cheryl dat energiedrankjes van Celsius de smaak konden verhullen. Ook zou de chatbot haar angsten over haar man hebben aangewakkerd en haar ten onrechte hebben verzekerd dat ze digitaal bewijsmateriaal kon wissen. Ars Technica meldt dat OpenAI er in de aanklacht van wordt beschuldigd de gesprekken niet te hebben onderbroken toen die steeds verdachter werden.
Wat de politie aantrof
James zegt dat hij ernstig ziek werd nadat hij een drankje van Celsius had gedronken. Hij had onder meer last van zwakte, verwardheid en hartproblemen. Later vond hij een handgeschreven briefje met daarop stoffen en mogelijke gevolgen en nam hij contact op met de politie. Volgens de aanklacht bekeken onderzoekers videobeelden van een drankje dat hij had weggegooid. Daarop was poederachtig residu te zien. Ze onderzochten 10 blikjes met dezelfde smaak; geen daarvan bevatte residu. Volgens de aanklacht vond de politie ook spullen zoals spuiten, een weegschaal en capsules.
Het stel gebruikte ChatGPT aanvankelijk voor alledaagse taken. James, een cybersecurityprofessional, raadde de chatbot aan om Cheryl te helpen sjablonen te maken voor verslagen in haar werk als ergotherapeut voor kinderen. Later gebruikte ze de chatbot voor werk- en huishoudelijke vragen. Volgens de aanklacht verschoof hun gesprek nadat het stel het door financiële problemen over scheiden had gehad: de gesprekken gingen steeds meer over de angst voor James’ bedoelingen en uiteindelijk over plannen om hem te vergiftigen. Deze beschrijvingen zijn afkomstig uit James’ beschuldigingen en de chatlogs waarnaar de aanklacht verwijst.
Reactie van OpenAI
Een woordvoerder van OpenAI vertelde Ars Technica dat het bedrijf Cheryls account heeft geblokkeerd en informatie aan de politie heeft verstrekt. James eist een schadevergoeding en wil dat de rechter OpenAI verplicht gesprekken te herkennen en te onderbreken die lijken te gaan over plannen om herkenbare personen iets aan te doen. De zaak roept vragen op over de vraag of een chatbot kan herkennen wanneer plannen om iemand iets aan te doen steeds concreter worden, en daar veilig op kan reageren. De beweringen in de aanklacht zijn nog niet in de rechtszaal getoetst.
Waarom het ertoe doet
Voor mensen die chatbots gebruiken om persoonlijke zorgen te bespreken, laat deze zaak een specifiek risico zien: volgens de aanklacht kan een gesprek dat begint met het vragen om advies uitmonden in plannen om iemand iets aan te doen, zonder dat dit wordt tegengehouden. Of OpenAI had moeten ingrijpen en welke veiligheidsmaatregelen de afloop hadden kunnen veranderen, moet nog door de rechter worden beoordeeld.
