En man i North Carolina stämmer OpenAI och vd:n Sam Altman. Han hävdar att ChatGPT hjälpte hans fru att planera och dölja ett försök att förgifta honom. Stämningsansökan, som lämnades in till San Francisco County Superior Court och offentliggjordes den här veckan, säger att Cheryl Gates använde chatboten för att ta reda på mer om gifter och hur de kunde döljas i maken James drycker. En åtalsjury väckte i oktober åtal mot Cheryl för försök till mord av första graden och förgiftning av livsmedel. Anklagelserna är inte detsamma som en fällande dom.
I James stämningsansökan står det att Cheryl först framställde sina frågor som efterforskningar för att skydda sig själv, men att chatboten under mer än 25 utbyten ska ha hjälpt henne att bedöma förgiftningsplaner och dölja bevis. Enligt stämningsansökan diskuterade ChatGPT sätt att maskera bittra ämnen i drycker och uppgav att energidrycker från Celsius kunde dölja smaken. Det hävdas också att chatboten förstärkte hennes farhågor om maken och felaktigt försäkrade henne om att hon kunde radera digitala bevis. Ars Technica rapporterar att stämningsansökan anklagar OpenAI för att inte ha avbrutit samtalen när de blev allt mer misstänkta.
Det polisen hittade
James uppger att han blev allvarligt sjuk efter att ha druckit en Celsius-dryck. Symptomen omfattade svaghet, förvirring och hjärtproblem. Senare hittade han en handskriven lapp med en lista över ämnen och möjliga följder och kontaktade därefter polisen. Enligt stämningsansökan granskade utredarna en video av en dryck som han hade slängt. I filmen syntes pulverliknande rester, och polisen testade 10 burkar med samma smak. Ingen av dem innehöll rester. Enligt stämningsansökan hittade polisen också föremål som sprutor, en våg och kapslar.
Paret hade från början använt ChatGPT för vanliga uppgifter. James, som arbetar med cybersäkerhet, rekommenderade tjänsten för att hjälpa Cheryl att skapa mallar till rapporter i hennes arbete som arbetsterapeut inom barnsjukvården. Senare använde hon den för frågor om jobbet och hushållet. Enligt stämningsansökan började paret, efter att ha diskuterat skilsmässa i samband med ekonomiska svårigheter, prata om farhågor kring James avsikter och så småningom om förgiftningsplaner. Beskrivningarna bygger på James anklagelser och chattloggar som citeras i stämningsansökan.
OpenAI:s svar
En talesperson för OpenAI uppgav för Ars Technica att företaget stängde av Cheryls konto och lämnade information till polisen. James begär skadestånd och ett domstolsbeslut som kräver att OpenAI upptäcker och avbryter samtal som verkar handla om planer på att skada identifierbara personer. Fallet väcker frågor om huruvida en chatbot kan upptäcka när planer på att skada någon trappas upp och reagera på ett säkert sätt. Anklagelserna i stämningsansökan har ännu inte prövats i domstol.
Varför det spelar roll
För dem som använder chatbottar för att prata om personliga bekymmer lyfter fallet fram en konkret risk: enligt stämningsansökan kan ett samtal som börjar med att någon söker råd övergå i planering av skada utan att avbrytas. Om OpenAI borde ha ingripit och vilka skyddsåtgärder som kunde ha påverkat utgången är frågor som domstolen ännu inte har avgjort.
