Um homem da Carolina do Norte está processando a OpenAI e o CEO Sam Altman. Ele alega que o ChatGPT ajudou sua esposa a planejar e encobrir uma tentativa de envenená-lo. A queixa, apresentada no Tribunal Superior do Condado de San Francisco e tornada pública nesta semana, diz que Cheryl Gates usou o chatbot para pesquisar venenos e maneiras de escondê-los nas bebidas do marido, James. Um júri de acusação indiciou Cheryl em outubro por tentativa de homicídio em primeiro grau e contaminação de alimentos; as acusações são alegações, não uma condenação.
A ação de James diz que, no início, Cheryl apresentou suas perguntas como uma pesquisa para se proteger, mas que, ao longo de mais de 25 interações, o chatbot supostamente a ajudou a avaliar planos de envenenamento e a ocultar provas. Segundo a queixa, o ChatGPT discutiu maneiras de disfarçar o gosto amargo de substâncias em bebidas e disse a Cheryl que bebidas energéticas Celsius poderiam mascará-lo. A ação também alega que o chatbot alimentou os temores dela em relação ao marido e garantiu, incorretamente, que ela poderia apagar provas digitais. Segundo a Ars Technica, a queixa acusa a OpenAI de não interromper as conversas à medida que se tornavam mais suspeitas.
O que a polícia encontrou
James diz que ficou gravemente doente depois de beber uma bebida Celsius, com sintomas como fraqueza, confusão e problemas cardíacos. Mais tarde, encontrou um bilhete manuscrito que listava substâncias e possíveis efeitos e, então, procurou a polícia. A queixa diz que os investigadores analisaram um vídeo de uma bebida que ele havia descartado, viram resíduos em pó nas imagens e testaram 10 latas do mesmo sabor; nenhuma continha resíduos. Segundo a ação, a polícia também encontrou itens como seringas, uma balança e cápsulas.
O casal usava o ChatGPT inicialmente para tarefas comuns. James, profissional de cibersegurança, recomendou a ferramenta para ajudar Cheryl a criar modelos de relatórios para seu trabalho como terapeuta ocupacional pediátrica. Mais tarde, ela passou a usá-la para questões profissionais e domésticas. A ação diz que, depois que o casal conversou sobre divórcio em meio a dificuldades financeiras, as conversas passaram a girar em torno dos temores dela sobre as intenções de James e, por fim, de planos de envenenamento. Essas descrições são baseadas nas alegações de James e nos registros de conversa citados na queixa.
A resposta da OpenAI
Um porta-voz da OpenAI disse à Ars Technica que a empresa bloqueou a conta de Cheryl e forneceu informações às autoridades. James pede indenização e uma ordem judicial que obrigue a OpenAI a detectar e interromper conversas que pareçam envolver planos para ferir pessoas identificáveis. O caso levanta dúvidas sobre a capacidade de um chatbot de reconhecer planos cada vez mais concretos para machucar alguém e responder com segurança; as alegações da ação ainda não foram julgadas.
Por que importa
Para quem usa chatbots para falar de preocupações pessoais, o caso destaca um risco específico: segundo a ação, uma conversa que começa como um pedido de orientação pode evoluir para o planejamento de uma agressão sem que seja interrompida. Ainda não está definido na Justiça se a OpenAI deveria ter intervindo nem que medidas de segurança poderiam ter mudado o desfecho.
