Flórida pede à Justiça que limite a forma como o ChatGPT se apresenta

O procurador-geral da Flórida, James Uthmeier, pede que um juiz impeça a OpenAI de atribuir ao ChatGPT o que ele chama de “falsos atributos humanos”. A petição argumenta que o uso da primeira pessoa e respostas que simulam emoções podem levar as pessoas a acreditar que o chatbot é um amigo confiável e incentivá-las a depender dele.

Uthmeier afirma que esses recursos ajudam a manter as pessoas engajadas e contribuem para os dados de treinamento da OpenAI. Essas são alegações feitas na petição do estado, não conclusões de um tribunal. A Flórida processou a OpenAI alguns meses atrás por preocupações com a segurança.

O que a Flórida quer

A petição pede que o tribunal impeça a OpenAI de apresentar o ChatGPT como humano e proíba a empresa de desenvolver novos modelos de IA sem “salvaguardas de segurança aprovadas por terceiros”. Uthmeier cita incidentes de segurança envolvendo a Hugging Face, um site do governo australiano e sites do governo dos EUA, além de alertas de pesquisadores e ex-funcionários da OpenAI. A fonte não dá mais detalhes sobre esses incidentes nem explica como as salvaguardas propostas funcionariam.

Uthmeier também criticou a abordagem da OpenAI em relação aos usuários jovens, dizendo: “Parem de vender isso para crianças”. No mês passado, a OpenAI lançou o ChatGPT para Adolescentes, com restrições adicionais ativadas por padrão. A empresa afirmou que o produto deve proteger os adolescentes, apoiar suas relações na vida real e incentivar o uso saudável ao longo do tempo.

OpenAI diz que está adicionando salvaguardas

O porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa havia suspendido na sexta-feira o treinamento de seus modelos mais avançados e só o retomaria quando tivesse certeza de que salvaguardas adicionais estavam em vigor. Ele também disse que os governos deveriam estabelecer padrões de segurança válidos para todo o setor de IA e que a OpenAI estava disposta a trabalhar com a Flórida e outros estados.

A petição pede que um juiz imponha restrições; isso não significa que elas já estejam em vigor. A disputa levanta questões sobre como os chatbots devem se descrever e quais verificações de segurança devem ser exigidas antes da criação de sistemas mais poderosos.