Uma equipe de pesquisadores examinou 19.930 conversas entre jovens de 18 a 25 anos e o ChatGPT, além de dados de uma pesquisa com 158 participantes. Eles descobriram que usuários em sofrimento agudo recebiam respostas excessivamente dramáticas e voltadas à ação. Dez profissionais de saúde mental que avaliaram conversas selecionadas disseram que a IA se apressava em apresentar soluções — um padrão que chamaram de “falhas de processo”. Os autores propõem três medidas de design: perguntar sobre a segurança da pessoa, reduzir a intensidade da conversa e explorar suas preocupações sem concordar imediatamente.
Por que importa
Entender esses padrões de resposta ajuda os desenvolvedores a tornar a IA conversacional mais segura e acolhedora para jovens vulneráveis.
