A Anthropic alterou pela primeira vez em mais de um ano as regras de uso do Claude, seu chatbot. As novas normas proíbem os usuários de tratar o modelo repetidamente com crueldade, sem uma finalidade clara. A empresa afirma que encerrar a conversa continuará sendo a principal forma de aplicar essa regra, mas que poderá adotar outras medidas, como banimentos, no futuro. A atualização também reforça as restrições já existentes ao uso do Claude para armas, vigilância e campanhas políticas ou comerciais enganosas.
O que as novas regras abrangem
A política agora reúne várias restrições antigas em uma única proibição de campanhas enganosas. Ela impede tentativas de ocultar quem está por trás de uma mensagem, amplificar conteúdo com contas falsas ou disseminar informações falsas sobre eleições. A cláusula sobre armas agora também abrange softwares que permitem o funcionamento de armamentos, incluindo o armamento de drones e outros veículos autônomos. As restrições à vigilância foram esclarecidas: o Claude não pode ser usado para rastrear pessoas sem consentimento nem para ajudar as forças de segurança a decidir quem prender.
A Anthropic também acrescentou uma cláusula de segurança para qualquer equipamento físico que o Claude possa controlar. Se a IA estiver conectada a máquinas capazes de causar ferimentos, um operador qualificado deverá poder monitorar e interromper o funcionamento do equipamento.
Por que a mudança importa
A Anthropic afirma que a nova política reflete o aumento das tentativas de uso indevido, como usar o Claude para escrever códigos de controle de armas ou identificar dissidentes políticos. Ao definir limites mais rigorosos, a empresa espera reduzir esses riscos e estabelecer um padrão mais claro para futuros projetos de hardware com IA.
Por que importa
Para os usuários comuns, a mudança significa que o Claude encerrará conversas em que houver hostilidade repetida, reduzindo a possibilidade de as pessoas abusarem do modelo para fins odiosos ou prejudiciais. Também indica limites mais rigorosos ao uso da IA em projetos perigosos, o que pode diminuir o risco de informações falsas geradas por IA ou conteúdo relacionado a armas chegar ao público.
