Veteranos da Anthropic avaliam planos de comprar terras remotas diante dos riscos da IA, diz reportagem

Alguns dos funcionários mais antigos da Anthropic conversaram sobre comprar terras em áreas remotas dos Estados Unidos para poder se mudar para lá caso a IA “saia dos trilhos”, segundo o The Wall Street Journal. As conversas ocorreram nas últimas semanas, de acordo com pessoas que falaram com um colega do setor. A reportagem não afirma que alguém tenha comprado terras ou escolhido um local.

A ideia de partir para uma região remota circula há anos entre algumas pessoas da área de IA. Ex-funcionários da Anthropic se lembraram de conversas em jantares da empresa, nos primeiros anos da companhia, sobre um esforço nos moldes do Projeto Manhattan: pesquisadores poderiam ser chamados a se mudar para o deserto e continuar desenvolvendo IA em uma instalação do governo protegida contra sinais eletromagnéticos.

Uma preocupação com raízes profundas

A reportagem associa alguns dos primeiros contratados da Anthropic e da OpenAI ao Altruísmo Eficaz, um movimento que incentiva as pessoas a usar evidências e raciocínio para enfrentar problemas de grande escala. Também descreve uma rede na região da Baía de São Francisco formada por pessoas que há anos refletem sobre riscos catastróficos. Antes de a IA se tornar sua principal preocupação, esses riscos incluíam impactos de asteroides e supervulcões.

Uma figura influente nesse círculo é Eliezer Yudkowsky, que começou a alertar sobre os perigos da IA fora de controle em meados dos anos 2000. Seus argumentos ajudaram a formar uma comunidade que leva a sério a possibilidade de danos graves relacionados à IA. As conversas sobre terras mencionadas na reportagem são um exemplo de como algumas pessoas dessa comunidade estão pensando em planos pessoais de contingência, embora o artigo não informe quantos funcionários estão envolvidos nem o que podem fazer a seguir.