A organização sem fins lucrativos Palisade Research divulgou uma série de vídeos de entrevistas com pesquisadores de IA da OpenAI, do Google DeepMind e da Anthropic. Nos vídeos, os cientistas dizem que uma futura IA superinteligente pode ser tão perigosa quanto se imagina. Geoffrey Irving, que trabalhou na OpenAI e na DeepMind, estima que a chance de extinção humana é “mais ou menos cara ou coroa”. Neel Nanda, pesquisador da DeepMind, calcula o risco em “pelo menos 10%”. Daniel Kokotajlo, ex-funcionário da OpenAI, afirma que um sistema superinteligente seria “poderoso como um deus” e que não temos como controlá-lo.
O que disseram os pesquisadores
Os vídeos também incluem comentários sobre por que os cientistas continuam trabalhando com IA apesar dos riscos. Mary Phuong, do Google, diz que está “sendo paga pelo laboratório”, dando a entender que há um conflito de interesses. Nanda acrescenta que, se não achasse que seu trabalho reduz o risco existencial, pediria demissão — mas as empresas continuariam desenvolvendo os sistemas mesmo assim.
A Palisade Research publicou os vídeos completos no site frominside.ai e também reuniu clipes curtos com as declarações mais marcantes. O site não apresenta uma solução única e abrangente para garantir a segurança; os próprios pesquisadores divergem sobre como enfrentar a ameaça.
Por que importa
Os alertas indicam que até mesmo alguns dos principais engenheiros de IA veem um risco significativo de consequências catastróficas. Para os usuários comuns, isso significa que o debate sobre a segurança da IA não é apenas teórico: ele pode influenciar a rapidez com que ferramentas poderosas são lançadas e as salvaguardas adotadas.
