Deputado democrata pede que EUA e China negociem tratado de segurança em IA

O deputado Ro Khanna, principal democrata da Comissão Seleta da Câmara sobre a China, escreveu ao Gabinete do Diretor de Inteligência Nacional e a três empresas chinesas de IA — DeepSeek, Alibaba e Moonshot AI. Ele pediu que explicassem como lidariam com um incidente de IA no pior cenário possível, como o ataque que, no início deste verão, partiu da OpenAI e teve como alvo o Hugging Face. Khanna disse que as respostas ajudariam o Congresso e a Casa Branca a elaborar um tratado que limite o desenvolvimento arriscado de IA e estabeleça regras de inspeção.

O que as cartas pedem

As cartas de Khanna pedem às empresas chinesas documentação sobre qualquer trabalho voltado à “superinteligência” e ao autoaperfeiçoamento recursivo (RSI), etapa em que a IA consegue melhorar o próprio código sem ajuda humana. Ele quer saber se as empresas criaram salvaguardas, como “botões de emergência” capazes de desligar um sistema fora de controle, e se permitiriam auditorias de inspetores não governamentais caso um tratado fosse assinado. O pedido à agência de inteligência é que avalie como os EUA poderiam reagir se um laboratório de IA perdesse o controle de seus bots e examine a abordagem da China aos riscos catastróficos da IA.

Contexto político

A iniciativa vem após um encontro recente entre o presidente Donald Trump e o presidente chinês Xi Jinping, no qual os dois líderes disseram que continuariam conversando sobre IA, mas não apresentaram planos concretos. Khanna afirma que o diálogo não basta e que empresas de tecnologia movidas pelo lucro não deveriam ser as únicas a definir as regras de segurança. Ele também observou que o senador independente Bernie Sanders defendeu um tratado semelhante de IA entre EUA e China, enquanto alguns republicanos duvidam que a China cumpriria qualquer acordo.