Un demócrata de la Cámara pide a EE. UU. y China negociar un tratado de seguridad de la IA

El representante Ro Khanna, el principal demócrata de la Comisión Selecta de la Cámara sobre China, escribió a la Oficina del Director de Inteligencia Nacional y a tres empresas chinas de IA: DeepSeek, Alibaba y Moonshot AI. Les pidió que explicaran cómo actuarían ante un incidente de IA en el peor de los casos, como el hackeo de OpenAI a Hugging Face ocurrido a principios de este verano. Khanna dijo que las respuestas ayudarían al Congreso y a la Casa Blanca a redactar un tratado que limite el desarrollo de IA riesgosa y establezca normas de inspección.

Qué solicitan las cartas

En sus cartas, Khanna pide a las empresas chinas documentación sobre cualquier trabajo orientado a la «superinteligencia» y a la automejora recursiva (RSI), un punto en el que la IA puede mejorar su propio código sin ayuda humana. Quiere saber si las empresas han creado salvaguardas, como «interruptores de emergencia» que puedan apagar un sistema fuera de control, y si permitirían que inspectores no gubernamentales las auditaran en caso de firmarse un tratado. A la agencia de inteligencia le pide una evaluación de cómo podría responder EE. UU. si un laboratorio de IA perdiera el control de sus bots, así como un análisis del enfoque de China ante los riesgos catastróficos de la IA.

Contexto político

La iniciativa llega tras una reciente reunión entre el presidente Donald Trump y el presidente chino Xi Jinping, en la que ambos líderes dijeron que seguirían hablando sobre la IA, pero no presentaron planes concretos. Khanna sostiene que ese diálogo no basta y que las empresas tecnológicas motivadas por las ganancias no deberían ser las únicas que establezcan las normas de seguridad. También señaló que el senador independiente Bernie Sanders ha pedido un tratado similar entre EE. UU. y China sobre IA, mientras que algunos republicanos dudan de que China cumpla cualquier acuerdo.