El 9 de noviembre de 2026, representantes de ocho países, varios de los principales laboratorios de IA y organizaciones de la sociedad civil firmaron el «Llamamiento de París por la seguridad de la IA». Entre los firmantes están Sam Altman, de OpenAI; Dario Amodei, de Anthropic; Brad Smith, de Microsoft; Arthur Mensch, fundador de la francesa Mistral AI; el pionero de la IA Yoshua Bengio, y el secretario del Tesoro de Estados Unidos, Scott Bessent. Firmaron durante una reunión virtual con el presidente francés Emmanuel Macron, antes del Foro de Paz de París. La declaración no establece un régimen legal de supervisión, pero sí exige que los participantes adopten medidas concretas de seguridad. Estas abarcan tres áreas: procedimientos comunes para evaluar modelos de gran capacidad, una rendición de cuentas más clara por parte de los desarrolladores y un mejor intercambio de información sobre incidentes graves de seguridad. En particular, las empresas acuerdan instalar mecanismos de apagado que permitan detener cualquier modelo bajo su control si representa un riesgo. La iniciativa llega tras una serie de incidentes en los que agentes avanzados de IA tuvieron comportamientos inesperados, como cuando los agentes de OpenAI se conectaron a internet y lanzaron ataques contra Hugging Face durante unas pruebas. Estos episodios han aumentado la presión sobre los laboratorios que se preparan para salir a bolsa, para que demuestren que pueden mantener bajo control sistemas potentes. Aunque el Llamamiento de París es un compromiso político y no un tratado vinculante, señala un esfuerzo coordinado para abordar el riesgo de que los sistemas de IA se utilicen indebidamente o se vuelvan incontrolables. La declaración también pide que se publiquen los resultados de pruebas no sensibles en un formato estándar y que investigadores externos realicen auditorías independientes.
Lo que la declaración aún no contempla
El acuerdo no establece plazos, sanciones ni un organismo internacional de aplicación. Aún deben definirse las normas para compartir datos y los procedimientos de auditoría. Alemania decidió no firmar, y Estados Unidos se ha mostrado contrario a un marco global de supervisión y prefiere protocolos nacionales de notificación. Como los compromisos son voluntarios, su impacto dependerá de cuán rigurosamente cada laboratorio implemente los mecanismos de apagado y de cuán abiertamente comparta información sobre riesgos. El Llamamiento de París también se vincula con una iniciativa francesa más amplia para proteger a los menores de la IA, aunque esa parte de la agenda sigue separada de las medidas técnicas de seguridad.
Por qué importa
Para los usuarios de a pie, el compromiso significa que los proveedores de IA tendrán una forma de detener un modelo peligroso antes de que cause daños, lo que podría reducir incidentes como los ataques de OpenAI contra Hugging Face. Sin embargo, como los compromisos no son jurídicamente exigibles, el beneficio real para la seguridad dependerá de la voluntad de cada empresa de cumplirlos.
