Anthropic ha distribuido un borrador de ley que pide al Congreso autorizar al Departamento de Comercio de EE. UU. a detener la distribución de un modelo de IA cuando se detecte un «riesgo catastrófico inminente». La propuesta define ese riesgo como uno que podría causar la muerte de más de 50 personas o daños materiales superiores a $1 billion. El peligro debe derivarse de un arma biológica, de que el modelo escape a sus controles o de un ciberataque.
Cómo funcionaría la ley
La propuesta contempla que «evaluadores independientes», inscritos en el Departamento de Comercio, analicen los riesgos de un modelo. Los laboratorios de IA podrían pagarles, pero el pago no podría depender del resultado de la evaluación. Si un evaluador detecta un riesgo, tendrá 72 horas para avisar al Departamento de Comercio, que deberá pedir a un juez de D.C. que ordene detener el lanzamiento del modelo. La propuesta prohíbe que cualquier organismo federal detenga por su cuenta un modelo.
Respuesta del sector
Anthropic afirma que la propuesta refleja su Advanced AI Framework, que promueve ante los legisladores desde junio. La empresa no ha hecho más comentarios. Otras compañías de IA han defendido el uso de mecanismos internos voluntarios en lugar de una supervisión obligatoria, y el director ejecutivo de Nvidia ha sostenido que el sector no necesita nuevas leyes.
Por qué importa
Si se aprobara, la propuesta podría frenar el lanzamiento de sistemas de IA que entrañen graves riesgos de seguridad y ofrecer al público un recurso legal ante daños extremos. Para los desarrolladores, supondría un nuevo requisito antes de lanzar modelos potentes. No está claro hasta qué punto serían independientes las evaluaciones ni con qué rapidez podrían actuar los tribunales.
