Anthropic ha empezado discretamente a promover una nueva ley de seguridad de la IA. La propuesta permitiría al Gobierno de EE. UU. impedir el lanzamiento de un modelo de IA, pero solo si este pudiera causar 50 muertes o más, o daños por valor de al menos $1 billion. El proyecto de ley pondría la decisión en manos del Departamento de Comercio y recurriría a un evaluador independiente para revisar las evaluaciones de riesgo del laboratorio.
Cómo funcionaría el proyecto de ley
Según Politico, un evaluador externo inscrito en el Departamento de Comercio revisaría periódicamente los laboratorios de Anthropic y sus modelos de IA. El laboratorio podría pagar al evaluador, pero ese pago no podría afectar a su independencia. Anthropic afirma que el enfoque sigue su «Advanced AI Framework», que promueve entre los legisladores desde junio.
Por qué importa
Si se aprobara, la ley otorgaría al Departamento de Comercio la facultad de bloquear modelos de IA riesgosos, pero solo cuando se demostrara que el daño potencial supera un umbral muy alto. Para los usuarios cotidianos, esto significa que la mayoría de las herramientas de IA seguirían disponibles salvo que surgiera un peligro claro y de gran escala, y que las empresas seguirían teniendo que abordar por su cuenta buena parte de las preocupaciones sobre seguridad.
