# Anthropic propone una ley para frenar modelos de IA peligrosos

> La propuesta permitiría detener la distribución de modelos de IA que pudieran causar 50 muertes o daños por valor de $1 billion, tras una evaluación independiente.

Oossa · 2026-10-20 · https://oossa.com/es/anthropic-drafts-ai-safety-bill-that-could-block-models-posing-deadly-risk

Anthropic ha distribuido un borrador de ley que pide al Congreso autorizar al Departamento de Comercio de EE. UU. a detener la distribución de un modelo de IA cuando se detecte un «riesgo catastrófico inminente». La propuesta define ese riesgo como uno que podría causar la muerte de más de 50 personas o daños materiales superiores a $1 billion. El peligro debe derivarse de un arma biológica, de que el modelo escape a sus controles o de un ciberataque.

## Cómo funcionaría la ley

La propuesta contempla que «evaluadores independientes», inscritos en el Departamento de Comercio, analicen los riesgos de un modelo. Los laboratorios de IA podrían pagarles, pero el pago no podría depender del resultado de la evaluación. Si un evaluador detecta un riesgo, tendrá 72 horas para avisar al Departamento de Comercio, que deberá pedir a un juez de D.C. que ordene detener el lanzamiento del modelo. La propuesta prohíbe que cualquier organismo federal detenga por su cuenta un modelo.

## Respuesta del sector

Anthropic afirma que la propuesta refleja su Advanced AI Framework, que promueve ante los legisladores desde junio. La empresa no ha hecho más comentarios. Otras compañías de IA han defendido el uso de mecanismos internos voluntarios en lugar de una supervisión obligatoria, y el director ejecutivo de Nvidia ha sostenido que el sector no necesita nuevas leyes.

## Los hechos

- El borrador de ley impediría distribuir un modelo si plantea un «riesgo previsible e inminente» de causar más de 50 muertes o daños materiales superiores a $1 billion.
- Las evaluaciones de riesgo estarían a cargo de evaluadores independientes inscritos en el Departamento de Comercio de EE. UU.
- Los evaluadores tendrán 72 horas para avisar al Departamento de Comercio, que deberá solicitar a un juez de D.C. una orden para detener el modelo.
- La propuesta prohíbe que cualquier organismo federal detenga por su cuenta la distribución de un modelo.
- Desde junio, Anthropic promueve su Advanced AI Framework ante legisladores federales y estatales.

## Por qué importa

Si se aprobara, la propuesta podría frenar el lanzamiento de sistemas de IA que entrañen graves riesgos de seguridad y ofrecer al público un recurso legal ante daños extremos. Para los desarrolladores, supondría un nuevo requisito antes de lanzar modelos potentes. No está claro hasta qué punto serían independientes las evaluaciones ni con qué rapidez podrían actuar los tribunales.

## Fuentes y referencias

1. [Anthropic pitches AI safety bill that may block a model if 50+ people could be killed](https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/) – TechCrunch, 2026-10-20

Última actualización: 2026-10-20