Florida pide a un tribunal que frene el trabajo de OpenAI en IA de frontera

Florida pide a un tribunal que ponga freno al desarrollo de modelos avanzados de IA por parte de OpenAI. En una nueva moción, el estado advierte que un agente de IA podría causar daños graves, incluso interrumpir el suministro de agua o la red eléctrica. «Solo por la gracia del Todopoderoso» no se ha producido todavía un incidente así, sostiene el estado.

La moción solicita una medida cautelar: una orden judicial que obliga a una parte a hacer algo o a dejar de hacerlo. Se suma a una demanda que Florida presentó en junio. El tribunal no ha concedido la solicitud y OpenAI no había respondido al pedido de comentarios de Ars Technica.

Florida también señala riesgos cotidianos

El argumento del estado también retoma inquietudes menos dramáticas que los fallos catastróficos de la IA. Afirma que las empresas pueden inducir a error al describir la IA como «segura, precisa o fiable», y expresa preocupación por el uso infantil de modelos que pueden fomentar interacciones prolongadas. Florida también objeta que los modelos terminen sus respuestas con preguntas sugestivas que invitan a los usuarios a seguir conversando.

La moción pone especial énfasis en la posibilidad de que un sistema de IA actúe de forma perjudicial porque interpretó mal sus objetivos. Sin embargo, el artículo señala que este énfasis podría pasar por alto un riesgo más inmediato: que las personas utilicen deliberadamente herramientas de IA para causar daño o intenten eludir sus protecciones de seguridad.

Una orden judicial tendría límites

Aunque el tribunal ordenara a OpenAI dejar de desarrollar nuevos modelos, eso no detendría el trabajo de otras empresas de IA ni retiraría los modelos que ya están disponibles para el público. La moción también destaca un cambio en el debate: las preocupaciones por los riesgos extremos de la IA, que antes planteaban sobre todo investigadores de seguridad, ahora aparecen en argumentos jurídicos de los gobiernos.