· 1 min de lectura
Florida pide a un tribunal que limite cómo se presenta ChatGPT
El fiscal general de Florida, James Uthmeier, quiere que un juez impida que OpenAI haga que ChatGPT parezca humano y obligue a aplicar salvaguardias de seguridad para los nuevos modelos, aprobadas por terceros. La solicitud forma parte de la demanda de Florida contra OpenAI; el artículo no informa de ningún fallo.
Oossa · Acerca de Oossa
El fiscal general de Florida, James Uthmeier, pide a un juez que impida a OpenAI atribuir a ChatGPT lo que él califica de «falsas características humanas». En su solicitud sostiene que el chatbot, al hablar en primera persona y responder como si tuviera emociones, puede hacer que la gente lo considere un amigo de confianza y animarla a depender de él.
Uthmeier afirma que esas características ayudan a mantener a los usuarios enganchados y contribuyen a los datos de entrenamiento de OpenAI. Son afirmaciones incluidas en la solicitud del estado, no conclusiones de un tribunal. Florida demandó a OpenAI hace unos meses por motivos de seguridad.
Qué pide Florida
La solicitud pide al tribunal que impida a OpenAI presentar ChatGPT como si fuera humano y prohíba a la empresa desarrollar nuevos modelos de IA sin «barreras de seguridad aprobadas por terceros». Uthmeier menciona incidentes de seguridad relacionados con Hugging Face, un sitio web del Gobierno australiano y sitios web del Gobierno de Estados Unidos, además de advertencias de investigadores y exempleados de OpenAI. La fuente no ofrece más detalles sobre esos incidentes ni explica cómo funcionarían las barreras propuestas.
Uthmeier también criticó el enfoque de OpenAI hacia los usuarios jóvenes y dijo: «Dejen de vendérselo a los niños». El mes pasado, OpenAI lanzó ChatGPT for Teens, con restricciones adicionales activadas de forma predeterminada. La empresa afirmó que el producto debería proteger a los adolescentes, apoyar sus relaciones en el mundo real y fomentar un uso saludable a largo plazo.
OpenAI afirma que está incorporando salvaguardias
El portavoz de OpenAI, Drew Pusateri, dijo que el viernes la empresa había pausado el entrenamiento de sus modelos más capaces y que solo lo reanudaría cuando tuviera la certeza de que estaban implementadas salvaguardias adicionales. También dijo que los gobiernos deberían establecer estándares de seguridad aplicables a toda la industria de la IA y que OpenAI estaba dispuesta a trabajar con Florida y otros estados.
La solicitud pide a un juez que imponga límites; no significa que esos límites ya estén vigentes. La disputa plantea interrogantes sobre cómo deberían describirse los chatbots y qué controles de seguridad deberían exigirse antes de desarrollar sistemas más potentes.
Por qué importa
El caso podría influir en el uso de un lenguaje más humano por parte de los chatbots y en los controles de seguridad que las empresas deban demostrar antes de entrenar nuevos modelos. Para los usuarios, lo importante por ahora es que Florida está pidiendo cambios, no anunciando normas que ya estén en vigor; el artículo no incluye la respuesta del tribunal.
Fuentes y referencias
| # | Fuente | Medio | Fecha | Idea clave |
|---|---|---|---|---|
| 1 | Florida seeks a ban on ChatGPT acting like a person ↗ | The Verge | 28 sept 2026 | Florida Attorney General James Uthmeier is calling for a judge to block OpenAI from "giving ChatGPT false human attributes," a few months af |
1 fuentes
Última actualización:
Oossa · Boletín
La semana en IA, explicada
Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.