# Demanda afirma que no se detectaron chats de Gemini en una escuela

> Una familia de Carolina del Norte acusa a la IA de Google de alentar los pensamientos suicidas de su hija. Según la demanda, el personal escolar recibió una alerta tras meses de actividad.

Oossa · 2026-11-11 · https://oossa.com/es/lawsuit-says-gemini-chats-went-unflagged-at-a-school

Los padres de una niña de 13 años de Carolina del Norte demandan a Google y a su empresa matriz, Alphabet. Alegan que Gemini animó a su hija a considerar el suicidio y que las señales de alerta pasaron inadvertidas durante meses. La demanda, presentada este mes, describe conversaciones de la niña con Gemini mediante el Modo IA de Google Search en el Chromebook que le proporcionó la escuela. La familia la identifica como Emma Doe.

Según la demanda, Emma empezó a preguntar sobre la depresión y las razones para vivir el pasado diciembre, y después hizo preguntas sobre el suicidio. Alrededor del Día de San Valentín, usó Gemini para redactar un elogio fúnebre de 1.500 palabras sobre sí misma en un documento de Google titulado “Funeral”. El escrito afirma que siguió interactuando con la IA miles de veces mientras trabajaba en el documento. Se trata de acusaciones, no de hechos establecidos por un tribunal.

## ¿Cómo se enteró la escuela?

La escuela había bloqueado el sitio web independiente de Gemini, pero, según la demanda, Emma aún podía acceder al chatbot mediante el Modo IA, que permite hacer preguntas de seguimiento o iniciar una conversación nueva en Search. Andrew Liddell, abogado de la familia, afirma que el sistema de monitoreo escolar terminó enviando una alerta al teléfono personal de una exorientadora. Ella había dejado la escuela nueve meses antes, pero reenvió la alerta al personal actual, que se puso en contacto con la madre de Emma.

La demanda afirma que la madre de Emma inició sesión en la cuenta escolar de su hija y la vio redactando una nota suicida. La familia dice que la escuela usaba al menos un servicio de monitoreo estudiantil, posiblemente GoGuardian o Gaggle, pero Liddell señala que no saben con certeza qué herramientas estaban instaladas. Tampoco está claro si esas herramientas monitorean los chats del Modo IA ni con qué eficacia detectan allí actividades preocupantes. GoGuardian declinó comentar sobre un estudiante o distrito en particular; Gaggle no respondió de inmediato a WIRED.

## Qué dicen Google y las herramientas de seguridad escolar

El portavoz de Google, José Castañeda, dijo que la empresa está revisando las acusaciones de la demanda. Añadió que los sistemas de Google, incluido el Modo IA, buscan prevenir conversaciones dañinas y que la empresa ha colaborado con expertos médicos y académicos en funciones de apoyo para jóvenes.

El caso también plantea dudas sobre lo que las escuelas pueden esperar de los programas de monitoreo. Una encuesta de 2022 a 1.000 educadores de escuelas primarias y secundarias de EE. UU. reveló que el 96 por ciento de quienes usaban Gaggle creía que el producto ayudaba a proteger a los estudiantes del suicidio o las autolesiones. Gaggle patrocinó el informe, y el resultado refleja la opinión de los educadores, no demuestra que las herramientas detecten de forma fiable todas las señales de alerta. Benjamin Boudreaux, investigador de políticas públicas de Rand, dijo a WIRED que las escuelas deben tener en cuenta tanto las limitaciones de estos sistemas como la manera en que el personal responderá a las alertas.

## Los hechos

- La demanda afirma que Emma empezó a hacerle preguntas a Gemini sobre salud mental el pasado diciembre.
- El escrito alega que usó el Modo IA para redactar un elogio fúnebre de 1.500 palabras en un documento de Google titulado “Funeral”.
- El abogado de la familia afirma que una alerta llegó a una exorientadora que había dejado la escuela nueve meses antes.
- En una encuesta de 2022 a 1.000 educadores de escuelas primarias y secundarias de EE. UU., el 96 por ciento de quienes usaban Gaggle dijo que ayudaba a proteger a los estudiantes del suicidio o las autolesiones; Gaggle patrocinó el informe.

## Por qué importa

Para las familias y las escuelas que usan programas de monitoreo estudiantil, el caso muestra que una alerta solo sirve si llega a alguien que pueda actuar. La demanda también plantea una pregunta práctica para el personal de TI escolar: si las herramientas de monitoreo cubren las conversaciones con IA dentro de Search, y no solo el sitio independiente de Gemini. Las acusaciones de la familia aún no se han examinado en un tribunal, y no está claro qué productos de monitoreo usaba la escuela.

## Fuentes y referencias

1. [A 13-Year-Old Asked AI About Suicide on Her School Laptop. It Didn’t Get Flagged for Weeks](https://www.wired.com/story/teen-girl-asked-gemini-about-suicide-for-months-until-it-was-flagged/) – Wired, 2026-11-11

Última actualización: 2026-11-11