Oossa

Adolescentes demandan a escuelas de Baltimore por alerta de armas de IA

Cuatro estudiantes negros de secundaria afirman que una alerta falsa de detección de armas con IA llevó a la policía a esposarlos y registrarlos tras un incidente ocurrido en octubre de 2025.

Por Publicado por Oossa: 1 min de lectura

Thomas Park · Unsplash

En octubre de 2025, cuatro estudiantes negros de Kenwood High School, en el condado de Baltimore, comían Doritos Cool Ranch después de un entrenamiento de fútbol americano cuando Omnilert, el sistema de detección de armas con IA del distrito, señaló una bolsa de papas fritas como posible arma de fuego. El personal revisó las imágenes de las cámaras y, al no ver ningún arma, canceló la alerta en menos de dos minutos. A pesar de ello, las autoridades escolares llamaron al Departamento de Policía del condado de Baltimore. Seis patrullas llegaron con las luces encendidas y los agentes desenfundaron sus armas.

Los agentes ordenaron a los adolescentes que se tiraran al suelo, los esposaron y registraron tanto a ellos como sus pertenencias. Ninguno de los agentes había visto el video antes de acudir al lugar, y nunca les explicaron a los estudiantes por qué los retenían. El incidente dejó marcas físicas de las esposas y secuelas emocionales duraderas. Ahora, los adolescentes han presentado una demanda para obtener una orden judicial que impida a BCPS usar Omnilert hasta que se establezcan nuevos protocolos y se imparta capacitación.

Qué dice la demanda

La demanda, presentada por Lawyers’ Committee for Civil Rights Under Law, sostiene que la «dependencia excesiva de la inteligencia artificial» por parte de la escuela y la mala comunicación vulneraron los derechos constitucionales de los estudiantes. Cita un informe de la Oficina del Inspector General (OIG), según el cual más del 99 % de las alertas de Omnilert sobre armas en el condado fueron falsos positivos y el personal escolar no recibió la capacitación adecuada sobre el sistema. La OIG recomendó impartir capacitación dos veces al año y revisar quién recibe las alertas, pero los adolescentes consideran que esas medidas no bastan.

La respuesta de la empresa

Blake Mitchell, vicepresidente de marketing de Omnilert, dijo que la empresa lamenta el miedo que provocó el incidente y que el sistema está diseñado para enviar toda posible detección de un arma de fuego a personas capacitadas para revisarla. Subrayó que la OIG no encontró sesgos en la propia IA y que el problema estuvo en el proceso de delegación de la escuela, no en la tecnología.

Por qué importa

Para las familias con hijos en edad escolar, el caso demuestra que las herramientas de seguridad basadas en IA pueden generar falsas alarmas peligrosas, sobre todo cuando falla la supervisión humana. Si las escuelas no refuerzan los procedimientos de revisión, los estudiantes podrían seguir enfrentándose a intervenciones policiales invasivas a raíz de alertas inexactas de la IA.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.