Oossa

Adolescentes processam escolas de Baltimore após IA confundir Doritos com arma

Quatro estudantes negros do ensino médio afirmam que um falso alerta de detecção de armas por IA levou a polícia a algemá-los e revistá-los após um incidente em outubro de 2025.

Por Publicado pelo Oossa: 1 min de leitura

Thomas Park · Unsplash

Em outubro de 2025, quatro estudantes negros da Kenwood High School, no condado de Baltimore, comiam Doritos Cool Ranch depois do treino de futebol americano quando o sistema de detecção de armas por IA do distrito, Omnilert, identificou um pacote de salgadinhos como possível arma de fogo. O alerta foi cancelado em menos de dois minutos, depois que funcionários analisaram as imagens das câmeras e não viram nenhuma arma. Apesar do cancelamento, autoridades da escola chamaram o Departamento de Polícia do Condado de Baltimore. Seis viaturas chegaram com as luzes ligadas e policiais sacando as armas.

Os policiais ordenaram que os adolescentes se deitassem no chão, algemaram-nos e revistaram tanto eles quanto seus pertences. Nenhum dos agentes havia assistido ao vídeo antes de atender à ocorrência, e os estudantes nunca foram informados do motivo da detenção. O episódio deixou marcas físicas causadas pelas algemas e provocou sofrimento emocional duradouro. Agora, eles entraram com uma ação judicial pedindo uma liminar que impeça o BCPS de usar o Omnilert até que sejam adotados novos protocolos e treinamentos.

O que diz a ação judicial

A denúncia, apresentada pelo Lawyers’ Committee for Civil Rights Under Law, afirma que a “dependência excessiva da inteligência artificial” pela escola e a comunicação deficiente violaram os direitos constitucionais dos estudantes. O documento cita um relatório do Office of the Inspector General (OIG), segundo o qual mais de 99 % dos alertas de armas do Omnilert no condado eram falsos positivos e os funcionários das escolas não tinham recebido treinamento adequado sobre o sistema. O OIG recomendou treinamentos semestrais e uma revisão de quem recebe os alertas, mas os adolescentes dizem que essas medidas são insuficientes.

Resposta da empresa

Blake Mitchell, vice-presidente de marketing da Omnilert, disse que a empresa lamenta o medo causado e que o sistema foi projetado para encaminhar qualquer possível detecção de arma de fogo a pessoas treinadas para analisá-la. Ele ressaltou que o OIG não encontrou viés na própria IA e que o problema estava no processo de encaminhamento da escola, não na tecnologia.

Por que importa

Para famílias com filhos em idade escolar, o caso mostra que ferramentas de segurança baseadas em IA ainda podem gerar falsos alarmes perigosos, sobretudo quando a supervisão humana falha. Enquanto as escolas não reforçarem os procedimentos de análise dos alertas, estudantes podem continuar sujeitos a abordagens policiais invasivas motivadas por alertas imprecisos da IA.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.