Nell’ottobre 2025, quattro studenti neri della Kenwood High School, nella contea di Baltimora, stavano mangiando Doritos Cool Ranch dopo gli allenamenti di football quando il sistema di rilevamento delle armi basato sull’AI del distretto, Omnilert, ha segnalato un sacchetto di patatine come possibile arma da fuoco. Il falso allarme è stato annullato entro due minuti, dopo che il personale ha controllato le immagini delle telecamere senza vedere armi. Nonostante l’annullamento, i responsabili della scuola hanno chiamato il dipartimento di polizia della contea di Baltimora: sono arrivate sei auto di pattuglia, con le luci lampeggianti e gli agenti con le pistole estratte.
Gli agenti hanno ordinato ai ragazzi di sdraiarsi a terra, li hanno ammanettati e hanno perquisito loro e i loro effetti personali. Nessuno degli agenti aveva guardato il video prima di intervenire e agli studenti non è mai stato spiegato perché fossero trattenuti. L’episodio ha lasciato sui ragazzi segni fisici causati dalle manette e un disagio emotivo duraturo. Ora hanno intentato una causa per ottenere un’ingiunzione che impedisca alle Baltimore County Public Schools (BCPS) di usare Omnilert finché non saranno introdotti nuovi protocolli e corsi di formazione.
Cosa sostiene la causa
L’esposto, presentato dal Lawyers’ Committee for Civil Rights Under Law, sostiene che l’“eccessivo affidamento sull’intelligenza artificiale” da parte della scuola e le carenze nella comunicazione abbiano violato i diritti costituzionali degli studenti. Cita un rapporto dell’Office of the Inspector General (OIG), secondo cui oltre il 99 % degli allarmi relativi ad armi da fuoco generati da Omnilert nella contea erano falsi positivi e il personale scolastico non era stato formato adeguatamente sull’uso del sistema. L’OIG ha raccomandato corsi di formazione semestrali e una revisione dei destinatari degli allarmi, ma i ragazzi ritengono insufficienti queste misure.
La risposta dell’azienda
Blake Mitchell, vicepresidente del marketing di Omnilert, ha detto che l’azienda si rammarica per la paura causata e che il sistema è progettato per inviare ogni possibile rilevamento di un’arma da fuoco a persone qualificate, perché lo verifichino. Ha sottolineato che, secondo l’OIG, l’AI in sé non presentava pregiudizi e che il problema riguardava il processo di gestione delle segnalazioni da parte della scuola, non la tecnologia.
Perché conta
Per le famiglie con figli in età scolare, il caso dimostra che gli strumenti di sicurezza basati sull’AI possono generare falsi allarmi pericolosi, soprattutto quando manca un’adeguata supervisione umana. Finché le scuole non rafforzeranno le procedure di verifica, gli studenti potrebbero continuare a subire interventi invasivi della polizia sulla base di segnalazioni AI inesatte.