Oossa

Des ados poursuivent des écoles de Baltimore après une alerte IA causée par un paquet de Doritos

Quatre lycéens noirs affirment qu’une fausse alerte de détection d’armes par IA a conduit la police à les menotter et à les fouiller après un incident en octobre 2025.

Par Publié par Oossa: 1 min de lecture

Thomas Park · Unsplash

En octobre 2025, quatre élèves noirs de Kenwood High School, dans le comté de Baltimore, mangeaient des Cool Ranch Doritos après un entraînement de football américain lorsque le système de détection d’armes par IA du district, Omnilert, a signalé un paquet de chips comme une possible arme à feu. L’alerte a été annulée au bout de deux minutes, après vérification des images de vidéosurveillance par le personnel, qui n’y a vu aucune arme. Malgré cette annulation, les responsables de l’établissement ont appelé la police du comté de Baltimore. Six voitures de patrouille sont arrivées, gyrophares allumés, tandis que les agents sortaient leurs armes.

Les agents ont ordonné aux adolescents de se mettre au sol, les ont menottés et ont fouillé leur personne et leurs affaires. Aucun agent n’avait regardé la vidéo avant d’intervenir, et les élèves n’ont jamais appris pourquoi ils étaient retenus. L’incident leur a laissé des marques physiques dues aux menottes et un profond traumatisme émotionnel. Ils ont désormais intenté une action en justice pour obtenir une injonction qui empêcherait BCPS d’utiliser Omnilert tant que de nouveaux protocoles et de nouvelles formations n’auront pas été mis en place.

Ce qu’affirme la plainte

La plainte, déposée par le Lawyers’ Committee for Civil Rights Under Law, soutient que la « confiance excessive dans l’intelligence artificielle » de l’établissement et ses défauts de communication ont porté atteinte aux droits constitutionnels des élèves. Elle cite un rapport de l’Office of the Inspector General (OIG), selon lequel plus de 99 % des alertes d’Omnilert concernant des armes à feu dans le comté étaient des faux positifs et le personnel scolaire n’avait pas été correctement formé à l’utilisation du système. L’OIG a recommandé une formation deux fois par an et un examen de la liste des destinataires des alertes, mais les adolescents estiment que ces mesures ne suffisent pas.

Réponse de l’entreprise

Blake Mitchell, vice-président du marketing d’Omnilert, a déclaré que l’entreprise regrettait la peur provoquée par l’incident et que le système était conçu pour transmettre toute détection possible d’une arme à feu à des personnes formées, chargées de l’examiner. Il a souligné que l’OIG n’avait constaté aucun biais dans l’IA elle-même et que le problème venait du processus de délégation de l’établissement, et non de la technologie.

Pourquoi c'est important

Pour les familles ayant des enfants scolarisés, cette affaire montre que les outils de sécurité fondés sur l’IA peuvent déclencher de fausses alertes dangereuses, surtout lorsque la supervision humaine fait défaut. Tant que les établissements ne renforceront pas leurs procédures de vérification, des élèves risquent encore de subir des interventions policières intrusives à la suite d’alertes erronées de l’IA.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.