Oossa

Tieners dagen scholen in Baltimore voor AI-alarm door zak Doritos

Vier zwarte scholieren stellen dat een vals alarm van een AI-systeem voor wapendetectie ertoe leidde dat de politie hen na een incident in oktober 2025 handboeide en fouilleerde.

Door Gepubliceerd door Oossa: 1 min lezen

Thomas Park · Unsplash

In oktober 2025 aten vier zwarte leerlingen van Kenwood High School in Baltimore County na de footballtraining Cool Ranch Doritos toen het AI-systeem Omnilert van het schooldistrict een zak chips aanmerkte als mogelijk vuurwapen. Nadat medewerkers de camerabeelden hadden bekeken en geen wapen zagen, werd het alarm binnen twee minuten geannuleerd. Toch belden schoolfunctionarissen de politie van Baltimore County. Zes politieauto’s kwamen met zwaailichten aan, terwijl agenten hun wapens trokken.

De agenten bevalen de tieners op de grond te gaan liggen, deden hun handboeien om en fouilleerden hen en hun spullen. Geen van de agenten had de beelden bekeken voordat ze ter plaatse kwamen, en de leerlingen kregen nooit te horen waarom ze werden vastgehouden. Door de handboeien hielden de tieners lichamelijke sporen over; ook kampten ze met langdurige emotionele stress. Ze hebben nu een rechtszaak aangespannen en vragen de rechter om BCPS te verbieden Omnilert te gebruiken totdat er nieuwe protocollen en trainingen zijn ingevoerd.

Wat er in de aanklacht staat

In de klacht, ingediend door de Lawyers’ Committee for Civil Rights Under Law, staat dat de school de grondwettelijke rechten van de leerlingen heeft geschonden door “te veel te vertrouwen op kunstmatige intelligentie” en slecht te communiceren. De klacht verwijst naar een rapport van het Office of the Inspector General (OIG), waaruit bleek dat meer dan 99 % van de Omnilert-wapenalarmen in het district loos alarm was en dat schoolmedewerkers onvoldoende waren opgeleid om met het systeem te werken. Het OIG adviseerde om twee keer per jaar training te geven en te bekijken wie de meldingen ontvangt, maar volgens de tieners is dat niet genoeg.

Reactie van het bedrijf

Blake Mitchell, vicepresident marketing bij Omnilert, zei dat het bedrijf spijt heeft van de angst die het incident heeft veroorzaakt. Volgens hem is het systeem zo ontworpen dat elke mogelijke wapendetectie ter beoordeling wordt doorgestuurd naar getrainde medewerkers. Hij benadrukte dat het OIG geen vooringenomenheid in de AI zelf had vastgesteld en dat het probleem lag bij de manier waarop de school meldingen doorstuurde, niet bij de technologie.

Waarom het ertoe doet

Voor gezinnen met schoolgaande kinderen laat deze zaak zien dat AI-hulpmiddelen voor de veiligheid gevaarlijke valse alarmen kunnen veroorzaken, vooral wanneer menselijk toezicht tekortschiet. Zolang scholen hun procedures voor het beoordelen van meldingen niet aanscherpen, kunnen leerlingen te maken blijven krijgen met ingrijpend politieoptreden op basis van onjuiste AI-alarmen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.