Im Oktober 2025 aßen vier Schwarze Schüler der Kenwood High School in Baltimore County nach dem Footballtraining Cool Ranch Doritos, als das KI-System Omnilert zur Erkennung von Schusswaffen eine Chipstüte als mögliche Waffe meldete. Der Alarm wurde innerhalb von zwei Minuten zurückgenommen, nachdem Mitarbeiter die Kameraaufnahmen geprüft und keine Waffe gesehen hatten. Trotz der Entwarnung riefen Schulvertreter die Polizei von Baltimore County. Sechs Streifenwagen trafen mit eingeschaltetem Blaulicht ein, die Beamten hatten ihre Waffen gezogen.
Die Beamten befahlen den Jugendlichen, sich auf den Boden zu legen, legten ihnen Handschellen an und durchsuchten sie und ihre Sachen. Keiner der Beamten hatte vor dem Einsatz das Video angesehen, und den Schülern wurde nie gesagt, warum sie festgehalten wurden. Die Jugendlichen trugen körperliche Spuren der Handschellen davon und leiden bis heute unter seelischer Belastung. Sie haben nun Klage eingereicht und beantragen eine einstweilige Verfügung, die BCPS den Einsatz von Omnilert untersagen soll, bis neue Verfahren und Schulungen eingeführt sind.
Was in der Klage steht
Die von der Lawyers’ Committee for Civil Rights Under Law eingereichte Klage wirft der Schule vor, mit ihrem „übermäßigen Vertrauen in künstliche Intelligenz“ und mangelhafter Kommunikation die verfassungsmäßigen Rechte der Schüler verletzt zu haben. Sie verweist auf einen Bericht des Office of the Inspector General (OIG), dem zufolge mehr als 99 % der Omnilert-Waffenalarme im County Fehlalarme waren und die Schulmitarbeiter nicht ausreichend im Umgang mit dem System geschult wurden. Das OIG empfahl Schulungen zweimal jährlich und eine Überprüfung, wer die Alarme erhält. Die Jugendlichen halten diese Maßnahmen jedoch für unzureichend.
Stellungnahme des Unternehmens
Blake Mitchell, Marketing-Vizepräsident von Omnilert, sagte, das Unternehmen bedauere die ausgelöste Angst. Das System sei darauf ausgelegt, jeden möglichen Waffentreffer geschulten Menschen zur Prüfung vorzulegen. Er betonte, das OIG habe keine Voreingenommenheit der KI selbst festgestellt; das Problem liege im Weiterleitungsverfahren der Schule, nicht in der Technologie.
Warum es wichtig ist
Für Familien mit schulpflichtigen Kindern zeigt der Fall, dass KI-Sicherheitssysteme gefährliche Fehlalarme auslösen können – besonders, wenn die menschliche Kontrolle versagt. Solange Schulen ihre Prüfverfahren nicht verschärfen, könnten Schüler weiterhin aufgrund fehlerhafter KI-Alarme invasiven Polizeimaßnahmen ausgesetzt sein.