در اکتبر 2025، چهار دانشآموز سیاهپوست دبیرستان Kenwood در شهرستان بالتیمور، پس از تمرین فوتبال مشغول خوردن چیپس Cool Ranch Doritos بودند که سامانه هوش مصنوعی تشخیص سلاح منطقه آموزشی، Omnilert، یک کیسه چیپس را بهعنوان سلاح گرم احتمالی علامتگذاری کرد. پس از آنکه کارکنان تصاویر دوربین را بررسی کردند و سلاحی ندیدند، هشدار ظرف دو دقیقه لغو شد. با وجود لغو هشدار، مسئولان مدرسه با اداره پلیس شهرستان بالتیمور تماس گرفتند و شش خودروی گشتی با چراغهای چشمکزن و مأمورانی که اسلحههایشان را بیرون کشیده بودند، به محل رسیدند.
مأموران به نوجوانان دستور دادند روی زمین دراز بکشند، به آنها دستبند زدند و خودشان و وسایلشان را بازرسی کردند. هیچیک از مأموران پیش از اعزام، ویدئو را ندیده بود و به دانشآموزان هم نگفتند چرا بازداشت شدهاند. این ماجرا آثار جسمی دستبندها و پریشانی روحی ماندگاری بر جای گذاشت. دانشآموزان اکنون شکایتی تنظیم کردهاند و خواستار صدور حکمی هستند که استفاده مدارس دولتی شهرستان بالتیمور از Omnilert را تا زمان تدوین دستورالعملها و آموزشهای تازه متوقف کند.
مفاد شکایت
در این شکایت که کمیته وکلای حقوق مدنی تحت قانون آن را تنظیم کرده، ادعا شده است «اتکای بیش از حد مدرسه به هوش مصنوعی» و ضعف در اطلاعرسانی، حقوق قانون اساسی دانشآموزان را نقض کرده است. شاکیان به گزارشی از دفتر بازرس کل (OIG) اشاره میکنند که نشان میدهد بیش از 99 ٪ هشدارهای Omnilert درباره سلاح در این شهرستان، هشدارهای نادرست بوده و کارکنان مدارس نیز آموزش مناسبی درباره این سامانه ندیده بودند. OIG آموزش دوسالانه و بازنگری در فهرست دریافتکنندگان هشدارها را پیشنهاد کرد، اما نوجوانان میگویند این اقدامات کافی نیست.
پاسخ شرکت
بلیک میچل، معاون بازاریابی Omnilert، گفت شرکت بابت ترسی که ایجاد شده متأسف است و سامانه طوری طراحی شده که هر مورد احتمالیِ شناسایی سلاح گرم را برای بررسی به افراد آموزشدیده بفرستد. او تأکید کرد OIG در خود هوش مصنوعی هیچگونه سوگیری نیافته و مشکل از روند واگذاری مسئولیتها در مدرسه بوده، نه از فناوری.
چرا مهم است
برای خانوادههایی که فرزند مدرسهای دارند، این پرونده نشان میدهد ابزارهای ایمنی مبتنی بر هوش مصنوعی هم ممکن است هشدارهای اشتباه و خطرناک صادر کنند، بهویژه وقتی نظارت انسانی درست انجام نشود. تا زمانی که مدارس روندهای بررسی هشدارها را تقویت نکنند، دانشآموزان ممکن است همچنان بر اساس هشدارهای نادرست هوش مصنوعی با برخوردهای مداخلهجویانه پلیس روبهرو شوند.