Oossa

شکایت نوجوانان از مدارس بالتیمور پس از هشدار اشتباه هوش مصنوعی درباره کیسه دوریتوس

چهار دانش‌آموز سیاه‌پوست دبیرستانی می‌گویند پس از هشدار نادرست سامانه تشخیص سلاح، پلیس در اکتبر 2025 آن‌ها را دستبند زد و بازرسی کرد.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Thomas Park · Unsplash

در اکتبر 2025، چهار دانش‌آموز سیاه‌پوست دبیرستان Kenwood در شهرستان بالتیمور، پس از تمرین فوتبال مشغول خوردن چیپس Cool Ranch Doritos بودند که سامانه هوش مصنوعی تشخیص سلاح منطقه آموزشی، Omnilert، یک کیسه چیپس را به‌عنوان سلاح گرم احتمالی علامت‌گذاری کرد. پس از آنکه کارکنان تصاویر دوربین را بررسی کردند و سلاحی ندیدند، هشدار ظرف دو دقیقه لغو شد. با وجود لغو هشدار، مسئولان مدرسه با اداره پلیس شهرستان بالتیمور تماس گرفتند و شش خودروی گشتی با چراغ‌های چشمک‌زن و مأمورانی که اسلحه‌هایشان را بیرون کشیده بودند، به محل رسیدند.

مأموران به نوجوانان دستور دادند روی زمین دراز بکشند، به آن‌ها دستبند زدند و خودشان و وسایلشان را بازرسی کردند. هیچ‌یک از مأموران پیش از اعزام، ویدئو را ندیده بود و به دانش‌آموزان هم نگفتند چرا بازداشت شده‌اند. این ماجرا آثار جسمی دستبندها و پریشانی روحی ماندگاری بر جای گذاشت. دانش‌آموزان اکنون شکایتی تنظیم کرده‌اند و خواستار صدور حکمی هستند که استفاده مدارس دولتی شهرستان بالتیمور از Omnilert را تا زمان تدوین دستورالعمل‌ها و آموزش‌های تازه متوقف کند.

مفاد شکایت

در این شکایت که کمیته وکلای حقوق مدنی تحت قانون آن را تنظیم کرده، ادعا شده است «اتکای بیش از حد مدرسه به هوش مصنوعی» و ضعف در اطلاع‌رسانی، حقوق قانون اساسی دانش‌آموزان را نقض کرده است. شاکیان به گزارشی از دفتر بازرس کل (OIG) اشاره می‌کنند که نشان می‌دهد بیش از 99 ٪ هشدارهای Omnilert درباره سلاح در این شهرستان، هشدارهای نادرست بوده و کارکنان مدارس نیز آموزش مناسبی درباره این سامانه ندیده بودند. OIG آموزش دوسالانه و بازنگری در فهرست دریافت‌کنندگان هشدارها را پیشنهاد کرد، اما نوجوانان می‌گویند این اقدامات کافی نیست.

پاسخ شرکت

بلیک میچل، معاون بازاریابی Omnilert، گفت شرکت بابت ترسی که ایجاد شده متأسف است و سامانه طوری طراحی شده که هر مورد احتمالیِ شناسایی سلاح گرم را برای بررسی به افراد آموزش‌دیده بفرستد. او تأکید کرد OIG در خود هوش مصنوعی هیچ‌گونه سوگیری نیافته و مشکل از روند واگذاری مسئولیت‌ها در مدرسه بوده، نه از فناوری.

چرا مهم است

برای خانواده‌هایی که فرزند مدرسه‌ای دارند، این پرونده نشان می‌دهد ابزارهای ایمنی مبتنی بر هوش مصنوعی هم ممکن است هشدارهای اشتباه و خطرناک صادر کنند، به‌ویژه وقتی نظارت انسانی درست انجام نشود. تا زمانی که مدارس روندهای بررسی هشدارها را تقویت نکنند، دانش‌آموزان ممکن است همچنان بر اساس هشدارهای نادرست هوش مصنوعی با برخوردهای مداخله‌جویانه پلیس روبه‌رو شوند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.