Oossa

AI把多力多滋误报成枪,青少年起诉巴尔的摩学区

4名黑人高中生称,2025年10月的一次AI枪支警报误报导致警方给他们戴上手铐并搜身。

作者: Oossa 发布日期: 1 分钟阅读

Thomas Park · Unsplash

2025年10月,巴尔的摩县Kenwood High School的4名黑人学生在橄榄球训练后吃Cool Ranch Doritos。学区的Omnilert AI枪支检测系统将一袋薯片标记为疑似枪支。工作人员查看监控画面、确认没有武器后,警报在两分钟内被取消。尽管如此,校方仍致电巴尔的摩县警察局,随后6辆巡逻车闪着警灯赶到,警员拔枪戒备。

警员命令几名青少年趴到地上,给他们戴上手铐,并搜查他们及其随身物品。赶到现场的警员事前无人看过监控录像,学生也始终没有被告知自己为何遭到扣留。这起事件在青少年的手腕上留下了手铐造成的痕迹,也给他们带来持续的心理创伤。他们现已提起诉讼,申请禁令,要求巴尔的摩县公立学校(BCPS)暂停使用Omnilert,直到制定新规程并开展培训。

诉讼内容

这份由法律与公民权利律师委员会提起的诉状称,学校“过度依赖人工智能”且沟通不畅,侵犯了学生的宪法权利。诉状援引监察长办公室(OIG)的一份报告:该报告发现,该县Omnilert发出的枪支警报中,超过99 %属于误报,学校工作人员也没有接受适当的系统培训。OIG建议每年开展两次培训,并审查警报接收人员;但几名青少年认为,这些措施还不够。

公司回应

Omnilert营销副总裁Blake Mitchell表示,公司对这起事件造成的恐惧深感抱歉,并称该系统旨在将任何可能探测到枪支的警报交由受过培训的人员审核。他强调,OIG并未发现AI本身存在偏见,问题出在学校的任务分配流程,而非技术本身。

为什么重要

对于家中有学龄儿童的家庭来说,这起案件表明,即便是AI安全工具也可能引发危险的误报,尤其是在人工监督失效时。学校收紧审核流程之前,学生仍可能因不准确的AI警报而遭遇侵入性警务处置。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。