AI把玉米片判为枪惊动八辆美国警车，黑人少年的绝望14分钟！

文章图片

一、事件始末：玉米片引发的“反恐级”围捕2025年10月20日，美国马里兰州肯伍德高中16岁学生艾伦结束足球训练后，手持一袋多力多滋玉米片在校外逗留。学校部署的AI安防系统Omnilert突然触发警报，将其口袋中皱褶的包装袋误判为“枪支” 。短短几分钟内， 8辆警车蜂拥而至，持枪警察喝令艾伦趴下，反铐其双手并搜身。最终，警方展示AI警报图像时，才发现“凶器”竟是一袋零食。涉事公司Omnilert事后承认误报，却辩称系统“按预期运行”——即先报警后人工核验，但现场执法者未收到修正指令。

二、技术翻车：天价系统双重失灵

误报频发，漏洞百出
Omnilert系统由巴尔的摩郡学区耗资270万美元引入（年运营费58万美元），宣称“误报率几乎为零” 。但此次连玉米片袋都无法准确识别，暴露算法严重缺陷。业内人士揭露：其训练数据70%为实验室标准枪支图片，缺乏日常场景（如光线干扰、褶皱物品）的测试样本，导致实际场景中频发“错认” 。
【AI把玉米片判为枪惊动八辆美国警车，黑人少年的绝望14分钟！】漏判悲剧：真枪眼前“隐身”
讽刺的是，同一系统今年1月在田纳西州安蒂奥克中学枪击案中彻底失灵：一名学生携枪闯入校园射杀他人， AI全程未检测到武器。校方解释“枪手距摄像头过远” ，此番又以“场景复杂”搪塞玉米片事件，技术可靠性遭公众强烈质疑。

三、流程崩坏：人机协作沦为“走过场”

核验机制形同虚设：AI警报后，人工审核员虽在30秒内标记“无威胁” ，但修正信息仅同步至校内电脑端，校长手机仍收到未标注的初始警报。
警方协议埋雷：学区与警方约定“校长指令优先于二次核验” ，导致安全小组无法拦截已触发出警程序。
执法偏见加剧危机：艾伦作为黑人学生，触发“黑人青少年+疑似枪支”标签后，警方无视分级处置流程（应先便衣询问），直接启动最高武力响应，折射根深蒂固的种族偏见。

四、争议核心：AI安防的信任危机

家长愤怒联名抵制：民众痛斥“花天价养废铁” ，要求终止合同，转而增聘真人安保。
行业潜规则遭曝光：为拿下订单，企业用理想化数据美化演示效果，隐瞒真实误报率。
人机关系本末倒置：安防专家指出，系统设计本应“AI辅助人工” ，现实中却“人工为AI背书” ，审核员权限低于自动警报，酿成系统性失控。