AI犯下大错！美国高中生吃薯片被识别成枪支：惊动八辆警车吓坏了

dalap

AI犯下大错！美国高中生吃薯片被识别成枪支：惊动八辆警车吓坏了


10月20日，美国马里兰州巴尔的摩县肯伍德高中16岁学生艾伦在校外持Doritos玉米片包装袋，被Omnilert AI枪支侦测系统误判为枪械，触发8辆警车到场，警察持枪将其制服并上手铐，事后出示影像显示皱褶包装袋被误认为武器；Omnilert承认误报，称系统“按预期运作”。
快科技10月26日消息，近日，美国马里兰州巴尔的摩县发生一起离谱事件：当地一个AI枪支侦测系统，竟然将一名16岁学生的Doritos玉米片包装袋误判为枪械，导致武装警察出动。

事件发生于10月20日，就读于肯伍德高中（Kenwood High School）的学生艾伦（Taki Allen）刚结束足球训练，正与朋友在校外逗留，突然间，多辆警车疾驰而至，警察持枪对准他们。

艾伦回忆道：“大概有8辆警车朝我们开过来。他们拿着枪走向我，大喊‘趴到地上’，我当时心想，‘发生了什么事？’”他描述当时的恐惧：“他们让我跪下，双手反绑在背后并戴上手铐。然后他们搜查了我，但什么也没找到。”

在警察持枪威吓下，艾伦被制伏，事后警方向他展示了触发警报的 AI 截取影像，影像中，他口袋里皱巴巴的多力多滋包装袋，被系统误认成了一把枪。

AI犯下大错！美国高中生吃薯片被识别成枪支：惊动八辆警车吓坏了

艾伦心有余悸地说：“我当时主要在想，我会死吗？他们会杀了我吗？他们给我看了照片，说那看起来像一把枪。

引发这起事件的AI系统来自Omnilert公司，该技术于去年被巴尔的摩县公立学校引入，它会实时扫描现有的监控录像，并在侦测到它认为是武器的物体时，立即向执法部门发出警报。

当时艾伦拿着一袋玉米片，露在外面的两只手和一根手指看起来像是在握持一把枪，Omnilert承认这是一次误报，但辩称系统是“按预期运作”，目的是“通过快速的人工验证来优先保障安全”。