當(dāng)?shù)貢r(shí)間10月20日晚,美國(guó)馬里蘭州巴爾的摩縣一所高中,由于人工智能(AI)安全系統(tǒng)誤將一名學(xué)生的零食包裝袋識(shí)別成了“疑似槍支”,致該學(xué)生被全副武裝趕來(lái)的警察戴上手銬接受調(diào)查。
▲肯伍德高中
“他們讓我跪下,雙手背在身后,然后給我戴上了手銬!眮(lái)自肯伍德高中的涉事學(xué)生塔基·艾倫稱,自己當(dāng)時(shí)剛和朋友踢完球準(zhǔn)備回家,手上拿著一包玉米片,“我當(dāng)時(shí)兩只手拿著零食袋,一只手指伸了出來(lái)。然后就被識(shí)別成了‘疑似槍支’。”
塔基回憶說(shuō),當(dāng)時(shí)正在校門口吃零食的自己眼見(jiàn)著持槍警察走過(guò)來(lái)!八麄兡脴屩钢,還有大概8輛警車停在了校門口。”塔基說(shuō),自己當(dāng)時(shí)的第一反應(yīng)是“我是不是要死了”。隨后,警方銬住了塔基,對(duì)他進(jìn)行了搜身檢查,這才發(fā)現(xiàn)已經(jīng)落在地上的零食袋!八麄兘o我看了觸發(fā)警報(bào)時(shí)的圖像,并解釋說(shuō)我當(dāng)時(shí)拿零食袋的時(shí)候像拿著一把槍!
據(jù)介紹,巴爾的摩縣去年開(kāi)始在學(xué)校部署檢測(cè)槍支的人工智能安全系統(tǒng)。若系統(tǒng)發(fā)現(xiàn)可疑物品,就會(huì)立即向?qū)W校和執(zhí)法人員發(fā)出警報(bào)。
塔基的祖父對(duì)此事感到憤怒,并要求追究相關(guān)方責(zé)任。肯伍德高中在給家長(zhǎng)的解釋信中稱,對(duì)此事感到遺憾,并將為需要幫助的學(xué)生提供支持。
巴爾的摩縣警方在一份聲明中稱,警局在接到有“可疑人員攜帶槍支”的報(bào)告后,就立刻趕赴現(xiàn)場(chǎng)對(duì)“可疑人員”進(jìn)行搜查,最后確認(rèn)其并未攜帶任何武器。
巴爾的摩縣議員伊茲·帕托卡則呼吁對(duì)警方的處理流程進(jìn)行復(fù)查,并呼吁學(xué)校檢查其人工智能安全系統(tǒng)的運(yùn)行程序!昂⒆硬粦(yīng)該因?yàn)槌粤艘话衩灼捅痪鞌r住。”
另?yè)?jù)報(bào)道,這套人工智能安全系統(tǒng)的運(yùn)營(yíng)商強(qiáng)調(diào)稱,其系統(tǒng)的作用就是識(shí)別潛在威脅并將其提交人工進(jìn)行審核!按舜问录牧鞒淌前搭A(yù)期運(yùn)行的!