-
亞馬遜面部識(shí)別系統(tǒng)鬧烏龍,28名美國會(huì)議員被誤認(rèn)成罪犯
關(guān)鍵字: 亞馬遜Rekognition美國國會(huì)面部識(shí)別人工智能【文/觀察者網(wǎng) 王愷雯】商業(yè)巨頭亞馬遜2016年推出圖像識(shí)別AI系統(tǒng)“Rekognition”,還積極向美國警方推銷以幫助其辦案。不過近日,“Rekognition”卻鬧了一個(gè)大烏龍:28名美國國會(huì)議員被它識(shí)別成了罪犯。
這一錯(cuò)誤也讓發(fā)起這項(xiàng)測試、反對警方使用“Rekognition”的美國公民自由聯(lián)盟(ACLU)抓到把柄,他們表示,測試結(jié)果引起了民眾對警方使用該系統(tǒng)的嚴(yán)重?fù)?dān)憂。
被“Rekognition”誤識(shí)別成罪犯的28名議員 圖自ACLU網(wǎng)站
7月26日,ACLU在其網(wǎng)站披露:該組織對“Rekognition”進(jìn)行了測試,結(jié)果系統(tǒng)錯(cuò)誤地將28名國會(huì)議員識(shí)別為曾因犯罪而被捕的人員。
這些被誤認(rèn)為是罪犯的議員來自美國各州,無論黨派。不過,女性只占一人,有色人種占40%,其中6人為黑人。
ACLU稱,他們使用的系統(tǒng)與亞馬遜向公眾提供的系統(tǒng)無異,整個(gè)測試花費(fèi)了12.33美元(約合84元人民幣)
他們建立了一個(gè)擁有2.5萬張公開罪犯照片的數(shù)據(jù)庫,然后把國會(huì)參眾兩院所有現(xiàn)任議員的照片交給“Rekognition”處理,看2.5萬張照片中是否有照片與國會(huì)議員匹配,結(jié)果有28張匹配。
“Rekognition”操作步驟 圖自ACLU網(wǎng)站
“Rekognition”是亞馬遜在2016年推出的圖像識(shí)別AI系統(tǒng),據(jù)亞馬遜官網(wǎng)介紹,“Rekognition” 能夠?yàn)橛脩籼峁┑膱D像和視頻提供高度準(zhǔn)確的面部分析和面部識(shí)別功能。用戶可以檢測、分析和比較各種使用案例中的面孔,包括用戶確認(rèn)、人員計(jì)數(shù)和公共安全。
值得注意的是,亞馬遜頗為積極地向美國司法部門和警方推銷“Rekognition”,此舉引發(fā)美國民眾強(qiáng)烈不滿,認(rèn)為這侵犯了人的隱私權(quán),或會(huì)帶來歧視。
ACLU稱,被識(shí)別為罪犯的28名議員中,40%是有色人種,然而國會(huì)議員中有色人種的比例僅為20%。
這也證實(shí)了今年5月國會(huì)“黑人核心小組(Congressional Black Caucus)”給亞馬遜CEO杰夫·貝佐斯(Jeff Bezos)信中的擔(dān)憂:黑人、非法移民和抗議者可能會(huì)面臨監(jiān)視。
亞馬遜CEO杰夫·貝佐斯 圖自CNBC
ACLU表示,如果執(zhí)法部門使用“Rekognition”,不難想象警察會(huì)得到一個(gè)與罪犯“匹配”的人像,從而導(dǎo)致警察在執(zhí)法前就對其產(chǎn)生“偏見”。
“無論準(zhǔn)確與否,這樣的識(shí)別都可能讓人們失去自由甚至生命。有色人種已經(jīng)不成比例地受到警察的傷害,‘Rekognition’顯而易見會(huì)加劇這種情況……最近舊金山警察攔住一輛車,拷住一名黑人婦女強(qiáng)迫她跪在槍口下,就是因?yàn)樽詣?dòng)車牌識(shí)別系統(tǒng)誤認(rèn)為她的車是偷來的。”
該組織還稱,面部識(shí)別可能會(huì)威脅到美國憲法第一修正案所保護(hù)的行為,例如參與抗議活動(dòng)或宗教活動(dòng);也可能讓移民受到美國政府進(jìn)一步的虐待。
“這也正是為什么亞馬遜員工、股東、近70個(gè)人權(quán)組織,超過400名學(xué)術(shù)界人士和超過15萬民眾已經(jīng)站出來,要求亞馬遜停止向政府提供人臉識(shí)別監(jiān)控的原因。”
ALCU最后呼吁國會(huì)認(rèn)真對待這個(gè)問題,頒布法案暫停使用面部識(shí)別執(zhí)法,直到充分考慮其危害并采取有效措施來制止對民眾的威脅。
另據(jù)美國科技媒體網(wǎng)站“The Verge”報(bào)道,這次烏龍事件發(fā)生后,已有3名被誤認(rèn)為罪犯的議員對此做出回應(yīng)。
馬薩諸塞州參議員愛德華·馬基(Edward Markey)、伊利諾伊州眾議員路易斯·古蒂爾茲(Luis Gutiérrez)和加利福尼亞州眾議員馬克·索尼爾(Mark DeSaulnier)致信亞馬遜CEO貝佐斯,要求其提供使用“Rekognition”技術(shù)執(zhí)法機(jī)構(gòu)的完整名單,并詢問對13歲以下兒童的保護(hù)措施。
“人們對面部識(shí)別可能對隱私權(quán)和公民權(quán)利造成的危害表示嚴(yán)重關(guān)切,” 信中寫道,“尤其是當(dāng)它被用作政府監(jiān)視的工具時(shí)。”
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 請支持獨(dú)立網(wǎng)站,轉(zhuǎn)發(fā)請注明本文鏈接:
- 責(zé)任編輯:王愷雯
- 最后更新: 2018-07-28 11:10:06
-
習(xí)近平抵毛里求斯 現(xiàn)場奏《我的中國心》
2018-07-28 08:48 中國外交 -
中國多邊主義玩太6?美俄各自都有“大膽想法”
2018-07-27 23:05 中國外交 -
美歐一夜結(jié)成“貿(mào)易戰(zhàn)同盟”?法國第一個(gè)反對!
2018-07-27 21:40 美國經(jīng)濟(jì) -
800移民硬闖西班牙“飛地”,本土慌得不行
2018-07-27 20:15 歐洲亂局 -
中國倡議,金磚國家新工業(yè)革命伙伴關(guān)系啟動(dòng)
2018-07-27 20:12 中國外交 -
日本45歲母親疑聯(lián)手情夫殺25歲丈夫 死者與繼子是同學(xué)
2018-07-27 18:16 -
莫迪要在非洲新設(shè)18個(gè)使館 提供110億美元貸款
2018-07-27 17:30 非洲之窗 -
如何讓美好愿景變?yōu)楝F(xiàn)實(shí) 習(xí)近平給出答案
2018-07-27 17:05 新時(shí)代新氣象新作為 -
巴鐵“變天”,他對中美表態(tài)
2018-07-27 16:16 巴鐵 -
繼歐盟之后,美欲與日本簽自貿(mào)協(xié)定
2018-07-27 15:54 美國經(jīng)濟(jì) -
民粹球星能帶巴基斯坦走多遠(yuǎn)?中國投資方如何應(yīng)對?
2018-07-27 15:50 巴鐵 -
當(dāng)對方命中率為0 而你閃避MAX的時(shí)候...
2018-07-27 15:13 觀網(wǎng)看片 -
麥當(dāng)勞經(jīng)理暴打女顧客,為了一杯飲料
2018-07-27 13:20 -
美發(fā)布《克里米亞宣言》 俄羅斯怒了
2018-07-27 12:16 俄羅斯之聲 -
白宮證實(shí):朝鮮已歸還55具美軍遺骸
2018-07-27 12:09 三八線之南 -
81個(gè)國家欠費(fèi) 聯(lián)合國今年現(xiàn)金缺口前所未有
2018-07-27 11:50 歡樂聯(lián)合國 -
金正恩憑吊毛岸英等志愿軍烈士
2018-07-27 11:50 朝鮮現(xiàn)狀 -
把驢畫成斑馬?!埃及動(dòng)物園魚目混珠被識(shí)破
2018-07-27 11:45 -
貿(mào)易戰(zhàn)美國農(nóng)民叫苦 特朗普反誣中國“惡毒”
2018-07-27 10:47 中美關(guān)系 -
印尼一學(xué)校校慶表演“車碾學(xué)生” 致1死1重傷
2018-07-27 10:43 觀網(wǎng)看片
相關(guān)推薦 -
“中國在非洲真正贏得了民心,就連斯威士蘭…” 評論 94最新聞 Hot
-
“沙特曾多次警告德國提防嫌疑人”
-
特朗普最新任命!這次包括火箭隊(duì)老板、真人秀制作人
-
巴勒斯坦三個(gè)政治派別發(fā)表聯(lián)合聲明
-
“中國在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團(tuán)是絕望之舉,中國工廠效率質(zhì)量都是第一”
-
“中國有能力讓夢想照進(jìn)現(xiàn)實(shí),將贏得史詩般競爭”
-
被災(zāi)民暴罵到當(dāng)場破防,馬克龍發(fā)飆:你該慶幸你在法國!
-
美高校敦促國際學(xué)生抓緊回來:萬一把中印拉黑名單呢
-
美國政府“逃過一劫”
-
“澤連斯基要求歐盟新外長:對華批評要降調(diào)”
-
澳大利亞來了,中國就得走人?澳總理這么回應(yīng)
-
美媒感慨:基建狂魔發(fā)力,我們又要被超越了
-
英國剛公布新任大使,特朗普顧問就痛罵:傻X
-
“來自中國的老大哥能確保我們…”
-
俄羅斯的報(bào)復(fù)來了
-
澤連斯基罵普京“傻子”,俄方怒斥
-