全國(guó)咨詢熱線：010-67877741/42/43

公共場(chǎng)所人臉識(shí)別或全面被禁基于AI的生物識(shí)別都犯了哪些“罪狀”？

發(fā)布時(shí)間:2021-10-18 09:37:00 人氣:522 來(lái)源：中國(guó)安全防范產(chǎn)品行業(yè)協(xié)會(huì)

　　如果說(shuō)這是一個(gè)屬于人臉識(shí)別技術(shù)全面應(yīng)用的時(shí)代，相信大多數(shù)人是不會(huì)站出來(lái)反駁這一觀點(diǎn)的。
　　人臉識(shí)別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場(chǎng)教育、技術(shù)完善，到各行各業(yè)各領(lǐng)域采用數(shù)個(gè)階段，如今已經(jīng)發(fā)展相對(duì)成熟，在街道、樓宇、煤礦、商廈、銀行等各個(gè)角落，服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個(gè)領(lǐng)域。
　　但是，“否定之否定規(guī)律”早已揭示，所有事物的發(fā)展都是一個(gè)螺旋式上升或波浪式前進(jìn)的運(yùn)動(dòng)過(guò)程，而并非一帆風(fēng)順、一蹴而就的。就在近日，歐洲議會(huì)投票表決，通過(guò)了一項(xiàng)“呼吁全面禁止基于AI 生物識(shí)別技術(shù)大規(guī)模 監(jiān)控”的提議，從監(jiān)管層面進(jìn)一步收緊了人臉識(shí)別技術(shù)的應(yīng)用。
　　歐洲議會(huì)成員Petar Vitanov在決議通過(guò)后發(fā)表聲明稱，“人類的基本權(quán)利是無(wú)條件的。我們有史以來(lái)第一次呼吁暫停部署用于執(zhí)法的面部識(shí)別系統(tǒng)，因?yàn)樵摷夹g(shù)已被證明是無(wú)效的，并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報(bào)告對(duì)所有歐洲公民來(lái)說(shuō)都是一個(gè)巨大的勝利?！?
　　從被外界炒作的“黑科技”到人民避而遠(yuǎn)之的“瘟疫”，基于AI的人臉識(shí)別究竟犯了什么樣的錯(cuò)誤，才引起了監(jiān)管部門的注意，對(duì)于其未來(lái)的發(fā)展，又給國(guó)內(nèi)監(jiān)管部門和企業(yè)帶來(lái)了哪些啟示？
　　 數(shù)張“罪狀”揭示，人臉識(shí)別并非人畜無(wú)害
　　在過(guò)去持續(xù)一年多的疫情當(dāng)中 ， 人臉識(shí)別技術(shù)撐起的無(wú)接觸式防疫應(yīng)用深入人心 ， 讓外界飽嘗技術(shù)帶來(lái)的科技紅利 ， 因而也讓 人們?nèi)菀捉o人臉識(shí)別技術(shù)打上“善良”的標(biāo)簽，從而忽視它本身的兩面性。
　　2020年1月，美國(guó)發(fā)生了首起已知的涉及人臉識(shí)別技術(shù)的錯(cuò)誤逮捕事件。根據(jù)6月美國(guó)公民自由聯(lián)盟（ACLU）向底特律警察局提出的行政投訴顯示，年初，來(lái)自底特律的羅伯特?威廉姆斯被當(dāng)?shù)鼐街缚胤赣斜I竊罪，并在威廉姆斯妻兒的注視下將其逮捕，拘留時(shí)間長(zhǎng)達(dá)30個(gè)小時(shí)。
　　根據(jù)ACLU的投訴，底特律警方將一名黑人男子從Shinola商店偷竊手表的視頻提供給了密歇根州警方，隨后警方通過(guò)人臉識(shí)別系統(tǒng)運(yùn)行該視頻，并建議將威廉姆斯的照片作為潛在的匹配對(duì)象。之后，在警方并無(wú)過(guò)多證據(jù)表明威廉姆斯就是嫌疑人的情況下，最終發(fā)生了這荒誕的一幕。
　　無(wú)獨(dú)有偶，羅伯特?威廉姆斯的遭遇并非個(gè)例。同樣來(lái)自底特律的邁克爾?奧利弗也因?yàn)槿四樧R(shí)別判定涉嫌盜竊罪，被關(guān)押了十天半；尼爾?帕克斯也因被認(rèn)定盜竊，在伍德布里奇市被拘留了十天。而值得注意的是，以上在美國(guó)發(fā)生的這些案件，被誤認(rèn)為犯罪嫌疑人的當(dāng)事人均為黑人，因此也引起了媒體對(duì)算法歧視的關(guān)注。
　　早在2018年，MIT媒體實(shí)驗(yàn)室（MIT Media Lab）研究員Joy Buolamwini就與來(lái)自微軟的科學(xué)家Timnit Gebru合作發(fā)布了一篇研究論文《性別圖譜：商用性別分類技術(shù)中的種族準(zhǔn)確率差異》（Gender Shades： Intersectional Accuracy Disparitiesin Commercia lGender Classification），其中作者將微軟、IBM和曠視科技三家人臉識(shí)別技術(shù)進(jìn)行對(duì)比，結(jié)果顯示，AI應(yīng)用人臉識(shí)別針對(duì)黑人女性的錯(cuò)誤率高達(dá)21％－35％，而針對(duì)白人男性的錯(cuò)誤率則低于1％，不同種族的準(zhǔn)確率差異巨大。
　　時(shí)間一晃來(lái)到現(xiàn)在，這一問(wèn)題不但沒(méi)有被解決，反而愈發(fā)突出。
　　在國(guó)內(nèi)，目前尚未發(fā)現(xiàn)人臉識(shí)別應(yīng)用于警務(wù)活動(dòng)中出現(xiàn)差錯(cuò)的情況，但該技術(shù)在其他應(yīng)用中出現(xiàn)問(wèn)題的案例也是屢見(jiàn)不鮮。比如2018年寧波交警行人闖紅燈曝光臺(tái)就曾鬧出一出烏龍，人臉識(shí)別將噴涂在公交車上的董明珠廣告人像錯(cuò)當(dāng)成了橫穿馬路的路人，結(jié)果有了“格力電器董事長(zhǎng)董明珠違法闖紅燈”的笑談。
　　在今年的315晚會(huì)上，基于人臉識(shí)別非法采集個(gè)人人臉數(shù)據(jù)的案例也被第一個(gè)拿出來(lái)開(kāi)刀。人臉識(shí)別技術(shù)作為生物特征識(shí)別的重要技術(shù)之一，具有非接觸和非侵犯的特性，因而人們?cè)诓恢挥X(jué)中就會(huì)被采集數(shù)據(jù)，并對(duì)之抱有最小的排斥心理。
　　但人臉信息屬于個(gè)人獨(dú)有的生物識(shí)別信息，具有不可篡改的特征，目前有很多用戶將其作為支付密碼、賬號(hào)密碼等。國(guó)家市場(chǎng)監(jiān)管總局發(fā)布的《個(gè)人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識(shí)別信息，也屬于個(gè)人敏感信息，收集個(gè)人信息時(shí)，應(yīng)獲得個(gè)人信息主體的授權(quán)同意。
　　 個(gè)人隱私成為國(guó)內(nèi)外共同的難題
　　本次歐洲議會(huì)決議主要針對(duì)的是警察和司法機(jī)關(guān)在犯罪問(wèn)題上對(duì) AI 的使用 ， 歐洲委員會(huì)在報(bào)告中對(duì)遠(yuǎn)程人臉識(shí)別呼吁 ， “通過(guò)立法和非立法手段 ， 必要時(shí)通過(guò)侵權(quán)訴訟 ， 禁止出于執(zhí)法目的生物識(shí)別數(shù)據(jù)處理 ， 包括通過(guò)面部圖像識(shí)別 、 在公共場(chǎng)所進(jìn)行大規(guī)模 監(jiān)視 。 ”
　　比如，該決議中反對(duì)執(zhí)法機(jī)構(gòu)利用人工智能根據(jù)歷史數(shù)據(jù)和過(guò)去的行為、群體成員、位置或任何其他此類特征，對(duì)個(gè)人或群體進(jìn)行行為預(yù)測(cè)，從而試圖識(shí)別可能犯罪的人。此外，決議還強(qiáng)調(diào)了人的作用，避免過(guò)度相信人工智能工具表面上的“客觀”和“科學(xué)”，強(qiáng)調(diào)算法應(yīng)該具有的透明、可追溯、充分記錄等特征。
　　實(shí)際上，對(duì)于基于AI技術(shù)的人臉識(shí)別技術(shù)的應(yīng)用，國(guó)內(nèi)外較早以前就已經(jīng)表現(xiàn)出一定的重視。
　　早在今年4月21日，歐盟委員會(huì)就公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對(duì)人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險(xiǎn)評(píng)定。其中，人臉識(shí)別技術(shù)作為基于AI實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)的一種，是歐盟委員會(huì)著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)。
　　草案對(duì)人工智能應(yīng)用場(chǎng)景進(jìn)行了“低、有限、高、不可接受”四個(gè)風(fēng)險(xiǎn)等級(jí)的定性，等級(jí)越高的應(yīng)用場(chǎng)景意味著受到的限制越嚴(yán)格。
　　人臉識(shí)別在很大程度上侵犯了人們的隱私，并且所有遠(yuǎn)距離生物識(shí)別系統(tǒng)在這份草案中都被認(rèn)定為高風(fēng)險(xiǎn)，禁止執(zhí)法部門在公共場(chǎng)合使用這一技術(shù)。該草案還提出，除尋找失蹤兒童，解除恐怖襲擊威脅以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人等三種特定情況外，無(wú)差別的大規(guī)模監(jiān)控會(huì)被歐盟全面禁止。
　　而在大洋彼岸的美國(guó)，對(duì)于人臉識(shí)別技術(shù)的使用也十分審慎。2019年，美國(guó)有9個(gè)州都頒布了關(guān)于禁用人臉識(shí)別技術(shù)的法案，嚴(yán)禁警察、政府部門以及在公共場(chǎng)合使用人臉識(shí)別技術(shù)。舊金山為美國(guó)大城市禁用人臉識(shí)別開(kāi)出了第一槍，隨后包括波特蘭、奧克蘭、波士頓在內(nèi)的城市都已禁止政府使用人臉識(shí)別技術(shù)，今年7月，美國(guó)第一大經(jīng)濟(jì)中心紐約也加入了這一行列。
　　除此之外，美國(guó)的巨頭們也在這一方面退縮了，去年6月，藍(lán)色巨人IBM旗幟鮮明的宣布放棄人臉識(shí)別業(yè)務(wù)，不再提供任何人臉識(shí)別和人臉?lè)治鲕浖?，同時(shí)也不再對(duì)這項(xiàng)技術(shù)進(jìn)行研究和開(kāi)發(fā)。另外幾家巨頭如亞馬遜、谷歌等，也表示暫?；蚍艞壢四樧R(shí)別相關(guān)業(yè)務(wù)的開(kāi)發(fā)。
　　在我國(guó)，針對(duì)個(gè)人數(shù)據(jù)安全的法案也被提上日程，人臉識(shí)別等人工智能技術(shù)的監(jiān)管也日加嚴(yán)格。今年1月1日正式實(shí)施的《民法典》中規(guī)定，處理個(gè)人信息，應(yīng)征的該自然人或其監(jiān)護(hù)人的同意；4月23日，國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布《信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》征求意見(jiàn)稿，也對(duì)人臉識(shí)別技術(shù)應(yīng)用場(chǎng)景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范。
　　8月20日，立法通過(guò)的《個(gè)人信息保護(hù)法》再次明確：在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備，應(yīng)當(dāng)為維護(hù)公共安全所必需，遵守國(guó)家有關(guān)規(guī)定，并設(shè)置顯著的提示標(biāo)識(shí)。所收集的個(gè)人圖像、身份識(shí)別信息只能用于維護(hù)公共安全的目的，不得用于其他目的；取得個(gè)人單獨(dú)同意的除外。
　　 人臉識(shí)別不能“一刀切”，用好雙刃劍的有利面
　　至于如何評(píng)價(jià)此次歐洲議會(huì)的決議 ， 相信大家也是各執(zhí)一詞 ， 有著不同的見(jiàn)解 。 人臉識(shí)別技術(shù)本身存在的問(wèn)題確實(shí)在近幾年暴露無(wú)遺 ， 但 “一刀切”的做法顯然對(duì)于一項(xiàng)進(jìn)步的技術(shù)來(lái)說(shuō)并不合適 。
　　問(wèn)題的關(guān)鍵在于當(dāng)技術(shù)解決不了當(dāng)下存在的問(wèn)題時(shí)，它就會(huì)像一把雙刃劍，一方面方便著人們生活，提高社會(huì)效率；另一方面卻又利刃出鞘，鋒芒相向。
　　就像歐洲議會(huì)上表示，“人工智能在執(zhí)法領(lǐng)域的應(yīng)用提供了巨大機(jī)遇，特別是能夠有效打擊金融犯罪如洗錢、恐怖主義融資，以及網(wǎng)絡(luò)犯罪如虐待兒童等，有助于歐盟公民的安全保障。但同時(shí)，數(shù)據(jù)顯示AI識(shí)別對(duì)少數(shù)民族、老年人和女性的誤識(shí)率更高，這可能對(duì)人們的基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)。”
　　在考慮基于AI技術(shù)的人臉識(shí)別是否應(yīng)該被全面禁止還是繼續(xù)沿用，都需要考慮其風(fēng)險(xiǎn)和效果之間是否成正比，避免人臉識(shí)別造成任何有害的影響。
聯(lián)系我們
聯(lián)系方式

熱線電話

13910555092

上班時(shí)間

周一到周五

公司電話

010-67877741/42/43

二維碼
聯(lián)系我們