刷臉的倫理與法律邊界在哪里？

吳雪

AI換臉軟件“ZAO”的走紅，打開了人臉數(shù)據(jù)應(yīng)用的潘多拉魔盒。

在北京中關(guān)村的一家咖啡館里，劉嘉正在演示自己的創(chuàng)業(yè)項目。只見他上傳一張用戶照片，幾秒內(nèi)就可自動生成一份長達12頁的“事業(yè)報告”，報告會對一個人的外形、性格、內(nèi)在進行分析評價，診斷其職業(yè)和管理風(fēng)格，多次試驗后，準(zhǔn)確度驚人。

“這絕對不是AI算命?！眲⒓畏磸?fù)向記者強調(diào)產(chǎn)品是基于基因?qū)W、心理學(xué)、醫(yī)學(xué)等科學(xué)，并結(jié)合了AI和大數(shù)據(jù)等前沿技術(shù)。攀談中，記者猜測劉嘉的目標(biāo)很可能是——只需一張照片，就能洞悉你的一切。

驚奇，伴隨著恐懼。劉嘉的項目只是人臉識別浪潮中的一朵小小浪花，但不得不承認一個事實，我們的人臉正在成為別人的一門生意。從17萬條數(shù)據(jù)在網(wǎng)絡(luò)商城公開售賣，到曇花一現(xiàn)的換臉游戲“ZAO”，再到刷臉時代的一路狂奔，人們在享受便捷紅利的同時，也面臨安全隱患和倫理道德的雙重拷問。

我們的人臉正在成為別人的一門生意。人們在享受便捷紅利的同時，也面臨安全隱患和倫理道德的雙重拷問。

“人家一掃你的臉就支付了，這不相當(dāng)于一個行走的密碼嗎？”這位消費者“不敢刷臉”的擔(dān)憂，正在成為大眾拒絕刷臉的普遍理由，校園刷臉會否涉及學(xué)生隱私？小區(qū)監(jiān)控的邊界在哪里？刷臉失誤帶來的成本誰來承擔(dān)？城市管理者怎樣將技術(shù)用對地方，而又不越界公民的隱私底線？假如我的臉被“賣”了，難道我要去換一張臉嗎？

這些問題，都值得探討，或者給出一個合理的答案。

便捷背后的“烏龍事件”

你是誰？每一天，人們都需要無數(shù)次回答這個問題，向各種人、機器亮明身份。路遇警察臨檢，出示身份;出入境，護照必須傍身掃描，即便是人盡皆知的馬化騰，如果手機設(shè)置了安全認證，每天一次次向手機證明“我就是我”，也是必要操作。

刷臉的出現(xiàn)，似乎解決了這一繁瑣程序。四年前，馬云在德國漢諾威參加通信和信息技術(shù)博覽會時，現(xiàn)場用刷臉支付在淘寶上購買了一枚1948年的漢諾威紀念郵票，正式將刷臉技術(shù)推至臺前，人們開始意識到，丟掉證件、手機、車票等身外物，憑著一張臉穿行世界，不再是天方夜譚。

位于松江大學(xué)城的上海對外經(jīng)貿(mào)大學(xué)，一棟宿舍樓前，大三學(xué)生許娟正在進行刷臉開門，“我?guī)е坨R，也能識別得很清楚，不用進門前再翻包找一卡通了?！痹S娟說，從去年開始，學(xué)校率先采用了國際領(lǐng)先算法的“人臉識別”系統(tǒng)，在宿舍刷臉進出、在圖書館借閱圖書，靠一張臉就能在校園里暢行無阻。

“除了出入宿舍和圖書館的監(jiān)控，還可以幫助宿管阿姨統(tǒng)計學(xué)生的回寢時間、晚歸次數(shù)等，提高了宿舍的安全性?！鄙虾ν饨?jīng)貿(mào)大學(xué)信息中心副主任劉亮亮告訴《新民周刊》，刷臉系統(tǒng)的上線，確實提升了學(xué)校的管理效率，但也存在不足，比如學(xué)生的照片久遠、像素較低，會影響刷臉識別率，但總體來說是小概率事件。

相比之下，失誤率在城市管理中面臨的挑戰(zhàn)似乎更大。前不久，“豐巢快遞柜刷臉漏洞”的話題沖上了微博熱搜，浙江嘉興一所小學(xué)四名小學(xué)生，拿著一張打印的家長頭像，成功打開了小區(qū)門口的豐巢快遞柜，取走了原本不屬于他們的快遞。結(jié)果證實，豐巢采用的人臉識別是一張2D平面圖像，安全級別不夠，極易破解。

電子抓拍也難免“烏龍”。一位長年跑福建到汕頭線路的大貨司機稱，有一次，在家休假的他竟然收到了貨車在其他省份的違法記錄，事后雖證實是人臉識別的匹配有誤，但也給他帶來了不小的麻煩?！拔也豢赡転榱艘欢僭牧P款，再去交涉，太浪費時間，后來干脆就交了罰款?！?/p>

取件刷臉的潦草上線，大貨司機吃的“啞巴虧”，難免讓公眾對刷臉的安全系數(shù)持懷疑態(tài)度?？膳碌氖牵愃萍值臑觚埵录遣环值赜虻?。曾有機構(gòu)使用亞馬遜公司的面部識別系統(tǒng)掃描了535名國會議員的面部照片，并與相關(guān)數(shù)據(jù)庫中的2.5萬張罪犯照片比對，結(jié)果28名議員被系統(tǒng)識別為罪犯。而“把普通人錯認為罪犯”的高失誤率，早在2017年的歐洲冠軍聯(lián)賽決賽上，就被媒體大肆報道過。

技術(shù)成熟度的質(zhì)疑源于技術(shù)本身，社會倫理則需要其他學(xué)科知識來解決。當(dāng)人臉作為認證信息對準(zhǔn)鏡頭時，鏡頭不僅可能會“說謊”，還會帶上“有色眼鏡”，專業(yè)用語叫做算法歧視。多年以前，眼睛普遍比較小的美國亞裔們總是跑去消費者協(xié)會投訴，說自己根本沒閉眼，但尼康相機的“眨眼提醒”總是提示他們拍照時眨眼了。

《Nature》也有文章曾指出，計算機視覺算法對一張印度新娘的照片只會貼上“表演藝術(shù)”和“禮服”兩個標(biāo)簽，而谷歌的面部識別技術(shù)也一度總把黑人朋友標(biāo)記為“猩猩”;美國麻省理工學(xué)院“媒體實驗室”曾針對微軟、IBM和中國曠視科技3家公司進行過測試，結(jié)果顯示，在1270張圖片中判斷人物性別，對膚色較淺男性的判斷錯誤率低于1%，但對膚色較深女性的判斷錯誤率從21%到35%不等。

有學(xué)者指出，算法歧視主要是數(shù)據(jù)中地域多樣性的缺乏導(dǎo)致的，但不可否認，一旦人臉識別技術(shù)應(yīng)用到司法、執(zhí)法等關(guān)鍵領(lǐng)域，技術(shù)問題所帶來的影響絕不只是啼笑皆非的“烏龍事件”那么簡單。去年，支付寶推出刷臉支付產(chǎn)品“蜻蜓”，以“現(xiàn)金返還獎勵、安裝成本降低”作為誠意邀請，仍然遭遇中小商戶的搖頭拒絕，刷臉的推廣實際上并不順利。

“上帝視角”的邊界在哪

目前看來，失誤率帶來的尷尬，似乎不是技術(shù)運用者最擔(dān)心的問題。對于被監(jiān)控者來說，在被錯誤判定為違法者或缺勤打卡人時，最多付出時間和金錢成本，而這些相較于刷臉工具的便捷性，大多數(shù)人的態(tài)度是可以容忍。

2017年9月26日，北京，考生經(jīng)過人臉識別系統(tǒng)確認后進入考場。

因此，在人工智能不斷滲透人類生活的今天，人臉識別的邊界就顯得特別重要?！吧系垡暯沁€是凡人視角”的辯題，業(yè)界早已爭論多年。大門口考勤、醫(yī)務(wù)室治療、演唱會抓捕逃犯甚至科學(xué)家通過識別情緒傳感器作研究，好處自然不必說。但不止一所高校對于人臉識別進課堂有所保留，也是事實。

“只要你進教室那一刻起，系統(tǒng)每隔30秒會對你全程進行掃描。你低頭多長時間，玩手機幾次，發(fā)呆幾次，閱讀幾次，趴桌子幾次，全都能感知到，若不專注行為達到一定分值，系統(tǒng)就會向顯示屏推送提醒?！标P(guān)于多家高校啟動的學(xué)情分析課堂，中國農(nóng)業(yè)大學(xué)本科生院綜合處處長韋笑表達了自己的顧慮，他認為，學(xué)生的抬頭率并不能精準(zhǔn)判斷學(xué)生的能力和效率，而且教室作為特殊的公共場所，監(jiān)控下的教師和學(xué)生的行為，很可能都不是真實狀態(tài)。

習(xí)慣在課堂上走神的大三學(xué)生聰聰說，這種強迫式的“盯梢”，并不能幫自己自律，反而會有些逆反情緒?！拔乙话阋雇韺W(xué)習(xí)效率高，但從數(shù)據(jù)判定看我就是不努力學(xué)習(xí)的那個人，會不會太偏見了?！币凰煼秾W(xué)校的申姓老師也表示，通過監(jiān)控，老師確實更了解學(xué)生，工作效率也提高了，但教師的行為暴露在天眼之下，導(dǎo)致一些課件偽裝、業(yè)績作假的行為出現(xiàn)，同樣會阻礙真實教學(xué)的發(fā)生。

在人臉識別的圈子，邊界至今仍是一個探不到底的“規(guī)則黑洞”。隨著手機解鎖的普遍應(yīng)用，人臉識別終將面臨被泄露和被濫用的風(fēng)險。

而一些校園啟動的“智慧德育”系統(tǒng)，更易引發(fā)倫理爭議。設(shè)想一個場景，以往老師看到做好事或調(diào)皮搗蛋的孩子，如果不是本班學(xué)生，根本不知道是誰?，F(xiàn)在好了，只要掏出手機，對準(zhǔn)學(xué)生一咔嚓，屏幕立即跳出他的信息，父母職位、孩子年齡、家庭情況摸得門清兒，結(jié)合不同學(xué)生家庭信息，老師是否會使用不同處理方式，不好說，但可以肯定，傳統(tǒng)的有教無類，學(xué)生平等，在類似情形下被“刷臉神器”撬動了。

中國教育科學(xué)研究院研究員儲朝暉認為，在人工智能的包辦下，教育鏈條或只剩下智能，“人工”慢慢在減少，但技術(shù)對于教學(xué)只能是錦上添花，并不能替代教與學(xué)的位置。“水至清則無魚，這個簡單的道理誰都懂，如果人臉識別沒用對地方，很可能得到一個‘留得住學(xué)生的人，留不住學(xué)生的心的結(jié)果。”

什么時候該刷臉，刷臉的倫理界限在哪里，關(guān)于邊界的社會矛盾對沖也越發(fā)凸顯。一位刷臉系統(tǒng)代理商劉闖告訴記者，曾經(jīng)有一家健身房找上他們，說為了防止實體鑰匙丟失，希望在更衣室儲物柜上加入“刷臉”系統(tǒng)，他的第一反應(yīng)是“拒絕”?！澳阍诟率业墓褡由鲜褂脭z像頭，本身就是一個非常大的錯誤，這種涉及公眾隱私的場所，應(yīng)該堅決不允許人臉識別?！?/p>

那么，換言之，在公共場所使用人臉識別就變得合理正當(dāng)了嗎？未必。法國巴黎的一家書店，通過分析監(jiān)控視頻，仔細觀察購物者的動作，店員會上前做出“心領(lǐng)神會”的服務(wù)，但在機器面前，每一個強忍住的哈欠，每一絲惱怒的表情都會被察覺，人際關(guān)系可能變得更加理性，也似乎會更加機械而冷漠，試問，這樣的上帝視角真的好嗎？

此前，公眾就對谷歌曾研發(fā)的一款裝在智能手機上的街景軟件，表達過強烈不滿，原因是當(dāng)這個軟件掃描街景時，也會對路過的行人進行面部信息采集，最終谷歌妥協(xié)并對人臉信息打馬賽克。只不過“上帝視角”的按鈕一旦觸發(fā)，誰又會保證不會有“第二個谷歌”出現(xiàn)，偷偷在你走路時，坐在地鐵時，不知不覺將你的人臉信息搜集走，而你卻毫無察覺。

在人臉識別的圈子，邊界至今仍是一個探不到底的“規(guī)則黑洞”。

人臉被賣的風(fēng)險 很可怕

那么，問題來了，是不是本人只要不做違法違規(guī)的壞事，信息被采集也無所謂。正如蘋果公司CEO庫克曾說過的話，“技術(shù)本身沒有好與壞，一切由我們?nèi)藖頉Q定”。

在人臉識別快速發(fā)展的四年，安全隱患與倫理后果，并不是危言聳聽。今年9月，有媒體報道，網(wǎng)上有商家公開兜售17萬條“人臉數(shù)據(jù)”，涵蓋2000人的肖像，每個人約有50到100張照片，而被兜售者并不知情。

據(jù)兜售的商家稱，自己平時從事人工智能相關(guān)工作，收集人臉數(shù)據(jù)發(fā)售，不過就是“掙個飯錢”而已，在其售賣的人臉樣本中，一部分是從搜索引擎上抓取的，另一部分來自境外一家軟件公司的數(shù)據(jù)庫等。早在2017年，前美國中央情報局技術(shù)分析員斯諾登就曾預(yù)言，隨著手機解鎖的普遍應(yīng)用，人臉識別終將面臨被泄露和被濫用的風(fēng)險。

以曇花一現(xiàn)的換臉游戲“ZAO”為例，披著“隱形條款”公然搜集用戶人臉信息，它降低了AI換臉的使用門檻，但同樣可能被愛炫富的微商們用于“和明星總統(tǒng)握手”的虛假宣傳，如果馬云“親自代言”的視頻很奏效，“馬云語錄”的雞血開場白取代也是分分鐘的事。

早在2017年底，國外一位ID為“deepfakes”的網(wǎng)友，就利用換臉技術(shù)將色情作品中的主角換成明星臉，并上傳到著名的色情影片分享網(wǎng)站Pornhub上，試想一下，如果有人把我們換臉成犯罪事件主角、被綁架的人質(zhì)……或者偽裝成我們進行視頻通話，對親友進行詐騙，后果不堪設(shè)想。

2017年9月4日，沈陽，行人闖紅燈人臉識別系統(tǒng)顯示信息大屏亮相十字路口。

當(dāng)然，更可怕的是“有人偽裝你的臉”，福布斯記者Thomas Brewster曾用合成的一張3D頭像，打印出一個3D頭型，并成功解鎖了4款手機，人臉識別被成功騙過，足以證明偽裝門檻到底有多低。記者用淘寶搜索“假臉面皮”，發(fā)現(xiàn)以二三十塊的極低價格，即可輕松買到周潤發(fā)、劉德華、周星馳等明星的乳膠面具，有商家也可接受定制。

“ZAO”下架后的第一時間，支付寶曾站出來回應(yīng)，“不管換臉軟件多逼真，都無法突破刷臉支付?！钡诖笈脩粢验_通“刷臉支付”的當(dāng)下，人們難免戰(zhàn)戰(zhàn)兢兢。中國圖像圖形學(xué)學(xué)會可視化與可視分析專委會秘書長、天津大學(xué)軟件工程專業(yè)教授張加萬表示，人臉識別技術(shù)并沒有人們想象的那么安全，即使人臉識別中的活體檢測技術(shù)，也并非銅墻鐵壁般牢靠，“如果人臉數(shù)據(jù)和個人信息打通，將徹底迎來透明時代，整個面部識別也就形同虛設(shè)了”。

隨著低成本、快速、大量地記錄，存儲和分析人臉圖像的能力終有一天會使隱私、公平和信任等發(fā)生根本性的改變。今年5月，巧達科技就利用大量代理IP地址、偽造設(shè)備標(biāo)識等技術(shù)手段“打通”數(shù)據(jù)，非法竊取用戶信息，36名嫌疑人連續(xù)兩年獲利5.3億元。辦案民警介紹，爬蟲工程師將搜集來的2.2億份簡歷、10億份通訊錄，重新合并、排列，結(jié)合社會、組織、家庭關(guān)系，“再比對”后形成完整的簡歷和用戶畫像。

張加萬表示，由于面部信息是具有唯一性特征的生物信息，銀行卡信息泄露還可以更換銀行卡，人臉信息泄露后將是終身泄露。未來，非?？赡艹霈F(xiàn)的場景是：當(dāng)我們走進一家商店，店員立刻就能知曉關(guān)于我們的一切：身份、職業(yè)、收入、偏好、性格……而當(dāng)這一天來臨時，每個人都將處于“裸奔”狀態(tài)，甚至戴上面具也無濟于事，因為攝像頭還能識別你的體型甚至步態(tài)。

技術(shù)跑在了監(jiān)管前面

坦白講，我們除非與世隔絕，否則無法完全拒絕人臉識別。

以換臉游戲“ZAO”為例，技術(shù)是成熟的，之所以不能被推廣，就是因為還有很多法律、倫理問題沒有討論清楚。美國學(xué)術(shù)界、政府機構(gòu)和初創(chuàng)企業(yè)試圖從技術(shù)上設(shè)置“安全壁壘”，比如推出自己的圖像、視頻驗證、標(biāo)記技術(shù)，期望通過在你拍攝照片或視頻的時候自動添加時間、位置信息等方式，對抗AI換臉視頻、圖片帶來的威脅，但顯然無法解決根本矛盾。

上海申蘊律師事務(wù)所陸斌律師向《新民周刊》表示，目前國家還沒有一部針對“人臉識別”“刷臉”問題的專門法律，對于網(wǎng)絡(luò)運營商采集的公民“人臉識別”，只能援引《民法總則》《侵權(quán)責(zé)任法》《網(wǎng)絡(luò)安全法》等法律來進行保障。關(guān)于個人敏感信息、生物信息等還沒有明確的法律界定，建議盡快通過立法予以明確。

對于個人而言，需要在便利性和個人信息保護上權(quán)衡和取舍，對于珍視個人信息勝于便利的人，最好完全不使用任何要求進行人臉識別的 App，通過市場機制倒逼企業(yè)做好隱私保護。

當(dāng)技術(shù)跑在了監(jiān)管前面，刷臉就該被禁用嗎？在陸斌看來，如果法律跟不上就限制科技發(fā)展，是“因噎廢食”的做法，不明智也不可取，總體來說，“刷臉”“二維碼”“指紋識別”等新技術(shù)的發(fā)展帶給社會的便利顯然是利大于弊的。綜合目前世界多國的做法，立法強化對人臉信息搜集的應(yīng)用場景約束已經(jīng)開始。今年7月，馬薩諸塞州的薩默維爾市成為美國第二個禁止人臉識別的城市，但只是禁止了公共場所的使用權(quán)，并未涉及商業(yè)范疇。

2019年4月6日，北京奧林匹克公園中心區(qū)，公廁內(nèi)的人臉識別廁紙機

“人臉識別技術(shù)在商業(yè)上的使用無法一刀切禁止”，對外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任許可認為，從理論上講，所有的數(shù)據(jù)都有泄露的可能。對于個人而言，需要在便利性和個人信息保護上權(quán)衡和取舍，對于珍視個人信息勝于便利的人，最好完全不使用任何要求進行人臉識別的App，通過市場機制倒逼企業(yè)做好隱私保護。

至于人們擔(dān)心的金融支付安全，央行科技司司長李偉在9月20日的金融網(wǎng)絡(luò)安全論壇上建議，一方面，不要簡單地將人臉特征作為唯一的交易驗證因素，須根據(jù)風(fēng)險等級結(jié)合用戶口令等其他因素進行多因素認證;另一方面，金融機構(gòu)在相關(guān)交易時，人臉數(shù)據(jù)采集應(yīng)提前告知用戶信息使用的方式，明確獲得客戶授權(quán)。

不過有專家也提醒，現(xiàn)在對于人臉數(shù)據(jù)的科普還遠遠不能讓人們充分意識到其隱藏的風(fēng)險，“很多客戶根本看不懂那些授權(quán)文件里的內(nèi)容代表哪些具體內(nèi)涵，但為了使用那些服務(wù)，還是同意了授權(quán)?！币虼?，在技術(shù)仍存在風(fēng)險的時候，廣泛應(yīng)用于各種商業(yè)領(lǐng)域，應(yīng)當(dāng)慎重。

中國人民大學(xué)法學(xué)院教授劉俊海表示：“針對刷臉支付，監(jiān)管者應(yīng)當(dāng)與時俱進，盡快出臺相應(yīng)的法律法規(guī)，自覺消除監(jiān)管的漏洞，用技術(shù)來強化監(jiān)管。監(jiān)管者也應(yīng)當(dāng)盡快出臺相關(guān)的生物特征有關(guān)的信息采集的法律規(guī)則和技術(shù)標(biāo)準(zhǔn)。關(guān)于（消費者）所處的位置、活動軌跡、瀏覽的習(xí)慣等等，都應(yīng)當(dāng)納入法制的監(jiān)管軌道上來?！?/p>

除此之外，劉俊海認為：企業(yè)也應(yīng)當(dāng)自律，推廣刷臉技術(shù)時換位思考，解決痛點，能夠證明自己采集的消費者的生物信息等敏感信息，是合法、透明、安全的。今年5月，我們關(guān)于數(shù)據(jù)的立法出臺，明確規(guī)定網(wǎng)絡(luò)運營方在收集個人信息時，必須明確經(jīng)過用戶同意，禁止以默認授權(quán)、功能捆綁等形式強迫、誤導(dǎo)。歐洲監(jiān)管機構(gòu)在2018年5月生效的《通用數(shù)據(jù)保護條例》，也規(guī)定將包括“臉紋”在內(nèi)的生物信息屬于其所有者，使用這些信息需要征得本人同意，值得借鑒。

教育部科學(xué)技術(shù)司司長雷朝滋接受媒體采訪時也曾發(fā)出提醒，建議學(xué)校慎重使用這些技術(shù)軟件，關(guān)于學(xué)生的個人信息，能不采集就不采集，能少采集就少采集。這些警告同樣適用于城市管理、商業(yè)運作甚至個人生活，關(guān)鍵在于，雷朝滋的提醒是否能夠引起人們的足夠重視？“刷臉”時代里，公眾能否對自己的安全負責(zé)？

有一句話說科技是為懶人而生，越懶越方便越好。據(jù)一位智慧社區(qū)項目代理商回憶，他們在做智慧社區(qū)項目時，有些小區(qū)用戶希望使用人臉識別系統(tǒng)的同時，保留原來的磁扣門禁等方式，他們照做了，“但體驗過刷臉的人基本都把磁扣方式忘掉了，因為他嘗到了便捷的甜頭”。