■郭銳

人臉識(shí)別是人工智能技術(shù)的典型應(yīng)用。通過(guò)個(gè)人信息的廣泛收集和運(yùn)用算法對(duì)這些信息進(jìn)行處理，人工智能技術(shù)讓精準(zhǔn)、高效的“區(qū)別對(duì)待” 成為可能。但是，為人們“量身定做” 的差別化待遇意味著什么？ 基于用戶畫像生成的新型“身份”，可能對(duì)社會(huì)產(chǎn)生何種影響？ 這些問(wèn)題，是本文討論人臉識(shí)別的法律和倫理風(fēng)險(xiǎn)問(wèn)題時(shí)所關(guān)注的核心內(nèi)容。

人臉識(shí)別的“分類” 意味著什么

將人臉識(shí)別應(yīng)用于地鐵安檢，是因?yàn)樗軐⒊丝头诸悾@種分類被認(rèn)為可以大大提升安檢的效率。分類背后的原理大致如此：在識(shí)別某一乘客的面部特征后，系統(tǒng)將基于已經(jīng)收集的個(gè)人信息來(lái)將其打上多個(gè)不同的標(biāo)簽，再根據(jù)某一種標(biāo)簽或者多種標(biāo)簽的組合給出針對(duì)這名乘客的處理決定。

但是，設(shè)想如下情形：若有一位乘客在安檢時(shí)總是被特別關(guān)照，地鐵安檢員每次都會(huì)對(duì)其反復(fù)安檢確保無(wú)安全隱患才得以放行。乘客不勝其煩，追問(wèn)原因。答曰：無(wú)可奉告。倘若如此，是否有倫理或者法律上的問(wèn)題？

這正是我們?cè)谌斯ぶ悄軅惱碛懻撝兴缘乃惴ㄆ缫晢?wèn)題。在看似中立的算法中，由于算法的設(shè)計(jì)者的認(rèn)知存在某種偏見(jiàn)，或者訓(xùn)練算法使用了有問(wèn)題的數(shù)據(jù)集等原因，可能讓人工智能系統(tǒng)決策出現(xiàn)有歧視性的結(jié)果。這類事例媒體時(shí)有報(bào)道，例如，在金融領(lǐng)域“降低弱勢(shì)群體的信貸得分”“拒絕向’ 有色人種’ 貸款”“廣告商更傾向于將高息貸款信息向低收入群體展示” 等。

當(dāng)公共服務(wù)或者政府決策中使用人工智能時(shí)，就更需要警惕算法歧視問(wèn)題。就地鐵這一場(chǎng)景，我們已知的是，通過(guò)人臉識(shí)別進(jìn)行的分類安檢將基于分類標(biāo)準(zhǔn)和“白名單” 制度之上。但我們無(wú)從得知，識(shí)別系統(tǒng)是基于怎么樣的標(biāo)準(zhǔn)對(duì)乘客進(jìn)行分類，以及這些標(biāo)準(zhǔn)是否具有正當(dāng)性。

與個(gè)人相關(guān)的標(biāo)簽——乘客的戶籍地、犯罪記錄、家庭情況、工作單位、征信記錄等——是否可以用于人工智能決策?這些標(biāo)準(zhǔn)背后的邏輯何在?是否征信記錄較差的乘客需通過(guò)更嚴(yán)格的安檢?為什么他們一定比其他乘客更有在地鐵犯罪的可能性?諸如此類的問(wèn)題如果尚且不能給出明確的答案，恐將給恣意行政大開(kāi)方便之門。

不論人臉識(shí)別有多么精準(zhǔn)、對(duì)地鐵通行效率的改善有多么顯著，政府在采用人工智能技術(shù)時(shí)首要的責(zé)任是實(shí)現(xiàn)平等保護(hù)。平等保護(hù)意味著分類背后的標(biāo)準(zhǔn)應(yīng)公開(kāi)，且這些標(biāo)準(zhǔn)與所欲達(dá)成目標(biāo)之間的合理關(guān)聯(lián)得到論證;因人工智能技術(shù)使用者的主觀偏見(jiàn)、數(shù)據(jù)樣本污染、人臉技術(shù)本身不成熟等因素帶來(lái)的歧視，應(yīng)一一排除。唯其如此，方能通過(guò)平等保護(hù)的合法性檢驗(yàn)。

應(yīng)警惕身份的回歸

在確保人工智能技術(shù)的應(yīng)用不違反平等保護(hù)原則的基礎(chǔ)上，我們還應(yīng)警惕：在大數(shù)據(jù)的技術(shù)支撐下，基于人臉識(shí)別和多種個(gè)人數(shù)據(jù)形成的用戶畫像越發(fā)成為個(gè)人在數(shù)據(jù)時(shí)代的身份表征。

人工智能技術(shù)之所以飽受青睞，原因之一便在于算法能針對(duì)具體問(wèn)題給出針對(duì)性解決方案。但從技術(shù)上講，任何效率的提升必然涉及對(duì)公民的分類，而分類直接或者間接地關(guān)乎公民的基本權(quán)利。受限于技術(shù)發(fā)展、原始數(shù)據(jù)的偏差、算法設(shè)計(jì)者的偏見(jiàn)，算法歧視時(shí)常發(fā)生。使用人臉識(shí)別算法的標(biāo)簽化判斷方式增加了作出歧視性決策的風(fēng)險(xiǎn)，而這些風(fēng)險(xiǎn)絕大程度上將由本身已處于相對(duì)劣勢(shì)地位的人群承擔(dān)。

在缺乏監(jiān)管、有效保障措施、透明度和問(wèn)責(zé)機(jī)制的情形下，人臉識(shí)別算法的運(yùn)用將加劇不平等現(xiàn)象。而令人擔(dān)憂的是，算法復(fù)雜晦澀的“黑箱” 特性，往往使歧視以一種不易察覺(jué)的方式進(jìn)行。

英國(guó)法律史學(xué)家梅因曾提出社會(huì)現(xiàn)代化轉(zhuǎn)型的最大特征是“從身份到契約”。在“身份社會(huì)” 中，身份意味著特權(quán)。有身份的人，享有特權(quán)，身份越高，特權(quán)越大。

而什么決定了身份本身?托克維爾在 《論美國(guó)的民主》 中批評(píng)了將家庭出身、財(cái)產(chǎn)與職業(yè)將所有的人劃分為不同的身份等級(jí)，因?yàn)樯矸輰⑷藙澐譃槿诺?，并且?dǎo)致社會(huì)上不同身份的人之間交往嚴(yán)格，唯恐“有失身份”。

身份在法律上的表現(xiàn)為，不同的人有不同的法：有身份的人可以利用這種身份特權(quán)去抵消自己的罪行，去謀求罪行的減免，而沒(méi)有身份的人則不享有此等特權(quán)。身份是人治的淵藪，是法治的天敵。

當(dāng)社會(huì)從身份社會(huì)轉(zhuǎn)型至契約社會(huì)時(shí)，身份的作用逐漸淡化。契約社會(huì)“不以出身論英雄”“王子犯法與庶民同罪”。在契約社會(huì)，“人人生而平等”“法律面前人人平等” 的觀念占據(jù)主流。在平等的基礎(chǔ)上，個(gè)人不因家庭出身、財(cái)產(chǎn)、職業(yè)等標(biāo)準(zhǔn)被分類，人們根據(jù)契約而非身份設(shè)定權(quán)利義務(wù)的范圍。契約社會(huì)為個(gè)體注入了更大的可流動(dòng)性，讓個(gè)人得以通過(guò)自身努力改變現(xiàn)狀。

今天，當(dāng)個(gè)人信息的收集和利用越來(lái)越廣泛時(shí)，我們應(yīng)警惕身份的回歸。以標(biāo)簽化、用戶畫像的名義，人臉識(shí)別不僅把過(guò)往行為數(shù)據(jù)與個(gè)人相關(guān)聯(lián)，傳統(tǒng)的家庭出身、性別、財(cái)產(chǎn)、職業(yè)都悄無(wú)聲息地被納入人工智能技術(shù)的決策體系中。

為了通過(guò)既往行為模式判斷未來(lái)行為模式，人臉識(shí)別將在認(rèn)證表面信息的同時(shí)，也在后臺(tái)關(guān)聯(lián)與個(gè)體的過(guò)往行為相關(guān)的標(biāo)簽或用戶畫像。但是，個(gè)體的過(guò)往行為很多時(shí)候與個(gè)體的身份特征有較大關(guān)系，比如出生在貧窮家庭的個(gè)體由于資源的匱乏，受教育率偏低，且相對(duì)于出生在富裕地區(qū)的個(gè)體而言犯罪率相對(duì)較高。上述關(guān)聯(lián)不免與傳統(tǒng)“身份社會(huì)” 的運(yùn)行方式殊途同歸。

重申契約社會(huì)的理念

在《足夠智能的城市》 一書中，作者本·格林指出，“今天城市所使用的技術(shù)將在確定未來(lái)社會(huì)契約方面發(fā)揮重要作用”。

或許有人認(rèn)為，既然人臉識(shí)別的廣泛應(yīng)用已越發(fā)成為大數(shù)據(jù)時(shí)代的必由之路，我們也應(yīng)更新對(duì)傳統(tǒng)社會(huì)管理方式的認(rèn)知。可以想象，在一個(gè)對(duì)技術(shù)不加管制的世界里，人臉識(shí)別的運(yùn)用將迅速且深刻地改變社會(huì)管控的效率和方式，甚至具備著重塑契約社會(huì)內(nèi)涵的可能——人們將人臉識(shí)別技術(shù)視為維持社會(huì)運(yùn)作的必要一環(huán)，并普遍默許對(duì)它的應(yīng)用。但這是否是我們所欲追求的世界？

隨著歷史的車輪向前而建立社會(huì)普遍尊重的契約，該過(guò)程離不開(kāi)公眾的參與。公眾有權(quán)利決定讓渡哪些，以及在何種程度上讓渡屬于自己的權(quán)利，尤其是和個(gè)人自由、隱私相關(guān)的權(quán)利。

在契約社會(huì)中，重要的是主體能夠平等自由地表達(dá)自己的意志，達(dá)成契約。人臉識(shí)別技術(shù)本身并不會(huì)阻礙社會(huì)主體表達(dá)自己的自由意志。但是人臉識(shí)別技術(shù)可能與個(gè)體身份信息緊緊相關(guān)，而隨著技術(shù)的發(fā)展，在主體身份信息完全可由數(shù)據(jù)追蹤后，主體可能會(huì)對(duì)表達(dá)自由意志存在顧慮，也會(huì)進(jìn)一步影響主體在訂立契約的過(guò)程中正常全面的表達(dá)出自己的訴求。這可能也會(huì)造成身份社會(huì)和契約社會(huì)的界限模糊，存在有悖于契約社會(huì)意思自治和平等的初衷。

不論人臉識(shí)別技術(shù)最后將如何滲透到我們生活的方方面面，社會(huì)都需要時(shí)刻警醒：我們?cè)敢鉃橛行У纳鐣?huì)控制和公共效率犧牲多少隱私和個(gè)人空間，這種犧牲的邊界何在？ 忽視倫理風(fēng)險(xiǎn)、輕率地推廣人工智能技術(shù)，必然帶來(lái)層出不窮的對(duì)平等權(quán)利的踐踏。

應(yīng)對(duì)以人臉識(shí)別為代表的人工智能技術(shù)應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，當(dāng)務(wù)之急是要求公共行政中應(yīng)用人工智能技術(shù)必須通過(guò)倫理委員會(huì)的審查和公開(kāi)聽(tīng)證。否則，類似人臉識(shí)別的人工智能技術(shù)應(yīng)用帶來(lái)的擔(dān)憂恐怕難以消失。■