王祿生

內(nèi)容摘要：在人工智能的視域下，情感計(jì)算是感知、識(shí)別、模擬、影響人類情感狀態(tài)的各類智能技術(shù)的統(tǒng)稱。盡管該技術(shù)已經(jīng)在醫(yī)療、教育、商業(yè)、就業(yè)、執(zhí)法等領(lǐng)域獲得應(yīng)用，但仍然面臨法律、倫理與技術(shù)的多維困境。從法律上看，情感計(jì)算的應(yīng)用可能與個(gè)人信息權(quán)、隱私權(quán)、人身自由權(quán)等形成沖突;從倫理上看，情感計(jì)算的終極目標(biāo)與道德哲學(xué)領(lǐng)域?qū)η楦凶灾餍缘膹?qiáng)調(diào)不相兼容;從技術(shù)上看，情感計(jì)算仍然面臨著基礎(chǔ)理論與實(shí)際成效的質(zhì)疑。為了推動(dòng)情感計(jì)算應(yīng)用的良性發(fā)展，需要從兩方面展開法律規(guī)制：一是以“輕推”為限度，調(diào)和情感自主性與情感計(jì)算終極目標(biāo)之間的張力;二是以風(fēng)險(xiǎn)為基礎(chǔ)，按照比例原則對(duì)不可接受、高風(fēng)險(xiǎn)、中風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)四類應(yīng)用實(shí)施從完全禁止到行業(yè)自律的不同規(guī)制。

關(guān)鍵詞：情感計(jì)算 情緒識(shí)別 情緒智能 人工智能 比例原則 法律規(guī)制

中圖分類號(hào)：DF0? 文獻(xiàn)標(biāo)識(shí)碼：A? 文章編號(hào)：1674-4039-（2021）04-0049-60

近年來，情感計(jì)算技術(shù)越來越多地走進(jìn)公眾的日常生活。商店使用情感計(jì)算來感知客戶的情緒與興趣、學(xué)校使用情感計(jì)算衡量學(xué)生在課堂的快樂程度與參與程度，雇主使用情感計(jì)算評(píng)估求職者的情緒反應(yīng)并監(jiān)控員工在工作時(shí)的面部表情。隨著情感計(jì)算應(yīng)用的日益擴(kuò)展，公眾對(duì)情感計(jì)算的態(tài)度開始悄然轉(zhuǎn)變。大致以2019年為轉(zhuǎn)折點(diǎn)，域外在倫理、技術(shù)和法律層面對(duì)情感計(jì)算的批評(píng)以及要求強(qiáng)化治理的呼聲日益高漲。同年召開的情感計(jì)算會(huì)議ACII首次增加了關(guān)于情感計(jì)算技術(shù)濫用的專題研討?！? 〕2021年4月21日歐盟委員會(huì)向歐洲議會(huì)和歐洲理事會(huì)提交的《關(guān)于人工智能（人工智能法案）的協(xié)調(diào)規(guī)則和修改某些聯(lián)盟立法法案的條例的提案》（以下簡稱《歐盟人工智能協(xié)調(diào)規(guī)則的提案》）第52條明確規(guī)定“情緒識(shí)別系統(tǒng)”使用者的告知義務(wù)。同時(shí)，按照該提案，情感計(jì)算的諸多應(yīng)用屬于“高風(fēng)險(xiǎn)”應(yīng)用，需要接受從“搖籃到墳?zāi)埂比芷诘膰?yán)格監(jiān)管。

我國是世界范圍內(nèi)情感計(jì)算技術(shù)最為主要的研發(fā)與應(yīng)用國之一。人臉識(shí)別、語音識(shí)別等感知智能技術(shù)的大面積應(yīng)用為情感計(jì)算技術(shù)在近年來的迅速發(fā)展鋪平了道路。目前，我國情感計(jì)算領(lǐng)域的發(fā)明專利申請(qǐng)數(shù)接近1200項(xiàng)，其中67%是在2018年之后申請(qǐng)，僅2020年的申請(qǐng)量就接近總量的1/4。〔2 〕在情感計(jì)算的技術(shù)譜系中，情緒識(shí)別是最為重要的領(lǐng)域。有媒體樂觀估計(jì)僅“多模態(tài)情緒識(shí)別技術(shù)”的市場(chǎng)可以達(dá)到千億元人民幣的量級(jí)?！? 〕良好的發(fā)展前景吸引了企業(yè)的投入，目前直接帶有“情緒識(shí)別”業(yè)務(wù)標(biāo)簽的企業(yè)達(dá)到43家，相關(guān)企業(yè)各類“情緒識(shí)別”的軟件著作權(quán)、專利為757項(xiàng)。〔4 〕實(shí)踐中，情感計(jì)算已經(jīng)在我國教育、交通、醫(yī)療、執(zhí)法等多個(gè)領(lǐng)域投入應(yīng)用。該技術(shù)在我國的迅猛發(fā)展態(tài)勢(shì)引發(fā)了多個(gè)域外研究機(jī)構(gòu)的關(guān)注，其中不乏尖銳的批評(píng)之聲。相較迅猛發(fā)展實(shí)踐而言，我國法律界對(duì)于這一技術(shù)的關(guān)注尚不充分，因此有必要對(duì)其技術(shù)邏輯、實(shí)踐應(yīng)用、現(xiàn)實(shí)困境和法律規(guī)制等重要方面展開專門探討。

一、情感計(jì)算的技術(shù)邏輯

（一）情感計(jì)算的概念厘清

由于技術(shù)發(fā)展路徑的多元屬性，“情感計(jì)算”及其相關(guān)概念層出不窮，并在內(nèi)涵與外延上具有不確定性。除了情感計(jì)算之外，與之密切相關(guān)的概念還有情緒識(shí)別、情緒智能、情感識(shí)別等。與此同時(shí)，在諸多文獻(xiàn)中，“情感計(jì)算”還廣泛地與人臉識(shí)別、語音識(shí)別、人工智能等各類技術(shù)交叉混用。對(duì)于公眾而言，可能會(huì)直接產(chǎn)生如下疑問：情感計(jì)算都是人工智能技術(shù)嗎？情感計(jì)算中的“情感”與情緒識(shí)別中的“情緒”具有同一指涉性嗎？“計(jì)算”和“識(shí)別”是不同的過程亦或是同一行為的不同表達(dá)？人臉識(shí)別、語音識(shí)別與情感計(jì)算之間是何種技術(shù)邏輯關(guān)系？因此，在展開正式論證之前，有必要對(duì)本文“情感計(jì)算”指涉的內(nèi)容作一個(gè)必要的交待，以便不同背景的參與者能夠在同一基礎(chǔ)上展開討論。

一般認(rèn)為，情感計(jì)算由羅莎琳德·皮卡德在1997年正式提出，意指“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或有意影響情緒或其他情感現(xiàn)象的計(jì)算”?！? 〕從語詞原意來看，“情感”包括“情緒”“心情”兩個(gè)部分，前者主要是短期的，可以通過表情來體現(xiàn)，如憤怒、恐懼、悲傷、愉悅、惡心和驚喜;后者則具有一定的延續(xù)性，比如好心情、壞心情。所以，“情感計(jì)算”實(shí)際上是一個(gè)寬泛的概念，它包括任何與個(gè)人情緒、心情狀態(tài)相關(guān)的計(jì)算機(jī)程序。從這個(gè)意義上說，“情緒識(shí)別”是“情感計(jì)算”的有機(jī)組成部分。情感計(jì)算產(chǎn)生之初并非都與人工智能有關(guān)。測(cè)謊儀的工作原理就是一種情感計(jì)算，即通過儀器對(duì)呼吸、血壓、脈搏等信息進(jìn)行監(jiān)測(cè)，并分析其對(duì)應(yīng)的緊張、恐懼、焦慮等情感狀態(tài)，進(jìn)而判定受測(cè)者是否說謊。隨著人工智能技術(shù)的發(fā)展，情感計(jì)算日益與AI結(jié)合。典型的比如“AI+情緒識(shí)別技術(shù)”之后形成的“情緒智能識(shí)別技術(shù)”。該技術(shù)利用人臉識(shí)別、語音識(shí)別等“遠(yuǎn)程生物特征識(shí)別系統(tǒng)”提取表情、語音、步態(tài)、姿勢(shì)等各類生物特征信息，從而識(shí)別對(duì)象的情緒狀態(tài)。也正是在這個(gè)意義上，情感計(jì)算技術(shù)與人臉識(shí)別等感知智能技術(shù)產(chǎn)生關(guān)聯(lián)——后者是前者進(jìn)行情緒識(shí)別的前置技術(shù)環(huán)節(jié)?？梢?，按照嚴(yán)格的標(biāo)準(zhǔn)，情感計(jì)算并不必然采用人工智能的路徑。不過，在人工智能泛在和泛化的發(fā)展趨勢(shì)之下，情感計(jì)算通常被視作一種人工智能技術(shù)。舉例而言，《歐盟人工智能協(xié)調(diào)規(guī)則的提案》第3條給“情緒識(shí)別系統(tǒng)”的定義就直接與人工智能關(guān)聯(lián)——一種人工智能系統(tǒng)，用于根據(jù)自然人的生物特征數(shù)據(jù)識(shí)別或推斷自然人的情緒或意圖。事實(shí)上，近年來對(duì)情感計(jì)算技術(shù)的諸多批評(píng)也主要集中在人工智能的技術(shù)框架內(nèi)（如人臉識(shí)別）。筆者正是在人工智能的視域下探討情感計(jì)算技術(shù)，意指感知、識(shí)別、模擬、影響人類情感狀態(tài)的各類智能技術(shù)的統(tǒng)稱。

（二）情感計(jì)算的技術(shù)路徑

情感計(jì)算在技術(shù)邏輯上與人工智能技術(shù)緊密綁定，大致可以分為感知、識(shí)別、模擬、影響四個(gè)環(huán)節(jié)?！? 〕具體而言，情感計(jì)算的第一步是通過各類傳感器實(shí)現(xiàn)對(duì)自然人各類生物信息的“感知”，這種感知可以通過非接觸式的遠(yuǎn)程識(shí)別的方式實(shí)現(xiàn)（如攝像頭、話筒），也可以通過接觸式的傳感器實(shí)現(xiàn)（比如血壓儀）?，F(xiàn)階段情感計(jì)算在感知階段的數(shù)據(jù)源具有多樣性，主要是聲音、表情、肢體語言、姿勢(shì)等各類生物信息?！? 〕人臉識(shí)別、語音識(shí)別等感知智能技術(shù)的成熟為情感計(jì)算的“感知”環(huán)節(jié)提供了扎實(shí)的支撐。在完成各類信息感知的基礎(chǔ)之上，情感計(jì)算技術(shù)進(jìn)入“識(shí)別”環(huán)節(jié)?！白R(shí)別”要借各類情感識(shí)別模型。現(xiàn)階段，識(shí)別模型的生成主要采用有監(jiān)督深度學(xué)習(xí)的方式。具體而言，就是依托各類基本情感理論，人為地將特定的生物信息與情感狀態(tài)關(guān)聯(lián)。在實(shí)操層面即通過人工標(biāo)注，為各類“提取特征”添加情感標(biāo)簽，如語速快速、響亮可能對(duì)應(yīng)恐懼、憤怒或喜悅的情感狀態(tài)，語速緩慢、低音調(diào)則可能對(duì)應(yīng)疲勞、厭倦或悲傷的情感狀態(tài)?！? 〕在完成了足夠多的標(biāo)注之后，深度學(xué)習(xí)技術(shù)（包括但不限于卷積神經(jīng)網(wǎng)絡(luò)CNN、遞歸神經(jīng)網(wǎng)絡(luò)RNN、區(qū)域候選網(wǎng)絡(luò)RPN）可以通過模型訓(xùn)練形成與各類自然人生物信息特征相對(duì)應(yīng)情感的識(shí)別模型。這種典型的大數(shù)據(jù)智能范式也被稱作“鸚鵡（學(xué)舌）模式”，也就是不斷為人工智能“填喂”大量做好標(biāo)注的“語料”，人工智能在學(xué)習(xí)足夠多的情感“語料”后就能總結(jié)規(guī)律，逐步形成特定情感狀態(tài)的識(shí)別模型。在此基礎(chǔ)上，當(dāng)有新的聲音、表情等生物信息進(jìn)入系統(tǒng)后，系統(tǒng)可以根據(jù)情感識(shí)別模型進(jìn)行識(shí)別。從本質(zhì)上看，情感識(shí)別模式的運(yùn)作機(jī)理是對(duì)各種情感的概率分析。因此，該過程更大程度是一種“計(jì)算”而非真正意義的“識(shí)別”，或者說“識(shí)別”是通過“計(jì)算”的方式實(shí)現(xiàn)。

當(dāng)然，“識(shí)別”只是初級(jí)的應(yīng)用。按照皮卡德對(duì)“情感計(jì)算”的原初定義，該技術(shù)實(shí)際上分為三類：“與情感相關(guān)的計(jì)算”“產(chǎn)生于情感的計(jì)算”以及“有意影響情感的計(jì)算”。換言之，該類技術(shù)的終極目標(biāo)是在“識(shí)別”基礎(chǔ)之上使計(jì)算機(jī)具備“模擬”自然人情緒的能力，并且能夠根據(jù)不同情境采取相應(yīng)策略來“影響”自然人的情緒。也就是讓機(jī)器具備情感智能，能夠以最佳的方式識(shí)別和調(diào)節(jié)（自己或他人）情感的能力?！? 〕從這個(gè)意義上說，“識(shí)別”只是“情感計(jì)算”技術(shù)邏輯中的有機(jī)組成環(huán)節(jié)。以情感計(jì)算領(lǐng)域潛在的應(yīng)用機(jī)器人教師為例，在理想的設(shè)計(jì)方案中，機(jī)器人教師可以通過視線、瞳孔大小、語氣、韻律、姿勢(shì)甚至是皮膚電導(dǎo)、肌肉電位、心血管測(cè)量、腦電位等感知對(duì)學(xué)習(xí)者的情感狀態(tài)進(jìn)行識(shí)別，如興趣水平、動(dòng)機(jī)、理解力、熱情以及學(xué)習(xí)中被認(rèn)為重要的其他因素。在對(duì)學(xué)習(xí)者回應(yīng)時(shí)，機(jī)器人教師可以保持眼神交流，并改變自己面部表情來提供反饋?！?0 〕此種設(shè)想就涵蓋了情感計(jì)算中感受、識(shí)別、模擬、影響的所有流程。

二、情感計(jì)算的應(yīng)用觀察

情感計(jì)算應(yīng)用的實(shí)質(zhì)是通過感知、識(shí)別、模仿和影響人們的情感狀態(tài)來更好地作出決策、提供服務(wù)、提升幸福感?！?1 〕主流應(yīng)用有兩類：其一是情感計(jì)算的結(jié)果作用于被識(shí)別者本人，通過改變其情感狀態(tài)而治療疾病、提高體驗(yàn)，典型的例子是利用情感計(jì)算治療自閉癥;其二是情感計(jì)算的結(jié)果作用于被識(shí)別者之外的第三人，提供各類決策輔助，比如在招聘環(huán)節(jié)使用情感計(jì)算。當(dāng)前，情感計(jì)算技術(shù)正在被迅速商業(yè)化并在醫(yī)療、教育、商業(yè)、就業(yè)、執(zhí)法等領(lǐng)域獲得應(yīng)用。

（一）醫(yī)療領(lǐng)域的情感計(jì)算

許多心理和生理狀況，包括自閉、抑郁和中風(fēng)，都會(huì)影響理解、控制或交流情感的能力。情感計(jì)算已被用于評(píng)估和治療各種疾病，并改善與情感有關(guān)的交流。一家名為Affectiva的公司開發(fā)了一款“谷歌眼鏡”式的設(shè)備，可以幫助自閉癥患者解讀與他們互動(dòng)的其他人的社交和情感線索?！?2 〕還有研究人員通過腦機(jī)接口和熱像儀，根據(jù)人體檢測(cè)到的數(shù)據(jù)進(jìn)行情緒分析，并用以輔助治療自閉癥或抑郁癥患者?！?3 〕除此之外，醫(yī)療情感聊天機(jī)器人也被認(rèn)為具有廣泛的應(yīng)用前景。所謂的醫(yī)療情感聊天機(jī)器人其實(shí)是一種包含信號(hào)分析和自動(dòng)語音識(shí)別、語義分析和對(duì)話策略、響應(yīng)生成和語音合成組件的自主系統(tǒng)， 〔14 〕可以使用情感計(jì)算技術(shù)與病人進(jìn)行交互，以檢測(cè)情感，確定并模擬情感答案。

（二）教育領(lǐng)域的情感計(jì)算

在教育領(lǐng)域，利用情感計(jì)算技術(shù)，計(jì)算機(jī)可以通過面部表情的識(shí)別來判斷學(xué)習(xí)者的學(xué)習(xí)狀態(tài)。與此同時(shí)，該技術(shù)還可以讓教師了解學(xué)生的內(nèi)心感受，從而制定更具個(gè)性化的教學(xué)方案。隨著在線教學(xué)的日益擴(kuò)展，情感計(jì)算被認(rèn)為可以提升師生互動(dòng)質(zhì)量，改善因?yàn)槿狈鹘y(tǒng)課堂學(xué)習(xí)氛圍而導(dǎo)致的厭學(xué)情緒?！?5 〕總部位于波士頓的BrainCo公司正在研發(fā)一種頭帶，通過檢測(cè)大腦活動(dòng)來監(jiān)測(cè)和量化學(xué)生的注意力水平?！?6 〕實(shí)際上，我國智慧教育建設(shè)中對(duì)情感計(jì)算的使用已經(jīng)走在世界前列。浙江部分中學(xué)推行的“智慧課堂”項(xiàng)目可以通過教室前端的三個(gè)攝像頭識(shí)別七種情緒（恐懼、快樂、厭惡、悲傷、驚訝、憤怒和中性）和六種行為（讀、寫、聽、站、舉手、趴在桌子上）?！?7 〕系統(tǒng)每隔30秒會(huì)進(jìn)行一次掃描，實(shí)時(shí)分析出學(xué)生們?cè)谡n堂上的狀態(tài)?！?8 〕新東方推出“AI雙師課堂”可以通過“慧眼系統(tǒng)”對(duì)每個(gè)學(xué)生的面部進(jìn)行情緒識(shí)別，除了可以識(shí)別學(xué)生是否認(rèn)真聽講，還可以辨別出“高興、悲哀、驚訝、正常、憤怒”等情緒，老師可根據(jù)學(xué)生的情緒表現(xiàn)，掌握學(xué)生對(duì)于課程內(nèi)容的真實(shí)反饋，以對(duì)教學(xué)內(nèi)容作進(jìn)一步精煉與提升?！?9 〕

（三）就業(yè)領(lǐng)域的情感計(jì)算

就業(yè)領(lǐng)域情感識(shí)別的使用也出現(xiàn)了激增，在求職者或員工不知情的情況下進(jìn)行工作能力判斷。HireVue和VCV等公司提出對(duì)求職者進(jìn)行“勇氣”等品質(zhì)的篩選，并追蹤他們微笑的頻率。〔20 〕其中HireVue開發(fā)的系統(tǒng)利用求職者的電腦或手機(jī)攝像頭分析他們的面部表情、用詞和說話聲音，然后根據(jù)自動(dòng)生成的“就業(yè)能力”得分將他們與其他求職者進(jìn)行排名。據(jù)稱已有超過100家雇主使用該系統(tǒng)，其中不乏國際知名企業(yè)，并且已經(jīng)對(duì)100萬名名以上的求職者進(jìn)行了分析?！?1 〕此外，根據(jù)韓國經(jīng)濟(jì)研究所（KERI）的數(shù)據(jù)，該國排名前131位的公司中有近1/4正在使用或計(jì)劃使用AI進(jìn)行招聘。〔22 〕

（四）商業(yè)領(lǐng)域的情感計(jì)算

商業(yè)領(lǐng)域的情感計(jì)算應(yīng)用旨在根據(jù)情感的識(shí)別為顧客提供更為優(yōu)質(zhì)的服務(wù)。2019年8月，亞馬遜宣稱其Rekognition面部識(shí)別軟件可以評(píng)估包括恐懼在內(nèi)的8種情緒。零售是該軟件潛在的應(yīng)用場(chǎng)景，商店可以通過該軟件分析購物者的實(shí)時(shí)圖像，以檢測(cè)情感，進(jìn)而有針對(duì)性地提供服務(wù)。〔23 〕Kairos公司也推出一款銷售視頻分析攝像機(jī)，聲稱可以檢測(cè)人臉，并將其歸類為憤怒、恐懼和悲傷的情緒。Kairos主要向賭場(chǎng)、餐館、零售商人、房地產(chǎn)經(jīng)紀(jì)人和酒店行業(yè)銷售該產(chǎn)品，并承諾將幫助這些企業(yè)了解其顧客的情感情況。〔24 〕情感計(jì)算還被應(yīng)用到聊天機(jī)器人之中，Cogito和Empathath兩款程序就使用語音分析算法監(jiān)控客戶的反應(yīng)，并在他們聽起來很沮喪時(shí)向呼叫專員發(fā)出信號(hào)，以提醒專員轉(zhuǎn)變對(duì)話策略?！?5 〕中國公司EmoKit通過語音采集數(shù)據(jù)，根據(jù)音頻、音色、音調(diào)等數(shù)據(jù)輸出人的情緒類型。EmoKit產(chǎn)品正式在一家金融機(jī)構(gòu)的線下門店和APP上線，用以評(píng)估用戶騙貸的可能性，作為其風(fēng)控的最后一個(gè)環(huán)節(jié)?！?6 〕2019年長城汽車宣布推出“智能安全系統(tǒng)（Collie）”，包括情感識(shí)別的功能，當(dāng)該系統(tǒng)檢測(cè)到司機(jī)“憤怒”時(shí)會(huì)自動(dòng)播放更歡快的音樂。〔27 〕

（五）執(zhí)法領(lǐng)域的情感計(jì)算

情感計(jì)算也開始應(yīng)用于邊境檢查、案件偵查等執(zhí)法領(lǐng)域，利用對(duì)不特定公眾情緒的識(shí)別，發(fā)現(xiàn)異常情況、鎖定嫌疑人。例如，美國和英國的警察正在使用檢測(cè)軟件Converus，該軟件通過檢查眼球運(yùn)動(dòng)和瞳孔大小的變化來識(shí)別潛在的欺騙行為?！?8 〕iBorderCtrl是在匈牙利、拉脫維亞和希臘試用的一種預(yù)先篩選的人工智能系統(tǒng)，它的攝像頭在游客回答邊境安全人員的問題時(shí)，掃描識(shí)別臉部表情以發(fā)現(xiàn)可能撒謊的人員?！?9 〕中國在各地推動(dòng)的智慧城市和智慧司法建設(shè)中也開始采用情緒識(shí)別技術(shù)。比如，“阿爾法鷹”的情感計(jì)算技術(shù)基于前庭情感反射理論，通過攝像頭采集的人體面部視頻流，分析頭部和頸部微小肌肉振動(dòng)的頻率和振幅，計(jì)算出個(gè)人壓力、侵略性和焦慮度等參數(shù)，甄別有自體原發(fā)性焦慮緊張狀態(tài)的潛在可疑危險(xiǎn)人員以輔助安檢人工排查?！?0 〕還比如，“靈視多模態(tài)情緒研判系統(tǒng)”通過非接觸式的視頻對(duì)話，發(fā)現(xiàn)測(cè)試人的實(shí)時(shí)情緒，針對(duì)特定關(guān)鍵問題的情緒變化，采集包含微表情、微動(dòng)作、聲強(qiáng)、心率與體溫五種模態(tài)，集合在審訊場(chǎng)景下的定制化算法，可以挖掘被訊問人對(duì)相關(guān)問題的反應(yīng)程度，掌握被訊問人心理和生理反應(yīng)，用以突破其心理防線，獲得供述?！?1 〕又比如，“太古人工智能”推出的“無感知情緒監(jiān)測(cè)分析系統(tǒng)”主要面向?qū)徲崍?chǎng)景，結(jié)合視頻圖像處理、并行計(jì)算、深度學(xué)習(xí)等技術(shù)，采用非接觸的生理信號(hào)采集、微表情識(shí)別方法，保證在對(duì)象無感知的基礎(chǔ)上建立量化情緒模型，實(shí)現(xiàn)情緒監(jiān)控和分析?！?2 〕

三、情感計(jì)算應(yīng)用的多維困境

（一）情感計(jì)算應(yīng)用的法律問題

情感計(jì)算與人臉識(shí)別等知名的生物識(shí)別應(yīng)用不同，后者旨在識(shí)別個(gè)人，而前者則是在識(shí)別個(gè)人的基礎(chǔ)之上進(jìn)一步推斷一個(gè)人的內(nèi)在情緒。因此，情感計(jì)算的應(yīng)用會(huì)對(duì)公民基本權(quán)利造成不成比例的風(fēng)險(xiǎn)。

首先，由于與人臉識(shí)別等感知智能技術(shù)在邏輯上具有前后承接性，情感計(jì)算技術(shù)的應(yīng)用將直接與個(gè)人信息的諸多權(quán)能形成沖突?！?3 〕一方面，正如本文第一部分提及的那樣，情感計(jì)算技術(shù)的研究與應(yīng)用需要借助大量信息，尤其是生物識(shí)別信息。如果這類基礎(chǔ)信息可以單獨(dú)或者結(jié)合其他信息與個(gè)人身份關(guān)聯(lián)，則符合我國現(xiàn)行法律規(guī)范中的“個(gè)人信息”。另一方面，從基礎(chǔ)信息轉(zhuǎn)換而來一類新的信息——情感信息，如果與特定個(gè)人身份相關(guān)聯(lián)，則仍然構(gòu)成“個(gè)人信息”。此時(shí)，相關(guān)應(yīng)用在收集和處理上述信息時(shí)可能與個(gè)人信息保護(hù)的相關(guān)規(guī)范形成直接沖突?，F(xiàn)階段絕大多數(shù)情感計(jì)算應(yīng)用并不會(huì)明確告知被識(shí)別者該應(yīng)用具有情感識(shí)別功能，也不會(huì)將情感識(shí)別的結(jié)果告知被識(shí)別者，由此被識(shí)別個(gè)人的知情權(quán)、刪除權(quán)、更正權(quán)將受到直接侵犯。

其次，情感計(jì)算的應(yīng)用還可能對(duì)個(gè)人隱私權(quán)形成直接的侵犯。眾所周知，情感是一種個(gè)人的內(nèi)在感受。對(duì)于一般公眾而言，控制情緒使其不輕易呈現(xiàn)是重要的社會(huì)規(guī)則，尤其是內(nèi)疚、沮喪、恐懼、焦慮等負(fù)面情緒。在特定的情形下，人可能需要呈現(xiàn)一種虛假的情緒，典型的如“善意的謊言”。同時(shí)，情感狀態(tài)的完全暴露還可能會(huì)讓一個(gè)人更容易受到傷害。因此，情感信息尤其是個(gè)人不愿意外露的情感帶有敏感和私密的性質(zhì)。按照我國民法典第1032條第2款規(guī)定，隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動(dòng)、私密信息。公眾不愿意外露的情感狀態(tài)就屬于不愿意為他人知曉的私密信息。情感計(jì)算技術(shù)的引入具有極強(qiáng)的“侵入性”，大大超出了公眾在公開場(chǎng)合期望保持個(gè)人情感隱私的預(yù)期。盡管基于明顯表情推斷情緒可能不足以上升到“窺探”隱私的程度，但微表情或者因刺激而短暫出現(xiàn)的面部表情則是非自愿的情感泄露（暴露真實(shí)的情感）， 〔34 〕具有明顯的隱私意涵，更不說借助面部血流、瞳孔擴(kuò)張等更加細(xì)微的表征而完成的對(duì)情感的“刺探”。按照民法典第1033條的規(guī)定，除了“法律另有規(guī)定或者權(quán)利人明確同意外”，其他侵犯隱私的行為不具合法性的。對(duì)于情感隱私的侵入性獲取如果沒有獲得權(quán)利人的明確同意，則具有侵權(quán)的可能。

再次，情感計(jì)算的應(yīng)用還可能間接地對(duì)人身自由產(chǎn)生負(fù)面影響。民法典第109條規(guī)定，自然人的人身自由受法律保護(hù)。人身自由包括身體自由和精神自由。后者是指自然人按照自己的意志，在法律規(guī)定的范圍內(nèi)自主思維的權(quán)利。情感計(jì)算應(yīng)用的重要假設(shè)是可以推斷內(nèi)心的真實(shí)情感，并應(yīng)當(dāng)以此為基礎(chǔ)作出決策。人們可能會(huì)為了避免讓自己的情感被定義為“危險(xiǎn)”“可疑”“注意力不集中”而被迫作出符合“良好”情感標(biāo)簽的生理表達(dá)。如果情感計(jì)算能夠準(zhǔn)確識(shí)別并呈現(xiàn)每個(gè)人實(shí)時(shí)的情緒，那將很可能給公眾帶來不必要的壓力，讓人無法自由地思想，并處于時(shí)刻在監(jiān)控之下的恐懼之中。

最后，情感計(jì)算的部分應(yīng)用還與人格尊嚴(yán)、平等保護(hù)等形成沖突。本文第二部分提及的在智慧招聘和智慧課堂推行過程中，通過情感計(jì)算，將受聘人群劃分為“高情緒控制力”和“低情緒控制力”，把學(xué)生區(qū)分為“精力集中”“精力不集中”，這種帶有價(jià)值導(dǎo)向的分類無疑對(duì)人格尊嚴(yán)形成侵犯。更為重要的是，相關(guān)情感計(jì)算應(yīng)用實(shí)質(zhì)上需要根據(jù)計(jì)算結(jié)果對(duì)不同分類的人群采取差異化、個(gè)性化的策略?？紤]到后文將會(huì)詳細(xì)論及的情感計(jì)算的諸多技術(shù)瓶頸，此種差異化對(duì)待的理由正當(dāng)性存疑，可能對(duì)特定人群形成歧視。

（二）情感計(jì)算應(yīng)用的倫理沖突

情感狀態(tài)與人類價(jià)值和情緒緊密相連，尤其在道德判斷中至關(guān)重要。此外，情感在人類生活中起著核心作用，它在人際關(guān)系、形成群體并在決策和推理中發(fā)揮重要作用。它是人類與社會(huì)互動(dòng)的基本方式之一。〔35 〕對(duì)于情感計(jì)算相關(guān)倫理問題的討論實(shí)際上與道德哲學(xué)息息相關(guān)。由于情感計(jì)算關(guān)注的是人類的情感，并在技術(shù)邏輯上以影響人的情感為最終目的，而情感問題又與倫理在多個(gè)層面錯(cuò)綜交織。這就使得情感計(jì)算應(yīng)用除了面臨各類法律問題外，還面臨一系列倫理挑戰(zhàn)。

其一，基礎(chǔ)倫理學(xué)高度重視人類情感，影響情感的情感計(jì)算技術(shù)被認(rèn)為會(huì)影響人的道德標(biāo)準(zhǔn)及自由意志。在經(jīng)驗(yàn)主義倫理學(xué)中，情感被視為道德判斷的根源。大衛(wèi)·休謨和亞當(dāng)·斯密等人認(rèn)為，所謂的錯(cuò)事，就是一種我們“道德情感”無法接受的狀況;在功利主義倫理學(xué)的視野中，基本的道德義務(wù)是使幸福感最大化。換言之，情感是我們成為道德人的核心。在上述將情感視作道德基石的哲學(xué)流派看來，情感計(jì)算應(yīng)用在影響了情感的同時(shí)也就影響了人類的道德標(biāo)準(zhǔn)。與基于情感的道德理論相比，康德認(rèn)為道德的基石是根據(jù)理智原則來行使自由意志。情感計(jì)算因?yàn)榭赡苡绊懬楦羞M(jìn)而影響自由意志，因此具有深遠(yuǎn)的道德意義?！?6 〕在這個(gè)角度上看，情感計(jì)算影響情感的嘗試就顯得“不道德”。

其二，實(shí)用倫理學(xué)對(duì)“善意”“不作惡”“誠實(shí)守信”的基本要求也可能與情感計(jì)算的應(yīng)用形成潛在沖突。與基礎(chǔ)倫理學(xué)相比，實(shí)用倫理學(xué)更接近常識(shí)系統(tǒng)，也更容易促進(jìn)共識(shí)。實(shí)用倫理學(xué)中的關(guān)鍵原則，諸如“忠信/誠實(shí)守信”“不作惡”“善意”“己所不欲，勿施于人”同樣成為批判情感計(jì)算“不道德”的重要工具。在公眾視角中，情感計(jì)算可以通過遠(yuǎn)程方式“窺探”公眾的情緒并加以運(yùn)用?！?7 〕此外，智慧教育中對(duì)情感計(jì)算的應(yīng)用雖然使得根據(jù)學(xué)生情緒進(jìn)行定向化教育成果可能，但這種情感識(shí)別可能會(huì)侵犯學(xué)生的隱私，并為使用情感數(shù)據(jù)來操縱學(xué)生提供可能;執(zhí)法領(lǐng)域使用情感計(jì)算可能會(huì)讓監(jiān)管者獲得關(guān)于員工情緒穩(wěn)定性和壓力耐受性的敏感信息?！?8 〕這些很可能被視作“非善意”“己所不欲，反施于人”，因此在倫理上不被接受。與此同時(shí)，情感計(jì)算的部分還在倫理上與“欺騙”關(guān)聯(lián)。在電子隱私信息中心（EPIC）向美國聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission）對(duì)HireVue的指控中，明確認(rèn)為該系統(tǒng)使用未經(jīng)驗(yàn)證的人工智能系統(tǒng)來掃描人們的面部和聲音，并評(píng)估求職者的水平的做法是“不公平和有欺騙性的”?！?9 〕更為重要的還在于，批評(píng)者們還注意到情感認(rèn)知的邏輯與不可信的種族科學(xué)和面相學(xué)之間的相似性，前者認(rèn)為個(gè)人價(jià)值和性格可以從身體特征中辨別出來，后者被用來證成生物差異為社會(huì)不平等辯護(hù)?！?0 〕

（三）情感計(jì)算應(yīng)用的技術(shù)瓶頸

情感計(jì)算技術(shù)的底層依據(jù)來自“基本情感理論”（Basic Emotion Theory， BET），該理論由心理學(xué)家保羅·?？寺≒aul Ekman）在1970年提出，認(rèn)為人們可以從面部表情中可靠地辨別出情緒狀態(tài)，并且此種表情與情緒的關(guān)聯(lián)具有跨文化上的普遍性?！?1 〕依據(jù)該理論，情感計(jì)算的應(yīng)用是建立在三個(gè)假設(shè)之上：（1）可以從一個(gè)人的外在表達(dá)來衡量一個(gè)人的內(nèi)在情感（如面部表情、聲音、姿態(tài)等各類生物信息）;（2）這個(gè)內(nèi)在情感的外在表達(dá)在世界范圍內(nèi)既離散又統(tǒng)一，用技術(shù)話語來解讀就是具有提取特征上的普遍性;（3）這種挖掘（推論）足夠可靠，可以用來作出決策。不過，在情感計(jì)算的發(fā)展過程中，對(duì)上述三個(gè)假設(shè)的質(zhì)疑始終存在。盡管樂觀者認(rèn)為情緒識(shí)別等技術(shù)可以不斷迭代優(yōu)化，但極端的批評(píng)者則認(rèn)為，情感計(jì)算沒有強(qiáng)有力的科學(xué)證據(jù)支持，并以不道德和不負(fù)責(zé)任的方式被應(yīng)用，是一種偽科學(xué)。〔42 〕

第一，外在表達(dá)與內(nèi)在情感之間的關(guān)聯(lián)存在不確定性。情感計(jì)算在技術(shù)邏輯上的根本問題在于它是基于反向推理，即一個(gè)特定的生理信息被用來表示一種情緒體驗(yàn)。從計(jì)算的角度來看，所有這些來源都是生理信號(hào)，具有分析和解釋上的共同困難。一方面，相同的生理信息可能表達(dá)了不止一種情緒，而實(shí)際上理解情緒需要更多的情境細(xì)節(jié)支撐。有實(shí)證研究揭示，所有六種情緒平均上只與面部表情有微弱的聯(lián)系?！?3 〕另一方面，在強(qiáng)烈刺激的環(huán)境下，受試者的生理信號(hào)和情緒之間可以建立較為明確的關(guān)聯(lián)。但對(duì)于情感計(jì)算而言，如果要在評(píng)估可用性或推動(dòng)互動(dòng)中廣泛使用心理生理學(xué)和相關(guān)的傳感技術(shù)，則它們必須能夠檢測(cè)出用戶對(duì)細(xì)微的刺激反應(yīng)?，F(xiàn)有技術(shù)尚未證明在細(xì)微和自然的情況下可以確定地檢測(cè)到這種反應(yīng)。整體而言，心理生理數(shù)據(jù)非常復(fù)雜，難以證明其與情緒之間的因果關(guān)系?！?4 〕

第二，外在表達(dá)與情感之間的關(guān)聯(lián)在世界范圍內(nèi)存在差異性。有學(xué)者回顧了上千項(xiàng)關(guān)于情緒表達(dá)的研究后發(fā)現(xiàn)，人們?cè)诓煌幕?、不同情況下，甚至在同一情況下，在溝通他們的情緒狀態(tài)時(shí)，存在著大量的差異。因此，無論計(jì)算算法多么復(fù)雜，利用這項(xiàng)技術(shù)來得出情感結(jié)論還為時(shí)過早。〔45 〕與此同時(shí)，正如本文第一部分所強(qiáng)調(diào)的那樣，情感計(jì)算采用的有監(jiān)督學(xué)習(xí)范式，需要人工對(duì)情緒進(jìn)行標(biāo)注。該過程的主觀性也加劇了表達(dá)與情感之間關(guān)聯(lián)的差異性。

第三，該技術(shù)在應(yīng)用結(jié)果上具有不可靠性。正是因?yàn)橥庠诒磉_(dá)與內(nèi)在情感之間的不確定性、多樣性、數(shù)據(jù)標(biāo)注的主觀性，這使得現(xiàn)階段情感計(jì)算技術(shù)在準(zhǔn)確性上難以充分保障。例如，ProPublica報(bào)道稱，美國部分學(xué)校、監(jiān)獄、銀行和醫(yī)院安裝了由Sound Intelligence公司開發(fā)的情感計(jì)算應(yīng)用軟件，旨在暴力爆發(fā)前檢測(cè)壓力和攻擊性。但“攻擊性檢測(cè)器/主動(dòng)探測(cè)器”并不可靠，它可能將咳嗽這樣的粗糙、高音調(diào)的聲音誤判為攻擊性。〔46 〕另一項(xiàng)研究發(fā)現(xiàn)Face++和Face API兩款軟件分配給特定人群更多消極情緒得分，不管他們笑得多開心。〔47 〕前文提及的iBorderCtrl系統(tǒng)也因?yàn)樵u(píng)估結(jié)果的“假陽性”以及歧視性的潛在風(fēng)險(xiǎn)而在試用后短期內(nèi)被撤回。〔48 〕

四、情感計(jì)算應(yīng)用的法律規(guī)制

當(dāng)前，我國對(duì)于情感計(jì)算技術(shù)的法律規(guī)制體系尚未構(gòu)建。一方面，這為該技術(shù)的迅猛發(fā)展提供了寬松的制度環(huán)境;另一方面也為技術(shù)應(yīng)用引發(fā)的多維風(fēng)險(xiǎn)埋下隱患。情感計(jì)算技術(shù)的應(yīng)用需要有公眾信任作為支撐，其面臨的倫理、法律和技術(shù)困境無疑會(huì)侵蝕公眾的信任度。因此，從推動(dòng)情感計(jì)算技術(shù)良性發(fā)展的視角來看，勢(shì)必需要對(duì)其應(yīng)用進(jìn)行合理的法律規(guī)制，以應(yīng)對(duì)法律、倫理、技術(shù)三個(gè)維度的困境。具體而言，就是以“輕推”為限度設(shè)定情感計(jì)算應(yīng)用的底線。在此基礎(chǔ)上，對(duì)符合底線要求的應(yīng)用再根據(jù)風(fēng)險(xiǎn)等級(jí)進(jìn)行差異化的規(guī)制。

（一）以“輕推”為限度的底線規(guī)制

正如本文第三部分論及的那樣，基礎(chǔ)倫理學(xué)與實(shí)用倫理學(xué)均高度重視情感，將其視作影響道德判斷和人的主體性的重要因素。因此，人們應(yīng)當(dāng)尊重他人控制其情緒狀態(tài)的自主權(quán);獲得有關(guān)個(gè)人情感狀態(tài)信息施加了一種責(zé)任，即不得濫用該信息并利用該人的脆弱性?！?9 〕在此背景下，情感計(jì)算應(yīng)用的法律規(guī)制需要調(diào)和倫理學(xué)對(duì)情感自主性的強(qiáng)調(diào)與情感計(jì)算以影響情感為終極目標(biāo)之間的張力。簡言之，就是在綜合考量倫理困境與技術(shù)困境的基礎(chǔ)上，通過法律設(shè)定情感計(jì)算技術(shù)對(duì)個(gè)人情感影響的限度，進(jìn)而有效避免情感計(jì)算技術(shù)被濫用風(fēng)險(xiǎn)。筆者認(rèn)為，可以借鑒行為經(jīng)濟(jì)學(xué)與行為科學(xué)成熟的理論框架，以“輕推”為限度構(gòu)建一套情感計(jì)算應(yīng)用的底線規(guī)制體系。

“輕推”對(duì)應(yīng)的英文“nudge”的原始含義是指輕輕推某人，尤指用肘輕輕推某人，以引起他們的注意。諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者理查德·泰勒和美國最偉大的法學(xué)家之一卡斯·桑斯坦在2008年共同提出了“輕推”的理論。它是指通過正向強(qiáng)化和間接建議，影響群體或個(gè)人的行為和決策，但個(gè)人仍然有選擇自由。眾所周知，個(gè)人并非絕對(duì)意義上的理性經(jīng)濟(jì)人，會(huì)受到各種偏見的影響，有時(shí)候作出的決策往往是一種本能反應(yīng)，而人往往對(duì)這種本能反應(yīng)過于自信，引發(fā)大量的錯(cuò)誤決策，此時(shí)就必須“輕推一把”，讓人意識(shí)到錯(cuò)誤并走上正軌。關(guān)于何為“輕推”，理查德·泰勒和卡斯·桑斯坦將其概括為“自由主義的溫和專制主義”。具體而言，私人和公共選擇設(shè)計(jì)者所作的并不僅僅是要極力追蹤或者實(shí)現(xiàn)人們所期待的選擇，他們更加可以追求的是通過改變?nèi)藗兊男袨榉绞綇亩顾麄兩畹酶?。他們使用的是一種助推?！拜p推”指的是這種選擇體系的任何一方面，都不通過強(qiáng)制的方式，而是以一種預(yù)言方式去改變?nèi)藗兊倪x擇或者改變他們的經(jīng)濟(jì)動(dòng)機(jī)及行為?！?0 〕

按照上述理論框架，應(yīng)通過法律明確規(guī)范情感計(jì)算技術(shù)對(duì)人類情感的干預(yù)限度和方式：（1）情感計(jì)算應(yīng)用中施加的影響情感措施只能以“輕推”為限度，不得直接“操縱/控制”情感。簡言之，“輕推而不控制”是法律規(guī)制的核心內(nèi)容。那種通過腦機(jī)接口（BCI）的方式直接作用于神經(jīng)進(jìn)而影響情感的方案與“輕推”的法律要求根本沖突。〔51 〕（2）情感計(jì)算應(yīng)用中施加的影響情感措施不得妨礙人們的自由選擇，不禁止其他選項(xiàng)。舉例而言，智能駕駛系統(tǒng)在識(shí)別司機(jī)情緒不佳時(shí)播放舒緩的音樂，如果用戶仍然有選擇的自由，則是一種輕推;但如果用戶只能聽舒緩的音樂，則是一種命令，因?yàn)樗懦擞脩舻淖灾鬟x擇。（3）情感計(jì)算應(yīng)用中施加的影響情感措施不能顯著增加選擇者的負(fù)擔(dān)，并且可以通過低成本的方式輕易避免。（4）情感計(jì)算應(yīng)用中施加的影響情感措施原則上只能是“積極助推”，禁止“負(fù)面助推”。（5）對(duì)于未成年人、精神病人、殘疾人等易受傷害人群，作為法律保留事項(xiàng)，需要更為嚴(yán)格的限制和專業(yè)指導(dǎo)。一言以蔽之，“輕推”可以用自由選擇與適當(dāng)引導(dǎo)兩個(gè)關(guān)鍵詞來概括。通俗來講，情感計(jì)算的“輕推”就是發(fā)現(xiàn)特定主體情緒存在一定問題，用各種策略“輕推一把”讓他/她能夠回歸正軌。當(dāng)然，在特定情況下，比如醫(yī)療領(lǐng)域應(yīng)用情感計(jì)算時(shí)，可以適當(dāng)超越“輕推”的范疇，但需要更加謹(jǐn)慎的態(tài)度和專業(yè)的論證。綜上所述，“輕推”為情感計(jì)算的應(yīng)用范圍和方式設(shè)定了底線。

（二）以風(fēng)險(xiǎn)為基礎(chǔ)的差異規(guī)制

與絕大多數(shù)科學(xué)技術(shù)相同，情感計(jì)算技術(shù)是一把“雙刃劍”。從正面來看，情感計(jì)算智能技術(shù)的應(yīng)用能夠有助于更好地理解和控制情緒與情感狀態(tài)，可以改善生活質(zhì)量、挽救生命、提高人機(jī)交互體驗(yàn)等;從負(fù)面來看，情感計(jì)算則可能對(duì)個(gè)人權(quán)利造成諸多侵害?！?2 〕因此，情感計(jì)算技術(shù)的法律規(guī)制，除了以“輕推”為底線之外，還應(yīng)當(dāng)按照以風(fēng)險(xiǎn)為基礎(chǔ)的比例原則構(gòu)建一套法律規(guī)制體系。申言之，就是根據(jù)情感計(jì)算應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)強(qiáng)度來動(dòng)態(tài)調(diào)整法律規(guī)制的類型與內(nèi)容。一方面，要合理考慮情感計(jì)算應(yīng)用對(duì)權(quán)利與倫理的影響強(qiáng)度與范圍;另一方面，嚴(yán)格按照風(fēng)險(xiǎn)的等級(jí)差異，等比例提供規(guī)制方案，高風(fēng)險(xiǎn)對(duì)應(yīng)高規(guī)制強(qiáng)度、低風(fēng)險(xiǎn)對(duì)應(yīng)低規(guī)制強(qiáng)度。如表1所示，首先將情感計(jì)算應(yīng)用的風(fēng)險(xiǎn)分為“不可接受”和“可接受”兩大類，將那種觸碰倫理基本底線的情感計(jì)算應(yīng)用（如作惡）歸并為“不可接受的風(fēng)險(xiǎn)”。在此基礎(chǔ)上，根據(jù)風(fēng)險(xiǎn)的差異化表征進(jìn)一步將“可接受的風(fēng)險(xiǎn)”劃分為“高風(fēng)險(xiǎn)”“中風(fēng)險(xiǎn)”“低風(fēng)險(xiǎn)”，并分別對(duì)應(yīng)差異化的規(guī)制方案。

所謂的“不可接受的風(fēng)險(xiǎn)”，是指觸碰倫理禁區(qū)和價(jià)值底線的情感計(jì)算應(yīng)用。根據(jù)該技術(shù)現(xiàn)有的發(fā)展態(tài)勢(shì)來看，主要有以下三種情形：（1）試圖直接操縱、控制他人情緒的情感計(jì)算應(yīng)用。在底線規(guī)制的構(gòu)建中筆者已經(jīng)指出，按照道德哲學(xué)的基本要求，情感的自主性具有極高的倫理地位，因此干預(yù)情感應(yīng)該以“輕推”為限度。超越該限度直接控制情感的做法既屬于倫理禁區(qū)也屬于法律禁區(qū)。（2）追求不正當(dāng)目的的情感計(jì)算應(yīng)用。比如旨在激起特定人群積極情緒（暴力、好戰(zhàn)）的應(yīng)用，又比如雇主通過情感計(jì)算技術(shù)來控制雇員情緒，使其總是處于積極工作的情緒之中。（3）濫用技術(shù)，利用人性的弱點(diǎn)，比如未成年人、精神病人在年齡、身體或精神上的脆弱性從而扭曲個(gè)人情感的情感計(jì)算應(yīng)用。〔53 〕上述三種情形的情感計(jì)算應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)在法律上屬于“不可接受”的范疇，因此應(yīng)當(dāng)完全禁止。

所謂“高風(fēng)險(xiǎn)”，是指那種可能嚴(yán)重影響個(gè)人權(quán)利，尤其是教育、健康、安全等基本權(quán)利的情感計(jì)算應(yīng)用。這里的“嚴(yán)重影響”，是指基于情感計(jì)算的結(jié)果直接決定個(gè)人教育、社會(huì)保障、醫(yī)療、就業(yè)、安全、健康等基本權(quán)利的有無。也就是說，情感計(jì)算結(jié)論成為“剝奪”個(gè)人基本權(quán)利的直接依據(jù)。具體而言，此類應(yīng)用表現(xiàn)為公私機(jī)構(gòu)利用情感計(jì)算技術(shù)對(duì)個(gè)人進(jìn)行評(píng)估，在此基礎(chǔ)上形成評(píng)分或者分類標(biāo)簽，進(jìn)而決定特定個(gè)人能否進(jìn)入教育機(jī)構(gòu)、享受特定的保險(xiǎn)待遇、獲得特定的工作機(jī)會(huì)等。按照情感計(jì)算技術(shù)發(fā)展的趨勢(shì)來看，主要有以下四種情形：（1）在教育系統(tǒng)中使用情感計(jì)算技術(shù)，用于確定進(jìn)入教育機(jī)構(gòu)的資格，或?qū)?duì)特定人群情緒控制能力的評(píng)估作為接受教育的一部分或者前提;（2）在就業(yè)領(lǐng)域使用情感計(jì)算技術(shù)，用于人員的招募和甄選，決定晉升或解雇;（3）在公共服務(wù)領(lǐng)域使用情感計(jì)算技術(shù)決定個(gè)人是否獲得和享受某些必不可少的公共服務(wù)，如獲得公租房、電力、電信服務(wù)等;（4）在執(zhí)法領(lǐng)域使用情感計(jì)算技術(shù)判斷特定公眾的危險(xiǎn)程度或供述的可信度，以決定是否采用非羈押措施、緩刑等。前文提及的基于情感計(jì)算技術(shù)在就業(yè)、執(zhí)法等領(lǐng)域應(yīng)用中就有此類情形。此類應(yīng)用可能會(huì)對(duì)個(gè)人的教育、職業(yè)等權(quán)利產(chǎn)生極為深刻和廣泛的影響。加之情感計(jì)算在技術(shù)上的不穩(wěn)定性，對(duì)其應(yīng)用還可能導(dǎo)致特定群體被排斥在享受特定基本權(quán)利之外。這實(shí)際上侵犯了尊嚴(yán)和不歧視的平等與正義價(jià)值觀，導(dǎo)致特定群體在整個(gè)社會(huì)交往環(huán)境中處于特別被動(dòng)的地位，并將此種歧視以技術(shù)形式固化。對(duì)于這類“高風(fēng)險(xiǎn)”應(yīng)用需要嚴(yán)格限制，原則上被禁止，只有公共服務(wù)機(jī)構(gòu)基于公共利益而展開，且需要配合以全流程的監(jiān)管措施。

所謂的“中風(fēng)險(xiǎn)”，是指那種中度影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用。具體而言，就是對(duì)個(gè)人權(quán)利產(chǎn)生實(shí)質(zhì)影響，但并不決定特定權(quán)利有無的狀態(tài)。盡管如此，考慮到對(duì)個(gè)人權(quán)利影響的實(shí)質(zhì)性以及現(xiàn)有技術(shù)的不穩(wěn)定性，仍然需要將他們歸并為“中風(fēng)險(xiǎn)”應(yīng)用。比如，智慧教育中基于學(xué)生的情緒識(shí)別而采用差異化的教學(xué)策略雖然影響了不同學(xué)生的受教育權(quán)，但卻并未作為教育的準(zhǔn)入資格條件而存在。對(duì)于“中風(fēng)險(xiǎn)”的情感智能技術(shù)，原則上可以應(yīng)用，但是要構(gòu)建一套全生命周期的監(jiān)管措施。除了符合已有法律規(guī)范的相關(guān)要求之外，筆者認(rèn)為，可以參考《歐盟人工智能協(xié)調(diào)規(guī)則提案》的相關(guān)規(guī)制體系并結(jié)合我國的實(shí)踐確定如下流程監(jiān)管措施：（1）風(fēng)險(xiǎn)管理機(jī)制：構(gòu)建完備的情感計(jì)算應(yīng)用風(fēng)險(xiǎn)評(píng)估系統(tǒng)，從倫理、法律和技術(shù)三個(gè)維度綜合審查已經(jīng)發(fā)生或者可能發(fā)生的各類風(fēng)險(xiǎn)，并對(duì)各類風(fēng)險(xiǎn)發(fā)生的應(yīng)對(duì)措施作提前預(yù)案。同時(shí)，風(fēng)險(xiǎn)評(píng)估要在全生命周期內(nèi)不斷迭代與更新。（2）數(shù)據(jù)治理機(jī)制：構(gòu)建數(shù)據(jù)獲取、標(biāo)注、訓(xùn)練的治理機(jī)制，將風(fēng)險(xiǎn)和歧視的結(jié)果降至最低。比如，在情緒識(shí)別的樣本選擇時(shí)需要考慮不同性別的人群構(gòu)成，保障訓(xùn)練樣本的代表性;在數(shù)據(jù)標(biāo)注時(shí)需要統(tǒng)一培訓(xùn)，按照一致的標(biāo)準(zhǔn)。（3）技術(shù)保障機(jī)制：情感計(jì)算應(yīng)用的開發(fā)者應(yīng)當(dāng)保障技術(shù)具有實(shí)現(xiàn)開發(fā)目的的準(zhǔn)確性、穩(wěn)定性與安全性。要引入獨(dú)立第三方對(duì)各項(xiàng)技術(shù)的性能指標(biāo)進(jìn)行充分的測(cè)試與驗(yàn)證。（4）流程備份機(jī)制：對(duì)應(yīng)用的全過程進(jìn)行記錄以保證可追溯性。（5）信息透明機(jī)制：使用者應(yīng)當(dāng)向用戶提供清晰、充分的信息，包括技術(shù)的現(xiàn)有準(zhǔn)確性、安全性等內(nèi)容都需要在使用說明中明確聲明。（6）信息備案機(jī)制：將應(yīng)用的相關(guān)信息提交相關(guān)主管機(jī)構(gòu)備案。在應(yīng)用發(fā)展過程中，要及時(shí)更新。

所謂的“低風(fēng)險(xiǎn)”，是指輕度影響或者不影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用。比如，在情感聊天系統(tǒng)中，根據(jù)對(duì)用戶情緒的識(shí)別自動(dòng)調(diào)整聊天方式。對(duì)于低風(fēng)險(xiǎn)的應(yīng)用，法律在原則上不施加明顯的規(guī)制，只是作出最基礎(chǔ)的透明義務(wù)要求，比如明確告知用戶正在與具備情感識(shí)別功能的系統(tǒng)交互。就好比電話中涉及錄音時(shí)會(huì)提醒“本次通話可能被錄音”一樣，在涉及情感計(jì)算時(shí)需要提示“你的情緒可能被檢測(cè)”?！?4 〕在此基礎(chǔ)上，相關(guān)企業(yè)可以按照企業(yè)自律的方式合理選擇全流程監(jiān)管措施中的一項(xiàng)或者多項(xiàng)，以提升企業(yè)的合規(guī)能力。

結(jié)? 語

我國對(duì)于技術(shù)規(guī)制的路徑通常是采用回應(yīng)型的立法，即在技術(shù)發(fā)展已經(jīng)無處不在并已經(jīng)暴露現(xiàn)實(shí)風(fēng)險(xiǎn)時(shí)再考慮規(guī)制。在此之前，給予特定技術(shù)以充分的發(fā)展空間。對(duì)于即將迅猛發(fā)展且可能比人臉識(shí)別更具侵入性的情感計(jì)算技術(shù)而言，對(duì)其規(guī)制可能需要采取更具前瞻性的“先發(fā)制人”立法。尤其在“不可接受風(fēng)險(xiǎn)”的應(yīng)用已經(jīng)處于研發(fā)狀態(tài)、“高風(fēng)險(xiǎn)應(yīng)用”已然現(xiàn)實(shí)存在的背景下，對(duì)于情感計(jì)算應(yīng)用的有效規(guī)制就顯得尤為必要。唯有如此，方能有效避免對(duì)公民個(gè)人權(quán)利帶來不成比例的損害。當(dāng)然，本文只是對(duì)情感計(jì)算的法律規(guī)制提出了初步的方案。對(duì)于情感計(jì)算與個(gè)人信息保護(hù)規(guī)范之間的銜接、全生命周期監(jiān)管方案還有待在后續(xù)研究中進(jìn)一步細(xì)化。

Abstract： In the perspective of artificial intelligence， affective computing is a collective term for all kinds of intelligent technologies that perceive， emotion recognize， simulate and influence human affect. Although this technology has been applied in medical treatments， education， business， employment， law enforcement and other fields， it still faces multidimensional dilemmas in law， ethics and technology.? In terms of law， the application of affective computing may be in conflict with the right to personal information， privacy and personal freedom.? In terms of ethics， the ultimate goal of affective computing is incompatible with the emphasis on affect autonomy in the field of morality philosophy.? In terms of technology， affective computing is still facing the doubts of the basic theory and practical effect. In order to promote the sound development of the application of affective computing， it is necessary to carry out legal regulation from two aspects： The first is to mediate the tension between affect autonomy and the ultimate goal of affective computing with "nudging" as the limit; Secondly， based on risks， different regulations should be implemented in accordance with the principle of proportionality， ranging from total prohibition to industry self-discipline for the four categories of applications of inadmissible risk， high risk， moderate risk and low risk.

Key words： affective computing; emotion recognition; emotional AI; artificial intelligence; the principle of proportionality; legal regulation