朱雯熙 李亭慧

關鍵詞：行政治理 情感計算 公共倫理 公平正義

一、引言

人工情感技術屬于信息技術的前沿分支范疇，它的產(chǎn)生源于情感電腦對于人類感性情緒的計算，因此可以將其視為“情感計算”的自然延伸。①作為一個快速興起的交叉學科，情感計算致力于以信息科學手段識別、理解、模仿、拓展人類情感，最終實現(xiàn)自然化、擬人化、人格化的“人一機”情感交互的目的。然而，技術創(chuàng)新具有“雙重性”特征，即在升級社會生產(chǎn)方式、催生社會新樣態(tài)的同時，也會對數(shù)據(jù)安全、人的主體地位、人的思維能力造成安全風險和倫理挑戰(zhàn)。技術賦能視域下的情感計算能夠為人工智能決策提供優(yōu)化路徑，以情感變量的輸入幫助機器作出更為人性化、更為合理的決策。但是，情感計算在生理信號的采集和通用性程度、情感標注的準確性、用戶隱私數(shù)據(jù)、情感信息捕獲技術等方面仍然存在問題與挑戰(zhàn)。目前，學界對于情感計算在應用過程中可能產(chǎn)生風險已經(jīng)取得了共識。例如，褚婧一認為情感計算可能會由于對情感信息的不當獲取與利用而引發(fā)情感操縱等隱私風險；②王祿生認為無論是從法律、倫理還是技術層面，情感計算的應用都會引發(fā)相應的風險①等等。但是，就情感計算在某一具體領域的應用可能產(chǎn)生的風險而言，學界目前的探討主要集中在教育學領域。例如，龔善要認為情感計算在教育學領域的適用可能會誘發(fā)技術風險、引發(fā)人格權與受教育權的保護危機、弱化教育場景中“人”的主體地位；②蔣艷雙等學者也指出，情感計算在教育中的應用會存在教師的技術依賴以及智能體的情感欺騙等問題。③總體來看，學界對于情感計算在行政治理領域的應用所展開的專門探討在目前仍然較少。然而，鑒于情感計算在教育培訓、醫(yī)療健康、商業(yè)服務等領域的應用所呈現(xiàn)的技術優(yōu)勢，情感計算運用于行政治理領域也成為趨勢所在。在此背景下，如何預防和規(guī)制情感計算在行政治理領域可能引發(fā)的風險，就成了發(fā)揮情感計算在行政治理領域的技術優(yōu)勢、提高行政治理效能的必要之舉。鑒于情感計算與倫理道德風險的關聯(lián)性以及行政治理的公共性，④本文將從公共倫理的角度對行政治理中情感計算的風險以及可能的規(guī)制路徑予以探討。

二、技術綁定：行政治理中情感計算的應用模式

情感計算作為一門復合型學科，涉及計算機科學、腦科學以及社會科學等多學科領域的內(nèi)容。目前情感計算的主流應用有兩類：一是情感計算的結果作用于被識別者本人，二是情感計算的結果作用于被識別者之外的第三人。前者典型的例子是在醫(yī)療領域，通過改變病人的情感狀態(tài)治療疾病。后者則主要通過提供情感數(shù)據(jù)分析以提高人類決策的準確性和有效性，因此被廣泛運用于各類決策輔助領域。⑤基于后一特性，情感計算可以嵌入行政活動之中，輔助行政治理。若要厘清情感計算在行政治理中的運行機制和潛在風險，還必須從情感計算的技術邏輯緣起進行研究，找到情感計算的本質(zhì)特征，為發(fā)現(xiàn)并解決其潛在的應用風險做好充分準備。

1．技術基礎：情感計算的基本邏輯

一般認為，情感計算的概念緣起于羅莎琳德·皮卡德（Rosalind Picard） 1997年出版的專著《情感計算》。在該書中，皮卡德將情感計算解釋為“與情緒或其他情感現(xiàn)象有關的、產(chǎn)生于或意圖影響情緒和其他情感現(xiàn)象的計算”。⑥情感計算依托于人工智能、大數(shù)據(jù)等信息技術，主要通過感知、識別、模擬、影響⑦等環(huán)節(jié)對人類情感產(chǎn)生作用。首先，在情感計算算法運行的前端路徑中，感知人類情感是基礎。情感感知可以通過接觸手段和非接觸手段實現(xiàn)：前者依賴于接觸式的傳感器直接感知人類情感，諸如血壓儀、脈搏檢測儀等；后者通過非接觸式的遠程技術間接感知人類情感，諸如攝像頭、麥克風等。借助于上述技術手段，情感計算對人類的語音、姿勢、表情、狀態(tài)等情緒進行充分的感知與收集，形成了情感識別的基礎數(shù)據(jù)庫。其次，在情感計算運行的中端路徑中，識別與理解是情感計算的核心環(huán)節(jié)。在情感識別過程中，依托于先前的感知數(shù)據(jù)庫，算法設計會對信息數(shù)據(jù)庫進行全面快速分析并提取出關鍵特征點，以人工介入的方式為上述關鍵特征標注情感標簽。當上述過程累積到一定程度時，即存在足夠數(shù)量的情感標簽時，人工智能就會通過數(shù)據(jù)分析和總結生成識別模型。情感計算系統(tǒng)在經(jīng)過反復模擬訓練的基礎上，尋找與主體情感信息特征相契合的關鍵點自動生成情感計算模型，并借助上述模型模擬主體的情感過程。最后，在情感計算的輸出路徑中，情感影響與拓展是情感計算的終端環(huán)節(jié)。在完成上述感知、識別、模擬環(huán)節(jié)后，情感計算系統(tǒng)通過實時記錄主體的情感變化，根據(jù)已有模型和情感數(shù)據(jù)信息分析主體的情感狀態(tài)，作出情感反饋，從而在人機交互的呈現(xiàn)中滿足主體要求，拓展和影響人類情感。概言之，情感計算的算法設計出發(fā)點在于通過感知、識別、模擬、影響等環(huán)節(jié)對人類情感產(chǎn)生作用，其最終導向是使人工智能理解人類情感，具備情感智能，為強人工智能時代的到來打下堅實基礎。

2．管中窺豹：情感計算在行政治理中的應用場景

情感計算在應用的對象與內(nèi)容上都是以“人”為中心的，突出對人內(nèi)在情緒的感知、識別與干預，與人格尊嚴具有最為密切的聯(lián)系。最終輸出的結果會影響自我與他人的情感狀態(tài)。①那么在行政治理中，情感計算到底是如何來感知、識別、模擬以及影響人類情感的呢？這就需要對情感計算在行政治理中具體的應用場景進行觀察。概言之，目前情感計算在行政治理中主要被運用于以下具體領域：

第一，將情感計算應用于海關檢查中。檢查人員可以根據(jù)情感計算來判斷入境人員的情緒狀態(tài)，發(fā)現(xiàn)其是否存在欺騙行為。人類的情緒變化通常會伴隨著生理信號的變化，用于情感計算的生理信號主要包括腦電、眼動、肌動、皮膚電、心電和呼吸等。②在一些國家，入境檢查會通過掃描入境人員的瞳孔或面部表情來識別其是否撒謊。

第二，將情感計算應用于輿情信息管理中。公職人員可以根據(jù)對程序的設定，通過情感計算的分析，精確地對輿情進行監(jiān)測。文本數(shù)據(jù)通常是指使用文字或符號來描述一件事情所形成的數(shù)據(jù)，是人的語言表達的文字體現(xiàn)。文本情感計算在輿情分析方面有著重要的研究與應用價值，是獲取評價、觀點檢索、網(wǎng)絡輿情檢查、信息預測的重要技術支撐。其中主要包括文本數(shù)據(jù)預處理、情感對象識別、情感信息分類、情感推理等。③而且，文本情感計算還可以通過對文本情感的分析來處理信息的非結構化內(nèi)容。這可以大大減少輿情對社會造成的動蕩與風險，保證社會的持續(xù)穩(wěn)定發(fā)展。

第三，將情感計算運用到交通管理之中。大量的研究表明，在解決某些實際問題時，人類只靠理性分析和決策并不會得到最優(yōu)解。但如果在決策過程中加入人的生理反應（如情感），這有可能幫助人類得到更優(yōu)的決策結果，“flow交通”就是一種可以解決交通問題的多智體控制系統(tǒng)。④將情感計算應用于交通之中，真實地模擬情緒對出行者的影響，提高交通管制的及時性和準確性，有利于改善交通的擁堵情況，提高交通安全保障。

三、風險識別：行政治理應用情感計算之倫理批判

1．去主體化：人格尊嚴被情感計算消弭

當下的行政治理都在強調(diào)作出治理行為時主體之間展開合作，柔性執(zhí)法，將人的尊嚴放在第一位是行政治理的原則。但情感計算的應用將打破將人的尊嚴置于第一這一原則。

首先，維護人格尊嚴是人開展主體行為的基本出發(fā)點，而情感計算由于缺乏真實感情的投入在運用中容易將人當作手段。一方面，情感本就是人類獨有的一種高級心理現(xiàn)象，情感計算無法將情感與人自身、人的需求結合。情感計算根據(jù)自身的邏輯往往會對情感進行不當截取而導致人的情感脫離自我控制而處于“離身”狀態(tài)，⑤不與具體個人產(chǎn)生關聯(lián)，而僅僅是作為技術發(fā)展的手段和原則，這使人無法從情感計算中得到足夠的尊重。另一方面，在情感計算中，即使是人與人之間的情感交流也難以得到尊重。人基于生理本性通過身體在場進行情感交流，而情感計算則宣告人與人的交流脫離人的生理本性。在情感計算的技術目標設定中，未來的終極形態(tài)是無身體的交流。但目前身體的不可復制性使具身情感具有唯一性，而基于情感計算的可復制性以及程序性產(chǎn)生的離身情感并不具有唯一性，而僅是程式化產(chǎn)物。正是人類的生理特性，才能讓人性變得如此獨特，因此人性需要得到尊重，而不應僅僅被當作手段。脫離了人類的生理特性，也就失去了人性的獨特，情感計算讓我們無法確認對方是否具有真正的情感以及進行了真正的情感交流，對人性目的具有一定的崩壞作用。

其次，人的道德地位需要被尊重，人的特性不應被具體的事物所界定，而情感計算正是將人的感情以具體的規(guī)則進行分類，不能保證人的道德地位被尊重。從情感計算的理論特性來看，情感計算的運用以人類設定的情感建模為基礎，而情感建模就是根據(jù)設定者給予的具體數(shù)值而對人的情感狀態(tài)進行可能性推測，但感性的情感是無法通過理性的數(shù)字具體概括的。情感計算得以成立和運用的前提是承認情感可以被具體數(shù)值予以描述，這就意味著，在情感計算的程序中，人的情感可以成為計算模型中的信號。情感計算的目的就是根據(jù)計算與作為本體的人達成等價交換。基于人的情感認知特性，人的尊嚴是道德事業(yè)中最應當被重視的部分，但情感計算只想用具體的數(shù)字去概述人的情感，就注定忽視人的道德地位。從情感計算的內(nèi)部特性來看，情感計算根據(jù)具體的數(shù)值將不可定義且獨特的人類進行分類，根據(jù)性別、種族、膚色以及年齡等物理特點打上固定標簽，根據(jù)人們的受歡迎程度，作出不同的評價。根據(jù)物理特性對人進行分類評價是對人最不尊重的行為，是對人的尊嚴的貶低，因為它忽視了每一個人獨特的情感需求以及人的尊嚴要求的道德地位。

最后，即便基于個人同意也并不意味著情感計算不會危害人的尊嚴。如前所述，情感計算主流應用有兩類：一是應用于被識別者本人，二是應用于被識別者之外的第三人。不能簡單地將被識別者與情感計算達成合意作為證明情感計算或其他應用沒有危害人的尊嚴的證據(jù)。①情感計算背后的數(shù)據(jù)主體享有自主決定數(shù)據(jù)使用的權利，不能僅以使用者個人對目前所使用的程序的意見來證明程序沒有損害人的尊嚴。人性要求人不能把自己當作一個手段實現(xiàn)別的目的，所以要特別注意自主權在什么樣的背景和前提下行使，是否符合人的尊嚴的原理要求，權利的行使要以維護人的尊嚴為目的，換言之，自主權的實際行使方式并不一定與人的尊嚴要求完全符合。另外，根據(jù)現(xiàn)實中的真實情況，個人很難完整理解相關合同的具體條款，甚至并不清楚自己允諾了合同中哪些權利授予，這就說明，自主權在實際運用中也受到一定限制。

2．去秩序化：公平正義被情感計算拋棄

情感計算應用的倫理沖突不僅局限于對個人尊嚴的貶低，還有害于社會的公平正義。一方面，情感計算在各種行政治理中加深應用，會擴大算法歧視的范圍。人的情感通道有很多種，包括人臉表情、語音信號、肢體行為等。情感計算在自然情感判斷中，以面部表情為主要依據(jù)，而這樣的情感計算非常容易犯錯誤，因為目前大多數(shù)人臉表情識別并不完善，缺乏嚴格的規(guī)制，也易被人為地種族歧視和性別歧視干擾。②目前的情感計算所依據(jù)的數(shù)據(jù)基礎并不具有代表性，且相關算法不夠獨立和中立。情感計算不但技術上不成熟，還可能存在算法歧視擴大化風險。若政府等公權力機關直接將情感計算應用于日常的行政治理（如行政決策以及部分案件處理），而忽視情感計算可能存在的算法問題或人為操縱的風險，就會導致?lián)p害社會公平正義后果的發(fā)生。①情感計算已經(jīng)在案件偵查、部分行政決策、交通等領域獲得了應用，但根據(jù)情感計算的特性，其在商業(yè)、教育、娛樂、醫(yī)療健康甚至是文史等領域都具有應用前景，甚至更有擴展加深的可能性。②情感計算在行政治理的加深應用，也會使算法帶來的歧視加深。政府等公權力機關面向國計民生，在實施具體的行政行為時要接觸具體的行政相對人，若是實施的具體行政行為帶有歧視，將造成深刻的影響。如果公職人員在進行行政決策時過度依賴情感計算，以情感計算來判斷當事人的實際情況，若損害了公民的合法權益，公民也很難得到合理救濟，如此就會損害政府的公信力。需要指出的是，情感計算的應用導致的倫理沖突已經(jīng)對社會的公平正義造成了影響，若是在行政治理中加深應用，更會強化這種惡劣影響。而算法本身的隱患很難排除，隱性歧視會一直伴隨算法的輸出擴散，若不能科學地加以規(guī)制，那最終的后果定是對人性的異化。

另一方面，情感計算與行政公正原則存在沖突。行政公正原則是行政法的基本原則之一，它要求行政行為應當具有正當性、衡平性和說理性。③其中說理性指行政治理遵循著理由思維，即用事實與規(guī)范的理由來證成某個結果，這一過程屬于法律論證的范疇。④然而，情感計算存在算法的不透明，若將行政治理中的某些過程變成代碼計算，用計算思維取代理由論證思維，將會與行政公正原則發(fā)生沖突。⑤行政公正原則不僅要求結果公正，而且要求程序正義，后者甚至比前者更為重要。而情感計算則將程序置于“黑箱”之中，直接根據(jù)算法得出結果，這顯然無法證明其過程的正義性。而相關數(shù)據(jù)能否構成行政治理，在規(guī)范的維度上也難以自圓其說。公眾可能會認為行政治理淪為某種意義上的數(shù)值計算，從該算法中所得出的結果可能會侵害公平正義。⑥除此之外，算法的不確定性也會產(chǎn)生一定的倫理風險。首先，情感計算的算法不確定性不僅是技術問題，還有情感本身的問題。情感發(fā)生機制也存在不確定性，學界沒有關于情感的概念與發(fā)生機理的共識。⑦近代以來，情感作為哲學上的重要概念，洛克、亞當·斯密、休謨、康德等哲學家都以大篇幅進行闡述，⑧但哲學家們并沒有對情感的含義進行明確厘定，情感這一概念仍然是模糊的。除了概念的模糊之外，其他學科諸如計算機科學、腦科學、認知科學、心理學等，也沒有給出一套統(tǒng)一的情感發(fā)生機制。情感始終保留著其內(nèi)隱的個體經(jīng)驗特征，這導致在人腦的組織結構、激素分泌狀態(tài)、行為表現(xiàn)和情感之間難以建立統(tǒng)一的、有說服力的情感模型。情感計算相較于理性計算更加不確定，理性計算有一些可被接受的原則（諸如利益最大化、帕累托累積等），而情感則不容易被準確把握，且高度依賴于情感的認識。⑨其次，情感計算的算法具有不確定性。情感計算的算法是一種技術設計，服務于技術目標，且面向未來。⑩情感計算具有多學科交融的特點，技術結構復雜和不穩(wěn)定，使得公眾難以對情感計算技術形成準確的認識。⑩而且，情感計算由一元模態(tài)走向多元模態(tài)，也給其實踐應用帶來了巨大的不確定性。①再次，情感計算的使用具有不確定性。情感計算適用于不同的人機和生活關系，相關算法并不遵循統(tǒng)一的技術標準，實現(xiàn)情感計算的方法各有不同，可能會導致技術功能發(fā)揮的不確定性，引發(fā)技術風險。②并且情感計算中尚未形成統(tǒng)一明確的科技術語，導致其輸出結果存在一定的模糊性。最后，從情感計算的技術邏輯來看，情感賦予和交互環(huán)境下的機器離身情感都存在不確定性。情感計算會根據(jù)個體差異以及個人對情感的控制，呈現(xiàn)出不確定性。③

四、風險規(guī)制：行政治理中情感計算之規(guī)范方案

情感計算在行政治理上有兩種治理方式：一是法律調(diào)整方式，二是非法律調(diào)整方式。法律調(diào)整方式相對于非法律調(diào)整方式的優(yōu)點在于，法律能夠以權威的方式安排相關主體的法律權利和法律義務，從而建立起行為規(guī)范。④在法律調(diào)整過程中，為了維護人的尊嚴，應當確立知情同意原則的優(yōu)先地位；為了維護社會公平正義，應當貫徹算法中立原理和公正原則，進而按照比例原則進行風險規(guī)制。

1．人本關懷：知情同意原則的優(yōu)先地位

自康德以來，人的尊嚴已成為現(xiàn)代文明的價值基石。情感計算或一切社會工作的人工智能化都存在一個隱患——將人類作為手段而不是目的，⑤這違背了康德所提倡的“以人作為目的”之要求。⑥為避免情感計算對人尊嚴的侵害，需要在基本價值上重申人的尊嚴的絕對不可侵犯性。除此之外，還要在法律上作出相應的制度安排。情感計算技術的快速發(fā)展需要以海量個人數(shù)據(jù)信息為支撐，這意味著人們更多的個人數(shù)據(jù)，包括高度敏感性的個人數(shù)據(jù)，將被機器廣泛捕捉。因此，個人數(shù)據(jù)隱私安全的保護可以被視為在法律層面維護人的尊嚴的具體體現(xiàn)。而構建知情同意原則就是保障個人隱私安全、主體性和自由得以實現(xiàn)的關鍵。

（1）既有的知情同意模式及其缺陷

從目前來看，知情同意原則的構建存在兩種模式：一種是歐盟的特別知情同意模式，另一種是中國的概括知情同意模式。歐盟較早出臺了以知情同意為原則的《通用數(shù)據(jù)保護條例》（General DataProtection Regulation）。該條例基于“人的尊嚴”這一價值信條構建了知情同意規(guī)則。根據(jù)該條例，個人資料是指可以確定或識別自然人的一切信息，包括自然人的姓名、身份證號碼、位置數(shù)據(jù)、身體因素等，情感數(shù)據(jù)和信息當然也屬于個人資料的范疇。就同意的方式而言，必須基于當事人的自愿和充分知悉后明示同意，同一事項或其他事項必須明確地標示。在訴訟中，數(shù)據(jù)控制者負有舉證同意的生效條件之義務。⑦情感數(shù)據(jù)主體的同意僅僅是一次性的同意，并非持續(xù)性的授權。同意必須基于自愿，要求合同目的與同意事項符合比例；此外，不允許當事人自治的事項還包括司法審判、社會保障、無害處理行為和公共利益等，同意的事項沒有規(guī)定兜底條款。歐盟知情同意規(guī)制模式的實質(zhì)是“原則一例外”模式，屬于特別同意模式，即個人同意的事項范圍是有限的，法律事先對個人能夠同意的事項作出了規(guī)制，法律優(yōu)先于意思自治。①

根據(jù)我國《個人信息保護法》的有關規(guī)定，情感計算收集和處理個人隱私信息的合法性前提是獲得數(shù)據(jù)權利人的同意，而知情又構成了同意的前提。這就是個人信息保護中的知情同意規(guī)則。具體來說，《個人信息保護法》強調(diào)收集處理信息的行為必須獲得數(shù)據(jù)權利人的充分同意，一旦處理目的、方式和種類發(fā)生變化，那么需要權利人在充分知情的基礎上重新作出同意表示。這表明，知情同意原則既需要數(shù)據(jù)處理主體在法律規(guī)范的框架內(nèi)合法處理個人數(shù)據(jù)，也需要數(shù)據(jù)權利主體充分意識到自身的數(shù)據(jù)隱私權利。②盡管我國個人信息保護中的知情同意充分貫徹了自決權的正當理念，為維護個人尊嚴構建了規(guī)則的屏障，但是這種意義上的知情同意并不能對個人隱私乃至個人尊嚴起到實質(zhì)性的保護作用。一方面，我國《個人信息保護法》的知情同意模式是一種靜態(tài)的、一次性的完全同意，對于隱私信息的種類、敏感程度和授權范圍等事項并沒有進行嚴格限定，數(shù)據(jù)權利人或者完全同意，或者完全不同意，這種概括同意模式無疑給數(shù)據(jù)權利人的選擇造成了障礙。另一方面，《個人信息保護法》設置了處理個人數(shù)據(jù)的法律兜底條款，這表明情感計算處理個人信息可能存在基于國家或公共利益而無須獲得權利人知情同意的情形。這無疑大大壓縮了數(shù)據(jù)權利人的權利空間。

但是，上述兩種模式都存在一定的不足。首先，面對情感計算收集和處理個人隱私信息的行為，數(shù)據(jù)權利人可能會有意或無意地忽略數(shù)據(jù)處理主體提供的隱私政策，在沒有充分閱讀了解情感計算處理個人數(shù)據(jù)的范圍、目的和方式等問題的前提下草率運用自身的知情同意權。其次，受制于個人文化程度與知識水平，數(shù)據(jù)權利人無法充分理解情感計算數(shù)據(jù)處理主體提供的隱私政策，或者就算理解也無法作出符合自身利益的正確選擇。最后，數(shù)據(jù)權利人在正常情況下能夠充分知情并理解情感計算的隱私政策，但由于各種因素的影響最終也會扭曲自己的選擇。③總之，情感計算的變革發(fā)展必須要盡可能地簡化數(shù)據(jù)權利人數(shù)據(jù)信息的授權方式，但既有的知情同意模式無法實質(zhì)性保護數(shù)據(jù)權利人的自主性。

（2）動態(tài)同意模式的提出

鑒于既有知情同意原則存在的缺陷，動態(tài)同意模式被學界提出，并迅速成為個人信息知情同意機制的共識性基礎。概括同意模式的“全有或全無”結構催生了動態(tài)同意模式的建立。一方面，隨著數(shù)字技術對社會生活的全方位重塑，個人信息的應用場景正在發(fā)生劇烈變化，傳統(tǒng)前端的、靜態(tài)的知情同意框架已不足以應對嚴峻的風險挑戰(zhàn)。④另一方面，知情同意過程既是一個數(shù)據(jù)處理主體向數(shù)據(jù)權利主體解釋和說明的過程，也是一個雙方互動交流的過程，數(shù)據(jù)處理主體單方面提供信息說明或者數(shù)據(jù)權利主體被動接受，都不能獲得有效的知情同意。⑤因此，從靜態(tài)化的特別知情同意模式和概括的知情同意模式轉向動態(tài)化的同意模式就變得極為必要。

動態(tài)同意模式既適應了情感計算技術發(fā)展需求，強化了個人信息的保護程度。其核心在于維護數(shù)據(jù)權利人的自主性價值，同時提升個人信息安全的保護水平和有效促進數(shù)據(jù)處理或利用，在具體場景、信息分類、風險評估、分層同意、持續(xù)披露、動態(tài)同意等機制上完善靈活的制度體系，允許有條件的“寬泛同意”并賦予自然人“退出權”，這與既有的同意模式有著極大的不同。①具體而言，第一，動態(tài)同意將數(shù)據(jù)權利主體置于核心地位，數(shù)據(jù)權利主體可以基于個人實際情況選擇是否授權情感計算處理個人隱私信息。在動態(tài)同意模式建構的情感計算數(shù)據(jù)處理交互過程中，數(shù)據(jù)權利人知情同意的有效性被大幅提升。第二，動態(tài)同意會更為清晰明確地向數(shù)據(jù)權利人提供個人信息使用的目的、方式和范圍，通過公布情感計算數(shù)據(jù)的具體用途和場景，數(shù)據(jù)權利人的知情權將被更為有效地保障。第三，動態(tài)同意賦予數(shù)據(jù)權利人分層同意和同意撤回權，進一步維護了數(shù)據(jù)權利人的自主性。一方面，數(shù)據(jù)權利人可以根據(jù)情感計算處理數(shù)據(jù)的不同階段、不同場景來決定是否同意對其隱私數(shù)據(jù)的使用，改變既有同意模式中“一次性同意”的僵化機制；另一方面，數(shù)據(jù)權利人也可以基于實際情形的變化撤回對其數(shù)據(jù)處理的同意，從而確保自身的正當權益不被侵犯。第四，動態(tài)同意更貼合數(shù)字技術躍遷式發(fā)展的現(xiàn)實，可為情感計算技術的革新提供靈活發(fā)展的空間，進一步提升數(shù)據(jù)收集和處理的效率。盡管動態(tài)同意模式也面臨著主體反復給予或撤回同意所導致的資源浪費和成本增加的風險，但其仍然是替代既有同意模式的合理選擇。②

2．現(xiàn)代正義：比例原則的應用與調(diào)和

在算法行政中嵌人情感計算技術，可能存在侵害公平正義的風險，對此需要從行政法治基本原則的視角來尋求解決之道。公正原則是情感計算風險規(guī)制的核心原則，也是行政治理的目的。在公正原則的支撐下，比例原則成為防范情感計算風險的基礎原則。由于比例原則實質(zhì)上就是正義的內(nèi)在要求，③因此如何構建符合比例的情感計算風險規(guī)制的法律體系就成為亟須思考的問題。對此，可以從情感計算在算法行政中運用而產(chǎn)生的風險等級出發(fā)，動態(tài)式地判斷風險規(guī)制的內(nèi)容。具言之，首先要明確算法行政運用情感計算對于數(shù)據(jù)權利人的尊嚴自由和社會公正能夠產(chǎn)生多大程度的影響，并將其具象化為高、中、低三個層級。其次，基于三種層級的風險，按照相應的比例來建構清晰的風險規(guī)制方案，其中高風險的規(guī)制方案應當被極度重視。最后，基于比例原則，將各層級的風險與風險規(guī)制方案一一對應——不可接受的風險對應完全禁止規(guī)制模式，完全可接受風險對應完全容許規(guī)制模式，高風險對應高強度規(guī)制，中風險對應中等強度規(guī)制，低風險對應低強度規(guī)制。

（1）極端風險情形下情感計算的比例原則審查

情感計算存在著不可被法治所接受的嚴重風險和完全可接受的風險這兩種極端情形。在存在嚴重風險的情況下，應用情感計算將直接有損人的尊嚴與公正原則，有悖于目的正當性原則。例如，未納入法治軌道的情感計算應用將會左右相對人的個人情緒及其觀點，這是對人之為人尊嚴的否定；④再如，通過利用特定范圍內(nèi)人的性格特征一致性達到非法目的。誠如亞里士多德所言，情感具備激勵和勸阻的功能，修辭術即借助情感作用來使聽眾保持特定的心理狀態(tài)。⑤行政治理領域的情感計算，如果向工具化與修辭術的方向深入發(fā)展，那么行政治理將無法承擔此結果。為防止這種嚴重風險的發(fā)生，最理性的選擇是明確禁止。而相應的是完全可接受的風險。此種情形下的情感計算被良好應用，能夠根據(jù)不同情景因地制宜地采取不同策略模擬并影響個人情緒。由此，情感計算技術及其系統(tǒng)在行政法治框架之內(nèi)達成了其既定的技術目標，既能夠?qū)θ说淖饑肋M行有效維護，也與行政法的公正原則相契合。

（2）高風險情形下的比例原則審查

在行政治理中，高風險情感計算將會嚴重侵害包括平等享受公共服務、保障訴訟權利等在內(nèi)的公民基本權利。在高風險的情感計算活動中，基本權利是否存在、基本權利的實現(xiàn)方式與實現(xiàn)程度將在很大程度上由情感計算來直接決定，那么必然會損害行政法的公正原則。高風險情感計算的場景可能存在于以下三個領域當中：首先是刑事偵查領域，刑偵、公安等部門在情感計算技術的支持下可以深度參與犯罪嫌疑人的供述過程；其次是公共教育領域，實現(xiàn)規(guī)?；c個性化的有機結合已經(jīng)成為《中國教育現(xiàn)代化2035》的主要任務，而情感計算技術可能會直接通過數(shù)據(jù)測量和生理反饋等途徑影響個人的受教育權；再如公共服務領域，情感計算技術將會決定個人能否享有公租房、電力、電信等基礎性公共服務。①情感計算作為新型科學技術具有天然不確定性，將會使技術與法律對公民基本權利產(chǎn)生深度影響，從而可能直接侵犯個人尊嚴和公平正義的價值觀，這也就意味著對高風險情感計算必須完全禁止。只有在符合公共利益，嚴格依照法定程序?qū)p害基本權利的行為進行補償和全流程監(jiān)管的前提下，情感計算方能應用在涉及公民基本權利的事項之中。

（3）中風險情形下的比例原則審查

中風險情感計算意味著情感計算可能對個人權利造成中度影響，不會產(chǎn)生實質(zhì)影響。不過，情感計算作為先進技術的內(nèi)在邏輯及其具有天然的不確定性因素，使得應用情感計算必然會對個人權利產(chǎn)生影響，甚至可能對部分個人權利產(chǎn)生實質(zhì)影響與風險。仍以情感計算技術在教育領域的應用為例，在線學習中情感計算技術的廣泛應用，使得人工智能能夠隨時、隨地、隨需地對學習者的教育評價和成長產(chǎn)生影響。如果不能充分考慮學習者的個體差異并提供多樣化、個性化的在線情感服務，②雖然可能并不會剝奪公民個人的受教育權，但仍然會對公民的受教育權產(chǎn)生負面影響。③對于中風險的情感計算，需要秉持慎重監(jiān)管的原則，既不能完全禁止，亦不可完全放開。對此，歐盟《人工智能責任指令（提案）》是較為前沿和完整的制度規(guī)則，此規(guī)則為人工智能制定了一個可信框架，允許個人對人工智能技術的“錯誤行為”造成的損害提出索賠，這一制度可成為情感計算的規(guī)制借鑒，主要體現(xiàn)在以下七個層面：第一是分類規(guī)則層面，需要出臺界定何為中風險情感計算的分類規(guī)則，綜合評價應用情感計算的目的、程度、不利影響可能、人員狀態(tài)、危害結果是否可逆等多重考量因素。第二是細化準則層面，通過建立風險管理系統(tǒng)，識別和預見中風險情感計算可能引發(fā)的風險，并確立完善的風險告知程序。第三是數(shù)據(jù)治理層面，數(shù)據(jù)是情感計算系統(tǒng)賴以運轉與計算的基礎。需確保情感計算系統(tǒng)所處理數(shù)據(jù)的質(zhì)量、測試程度、可驗證性等因素，建立完善的數(shù)據(jù)治理體系與管理規(guī)范，尤其應當注重數(shù)據(jù)采集、處理、評估和歧視審查等環(huán)節(jié)。第四是記錄保存層面，為提升情感計算的可驗證性與可追責性，應要求情感計算系統(tǒng)能夠自動記錄所預見的風險事件，提升全生命周期之下情感計算系統(tǒng)的功能可追溯性。第五是算法規(guī)則層面，需要對情感計算系統(tǒng)賴以運行的算法透明度與可解釋性作出較高要求，使得情感計算在系統(tǒng)設計、開發(fā)運行等方面呈現(xiàn)出高透明度。與此同時，還應當列明系統(tǒng)提供者的聯(lián)系方式、系統(tǒng)功能與局限、預期實現(xiàn)目的等。第六是監(jiān)督管理層面，對情感計算系統(tǒng)設計過程進行有效監(jiān)督，最大限度地降低對個人基本權利、個人尊嚴等事項的侵害風險。這種監(jiān)督應當貫穿系統(tǒng)設計時、系統(tǒng)投入使用時以及投入使用后的全過程中。第七是責任救濟層面，應盡量減輕情感計算等人工智能系統(tǒng)造成的損害，為個人提供全周期、全流程的保護框架。

（4）低風險情形下的比例原則審查

低風險情感計算通常意味著其在行政治理中是輕度影響甚至不影響個人權利。例如，為辨識和打擊恐怖主義而進行的網(wǎng)絡輿情管理，為優(yōu)化公共區(qū)域人流車流而進行的人車識別，這些往往不涉及單獨個體權利被侵害的情形，不會對社會公平正義造成較大損害。相應地，低風險情感計算需要配以輕度的規(guī)制要求，應當以“透明度”作為情感計算算法設計與系統(tǒng)信息披露的基本要求，情感計算服務提供者應盡到對使用者進行提示的基本義務。①

綜合來看，為避免情感計算系統(tǒng)在行政治理中所帶來的公平正義侵害風險，應以比例原則作為調(diào)節(jié)情感計算系統(tǒng)活動的根本價值準則。通過比例原則進行情感計算的風險規(guī)制，不僅符合正義的樸素理念，還能有效地解決算法行政中運用情感計算所帶來的問題。對于情感計算所帶來問題的系統(tǒng)治理，根本出路是建立以公正為目的、以風險控制為基礎的規(guī)制體系。因此，上述對風險從高到低的類型化分析是基礎，宜在此基礎上按照對基本權利限制的法理等原理，對情感計算系統(tǒng)展開全流程的規(guī)制。

五、結語

情感計算通過特定情感信號和特定情感狀態(tài)之間的映射關系建立情感模型，其本質(zhì)是對人類情感狀態(tài)的識別、感知、模擬與影響．以達成讓機器理解人類感情、具備喜怒哀樂并模擬人類情緒的技術目標。學界對情感計算在教育培訓、醫(yī)療健康、商業(yè)服務等領域的應用所呈現(xiàn)的技術優(yōu)勢已經(jīng)達成共識，情感計算運用于行政治理領域也成為趨勢所在。然而，情感計算在行政治理中會產(chǎn)生諸如侵害人格尊嚴、有損社會公正等公共倫理風險。因此預防和規(guī)制情感計算在行政治理領域可能引發(fā)的風險便顯得尤為重要。為應對這種情感計算的現(xiàn)實風險，需要將知情同意原則置于法律上建構規(guī)則的優(yōu)先地位，使得同意作為個人讓渡權利和自由的前提與基礎。而在此基礎之上，歐盟和我國的兩種知情同意模式是兩個理想范例，但歐盟的特別知情同意模式和中國的概括知情同意模式均陷于同意模式的困境。在歐盟的特別知情同意模式下，個人同意的事項范圍是有限的，法律事先對個人能夠同意的事項作出了規(guī)制，法律優(yōu)先于意思自治。在中國的概括知情同意模式下，隱私信息的種類、敏感程度和授權范圍等事項并沒有受到嚴格限定，另外，情感計算在處理個人信息時還可能存在基于國家或公共利益而無須獲得權利人知情同意的情形，這壓縮了數(shù)據(jù)權利人的權利空間。對此，宜將動態(tài)同意模式作為保障情感計算在行政治理中維護個人尊嚴、保障社會公正的具體路徑。此外，還應當以公平正義為目的、以風險控制為基礎來系統(tǒng)構建情感計算的規(guī)制體系，對情感計算系統(tǒng)進行全流程規(guī)制。