孫宇
關(guān)鍵詞:消費(fèi)者權(quán)益保護(hù) 具體交易范式 數(shù)字經(jīng)濟(jì) 情感計(jì)算 算法規(guī)制
20世紀(jì)末,美國(guó)計(jì)算機(jī)科學(xué)家羅莎琳德·皮卡德提出了將情感引入計(jì)算機(jī)運(yùn)算的設(shè)想,意圖研發(fā)一種“能夠?qū)θ说耐庠诒憩F(xiàn)進(jìn)行測(cè)量和分析并能對(duì)情感施加影響的計(jì)算”,①也即情感計(jì)算。2021年我國(guó)發(fā)布的《人工智能情感計(jì)算用戶界面模型》(GB/T40691-2021)國(guó)家標(biāo)準(zhǔn),將情感計(jì)算定義為:“在人機(jī)情感交互過(guò)程中,信息系統(tǒng)對(duì)用戶情感的采集、識(shí)別、決策和表達(dá)。”②近年來(lái),隨著圖像識(shí)別、語(yǔ)音識(shí)別、人臉識(shí)別乃至體態(tài)識(shí)別等技術(shù)的奇點(diǎn)式發(fā)展,以感知型人工智能為技術(shù)基底的情感計(jì)算開(kāi)始逐漸滲透到數(shù)字時(shí)代人們社會(huì)生活的方方面面,在教育、醫(yī)療、傳媒、就業(yè)乃至執(zhí)法司法等領(lǐng)域被廣泛部署使用。其中,由算法定義的數(shù)字經(jīng)濟(jì)自然是情感計(jì)算技術(shù)應(yīng)用的重要場(chǎng)景。研究表明,數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用具有吸引用戶加入、增強(qiáng)用戶粘性、促進(jìn)商品營(yíng)銷、提高交易效率與成交比率等多重功能。③在實(shí)踐中,如阿里巴巴、亞馬遜等域內(nèi)外大型互聯(lián)網(wǎng)企業(yè)也紛紛將情感計(jì)算嵌入商業(yè)平臺(tái),促進(jìn)商業(yè)目標(biāo)的實(shí)現(xiàn)。由此可見(jiàn),情感計(jì)算在數(shù)字經(jīng)濟(jì)中的普及已然是大勢(shì)所趨。
數(shù)字經(jīng)濟(jì)數(shù)字性與經(jīng)濟(jì)性的結(jié)合,決定了情感計(jì)算等前沿?cái)?shù)字技術(shù)必然參與到數(shù)字經(jīng)濟(jì)生產(chǎn)、分配、交換與消費(fèi)的各個(gè)環(huán)節(jié)。而在數(shù)字經(jīng)濟(jì)已經(jīng)創(chuàng)造出新的消費(fèi)場(chǎng)景、消費(fèi)模式、消費(fèi)動(dòng)能的情況下,①消費(fèi)作為市場(chǎng)經(jīng)濟(jì)的最終需求和最根本動(dòng)力,也就理所當(dāng)然地是情感計(jì)算應(yīng)用的主要場(chǎng)景,消費(fèi)者也就成為數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用的主要對(duì)象。但是,正如歐盟《人工智能法(草案)》認(rèn)為的“情緒識(shí)別系統(tǒng)”在特定場(chǎng)景中具有不可接受的風(fēng)險(xiǎn),因此應(yīng)禁止其在部分領(lǐng)域的應(yīng)用,②我國(guó)2023年10月發(fā)布的《科技倫理審查辦法(試行)》也將“對(duì)人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)”明確為“需要開(kāi)展倫理審查復(fù)核的科技活動(dòng)”。③數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用在使消費(fèi)者充分享受到具身性數(shù)字紅利的同時(shí),也可能與消費(fèi)者的法定權(quán)利存在內(nèi)生沖突,帶來(lái)侵害消費(fèi)者權(quán)益的多維風(fēng)險(xiǎn)。因此在情感計(jì)算被面向消費(fèi)者廣泛部署的當(dāng)下,有必要立足于這一場(chǎng)景中的消費(fèi)者弱勢(shì)地位,結(jié)合情感計(jì)算自身的技術(shù)邏輯和技術(shù)特征,構(gòu)建一套強(qiáng)化情感計(jì)算應(yīng)用中消費(fèi)者權(quán)益保護(hù)的具體方案,以確保商業(yè)創(chuàng)新與倫理道德、技術(shù)發(fā)展與權(quán)利保障之間的價(jià)值平衡。
一、場(chǎng)景考察:數(shù)字經(jīng)濟(jì)中面向消費(fèi)者的情感計(jì)算應(yīng)用樣態(tài)
現(xiàn)階段,情感計(jì)算的實(shí)施總體可以分為兩類:一是計(jì)算的結(jié)果僅用于被計(jì)算者本人,即通過(guò)情感計(jì)算幫助被識(shí)別者自身改變情感狀態(tài)、優(yōu)化情感體驗(yàn),如醫(yī)療場(chǎng)景中通過(guò)情感計(jì)算改善患者情緒,治療抑郁癥、精神分裂癥等;二是計(jì)算的結(jié)果由被計(jì)算者之外的主體應(yīng)用,輔助其進(jìn)行相關(guān)決策、實(shí)現(xiàn)相應(yīng)目的,如招聘、執(zhí)法等場(chǎng)景中的應(yīng)用。當(dāng)前的數(shù)字經(jīng)濟(jì)中,經(jīng)營(yíng)者對(duì)于消費(fèi)者的情感計(jì)算應(yīng)用顯然就多屬于后者。平臺(tái)、商戶在以下場(chǎng)景通過(guò)情感計(jì)算對(duì)消費(fèi)者情緒、情感的收集與分析,形成顆粒度極細(xì)的用戶情感畫像,以此促進(jìn)消費(fèi)者的消費(fèi)與再消費(fèi)。
1.差異化廣告營(yíng)銷
區(qū)別于實(shí)體經(jīng)濟(jì)中廣告牌、宣傳單等傳統(tǒng)低效的廣告營(yíng)銷模式,數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者通過(guò)情感計(jì)算可以識(shí)別消費(fèi)者的客群屬性與消費(fèi)意愿,對(duì)消費(fèi)者進(jìn)行差異化的商品推薦,使特定商品、廣告的投放更有針對(duì)性地覆蓋特定需求群體,繼而最終提升廣告引流效果、提高商品成交比率。如平安銀行的“廣告推薦方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)”發(fā)明專利就是通過(guò)獲取目標(biāo)用戶的網(wǎng)絡(luò)評(píng)論,對(duì)評(píng)論內(nèi)容進(jìn)行情感傾向識(shí)別得到相對(duì)應(yīng)的情緒關(guān)鍵詞,然后“根據(jù)情緒關(guān)鍵詞和類別關(guān)鍵詞對(duì)初始廣告進(jìn)行匹配,得到待推薦的目標(biāo)廣告,向目標(biāo)用戶推送目標(biāo)廣告”。如果說(shuō)這種基于自然語(yǔ)言理解技術(shù)(NLP)的文本型情感計(jì)算仍是當(dāng)前數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用的初級(jí)模式,那么能夠?qū)Ω髂B(tài)信息進(jìn)行融合的多模態(tài)情感計(jì)算則因識(shí)別內(nèi)容更加全面準(zhǔn)確而被視為情感計(jì)算商業(yè)化應(yīng)用的未來(lái)。例如,支付寶公司“虛擬世界的廣告投放處理方法及裝置”發(fā)明專利就表明,該專利可以通過(guò)對(duì)用戶腦電信號(hào)和眼部圖像的情緒檢測(cè)模型分析,獲得多模態(tài)情緒特征和情緒等級(jí),并基于此計(jì)算候選廣告的廣告數(shù)據(jù)與所述虛擬世界的虛擬環(huán)境數(shù)據(jù)的匹配度,進(jìn)行虛擬世界的廣告投放。④實(shí)際上在域外,這種商業(yè)業(yè)態(tài)已經(jīng)十分成熟。BBC早在2014年就與科技公司CrowdEmotion合作,通過(guò)捕捉與分析用戶訪問(wèn)網(wǎng)站、節(jié)目時(shí)面對(duì)不同內(nèi)容的面部表情,將用戶情緒分為快樂(lè)、驚訝、悲傷等六類,為優(yōu)化差異化在線營(yíng)銷提供支持。①總部位于倫敦的初創(chuàng)公司Realeyes則在整合超過(guò)380萬(wàn)個(gè)視頻會(huì)話中的6.2億個(gè)情感標(biāo)簽的基礎(chǔ)上,分析視頻內(nèi)容對(duì)觀眾情感的影響來(lái)增強(qiáng)廣告效果。②
2.定制化消費(fèi)服務(wù)
根據(jù)峰終定律(Peak-End Rule),數(shù)字經(jīng)濟(jì)中消費(fèi)者的消費(fèi)體驗(yàn)并不取決于消費(fèi)過(guò)程中良好與欠佳體驗(yàn)的比重以及兩者時(shí)間的長(zhǎng)短,而是由“峰時(shí)”體驗(yàn)和“終時(shí)”體驗(yàn)決定。③因此通過(guò)情感計(jì)算的情感識(shí)別,結(jié)合峰終定律在加購(gòu)、結(jié)算等峰終節(jié)點(diǎn)為消費(fèi)者提供更優(yōu)質(zhì)的定制化服務(wù),進(jìn)而事半功倍地提升消費(fèi)者消費(fèi)體驗(yàn)就是數(shù)字經(jīng)濟(jì)領(lǐng)域部署情感計(jì)算的重要原因。而基于情感計(jì)算提供定制化消費(fèi)服務(wù)的最典型場(chǎng)景就是網(wǎng)絡(luò)交易中經(jīng)營(yíng)者依托NLP技術(shù)進(jìn)行情感分析的客服服務(wù),當(dāng)前大量互聯(lián)網(wǎng)平臺(tái)均部署了人工智能客服體系,如京東的JIMI、百度的UNIT、阿里巴巴的AliMe等。平臺(tái)、商戶通過(guò)對(duì)消費(fèi)者與客服溝通用語(yǔ)、商品購(gòu)買評(píng)價(jià)等UGC(User Generated Content)內(nèi)容的分析,發(fā)現(xiàn)情緒化.不友好等處于情感圖譜之中具有情感極性的表述,并借助用戶情感安撫、情感生產(chǎn)式語(yǔ)聊等手段針對(duì)特定消費(fèi)者的個(gè)人特征和特定問(wèn)題進(jìn)行專門解決。此外,語(yǔ)音情感計(jì)算、視覺(jué)情感計(jì)算乃至生理信號(hào)情感計(jì)算也已經(jīng)開(kāi)始被用于為消費(fèi)者提供定制化服務(wù)。如哥倫比亞研究人員研發(fā)的ANEMA分析工具可以通過(guò)對(duì)廣告歌曲聲學(xué)特征與消費(fèi)者各種情緒之間關(guān)聯(lián)的情感分析,在特定服務(wù)場(chǎng)景下為消費(fèi)者提供適當(dāng)?shù)母枨?,刺激消費(fèi)者特定情緒的發(fā)展。④亞馬遜研發(fā)的Rekognition軟件依托機(jī)器學(xué)習(xí)與計(jì)算機(jī)視覺(jué)(CV)功能,可以通過(guò)圖像或視頻的情感分析為消費(fèi)者在身份驗(yàn)證、智能輔助等方面提供服務(wù)。⑤在歐洲,Moodrise、Fika等健康類、醫(yī)療類平臺(tái)還嘗試通過(guò)設(shè)備連接消費(fèi)者收集心電圖、腦電波等生理信號(hào),對(duì)消費(fèi)者不同情緒下的身體或心理狀態(tài)進(jìn)行分析,進(jìn)而為其提供專門的健康或診療方案。⑥
3.其他個(gè)性化商業(yè)決策
除上述兩種場(chǎng)景外,情感計(jì)算還可以通過(guò)更深度的應(yīng)用,實(shí)質(zhì)性、直接性地影響甚至決定經(jīng)營(yíng)者面向消費(fèi)者的其他個(gè)性化商業(yè)決策。以當(dāng)前互聯(lián)網(wǎng)經(jīng)營(yíng)者普遍應(yīng)用的算法個(gè)性化定價(jià)為例,作為被廣為詬病的大數(shù)據(jù)殺熟背后的技術(shù)機(jī)理,算法個(gè)性化定價(jià)就是通過(guò)對(duì)用戶數(shù)據(jù)碎屑.隱私信息的全方位收集形成“千人千面”的用戶畫像并判斷消費(fèi)者的差異化支付意愿,最終做出“千人千價(jià)”的個(gè)性化價(jià)格決策。⑦而在其中,情感類信息作為消費(fèi)者主觀意圖的直接體現(xiàn),顯然就是經(jīng)營(yíng)者價(jià)格決策的重要參考因素。例如在算法個(gè)性化定價(jià)常用的RFE用戶活躍度定價(jià)算法模型中,經(jīng)營(yíng)者根據(jù)用戶最近一次訪問(wèn)時(shí)間R(Recency)、訪問(wèn)頻率F(Frequency)和頁(yè)面互動(dòng)度E(Engagements)三個(gè)方面的指標(biāo)對(duì)用戶進(jìn)行個(gè)性化定價(jià)。其中對(duì)于消費(fèi)者頁(yè)面互動(dòng)度的評(píng)價(jià),就會(huì)來(lái)源于對(duì)消費(fèi)者在人機(jī)交互中發(fā)布評(píng)論、神態(tài)表情甚至瀏覽速度等方面的情感識(shí)別與分析。①英國(guó)公平交易局(OFT)在2013年發(fā)布的一份關(guān)于算法個(gè)性化定價(jià)的專項(xiàng)報(bào)告中指出,知名在線約會(huì)交友軟件Tinder根據(jù)對(duì)用戶特征的分析在全球范圍內(nèi)進(jìn)行了大規(guī)模的個(gè)性化定價(jià),不同消費(fèi)者開(kāi)通軟件會(huì)員的價(jià)格最多可以相差六倍之多。②而作為“情感資本主義”的產(chǎn)物,通過(guò)對(duì)用戶在平臺(tái)上右滑“喜歡”、左滑“跳過(guò)”、親密表述、上傳圖片等行為的情緒識(shí)別與情感分析,判斷用戶對(duì)于線上交友的“焦慮”“緊迫”程度,進(jìn)而預(yù)測(cè)其支付意愿的高低,就是Tinder之所以能夠進(jìn)行普遍性個(gè)性化價(jià)格決策的重要原因。
二、風(fēng)險(xiǎn)檢視:數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用與消費(fèi)者權(quán)益的內(nèi)生沖突
在數(shù)字時(shí)代智能技術(shù)已經(jīng)成為現(xiàn)代社會(huì)主要風(fēng)險(xiǎn)來(lái)源的情況下,基于情感計(jì)算在數(shù)字經(jīng)濟(jì)中部署與應(yīng)用的廣泛性及其本身構(gòu)成與使用的復(fù)雜性,數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用所帶來(lái)的法律風(fēng)險(xiǎn)將更加立體、彌散。具有侵入性、使能性、隱蔽性、化約性的情感計(jì)算,可能產(chǎn)生系統(tǒng)的消費(fèi)者權(quán)益損害風(fēng)險(xiǎn)。
1.情感計(jì)算侵入性與消費(fèi)者隱私權(quán)、個(gè)人信息權(quán)的零和博弈
第一,從技術(shù)邏輯來(lái)看情感計(jì)算天然地具有較強(qiáng)侵人性。情感計(jì)算的技術(shù)基礎(chǔ)是各種算法、傳感器對(duì)自然人數(shù)字痕跡、生物信息的感知與識(shí)別,其具有顯著的數(shù)據(jù)前置特征。③現(xiàn)階段這種感知與識(shí)別一是基于設(shè)備內(nèi)置功能的非接觸式方式實(shí)現(xiàn),如通過(guò)話筒對(duì)用戶聲音的錄制、攝像頭對(duì)用戶面部表情的采集等;二是借助外設(shè)設(shè)備的接觸式傳感實(shí)現(xiàn),如血壓儀、心率監(jiān)測(cè)器等。而如休謨所言,情感是“不經(jīng)先前的思想或知覺(jué)而原始發(fā)生于靈魂中或身體中的”。④顯然無(wú)論通過(guò)何種方式感知與識(shí)別消費(fèi)者的情感,情感計(jì)算的應(yīng)用都將侵入人靈魂的最深邃、最隱秘之處。這種侵入也以消費(fèi)者的個(gè)人信息與個(gè)人隱私為燃料。
第二,數(shù)字經(jīng)濟(jì)中情感計(jì)算的商業(yè)應(yīng)用將進(jìn)一步強(qiáng)化其侵入性。在數(shù)據(jù)已經(jīng)成為基礎(chǔ)生產(chǎn)要素的當(dāng)下,數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者擁有越多的用戶數(shù)據(jù)就越具有市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì)。數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者對(duì)于情感信息的收集,⑤一方面會(huì)盡可能地與消費(fèi)者特定個(gè)人身份相關(guān)聯(lián),以增強(qiáng)推銷、服務(wù)、決策的“個(gè)性化”,而這也將與個(gè)人信息的諸多權(quán)能形成沖突;另一方面還會(huì)最大限度地向消費(fèi)者自身的敏感、私密領(lǐng)域深入,以增強(qiáng)推銷、服務(wù)、決策的“精準(zhǔn)化”,而這也可能對(duì)消費(fèi)者的隱私權(quán)造成直接侵犯。進(jìn)言之,經(jīng)營(yíng)者采集到的用戶情緒信息越多,對(duì)消費(fèi)者的用戶畫像就越清晰明確,進(jìn)而其獲客(差異化廣告營(yíng)銷)、粘客(定制化消費(fèi)服務(wù))、轉(zhuǎn)化(個(gè)性化商業(yè)決策)的效果也就越佳,因而,經(jīng)營(yíng)者在情感計(jì)算的應(yīng)用中也就不可避免地會(huì)產(chǎn)生不斷窺探、收集消費(fèi)者個(gè)人隱私與個(gè)人信息的商業(yè)欲望。
情感計(jì)算自身的侵人性特征以及數(shù)字經(jīng)濟(jì)中商業(yè)化應(yīng)用對(duì)此的固化與強(qiáng)化,將使其與消費(fèi)者隱私權(quán)、個(gè)人信息權(quán)陷入此消彼長(zhǎng)的零和博弈之中。在最大化利潤(rùn)的誘惑下,經(jīng)營(yíng)者不僅有著難以遏制的不斷爬取、挖掘消費(fèi)者個(gè)人信息與個(gè)人隱私的沖動(dòng),還會(huì)通過(guò)監(jiān)控用戶聊天記錄、擅自開(kāi)啟語(yǔ)音相機(jī)權(quán)限等非法手段獲取大量用戶情緒碎屑,對(duì)情感計(jì)算進(jìn)行數(shù)據(jù)喂養(yǎng)。同時(shí)相較于傳統(tǒng)技術(shù),多模態(tài)情緒識(shí)別情感計(jì)算在采集數(shù)據(jù)的“量”和情感分析的“質(zhì)”兩方面的提升在使其具有更廣泛、深刻的侵入性之時(shí),也會(huì)產(chǎn)生更直接、現(xiàn)實(shí)的消費(fèi)者隱私權(quán)與個(gè)人信息權(quán)損害風(fēng)險(xiǎn)。
2.情感計(jì)算使能性與消費(fèi)者公平交易權(quán)的緊張關(guān)系
情感計(jì)算作為一種“通用目的技術(shù)”(general purpose technology),其存在的價(jià)值并非是為某一特定問(wèn)題提供最終的完美解決方案,賦能具體場(chǎng)域、為具體場(chǎng)域的實(shí)踐提供“改進(jìn)開(kāi)放機(jī)會(huì)的使能作用(enabling)”才是其最重要的意義。①通用目的技術(shù)由于具有較強(qiáng)的改進(jìn)延展性、廣泛適用性以及與其他技術(shù)的互補(bǔ)性,其在具體場(chǎng)域與專有技術(shù)的疊加將進(jìn)一步釋放自身的使能作用,為技術(shù)主體帶來(lái)巨大的應(yīng)用價(jià)值。然而,正如創(chuàng)新擴(kuò)散理論所認(rèn)為的,技術(shù)的創(chuàng)新與擴(kuò)散將會(huì)加劇社會(huì)的不公:一是技術(shù)的早期采用者通常擁有更多資源也更有能力接受高成本的創(chuàng)新;二是技術(shù)的早期采用者會(huì)獲得大量的額外利潤(rùn),使其與后來(lái)者經(jīng)濟(jì)社會(huì)地位的差距進(jìn)一步拉大。②數(shù)字經(jīng)濟(jì)中,情感計(jì)算強(qiáng)大使能作用對(duì)經(jīng)營(yíng)者的單方面賦能也將會(huì)潛在沖擊消費(fèi)者的公平交易權(quán)利。
公平交易權(quán)作為我國(guó)消費(fèi)者的基本權(quán)利,實(shí)際上是近代以降平等權(quán)在商品經(jīng)濟(jì)領(lǐng)域的具體體現(xiàn),其要求消費(fèi)者與經(jīng)營(yíng)者之間交易過(guò)程與交易結(jié)果的雙重公平。但是,數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者情感計(jì)算的應(yīng)用卻可能對(duì)交易公平的實(shí)現(xiàn)帶來(lái)現(xiàn)實(shí)障礙。具體而言,一是工具障礙。數(shù)字經(jīng)濟(jì)中,組織化的經(jīng)營(yíng)者本就擁有更多的技術(shù)工具對(duì)個(gè)體消費(fèi)者進(jìn)行支配。作為前沿智能技術(shù)的使能性情感計(jì)算在賦能經(jīng)營(yíng)者、進(jìn)一步豐富經(jīng)營(yíng)者技術(shù)工具箱的同時(shí),消費(fèi)者卻對(duì)此缺乏必要的反制工具與反制能力,兩者的關(guān)系可能進(jìn)一步失衡。二是信息障礙。市場(chǎng)經(jīng)濟(jì)中,理性經(jīng)濟(jì)人的實(shí)現(xiàn)要求其應(yīng)具有所處環(huán)境的完備知識(shí),或至少是相當(dāng)豐富、透徹的知識(shí)。市場(chǎng)機(jī)制本質(zhì)上是一種信息機(jī)制,在具體交易中對(duì)于信息的掌控能力直接關(guān)系到交易者自身的議價(jià)能力,由于具有侵入性的情感計(jì)算將方便經(jīng)營(yíng)者收集掌握消費(fèi)者大量的個(gè)人敏感信息、隱私信息,因此情感計(jì)算將導(dǎo)致經(jīng)營(yíng)者與消費(fèi)者之間嚴(yán)重的信息不對(duì)稱,影響兩者的公平交易。
3.情感計(jì)算隱蔽性與消費(fèi)者知情權(quán)的潛在抵牾
作為消費(fèi)者權(quán)利束中的前置性、基礎(chǔ)性權(quán)利,消費(fèi)者知情權(quán)是消費(fèi)者公平交易權(quán)、安全保障權(quán)等其他權(quán)利的前提與保障。尤其是區(qū)別于在線下實(shí)體商戶進(jìn)行消費(fèi)時(shí)消費(fèi)者可以對(duì)商品的品質(zhì)進(jìn)行親身的感觸與甄別,在數(shù)字經(jīng)濟(jì)中消費(fèi)者往往無(wú)法切身感知商品,因此在消費(fèi)決策中消費(fèi)者對(duì)于交易情況的知情就更加重要與關(guān)鍵。然而情感計(jì)算的雙重隱蔽性可能會(huì)在多個(gè)環(huán)節(jié)制約著消費(fèi)者的知情,具體表現(xiàn)在如下方面:
第一,情感采集、識(shí)別的隱蔽性。數(shù)字經(jīng)濟(jì)中,消費(fèi)者知情權(quán)所涵攝的內(nèi)容“既包括現(xiàn)行《消費(fèi)者權(quán)益保護(hù)法》(以下簡(jiǎn)稱《消保法》)列舉的與商品和服務(wù)相關(guān)的信息,還包括經(jīng)營(yíng)者的身份、信用,網(wǎng)絡(luò)購(gòu)物的交易規(guī)則、格式條款,物流經(jīng)營(yíng)者名稱等一系列與網(wǎng)絡(luò)購(gòu)物各環(huán)節(jié)相關(guān)的信息”。③特別是根據(jù)《個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱《個(gè)保法》)規(guī)定,個(gè)人對(duì)其個(gè)人信息的處理享有知情權(quán)。因此可見(jiàn),數(shù)字經(jīng)濟(jì)中消費(fèi)者的知情權(quán)具有全過(guò)程性。而如前所述,當(dāng)前數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用既包括接觸式,也包括非接觸式。在表情、聲紋、體態(tài)等大量非接觸式識(shí)別場(chǎng)景中,情感計(jì)算的應(yīng)用不需要與消費(fèi)者進(jìn)行有形的物理連接就可以進(jìn)行,消費(fèi)者自身也難以覺(jué)察這一過(guò)程。再加之當(dāng)前數(shù)字經(jīng)濟(jì)實(shí)踐中告知同意規(guī)則的虛化,④經(jīng)營(yíng)者應(yīng)用情感計(jì)算對(duì)消費(fèi)者情緒的隱蔽采集識(shí)別與消費(fèi)者的知情權(quán)存在著嚴(yán)重的抵牾。
第二,情感影響、干預(yù)的隱蔽性。情感計(jì)算本質(zhì)上是一種閾下信息技術(shù)。閾下信息(subliminalInformation)的“閾”指的是心理學(xué)上人的感覺(jué)閾限,閾下信息也就是在人感覺(jué)閾限范圍外的信息。⑤閾下信息技術(shù)借助閾下情緒啟動(dòng)效應(yīng)引導(dǎo)人們?cè)陂撓滤教幚砑庸ば畔?,以不自知、潛意識(shí)的方式影響人的情緒發(fā)展。①?gòu)臄?shù)字經(jīng)濟(jì)實(shí)踐來(lái)看,經(jīng)營(yíng)者也正是利用情感計(jì)算這種閾下信息技術(shù)的隱蔽性,通過(guò)差異化、定制化、個(gè)性化的環(huán)境塑造、決策安排來(lái)潛移默化地影響、干預(yù)消費(fèi)者情感,促進(jìn)消費(fèi)者消費(fèi)。因此,一方面,情感計(jì)算對(duì)消費(fèi)者情感的隱蔽影響為消費(fèi)者營(yíng)造了算法牢籠與情緒繭房,不斷地投其所好將造成消費(fèi)者消費(fèi)過(guò)程中的知情窄化與理性消損;另一方面,情感計(jì)算的隱蔽實(shí)施將進(jìn)一步放大自身的黑箱效應(yīng),使消費(fèi)者對(duì)于情感計(jì)算影響自身消費(fèi)決策的技術(shù)機(jī)理更難以產(chǎn)生充分的知情,甚至還會(huì)因?yàn)檫@種隱蔽性造成對(duì)自身知情權(quán)減損的習(xí)焉不察。
4.情感計(jì)算化約性與消費(fèi)者受尊重權(quán)的價(jià)值張力
作為一種哲學(xué)思想,化約主義(reductionism)認(rèn)為所有繁復(fù)冗雜的系統(tǒng)、現(xiàn)象均可被化整為零為低層次的部分與構(gòu)件,從而對(duì)整體進(jìn)行認(rèn)識(shí)和描述。②在數(shù)字經(jīng)濟(jì)中,情感計(jì)算的化約性體現(xiàn)為將消費(fèi)者復(fù)雜的、多元的、感性的、脫序的情緒情感轉(zhuǎn)化為簡(jiǎn)單的、單一的、數(shù)學(xué)的、規(guī)則的比特形式代碼,從而依托技術(shù)機(jī)制對(duì)情感機(jī)制的解構(gòu)、識(shí)別、表達(dá)與影響為經(jīng)營(yíng)者的商業(yè)行為提供支撐。然而數(shù)字經(jīng)濟(jì)中情感計(jì)算在將情感這一人類最復(fù)雜的意識(shí)以技術(shù)的方式化約的同時(shí),其也在價(jià)值層面與消費(fèi)者的受尊重權(quán)產(chǎn)生了難以調(diào)和的內(nèi)在張力。具體而言,表現(xiàn)在以下兩方面:
其一,代碼化的消費(fèi)者情緒解構(gòu)與攫取?;s性的情感計(jì)算預(yù)設(shè)了人類情感的離散可數(shù),認(rèn)為人類的情緒、情感能夠在采樣定理規(guī)律的約束下被一種符號(hào)化、數(shù)學(xué)化的圖式機(jī)制來(lái)完全解構(gòu),進(jìn)而將人的情感作為一種脫離于主體的外在對(duì)象或客體進(jìn)行控制與攫取。那么這就會(huì)產(chǎn)生赫拉利在《未來(lái)簡(jiǎn)史》中提出的問(wèn)題:“人類有什么能勝過(guò)雞的地方呢?”因?yàn)榫退阏f(shuō)人類有更深的情感、更高的智力,但在化約主義者看來(lái),“情感和智力也不過(guò)都是算法罷了”。③情感作為人之所以為人、為道德人的理由,化約性情感計(jì)算對(duì)消費(fèi)者情緒的代碼化解構(gòu)和攫取可能滑人拉美特利“人是機(jī)器”的機(jī)械唯物論陷阱,將使人成為技術(shù)的客體甚至是技術(shù)本身而引發(fā)人的主體性危機(jī)。
其二,可誤性的消費(fèi)者情緒識(shí)別與表達(dá)。情感計(jì)算的底層邏輯“基本情感理論”(basic emotion theory)要求,情感計(jì)算的實(shí)施應(yīng)當(dāng)建立在兩個(gè)條件之上:一是可以從外在表達(dá)識(shí)別內(nèi)心情感;二是此識(shí)別真實(shí)可靠。④然而,首先就心理科學(xué)而言,情感計(jì)算所識(shí)別的人的外在表達(dá)與內(nèi)在情感之間并不存在必然的普遍的關(guān)聯(lián)。如德國(guó)一項(xiàng)研究發(fā)現(xiàn),悲傷、憤怒和恐懼等情緒與面部表情的關(guān)聯(lián)就十分有限。⑤而且,性別、種族、環(huán)境等差異也都會(huì)導(dǎo)致不同群體的情感表達(dá)存在區(qū)別。其次,就計(jì)算機(jī)科學(xué)而言,在心理學(xué)領(lǐng)域使用人工智能技術(shù)的核心步驟為從人的情緒情感中剝離出有意義的抽象表征,然后將這一表征放置在假定能夠運(yùn)行人類思維的機(jī)器之中,也即思維的模型化。然而,這一過(guò)程充斥其間的常是產(chǎn)物/過(guò)程謬誤——過(guò)程的產(chǎn)物和產(chǎn)生這個(gè)產(chǎn)物的過(guò)程并不必然相似。⑥實(shí)踐中,情感計(jì)算魯棒性的不足也已經(jīng)產(chǎn)生了將咳嗽等高音調(diào)聲音誤判為攻擊性情緒的情況。⑦因此從心理學(xué)和計(jì)算機(jī)科學(xué)的雙重可誤性可見(jiàn),情感計(jì)算可能誤讀、誤判消費(fèi)者情緒的代碼化化約更難以稱得上是對(duì)消費(fèi)者人格的尊重。
三、路徑選擇:數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用消費(fèi)者權(quán)益保護(hù)的具體交易范式
近代以來(lái),消費(fèi)者權(quán)益的法律保護(hù)主要存在著抽象交易范式和具體交易范式兩種,而兩者在價(jià)值導(dǎo)向、制度設(shè)計(jì)等方面均存在著差異甚至對(duì)立。抽象交易范式根據(jù)民法形式正義的價(jià)值追求,立足于交易主體的抽象平等,認(rèn)為只要通過(guò)市場(chǎng)力量、意思自治的約束就可以消解市場(chǎng)交易中合同當(dāng)事人的力量不平等,因此無(wú)須對(duì)消費(fèi)者進(jìn)行特別的保護(hù)。①具體交易范式則從具體交易環(huán)境下消費(fèi)者的全方位和結(jié)構(gòu)性之“弱”出發(fā),主張通過(guò)專門的交易規(guī)則和交易模式保護(hù)消費(fèi)者,以制度性的挽救彌補(bǔ)消費(fèi)者的弱勢(shì)地位,盡可能地實(shí)現(xiàn)經(jīng)營(yíng)者與消費(fèi)者之間的實(shí)質(zhì)公平。②而基于兩者的對(duì)比可以發(fā)現(xiàn),具體交易范式應(yīng)當(dāng)是未來(lái)情感計(jì)算應(yīng)用中消費(fèi)者權(quán)益保護(hù)的應(yīng)然路徑。
1.具體交易范式消費(fèi)者權(quán)益保護(hù)的證成
區(qū)別于以締約雙方為主體展開(kāi)的抽象交易范式下的消費(fèi)者權(quán)益保護(hù),具體交易范式通過(guò)在經(jīng)營(yíng)者與消費(fèi)者之外引入國(guó)家這一角色干預(yù)、調(diào)平兩者的不平等交易地位,形成了“經(jīng)營(yíng)者一消費(fèi)者一國(guó)家”這一三元主體法律結(jié)構(gòu)。而從這三個(gè)主體的視角:數(shù)字經(jīng)濟(jì)輻條式交易結(jié)構(gòu)形塑的經(jīng)營(yíng)者強(qiáng)勢(shì)地位、情感計(jì)算大規(guī)模微型損害造成的消費(fèi)者權(quán)益風(fēng)險(xiǎn)、國(guó)家干預(yù)現(xiàn)代化模式轉(zhuǎn)型要求的國(guó)家積極角色出發(fā),可以發(fā)現(xiàn)消費(fèi)者經(jīng)營(yíng)者維度體現(xiàn)出的市場(chǎng)失靈以及國(guó)家積極角色要求的有為政府,正是基于具體交易范式展開(kāi)情感計(jì)算應(yīng)用中消費(fèi)者權(quán)益保護(hù)的邏輯起點(diǎn)。
(1)數(shù)字經(jīng)濟(jì)的輻條式交易結(jié)構(gòu)
數(shù)字經(jīng)濟(jì)時(shí)代,互聯(lián)網(wǎng)等技術(shù)在使經(jīng)濟(jì)領(lǐng)域的權(quán)力逐漸彌散的同時(shí),數(shù)據(jù)、算法等數(shù)字資本的聚集又使大型平臺(tái)企業(yè)等主體形成了新的壟斷性權(quán)力,數(shù)字經(jīng)濟(jì)呈現(xiàn)出從“去中心化”到“再中心化”的演化進(jìn)路。進(jìn)而,數(shù)字技術(shù)在對(duì)零散社會(huì)關(guān)系的整合與控制中造就了“中心一邊緣”的輻條式商業(yè)結(jié)構(gòu)。這種結(jié)構(gòu)下,較之消費(fèi)者,經(jīng)營(yíng)者作為軸心居高臨下地占據(jù)著絕對(duì)的優(yōu)勢(shì)交易地位。特別是在情感計(jì)算的應(yīng)用中,情感計(jì)算的單向度賦能以及經(jīng)營(yíng)者依托情感計(jì)算展開(kāi)的差異化廣告營(yíng)銷、定制化消費(fèi)服務(wù)與個(gè)性化商業(yè)決策都將增強(qiáng)消費(fèi)者對(duì)于“軸心”經(jīng)營(yíng)者的用戶粘性,進(jìn)而固化、強(qiáng)化數(shù)字經(jīng)濟(jì)中的輻條式交易結(jié)構(gòu)。
顯而易見(jiàn),數(shù)字經(jīng)濟(jì)輻條式交易模式形塑的經(jīng)營(yíng)者與消費(fèi)者之間的地位落差遠(yuǎn)非是依靠消費(fèi)者自身就可以彌補(bǔ)的。在數(shù)字經(jīng)濟(jì)場(chǎng)域下,經(jīng)營(yíng)者的強(qiáng)勢(shì)地位使“互換性”這一抽象交易范式消費(fèi)者權(quán)益保護(hù)的理論內(nèi)核不再自洽——抽象交易范式認(rèn)為由于市場(chǎng)經(jīng)濟(jì)中商品服務(wù)的提供者和需求者之間存在角色互換,主體間的實(shí)力差異將因“今日消費(fèi)者,明日經(jīng)營(yíng)者”的不斷轉(zhuǎn)換而抵消,故無(wú)須特別考慮消費(fèi)者的特殊性,只要制定針對(duì)市場(chǎng)交易過(guò)程的普遍規(guī)范即可。③而顯然,就數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用而言,當(dāng)經(jīng)營(yíng)者對(duì)消費(fèi)者使用了情感計(jì)算,消費(fèi)者當(dāng)下或者未來(lái)能夠進(jìn)行角色互換以同樣的情感計(jì)算技術(shù)進(jìn)行反制與回應(yīng)嗎?抽象交易范式的消費(fèi)者權(quán)益保護(hù)本質(zhì)上是一種形式的平等,即從抽象的法律人格維度要求法律的平等對(duì)待。但其全然未慮及現(xiàn)實(shí)世界中個(gè)體的異質(zhì)性,將市場(chǎng)主體之間經(jīng)濟(jì)、社會(huì)等方面的不平等置之一旁而不顧。其對(duì)于市場(chǎng)經(jīng)濟(jì)自由競(jìng)爭(zhēng)后消費(fèi)者實(shí)質(zhì)弱勢(shì)地位的忽視,將會(huì)導(dǎo)致強(qiáng)者愈強(qiáng)、弱者愈弱的馬太效應(yīng),并可能陷入社會(huì)達(dá)爾文主義的行動(dòng)窠臼。因此消費(fèi)者作為數(shù)字經(jīng)濟(jì)中、特別是情感計(jì)算應(yīng)用中的絕對(duì)弱勢(shì)主體,應(yīng)當(dāng)被放置在數(shù)字經(jīng)濟(jì)的輻條式交易結(jié)構(gòu)中進(jìn)行權(quán)利義務(wù)審察。由此也就不難發(fā)現(xiàn),為何要在具體交易場(chǎng)景下強(qiáng)調(diào)對(duì)消費(fèi)者的特別保護(hù)。
(2)情感計(jì)算的集體性分散損害
在德國(guó)法中,集體性分散損害是指單個(gè)損害事件對(duì)多人造成損害的情形,其主要表征為單個(gè)受害者遭受的損失十分微小,甚至不及最低損害標(biāo)準(zhǔn),但所有個(gè)體的損害之和卻達(dá)到了可觀的量級(jí)。①即其具有范圍的廣泛性、個(gè)體的細(xì)微性以及總體的規(guī)模性特點(diǎn)。集體性分散損害被認(rèn)為是數(shù)字時(shí)代具有代表性的一種侵權(quán)責(zé)任類型,其也常被稱為“大規(guī)模微型侵害”。②在數(shù)字經(jīng)濟(jì)中,情感計(jì)算對(duì)于消費(fèi)者產(chǎn)生的系統(tǒng)性權(quán)益損害風(fēng)險(xiǎn)就將這種損害體現(xiàn)得彰明較著。
如上所述,數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用可能對(duì)消費(fèi)者的多項(xiàng)權(quán)利造成損害。而展開(kāi)來(lái)看,第一,數(shù)字經(jīng)濟(jì)的輻條式交易結(jié)構(gòu)決定了這種損害的廣泛性與分散性。在數(shù)字經(jīng)濟(jì)中任何不特定的消費(fèi)者都有可能成為情感計(jì)算的“算計(jì)”對(duì)象。第二,實(shí)踐中隱私權(quán)與個(gè)人信息權(quán)的損害常體現(xiàn)為“微型損害”,③消費(fèi)者公平交易權(quán)、知情權(quán)的損害則內(nèi)嵌于市場(chǎng)結(jié)構(gòu)而具有間接性的特征,消費(fèi)者受尊重權(quán)又多依靠?jī)r(jià)值判斷而非規(guī)則判斷,再加上情感計(jì)算的隱蔽性將使經(jīng)營(yíng)者對(duì)消費(fèi)者權(quán)益的侵害往往發(fā)生于無(wú)形之中,因而情感計(jì)算造成的消費(fèi)者權(quán)益損害在直觀上、個(gè)體上一般體現(xiàn)得并不明顯。第三,數(shù)字經(jīng)濟(jì)中情感計(jì)算面向消費(fèi)者的廣泛實(shí)施將使上述面向個(gè)體的、分散的、微型的損害在整體上聚合,進(jìn)而導(dǎo)致數(shù)字經(jīng)濟(jì)中消費(fèi)者群體需要承擔(dān)規(guī)模性的權(quán)益損害風(fēng)險(xiǎn)。
要言之,在情感計(jì)算的應(yīng)用中,消費(fèi)者與經(jīng)營(yíng)者所承擔(dān)風(fēng)險(xiǎn)的質(zhì)與量完全不同。就質(zhì)而言,經(jīng)營(yíng)者所承擔(dān)的是經(jīng)濟(jì)風(fēng)險(xiǎn),而消費(fèi)者除了承擔(dān)公平交易權(quán)等權(quán)益受損所帶來(lái)的經(jīng)濟(jì)風(fēng)險(xiǎn)外,還必須承擔(dān)在隱私權(quán)等方面的人格風(fēng)險(xiǎn);就量而言,經(jīng)營(yíng)者承擔(dān)的風(fēng)險(xiǎn)是相對(duì)量化的、個(gè)體的,而消費(fèi)者所承擔(dān)的風(fēng)險(xiǎn)則是彌散的、群體的。情感計(jì)算的這種集體性分散損害突破了寄希望于維護(hù)交易主體抽象平等地位進(jìn)行消費(fèi)者保護(hù)的抽象交易范式假定。其對(duì)于消費(fèi)者整體的大規(guī)模損害及其背后經(jīng)營(yíng)者聚沙成塔的額外利潤(rùn)攫取,要求必須著眼于具體交易對(duì)經(jīng)營(yíng)者與消費(fèi)者的關(guān)系進(jìn)行制度性糾偏。
(3)國(guó)家干預(yù)的現(xiàn)代化模式轉(zhuǎn)型
強(qiáng)調(diào)機(jī)會(huì)自由、契約自由的抽象交易范式消費(fèi)者權(quán)益保護(hù)本質(zhì)上是功利主義法哲學(xué)的具象,而功利主義的平等觀、自由觀勢(shì)必會(huì)導(dǎo)致平等與自由的濫用,繼而使消費(fèi)者在所謂的“充分競(jìng)爭(zhēng)”中成為最終的受害者。具體交易范式的消費(fèi)者權(quán)益保護(hù)以及包括消費(fèi)者權(quán)益保護(hù)法在內(nèi)的現(xiàn)代經(jīng)濟(jì)法背后的國(guó)家干預(yù)理論的產(chǎn)生,不僅是價(jià)值層面對(duì)傳統(tǒng)功利主義的深刻反思以及實(shí)質(zhì)正義論對(duì)形式正義論的取代,更源于經(jīng)濟(jì)結(jié)構(gòu)演變進(jìn)程中市場(chǎng)內(nèi)關(guān)于國(guó)家角色與“看得見(jiàn)的手”的認(rèn)知更新與定位重構(gòu)。所以這也是經(jīng)濟(jì)法的國(guó)家干預(yù)理論所強(qiáng)調(diào)的,國(guó)家的干預(yù)實(shí)踐必須協(xié)同市場(chǎng)的干預(yù)需求,與場(chǎng)域中的干預(yù)需求相耦合。即,國(guó)家干預(yù)的模式應(yīng)當(dāng)契合場(chǎng)域(市場(chǎng))的變遷。④
當(dāng)前,在全力推進(jìn)中國(guó)式現(xiàn)代化的進(jìn)程中,現(xiàn)代化市場(chǎng)經(jīng)濟(jì)的新演化及其對(duì)消費(fèi)者權(quán)益產(chǎn)生的新影響也要求國(guó)家對(duì)于消費(fèi)者與經(jīng)營(yíng)者關(guān)系的干預(yù)進(jìn)行模式轉(zhuǎn)換。邁向數(shù)字社會(huì)的現(xiàn)代化轉(zhuǎn)型使數(shù)字經(jīng)濟(jì)成為推動(dòng)中國(guó)經(jīng)濟(jì)增長(zhǎng)的主引擎,消費(fèi)也成為深化供給側(cè)改革的動(dòng)力源泉與雙循環(huán)發(fā)展的核心支點(diǎn)。由此“傳統(tǒng)的以‘生產(chǎn)(者)為中心的產(chǎn)銷——從生產(chǎn)、銷售到消費(fèi)的科層式和非對(duì)稱性結(jié)構(gòu)正面臨解體和重構(gòu),新型的以‘消費(fèi)(者)為中心的產(chǎn)消——從消費(fèi)到生產(chǎn)的扁平化和共融性結(jié)構(gòu)正在形成”。①在數(shù)字時(shí)代“生產(chǎn)者社會(huì)”向“消費(fèi)者社會(huì)”進(jìn)行現(xiàn)代化轉(zhuǎn)型的背景下,社會(huì)經(jīng)濟(jì)的發(fā)展必然要摒棄過(guò)去的“低成本發(fā)展模式”,即通過(guò)削減經(jīng)營(yíng)者義務(wù)與抑制消費(fèi)者權(quán)利的方式來(lái)降低經(jīng)濟(jì)的發(fā)展成本,置換經(jīng)濟(jì)的高速增長(zhǎng)?!暗统杀景l(fā)展模式”本質(zhì)上是一種生產(chǎn)者主權(quán)的市場(chǎng)經(jīng)濟(jì),而早在18世紀(jì)亞當(dāng)·斯密對(duì)重商主義進(jìn)行批判時(shí)就曾談道:“生產(chǎn)的目的是為了滿足消費(fèi)需求,只有消費(fèi)者的利益得到維護(hù)時(shí),生產(chǎn)者的利益才能得到保障。”②所以經(jīng)濟(jì)社會(huì)的現(xiàn)代化轉(zhuǎn)型需要消費(fèi)者主權(quán)市場(chǎng)經(jīng)濟(jì)的塑造,而這就需要“全面提升消費(fèi)服務(wù)質(zhì)量”和“全面提升市場(chǎng)監(jiān)管能力”,二者分別重在改善消費(fèi)環(huán)境和提升消費(fèi)者權(quán)益保護(hù)水平。③概言之,市場(chǎng)經(jīng)濟(jì)現(xiàn)代化轉(zhuǎn)型背景下的消費(fèi)者權(quán)益保護(hù)以及由此推及的數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用的消費(fèi)者權(quán)益保護(hù),不僅需要國(guó)家的消極義務(wù),也仰賴于國(guó)家積極義務(wù)的履行。抽象交易范式下國(guó)家“守夜人”的身份定位以及根據(jù)所謂自由競(jìng)爭(zhēng)、意思自治而對(duì)于消費(fèi)者權(quán)益損害采取的“鴕鳥政策”,應(yīng)當(dāng)為具體交易范式下基于現(xiàn)代化治理要求而調(diào)適的、更積極有為的消費(fèi)者權(quán)益國(guó)家干預(yù)模式所替代。
2.具體交易范式消費(fèi)者權(quán)益保護(hù)的原則
(1)傾斜式保護(hù)立場(chǎng)
“作為最典型的弱勢(shì)當(dāng)事人,消費(fèi)者在現(xiàn)代法上的登場(chǎng)顯在地表明,傳統(tǒng)合同法上人的冷漠抽象與社會(huì)現(xiàn)實(shí)中合同當(dāng)事人的參差鮮活以及近代民法所設(shè)想的交易理想模式與現(xiàn)實(shí)模式之間的隔閡,隨時(shí)代變遷而加劇?!雹芤虼讼M(fèi)者權(quán)益保護(hù)具體交易范式的核心就在于,通過(guò)識(shí)別消費(fèi)者較經(jīng)營(yíng)者的全方位之弱,對(duì)消費(fèi)者進(jìn)行傾斜式保護(hù)。就面向消費(fèi)者的情感計(jì)算應(yīng)用而言,如前文所述,數(shù)字經(jīng)濟(jì)的結(jié)構(gòu)特征、情感計(jì)算的自身特性都強(qiáng)化了消費(fèi)者與經(jīng)營(yíng)者之間的不平等關(guān)系。因此為構(gòu)造實(shí)質(zhì)平等的法秩序,就有必要植根法律父愛(ài)主義的價(jià)值立場(chǎng)、采取不對(duì)稱家長(zhǎng)制(asymmetric paternalism)的行動(dòng)策略,關(guān)注情感計(jì)算應(yīng)用中消費(fèi)者這一“處于社會(huì)弱勢(shì)群體的、現(xiàn)實(shí)的人”,通過(guò)對(duì)“‘從身份到契約這一法律發(fā)展模式的反動(dòng)”來(lái)對(duì)消費(fèi)者進(jìn)行傾斜式的保護(hù)。⑤而“若平等權(quán)在立法者未依理智的,根據(jù)事務(wù)之本質(zhì)以及有充分之理由,就徑予為區(qū)別待遇規(guī)定,即屬違憲之恣意”。⑥從憲法層面來(lái)看,具體交易范式著眼于具體交易對(duì)消費(fèi)者的傾斜保護(hù)實(shí)際上體現(xiàn)的也正是“事務(wù)本質(zhì)說(shuō)”的平等權(quán)判斷范式。
(2)法定化權(quán)益保障
消費(fèi)者權(quán)益保護(hù)的具體交易范式作為對(duì)抽象交易范式的揚(yáng)棄,在傾斜式保護(hù)立場(chǎng)的基礎(chǔ)上,強(qiáng)調(diào)“通過(guò)消費(fèi)者權(quán)利的法定化,實(shí)現(xiàn)具體交易中消費(fèi)者權(quán)益保護(hù)的目標(biāo)”。⑦詳言之,第一,“消費(fèi)者權(quán)利,與其說(shuō)是權(quán)利,不如說(shuō)是‘作為弱者的消費(fèi)者的失地回復(fù)的手段”,⑧具體交易范式下的消費(fèi)者保護(hù)體現(xiàn)的是通過(guò)賦權(quán)消費(fèi)者促使消費(fèi)者與經(jīng)營(yíng)者關(guān)系天平動(dòng)態(tài)平衡的過(guò)程。這種“失地收復(fù)的手段”與“平衡天平的砝碼”如果得不到法定化確認(rèn),自然就會(huì)因缺乏執(zhí)行力、公信力、權(quán)威性而成為空中樓閣。第二,具體交易范式強(qiáng)調(diào)的對(duì)消費(fèi)者的賦權(quán),其反面實(shí)質(zhì)上就是對(duì)經(jīng)營(yíng)者權(quán)利、私法自治的消極限制以及對(duì)經(jīng)營(yíng)者義務(wù)的賦予,而國(guó)家干預(yù)對(duì)于經(jīng)營(yíng)者與消費(fèi)者關(guān)系的介入,體現(xiàn)的也是公權(quán)力對(duì)市場(chǎng)機(jī)制的干涉。根據(jù)法治原則,任何權(quán)利的限制、義務(wù)的增予以及自由的干涉都應(yīng)于法有據(jù)。因此未來(lái)也應(yīng)當(dāng)從追求權(quán)利法定、實(shí)然權(quán)利的立場(chǎng)出發(fā),通過(guò)對(duì)情感計(jì)算應(yīng)用中消費(fèi)者應(yīng)享有權(quán)利的規(guī)則化構(gòu)造與制度化確認(rèn),明確經(jīng)營(yíng)者的行為禁制進(jìn)而確定政府介入兩者關(guān)系的條件、權(quán)限與范圍,實(shí)現(xiàn)消費(fèi)者權(quán)益的法治化保護(hù)。
(3)專門性規(guī)范塑造
鄧正來(lái)在《中國(guó)法學(xué)向何處去》中,曾批判了消費(fèi)者權(quán)益保護(hù)領(lǐng)域的研究將消費(fèi)者視為一個(gè)同質(zhì)現(xiàn)代主體而忽略了其中差異性的傾向。①就數(shù)字經(jīng)濟(jì)中被“情感計(jì)算”的消費(fèi)者而言,如上文所闡釋的,其可能的權(quán)益損害就與非數(shù)字經(jīng)濟(jì)環(huán)境下或者其他智能技術(shù)指向下的權(quán)益損害存在內(nèi)在與外顯的多重區(qū)別。具體交易范式之所以更適合情感計(jì)算應(yīng)用中的消費(fèi)者權(quán)益保護(hù),核心在于其著眼于具體交易的特征可以發(fā)現(xiàn)消費(fèi)者異質(zhì)性或進(jìn)行消費(fèi)者細(xì)分,而非抽象交易范式所認(rèn)為的消費(fèi)者與經(jīng)營(yíng)者的抽象平等。有鑒于此,關(guān)注具體交易中消費(fèi)者權(quán)益保護(hù)的具體交易范式就應(yīng)當(dāng)根據(jù)場(chǎng)景公正(contextual integrity)的原理,通過(guò)解構(gòu)與識(shí)別情感計(jì)算應(yīng)用場(chǎng)景下的消費(fèi)者與一般情境下消費(fèi)者在自身特質(zhì)、權(quán)益損害、維權(quán)困境等方面的差異,有針對(duì)性地進(jìn)行專門性規(guī)范塑造,實(shí)現(xiàn)對(duì)情感計(jì)算應(yīng)用環(huán)境下消費(fèi)者的周延保護(hù)與傾斜保護(hù)。
四、制度因應(yīng):數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用消費(fèi)者權(quán)益保護(hù)的規(guī)則建構(gòu)
在數(shù)字經(jīng)濟(jì)中,面向消費(fèi)者的情感計(jì)算應(yīng)用具有較強(qiáng)的雙刃性、反噬性、風(fēng)險(xiǎn)性,可能產(chǎn)生對(duì)消費(fèi)者權(quán)益的系統(tǒng)損害。因此立基消費(fèi)者權(quán)益保護(hù)的具體交易范式及其方法論指引,下一階段應(yīng)當(dāng)根據(jù)數(shù)字經(jīng)濟(jì)的場(chǎng)景特征建構(gòu)一套能夠有效規(guī)控情感計(jì)算應(yīng)用、有效保護(hù)其應(yīng)用中消費(fèi)者權(quán)益的規(guī)則方案。
1.邊界設(shè)置:數(shù)據(jù)最小化原則的全面嵌入
2018年,歐盟實(shí)施的《通用數(shù)據(jù)保護(hù)條例》(GDPR)在世界范圍內(nèi)率先確立了“數(shù)據(jù)最小化原則”。在我國(guó),從《民法典》第1035條規(guī)定的“不得過(guò)度處理”(not excessive)個(gè)人信息的禁止性、不作為義務(wù),到《個(gè)保法》第6條和第19條明確的個(gè)人信息收集保存應(yīng)當(dāng)“限于最小范圍、最短時(shí)間”(limited to)的命令性、積極義務(wù),立法表述的變化也體現(xiàn)了我國(guó)立法者對(duì)于數(shù)據(jù)最小化的鮮明立場(chǎng)。②因此在數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用與消費(fèi)者個(gè)人信息權(quán)、隱私權(quán)存在明顯張力的情況下,未來(lái)就可以通過(guò)數(shù)據(jù)最小化原則在情感計(jì)算商業(yè)化應(yīng)用中的全面嵌入,為經(jīng)營(yíng)者的數(shù)據(jù)行為劃定合理邊界。
首先是基于數(shù)據(jù)風(fēng)險(xiǎn)類型的差異化邊界構(gòu)造。第一,將情感計(jì)算應(yīng)用所涉及的消費(fèi)者數(shù)據(jù)分為“有風(fēng)險(xiǎn)”和“無(wú)風(fēng)險(xiǎn)”兩大類。情感計(jì)算所涉及的消費(fèi)者數(shù)據(jù)雖然大多為具有涉身性的個(gè)人數(shù)據(jù),但其中也有部分?jǐn)?shù)據(jù)不與個(gè)人關(guān)聯(lián)、不屬于個(gè)人數(shù)據(jù)。③因此對(duì)于此類無(wú)害于消費(fèi)者隱私權(quán)和個(gè)人信息權(quán)的數(shù)據(jù),就無(wú)須進(jìn)行專門的最小化規(guī)則限制。而對(duì)于人臉、聲紋等能夠定位到個(gè)人、具有權(quán)益損害風(fēng)險(xiǎn)的情感數(shù)據(jù),則應(yīng)當(dāng)進(jìn)一步劃定差異化的處理邊界。第二,將“有風(fēng)險(xiǎn)”數(shù)據(jù)分為“高風(fēng)險(xiǎn)”和“低風(fēng)險(xiǎn)”兩類。如就穩(wěn)定性而言,面部等生理數(shù)據(jù)較操作記錄、肢體語(yǔ)言等行為數(shù)據(jù)更加穩(wěn)定和不易改變、更易于指向個(gè)人;就隱蔽性而言,表情、眼動(dòng)數(shù)據(jù)能夠被秘密無(wú)接觸地收集,而呼吸、心電等數(shù)據(jù)的收集則需要通過(guò)介質(zhì)或儀器;就危害性而言,人臉、聲音較其他類型的數(shù)據(jù)在深度偽造普及的時(shí)代對(duì)主體的危害更加彌散。④因此在情感計(jì)算應(yīng)用的規(guī)制中,就應(yīng)當(dāng)將上述各場(chǎng)景中的前者判定為高風(fēng)險(xiǎn)數(shù)據(jù),將后者判定為低風(fēng)險(xiǎn)數(shù)據(jù)。然后基于風(fēng)險(xiǎn)等級(jí)的不同,將高風(fēng)險(xiǎn)數(shù)據(jù)與低風(fēng)險(xiǎn)數(shù)據(jù)在數(shù)據(jù)總體體量與具體顆粒度等方面劃定差異化的最小化邊界。
其次是基于數(shù)據(jù)處理流程的場(chǎng)景化方案設(shè)計(jì)。第一,在數(shù)據(jù)收集、儲(chǔ)存階段,如英國(guó)對(duì)GDPR數(shù)據(jù)最小化條款進(jìn)行解釋時(shí)強(qiáng)調(diào)的,企業(yè)擁有的個(gè)人數(shù)據(jù)取決于收集和使用個(gè)人數(shù)據(jù)的具體目的,它可能因人而異。①基于情感計(jì)算應(yīng)用的差異化、個(gè)性化、定制化功能,可以通過(guò)設(shè)定消費(fèi)者信息門戶等,使消費(fèi)者能夠自行訪問(wèn)并配置隱私菜單,確定情感計(jì)算應(yīng)用中經(jīng)營(yíng)者可以收集、儲(chǔ)存的個(gè)人情感數(shù)據(jù)的類型、頻率、數(shù)量、期限。第二,在數(shù)據(jù)使用、加工階段,根據(jù)《個(gè)保法》第9條、《消保法》第29條賦予個(gè)人信息處理者、經(jīng)營(yíng)者的信息安全必要措施義務(wù),可以要求經(jīng)營(yíng)者在情感計(jì)算應(yīng)用中應(yīng)優(yōu)先使用隱私計(jì)算等去標(biāo)識(shí)化技術(shù)、瞬時(shí)決策的數(shù)據(jù)實(shí)時(shí)處理技術(shù)、“用后即焚”的信息自毀技術(shù)等。第三,在數(shù)據(jù)傳輸、公開(kāi)等環(huán)節(jié),將推薦性國(guó)家標(biāo)準(zhǔn)《信息安全技術(shù)個(gè)人信息安全規(guī)范》(GB/T 35273-2020)中的授權(quán)同意制度進(jìn)行明確與細(xì)化,參照商業(yè)秘密保護(hù)制度中的接觸范圍控制原則,建立具有約束力的最小授權(quán)制度。即,經(jīng)營(yíng)者應(yīng)當(dāng)授權(quán)最少的操作人員接觸最少的消費(fèi)者個(gè)人情感信息,并盡可能地將完整個(gè)人情感畫像涉及的數(shù)據(jù)分割到不同的崗位和環(huán)節(jié)。
2.交易公平:倫理法治相耦合的禁制厘定
數(shù)字經(jīng)濟(jì)中,情感計(jì)算的單方面賦能使經(jīng)營(yíng)者較消費(fèi)者在工具、信息等維度具有全方位優(yōu)勢(shì),再加之這種參差賦權(quán)內(nèi)嵌于數(shù)字經(jīng)濟(jì)輻條式的交易結(jié)構(gòu),情感計(jì)算應(yīng)用場(chǎng)景下消費(fèi)者難以實(shí)現(xiàn)與經(jīng)營(yíng)者之間的實(shí)質(zhì)交易公平。因此鑒于情感計(jì)算規(guī)制中倫理的價(jià)值評(píng)判有助于對(duì)法律的規(guī)范評(píng)價(jià)進(jìn)行合目的性審查,②情感計(jì)算應(yīng)用中的消費(fèi)者權(quán)益保護(hù)可以遵循情感倫理與消費(fèi)法治相結(jié)合的原則,設(shè)定交易公平要求下情感計(jì)算的應(yīng)用禁制,避免經(jīng)營(yíng)者在數(shù)字經(jīng)濟(jì)中依靠情感計(jì)算技術(shù)恃強(qiáng)凌弱。
首先,經(jīng)營(yíng)者不得利用情感計(jì)算進(jìn)行消費(fèi)者歧視。就像有批評(píng)者質(zhì)疑的,看似科學(xué)但存在嚴(yán)重技術(shù)瓶頸的情感計(jì)算對(duì)人的差異對(duì)待與“種族科學(xué)”或“面相學(xué)”“顱相學(xué)”何異?③在情感計(jì)算科學(xué)性尚不完備的情況下,經(jīng)營(yíng)者對(duì)消費(fèi)者的情緒識(shí)別以及進(jìn)一步的個(gè)性化、差異化、定制化服務(wù)與決策,應(yīng)當(dāng)實(shí)現(xiàn)情感計(jì)算數(shù)字紅利的分配正義。詳言之,在情感采集識(shí)別中,應(yīng)當(dāng)將消費(fèi)者歧視禁止要求與數(shù)據(jù)最小化原則相銜接,禁止頻繁采集甚至禁止采集特定用戶的情緒、特定的情緒類型、特定環(huán)境下的用戶情緒等,以此避免情感計(jì)算算法在自我學(xué)習(xí)中形成偏見(jiàn)。在情感畫像表達(dá)中,一方面應(yīng)注意到不同場(chǎng)景、情境下消費(fèi)者情緒外現(xiàn)的差異性,避免將消費(fèi)者的普遍性情感特殊畫像于消費(fèi)者個(gè)體,將消費(fèi)者的個(gè)體性、偶發(fā)性情感普遍性地歸于消費(fèi)者群體或作為個(gè)體消費(fèi)者的情緒全景;另一方面,對(duì)于消費(fèi)者情感特征表達(dá)、標(biāo)簽的設(shè)置不應(yīng)采取諸如“易怒”“狂躁”等歧視性、主觀性的表述。而在情感計(jì)算決策中,應(yīng)當(dāng)結(jié)合《信息安全技術(shù)個(gè)人信息安全規(guī)范》對(duì)于用戶畫像的合法性要求、銜接下文闡釋的消費(fèi)者情感計(jì)算拒絕權(quán)規(guī)則,明確經(jīng)營(yíng)者不得利用情感計(jì)算的識(shí)別分析對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。
其次,經(jīng)營(yíng)者不得利用情感計(jì)算控制操縱消費(fèi)者情感。從倫理學(xué)的視角來(lái)看,情感作為一種主體性的信息表達(dá),其不僅具有極高的倫理地位,還關(guān)系到社會(huì)整體正義。因此,為保障數(shù)字經(jīng)濟(jì)中的交易公平,經(jīng)營(yíng)者情感計(jì)算的應(yīng)用不應(yīng)產(chǎn)生對(duì)消費(fèi)者情感的控制操縱作用。即,一是避免情感計(jì)算的“惡用”。情感計(jì)算的惡用主要是指超越法律禁區(qū)與倫理禁區(qū)的不正當(dāng)目的情感計(jì)算應(yīng)用。如利用未成年人、殘疾人等特殊群體人性上的弱點(diǎn)進(jìn)行針對(duì)性應(yīng)用等。對(duì)于情感計(jì)算的惡意應(yīng)用,應(yīng)當(dāng)被嚴(yán)格禁止。二是避免情感計(jì)算的“濫用”。情感計(jì)算不分場(chǎng)合、群體的濫用將導(dǎo)致消費(fèi)者陷入算法牢籠、情緒繭房與情感意義上的全景監(jiān)獄,并最終使消費(fèi)者被經(jīng)營(yíng)者情感規(guī)訓(xùn)。根據(jù)以上要求,數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者情感計(jì)算的應(yīng)用應(yīng)當(dāng)尊重消費(fèi)者的情感自由與選擇自由,不能增加消費(fèi)者的情感負(fù)擔(dān)與消費(fèi)負(fù)擔(dān),如不能針對(duì)消費(fèi)者自身的情感狀況以“販賣焦慮”或進(jìn)行“情感綁架”“道德綁架”等方式促使消費(fèi)者消費(fèi)。除此之外,數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者面對(duì)未成年人、精神病人等特殊群體的情感計(jì)算應(yīng)用,應(yīng)當(dāng)設(shè)定更嚴(yán)格的專門規(guī)則。
3.說(shuō)明義務(wù):情感采集與應(yīng)用的貫通解釋
從《個(gè)保法》第73條第2款可以看出,數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用與自動(dòng)化決策存在著一定的混同。經(jīng)營(yíng)者對(duì)于情感采集應(yīng)用的貫通解釋,與自動(dòng)化決策的分析框架具有較強(qiáng)的互耦性。依據(jù)《個(gè)保法》第24條第1款的規(guī)定,數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用“應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正”。因此結(jié)合《消保法》第29條規(guī)定的經(jīng)營(yíng)者收集、使用消費(fèi)者個(gè)人信息要“明示目的”“公開(kāi)規(guī)則”,經(jīng)營(yíng)者應(yīng)負(fù)有對(duì)消費(fèi)者個(gè)人情感信息如何被收集、處理以及信息使用目的、狀態(tài)等詳盡內(nèi)容進(jìn)行解釋說(shuō)明的義務(wù)。
首先,經(jīng)營(yíng)者應(yīng)當(dāng)對(duì)情感計(jì)算采集消費(fèi)者數(shù)據(jù)信息的情況進(jìn)行解釋說(shuō)明。如上文所述,由于消費(fèi)者的情感信息與個(gè)人生物識(shí)別信息或個(gè)人身份信息具有較強(qiáng)的交叉性,因此對(duì)于經(jīng)營(yíng)者此義務(wù)的強(qiáng)調(diào)也是情感計(jì)算應(yīng)用中數(shù)據(jù)最小化原則的延伸。正如情感計(jì)算技術(shù)應(yīng)用機(jī)理所揭示的,其定制化、個(gè)性化、差異化的服務(wù)與決策來(lái)源于對(duì)不同消費(fèi)者情緒特征的標(biāo)注、歸納與分析。因此經(jīng)營(yíng)者對(duì)于消費(fèi)者情感數(shù)據(jù)信息采集識(shí)別的解釋說(shuō)明,核心就在于此數(shù)據(jù)信息與經(jīng)營(yíng)者后續(xù)推薦、決策等商業(yè)活動(dòng)的相關(guān)性,即對(duì)情感數(shù)據(jù)也就是算法變量(情感變量)如何影響情感的計(jì)算、計(jì)算中不同情感信息的功能權(quán)重等進(jìn)行解釋。
其次,經(jīng)營(yíng)者應(yīng)當(dāng)對(duì)情感計(jì)算具體應(yīng)用的邏輯機(jī)理進(jìn)行解釋說(shuō)明。經(jīng)營(yíng)者與消費(fèi)者對(duì)于情感計(jì)算的對(duì)稱知情,核心要義在于確保消費(fèi)者對(duì)于情感計(jì)算的運(yùn)行能夠認(rèn)識(shí)理解、對(duì)于情感計(jì)算的決策形成穩(wěn)定預(yù)期。①由于情感計(jì)算技術(shù)構(gòu)成的復(fù)雜性,此處經(jīng)營(yíng)者的解釋義務(wù)并不要求其對(duì)情感計(jì)算運(yùn)行邏輯的每個(gè)細(xì)節(jié)進(jìn)行說(shuō)明,而是要求其在基礎(chǔ)技術(shù)框架上對(duì)情感計(jì)算的機(jī)理、模型、目的展開(kāi)說(shuō)明。譬如,當(dāng)消費(fèi)者因自身權(quán)益受到情感計(jì)算影響而要求經(jīng)營(yíng)者對(duì)情感計(jì)算的應(yīng)用進(jìn)行解釋時(shí),經(jīng)營(yíng)者就應(yīng)圍繞情感計(jì)算的技術(shù)機(jī)理(情感數(shù)據(jù)一情感畫像一情感決策)、標(biāo)準(zhǔn)模型(單模態(tài)、多模態(tài))、目的意義(差異化廣告營(yíng)銷、定制化消費(fèi)服務(wù)、個(gè)性化商業(yè)決策)等基本問(wèn)題展開(kāi)說(shuō)明解釋。
鑒于情感計(jì)算中消費(fèi)者與經(jīng)營(yíng)者的信息不對(duì)稱與知情不對(duì)稱是源于數(shù)字經(jīng)濟(jì)市場(chǎng)結(jié)構(gòu)的內(nèi)生性問(wèn)題,單純依靠市場(chǎng)力量難以有效改變,因此未來(lái)可以通過(guò)進(jìn)一步規(guī)范供給對(duì)市場(chǎng)結(jié)構(gòu)進(jìn)行制度性糾偏,推動(dòng)經(jīng)營(yíng)者情感計(jì)算解釋說(shuō)明義務(wù)的實(shí)質(zhì)履行。具體而言,下一階段國(guó)家層面應(yīng)當(dāng)盡快出臺(tái)針對(duì)情感計(jì)算應(yīng)用的專項(xiàng)規(guī)范。其中,一是可以將情感計(jì)算的法律規(guī)制與算法備案制度相聯(lián)接,將涉情感采集、識(shí)別、決策、表達(dá)、干預(yù)、影響的算法納入備案范疇,以有序推動(dòng)數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用的透明化;二是明確經(jīng)營(yíng)者情感計(jì)算應(yīng)用的貫通解釋義務(wù),將涉情感內(nèi)容統(tǒng)籌納入經(jīng)營(yíng)者算法解釋義務(wù)框架內(nèi),并細(xì)化為對(duì)消費(fèi)者的標(biāo)識(shí)義務(wù)、提示義務(wù)等,從而保障消費(fèi)者在情感計(jì)算方面知情權(quán)的有效實(shí)現(xiàn)。
4.拒絕權(quán)利:免于算法加情感的雙重支配
在情感計(jì)算可能對(duì)消費(fèi)者進(jìn)行普遍的可誤性化約的情況下,明確消費(fèi)者對(duì)于情感計(jì)算的拒絕權(quán),應(yīng)當(dāng)是在具體交易范式下強(qiáng)化情感計(jì)算應(yīng)用中消費(fèi)者人格尊嚴(yán)保障的必要之舉。下一階段,可以通過(guò)以下兩個(gè)方面的舉措賦予消費(fèi)者對(duì)于情感計(jì)算的拒絕權(quán)。
首先是自動(dòng)化決策拒絕權(quán)的內(nèi)涵擴(kuò)張。延續(xù)上一部分《個(gè)保法》自動(dòng)化決策條款的分析框架,在第24條中立法者除了給經(jīng)營(yíng)者施加了實(shí)施自動(dòng)化決策時(shí)的透明義務(wù)與說(shuō)明義務(wù),還賦予了消費(fèi)者拒絕自動(dòng)化決策的權(quán)利。但是參照GDPR第21條、第22條關(guān)于自動(dòng)化決策拒絕權(quán)與自決權(quán)的規(guī)定可以發(fā)現(xiàn),《個(gè)保法》第24條賦予消費(fèi)者的自動(dòng)化決策拒絕權(quán)仍存在一定的局限性,“信息推送”“商業(yè)營(yíng)銷”的領(lǐng)域限定使其適用范圍較為狹窄、規(guī)范的形式性較強(qiáng),①難以覆蓋數(shù)字經(jīng)濟(jì)中情感計(jì)算的應(yīng)用。因此在2022年正式施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已經(jīng)明確了消費(fèi)者享有拒絕、關(guān)閉算法推薦服務(wù)權(quán)利,且該條款已經(jīng)在實(shí)質(zhì)上擴(kuò)大了《個(gè)保法》下自動(dòng)化決策拒絕權(quán)適用范圍的情況下,可以進(jìn)一步將該權(quán)利納入算法用戶(消費(fèi)者)的法定權(quán)利圖譜,使其由部門規(guī)章中行政機(jī)關(guān)算法法律監(jiān)管的規(guī)范依據(jù)生長(zhǎng)為數(shù)字經(jīng)濟(jì)場(chǎng)景下消費(fèi)者的私法權(quán)利,從而在自動(dòng)化決策拒絕權(quán)的規(guī)范架構(gòu)下,使消費(fèi)者享有對(duì)于情感計(jì)算的拒絕權(quán)利,避免消費(fèi)者遭受情感計(jì)算的普遍宰制。
其次是消費(fèi)者自主選擇權(quán)的規(guī)范重識(shí)。當(dāng)前雖然我國(guó)《消保法》第9條確認(rèn)了“消費(fèi)者享有自主選擇商品或者服務(wù)的權(quán)利”以及該權(quán)利的行使范圍和方式,但數(shù)字經(jīng)濟(jì)場(chǎng)域中輻條式市場(chǎng)結(jié)構(gòu)將進(jìn)一步拉大消費(fèi)者與經(jīng)營(yíng)者的地位差距并阻礙消費(fèi)者實(shí)質(zhì)選擇自由的實(shí)現(xiàn),特別是在經(jīng)營(yíng)者應(yīng)用情感計(jì)算的場(chǎng)景中,消費(fèi)者面臨的工具與信息障礙將使其自主選擇權(quán)明顯受限,而消費(fèi)者還可能被情感計(jì)算進(jìn)一步地化約和支配。因此在社會(huì)經(jīng)濟(jì)的物質(zhì)基礎(chǔ)已經(jīng)發(fā)生深刻改變的情況下,《消保法》作為上層建筑理應(yīng)及時(shí)回應(yīng),消費(fèi)者自主選擇權(quán)條款應(yīng)當(dāng)與《個(gè)保法》相銜接,在解釋學(xué)方法下進(jìn)行擴(kuò)張與重識(shí)。詳言之,當(dāng)下隨著各類型算法已經(jīng)成為數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施,經(jīng)營(yíng)者利用情感計(jì)算面向消費(fèi)者實(shí)施的差異化廣告營(yíng)銷、定制化消費(fèi)服務(wù)與個(gè)性化商業(yè)決策都應(yīng)屬于數(shù)字經(jīng)濟(jì)場(chǎng)景下消費(fèi)者自主選擇權(quán)語(yǔ)境中的“服務(wù)”或“服務(wù)方式”。甚至一定意義上,在數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)者免費(fèi)提供數(shù)字服務(wù)而依靠網(wǎng)絡(luò)效應(yīng)實(shí)現(xiàn)規(guī)模收益的模式下,情感計(jì)算等技術(shù)服務(wù)實(shí)質(zhì)上也是一種“商品”,只不過(guò)消費(fèi)者支付的是流量、注意力等而非直接的貨幣對(duì)價(jià)。所以基于上述分析可以認(rèn)為,《消保法》第9條所確立的消費(fèi)者在“商品”“服務(wù)”“服務(wù)方式”方面享有的自主選擇權(quán),理應(yīng)包括對(duì)于經(jīng)營(yíng)者是否可以面向自身實(shí)施包括情感計(jì)算在內(nèi)的算法或技術(shù)的選擇權(quán)。
五、結(jié)語(yǔ)
數(shù)字時(shí)代,數(shù)字化生存、非物質(zhì)勞動(dòng)、虛擬化生產(chǎn)都內(nèi)在地包含人的情感,從而使情感成為數(shù)字經(jīng)濟(jì)中資本逐利的新要素。數(shù)字經(jīng)濟(jì)中,在情感計(jì)算的普遍應(yīng)用可能使消費(fèi)者置身“監(jiān)視資本主義”(surveillance capitalism)的情況下,②情感維度下人與技術(shù)主客體關(guān)系的移轉(zhuǎn)不僅會(huì)與消費(fèi)者的各項(xiàng)法定權(quán)利產(chǎn)生直接沖突,還暗藏著深層次的道德危機(jī)與倫理風(fēng)險(xiǎn)。近二十余年來(lái)的數(shù)字經(jīng)濟(jì)實(shí)踐已經(jīng)深刻說(shuō)明,寄希望于消費(fèi)者自我組織、自我成長(zhǎng)來(lái)抵御“經(jīng)濟(jì)利維坦”與“技術(shù)利維坦”相結(jié)合并日益膨脹的大型平臺(tái)經(jīng)營(yíng)者無(wú)異于紙上談兵。因此在具體交易范式下,設(shè)身于具體交易中的消費(fèi)者弱勢(shì)地位而對(duì)情感計(jì)算應(yīng)用中的消費(fèi)者進(jìn)行特別保護(hù)才是應(yīng)然之舉。在各種智能技術(shù)層出不窮、連綿而現(xiàn)的當(dāng)下,數(shù)字經(jīng)濟(jì)中情感計(jì)算應(yīng)用的消費(fèi)者權(quán)益保護(hù)雖只是諸多新興法治問(wèn)題的一隅,但對(duì)其的討論仍具有一定的通約性——由消費(fèi)者這一角色所引申的,在數(shù)字時(shí)代如何更多地增進(jìn)弱勢(shì)群體福祉并使其免受資本、技術(shù)的宰制與凌壓,應(yīng)當(dāng)是我們終始若一需要思考的問(wèn)題。