隱私邊界：人機(jī)交互中用戶隱私悖論的特性、成因與消解

苗芳艷

(東南大學(xué) 人文學(xué)院，江蘇 南京 211189)

社交機(jī)器人在人類生活中扮演著越來(lái)越重要的角色，為增強(qiáng)用戶的信任和提升用戶的接受度，其服務(wù)過(guò)程中需要收集和處理用戶的個(gè)人隱私數(shù)據(jù)。隱私數(shù)據(jù)的收集引發(fā)了與用戶相關(guān)的一個(gè)關(guān)鍵問(wèn)題——隱私悖論。隱私悖論(private paradox)是“用戶一方面擔(dān)心隱私安全，另一方面熱衷于分享個(gè)人的隱私信息。”[1]這種隱私態(tài)度和隱私行為之間的矛盾即是隱私悖論。隱私態(tài)度是用戶對(duì)自我隱私泄露或者侵害的感知和意識(shí)，隱私行為是用戶對(duì)自我隱私信息的處理和保護(hù)。研究發(fā)現(xiàn)，當(dāng)用戶對(duì)社交機(jī)器人的感知利益超越隱私保護(hù)時(shí)[2]，隱私態(tài)度和隱私行為容易出現(xiàn)不一致的現(xiàn)象。本文從用戶隱私的理性計(jì)算、隱私的認(rèn)知偏差和無(wú)隱私風(fēng)險(xiǎn)的評(píng)估三個(gè)角度分析人機(jī)交互中用戶隱私悖論的成因，并嘗試從隱私設(shè)計(jì)、隱私增強(qiáng)和隱私制度三個(gè)層面提出消解人機(jī)交互中用戶隱私悖論的路徑。

一、人機(jī)交互中用戶隱私悖論的特性

社交機(jī)器人在協(xié)助人類完成日常任務(wù)時(shí)，與人共享著空間、環(huán)境和數(shù)據(jù)。許多用戶接受它們作為日常生活中的一部分[3]。其在開(kāi)發(fā)和使用過(guò)程中通過(guò)收集用戶需求、偏好和期望等數(shù)據(jù)，了解用戶的個(gè)人習(xí)慣和生活方式，增進(jìn)用戶對(duì)社交機(jī)器人的信任度。然而，如何以尊重用戶隱私的方式開(kāi)發(fā)和使用社交機(jī)器人，成為發(fā)展可信社交機(jī)器人的倫理難題。由于隱私定義和分類的復(fù)雜性，人機(jī)交互背景下的隱私概念未得到學(xué)界的統(tǒng)一，有必要厘清社交機(jī)器人背景下隱私概念的復(fù)雜性和隱私悖論的真實(shí)性。

(一)人機(jī)交互中隱私概念的復(fù)雜性

隱私的概念隨著技術(shù)的發(fā)展而復(fù)雜化。技術(shù)和隱私關(guān)系的討論可以追溯到19世紀(jì)90年代便攜式攝影設(shè)備的出現(xiàn)，技術(shù)的發(fā)展促使隱私從公共空間走向個(gè)人空間領(lǐng)域，改變了政府、研究人員、公眾等對(duì)技術(shù)和隱私關(guān)系的思考。以往隱私僅限于某些公共領(lǐng)域，如用于公共空間或經(jīng)濟(jì)行為等。但隨著智能技術(shù)尤其是社交機(jī)器人的發(fā)展和使用，個(gè)人空間領(lǐng)域的隱私發(fā)生了很大的變化，出現(xiàn)了用戶數(shù)據(jù)被機(jī)器制造商收集甚至濫用的現(xiàn)象。學(xué)界對(duì)隱私的關(guān)注越來(lái)越多，如通信、計(jì)算機(jī)科學(xué)、心理學(xué)、社會(huì)學(xué)、信息系統(tǒng)、經(jīng)濟(jì)和法律等學(xué)科，眾多學(xué)科對(duì)隱私的關(guān)注使隱私的概念變得更為復(fù)雜。社交機(jī)器人因其自主性的特征和多樣化的角色增加了隱私概念的復(fù)雜性。

1.社交機(jī)器人作為家庭用戶的助手，具有移動(dòng)性和自主性，配備各種傳感器。例如，視覺(jué)傳感器和紅外傳感器。這些傳感器允許機(jī)器人感知周圍的環(huán)境并與用戶互動(dòng)以發(fā)揮更個(gè)性化的服務(wù)。在互動(dòng)中它們會(huì)接觸到有關(guān)用戶身體、偏好和生活習(xí)慣的隱私數(shù)據(jù)，可以獲取更多的個(gè)人數(shù)據(jù)。

2.社交機(jī)器人隱私的復(fù)雜性取決于人機(jī)交互中用戶如何看待社交機(jī)器人的角色，用戶對(duì)社交機(jī)器人角色的定位成為隱私邊界的關(guān)鍵。若用戶把社交機(jī)器人視為朋友、伴侶，那么，用戶愿意和社交機(jī)器人共享其更多的個(gè)人信息，甚至把潛在的敏感信息也分享給機(jī)器人。在用戶不知情的情況下，用戶的數(shù)據(jù)可能會(huì)被制造商應(yīng)用于其他不道德甚至違法的數(shù)據(jù)收集活動(dòng)。在此意義上，社交機(jī)器人的隱私包括兩部分：一是物理隱私。因?yàn)樯缃粰C(jī)器人以自主的方式監(jiān)視個(gè)人，與用戶共享生活空間和環(huán)境；二是信息隱私。隨著社交機(jī)器人擬人化和個(gè)性化發(fā)展的需求，收集用戶越來(lái)越多的個(gè)人偏好、習(xí)慣等數(shù)據(jù)時(shí)，加大了對(duì)用戶的敏感信息以及數(shù)據(jù)訪問(wèn)等披露的風(fēng)險(xiǎn)，隱私問(wèn)題變得更為復(fù)雜。

20世紀(jì)90年代羅杰·克拉克提出四種不同類型的隱私，包括身體隱私、個(gè)人數(shù)據(jù)隱私、個(gè)人行為隱私、個(gè)人交流隱私[4]。他是第一個(gè)以邏輯化、結(jié)構(gòu)化和連貫的方式對(duì)隱私進(jìn)行分類的學(xué)者。隨著新興技術(shù)的發(fā)展，克拉克的隱私分類無(wú)法涵蓋新技術(shù)潛在的隱私問(wèn)題，芬恩等人提出七種隱私類型以應(yīng)對(duì)新興技術(shù)。例如，無(wú)人機(jī)、人類增強(qiáng)技術(shù)和生物識(shí)別技術(shù)，這一更為詳細(xì)的隱私類型同樣可以應(yīng)對(duì)社交機(jī)器人隱私的復(fù)雜性。

芬恩提出的七種隱私包括身體隱私、行為隱私、信息隱私、數(shù)據(jù)和圖像隱私、思想和感情隱私、空間隱私、團(tuán)體隱私[5]。在人機(jī)交互領(lǐng)域克里斯托夫·盧茨等學(xué)者把社交機(jī)器人的隱私類型分為物理隱私(physical privacy)、機(jī)構(gòu)信息隱私(institutional informational privacy)、社交信息隱私(social informational privacy)[6]。物理隱私主要是社交機(jī)器人與物理對(duì)象和空間交互的隱私類型；機(jī)構(gòu)信息隱私是機(jī)器制造商、政府機(jī)構(gòu)和第三方(數(shù)據(jù)經(jīng)紀(jì)人等)的信息控制、數(shù)據(jù)保護(hù)和數(shù)據(jù)處理的隱私類型；社交信息隱私是圍繞個(gè)人訪問(wèn)和數(shù)據(jù)保護(hù)而進(jìn)行數(shù)據(jù)收集的隱私類型。這一分類比七種隱私劃分更為簡(jiǎn)潔。因此，本文認(rèn)同用戶與社交機(jī)器人交互的隱私概念包括三大部分：物理隱私、機(jī)構(gòu)信息隱私和社交信息隱私。

(二)人機(jī)交互中隱私悖論的真實(shí)性

歐洲機(jī)器人倫理工作室成員(The Euron Roboethics Atelier)指出，隱私是與社交機(jī)器人相關(guān)的必須解決的倫理問(wèn)題之一[7]。社交機(jī)器人技術(shù)與其他技術(shù)不同，它有三個(gè)重要的功能：一是任務(wù)功能，使自己“有用”，即能執(zhí)行各種任務(wù)，幫助人類；二是社交功能，能夠以社會(huì)可接受的方式與人類互動(dòng)；三是自適應(yīng)功能，這些功能可以響應(yīng)用戶的不同需求和偏好[8]。要發(fā)揮三大功能尤其是社交功能，必須通過(guò)收集用戶的數(shù)據(jù)實(shí)現(xiàn)個(gè)性化的服務(wù)。與用戶相關(guān)的物理隱私、機(jī)構(gòu)信息隱私和社交信息隱私，一方面模糊了個(gè)人隱私信息收集的界限，另一方面使得用戶很難明確自己隱私的邊界，造成用戶在隱私態(tài)度和行為上出現(xiàn)矛盾，隱私悖論由此產(chǎn)生。

社交機(jī)器人有關(guān)隱私的實(shí)證研究也證實(shí)了用戶隱私悖論的真實(shí)存在。克里斯托夫·盧茨通過(guò)結(jié)構(gòu)方程模型對(duì)社交機(jī)器人三種隱私進(jìn)行了實(shí)證研究。研究發(fā)現(xiàn)：受訪者最關(guān)心的是機(jī)構(gòu)信息隱私即制造商方面的數(shù)據(jù)保護(hù)，其次他們擔(dān)心社交信息隱私如黑客攻擊和跟蹤等隱私風(fēng)險(xiǎn)。相比而言，信息隱私(包括機(jī)構(gòu)信息隱私和社交信息隱私)更令用戶擔(dān)憂。瑞恩·卡洛指出社交機(jī)器人背景下的隱私風(fēng)險(xiǎn)主要通過(guò)三種方式產(chǎn)生：直接監(jiān)控、頻繁訪問(wèn)和社交風(fēng)險(xiǎn)[9]。

1.社交機(jī)器人影響用戶最直接的方式是監(jiān)控。社交機(jī)器人作為家庭助手，為了給用戶提供更加個(gè)性化、智能化的服務(wù)，配備了一系列精密的傳感器和探測(cè)器，包括隱藏式的紅外攝像機(jī)、聲吶或激光測(cè)距儀、氣味探測(cè)儀、GPS等，極大增強(qiáng)了對(duì)用戶甚至家人的監(jiān)視能力。當(dāng)下警方可以通過(guò)充分的法律程序進(jìn)入家庭進(jìn)行搜查，但根據(jù)《電子通訊隱私法》，許多社交機(jī)器人收集的數(shù)據(jù)，現(xiàn)在可以由政府在僅僅發(fā)出傳票甚至是發(fā)出要求的情況下全部獲取，直接監(jiān)控使得購(gòu)買(mǎi)社交機(jī)器人的家庭和用戶遭受個(gè)人隱私披露的風(fēng)險(xiǎn)。

2.社交機(jī)器人影響用戶隱私的另一種方式是訪問(wèn)用戶的私人歷史數(shù)據(jù)。社交機(jī)器人成為政府、執(zhí)法人員、黑客等獲取有關(guān)居民隱私空間內(nèi)部信息的一種新方式。目前的技術(shù)還存在被黑客攻擊和破壞的危險(xiǎn)，私人歷史數(shù)據(jù)一旦被披露，用戶的隱私數(shù)據(jù)潛藏著被侵犯甚至不正當(dāng)利用的倫理風(fēng)險(xiǎn)。

3.社交機(jī)器人的社交風(fēng)險(xiǎn)給用戶的隱私保護(hù)增加了復(fù)雜性。社交機(jī)器人因其本身具有社會(huì)交互性和擬人化的特征，“用戶和社交機(jī)器人之間形成了信任和依戀，反過(guò)來(lái)會(huì)影響甚至操縱用戶自發(fā)地向機(jī)器人披露私人敏感信息?！盵10]研究表明，擬人化的技術(shù)使得人們會(huì)做出更加積極的反應(yīng)，產(chǎn)生隱私保護(hù)的復(fù)雜性。這種復(fù)雜性表現(xiàn)在三個(gè)方面：一是用戶把社交機(jī)器人引入家中，參與到個(gè)人的生活中，會(huì)使得自身的隱私保護(hù)機(jī)會(huì)減少；二是社交機(jī)器人不僅可以獲取更多的私人信息，還擁有比人類更完美的記憶、不知羞愧的心理和不知疲倦的身體，社交機(jī)器人超越人類的有限理性，使得人們?cè)敢庑湃紊缃粰C(jī)器人；三是因社交機(jī)器人社交特性導(dǎo)致高度敏感的個(gè)人信息披露，社交機(jī)器人將了解用戶的習(xí)慣、偏好、疾病信息和個(gè)人情況等敏感的信息。社交機(jī)器人的直接監(jiān)控、頻繁訪問(wèn)和社交風(fēng)險(xiǎn)使得人機(jī)交互中的隱私問(wèn)題更加復(fù)雜。

社交機(jī)器人是高度個(gè)性化的產(chǎn)品，適合用戶的需求、行為和偏好。因此，在提供個(gè)性化服務(wù)的同時(shí)面臨著披露用戶的數(shù)據(jù)信息的倫理風(fēng)險(xiǎn)。一方面，用戶希望社交機(jī)器人能夠?yàn)槠涓谩⒏鼈€(gè)性化地服務(wù)；另一方面，為了換取短期利益人們不得不以披露自己的隱私為手段，這樣隱私悖論就真實(shí)存在于人機(jī)交互的過(guò)程中。

二、人機(jī)交互中用戶隱私悖論的成因

隱私和數(shù)據(jù)治理在歐盟委員會(huì)的可信人工智能道德準(zhǔn)則被確立為優(yōu)先考慮的一項(xiàng)要求[11]。學(xué)界有多種理論可以解釋隱私悖論。例如，隱私計(jì)算理論、有限理性理論、社會(huì)理論、解釋水平理論、量子力學(xué)理論[12]。目前在隱私悖論的文獻(xiàn)中，隱私計(jì)算(privacy calculus)是占主導(dǎo)地位的一種理論解釋[13]，國(guó)內(nèi)也有學(xué)者從隱私關(guān)注視角下通過(guò)隱私計(jì)算闡述隱私悖論的成因框架[14]。隱私計(jì)算理論認(rèn)為用戶有意識(shí)和理性權(quán)衡披露信息隱私的成本效益比[15]。具體而言，用戶會(huì)對(duì)社交機(jī)器人的隱私風(fēng)險(xiǎn)和收益進(jìn)行計(jì)算。如果隱私收益大于風(fēng)險(xiǎn)，他們將愿意披露隱私以獲取更大的收益，即便社交機(jī)器人有著潛在的隱私披露風(fēng)險(xiǎn)，用戶也愿意披露隱私信息達(dá)成自己的意圖，這造成人們?cè)陔[私問(wèn)題上認(rèn)知和行為的分離。本文分析人機(jī)交互中用戶隱私態(tài)度和隱私行為不一致的成因如下：

(一)用戶隱私的理性計(jì)算

用戶隱私的理性計(jì)算，是用戶通過(guò)隱私風(fēng)險(xiǎn)收益決定與社交機(jī)器人在何種程度上共享個(gè)人的數(shù)據(jù)等的行為，在社交機(jī)器人使用意向上發(fā)揮著重要的作用。用戶對(duì)隱私行為進(jìn)行決策時(shí)，會(huì)通過(guò)計(jì)算權(quán)衡最大化效用和最小化風(fēng)險(xiǎn)，以決定自己的隱私信息披露的程度和保護(hù)的界限。然而，在風(fēng)險(xiǎn)收益計(jì)算中，會(huì)忽視隱私保護(hù)的問(wèn)題，具體有以下幾種情況：

1.隱私利益感知大于隱私風(fēng)險(xiǎn)感知。用戶和社交機(jī)器人建立關(guān)系的過(guò)程可以分為初次使用、探索使用和管理使用三個(gè)過(guò)程。從前一個(gè)過(guò)程到下一個(gè)過(guò)程的進(jìn)展源于對(duì)相關(guān)利益和風(fēng)險(xiǎn)的理解和感知。很多時(shí)候用戶還未能了解清楚社交機(jī)器人的使用功能，更無(wú)法意識(shí)到社交機(jī)器人傳感器可能收集到私人數(shù)據(jù)的界限和權(quán)限，用戶只感知到社交機(jī)器人帶來(lái)的利益，往往容易忽視社交機(jī)器人潛在的隱私披露風(fēng)險(xiǎn)。因此，社交機(jī)器人所能給予的經(jīng)濟(jì)利益、個(gè)性化服務(wù)和社會(huì)效益會(huì)抵消用戶隱私感知的負(fù)面影響。用戶很難再去關(guān)注服務(wù)供應(yīng)商的傳感器和位置跟蹤等系統(tǒng)問(wèn)題，更傾向于關(guān)注實(shí)際收益。因此，會(huì)出現(xiàn)隱私披露的風(fēng)險(xiǎn)。

2.個(gè)性化特質(zhì)導(dǎo)致隱私悖論。社交機(jī)器人本身作為個(gè)性化的機(jī)器人，走進(jìn)人們的生活。有學(xué)者提出在隱私模型中加入五大人格因素和跨文化差異的影響[16]。無(wú)論文化環(huán)境如何，外向性和隨和性個(gè)體更能感知到收益，這會(huì)導(dǎo)致具有這種個(gè)性特質(zhì)的人將會(huì)在人機(jī)交互中分享更多的個(gè)人隱私。隱私信息披露的程度和保護(hù)的邊界因個(gè)性化特質(zhì)迥異，個(gè)性化的特質(zhì)導(dǎo)致人們處理個(gè)人隱私的方式不同，隱私態(tài)度和行為也存在差異。

(二)用戶隱私的認(rèn)知偏差

與用戶隱私的理性計(jì)算相反，隱私利益和風(fēng)險(xiǎn)權(quán)衡也會(huì)受到用戶認(rèn)知偏差的影響。用戶容易感受當(dāng)下可以獲得的利益，但對(duì)自己隱私披露的風(fēng)險(xiǎn)不那么敏感，甚至不在意。因此，用戶在對(duì)社交機(jī)器人個(gè)人數(shù)據(jù)的判斷上會(huì)出現(xiàn)系統(tǒng)性的偏差。研究表明，用戶的決策過(guò)程受到各種認(rèn)知偏差和啟發(fā)式的影響[17]。具體影響如下：

1.啟發(fā)式。啟發(fā)式是一個(gè)經(jīng)驗(yàn)法則，是人們基于自己的經(jīng)驗(yàn)、知識(shí)和直覺(jué)做出快速判斷的心理捷徑[18]。利益啟發(fā)式傾向于披露更多的個(gè)人信息[19]。用戶在使用社交機(jī)器人時(shí)，為了使社交機(jī)器人的功能達(dá)到最優(yōu)化，不斷嘗試最大化利益，在用戶有限理性的認(rèn)知范圍下，選擇低于標(biāo)準(zhǔn)的方案來(lái)滿足自己的利益需求，會(huì)導(dǎo)致對(duì)隱私風(fēng)險(xiǎn)的認(rèn)知偏差。從用戶主觀的角度講，對(duì)隱私風(fēng)險(xiǎn)的感知和評(píng)估是在用戶個(gè)人隱私保護(hù)的經(jīng)驗(yàn)基礎(chǔ)上進(jìn)行的，即使用戶先前擁有隱私的相關(guān)信息，但也無(wú)法準(zhǔn)確理解所有的信息，這導(dǎo)致了用戶心理上允許個(gè)人快速做出決定，引起隱私認(rèn)知偏差的產(chǎn)生。

2.樂(lè)觀偏差。樂(lè)觀偏差有兩種情況：一種是用戶低估自己隱私被侵犯的風(fēng)險(xiǎn)，另一種是高估其他人經(jīng)歷不良事件的可能性。樂(lè)觀偏差的兩種情況最終導(dǎo)致用戶相信自己的隱私?jīng)]有受到威脅，這種情況增加了隱私風(fēng)險(xiǎn)披露的可能性。由于樂(lè)觀偏差，偏見(jiàn)感知、低估隱私風(fēng)險(xiǎn)等，不了解社交機(jī)器人關(guān)乎私人數(shù)據(jù)的重要性和用途，甚至低估隱私風(fēng)險(xiǎn)。即便可以設(shè)置機(jī)器人在數(shù)據(jù)上的權(quán)限，也沒(méi)有采取適當(dāng)?shù)男袨楸Ｗo(hù)私人信息，造成用戶對(duì)社交機(jī)器人的感知利益超過(guò)了隱私風(fēng)險(xiǎn)，導(dǎo)致對(duì)未來(lái)隱私風(fēng)險(xiǎn)的風(fēng)險(xiǎn)評(píng)估不足，使得在隱私和利益權(quán)衡中出現(xiàn)了自相矛盾的情況。

3.即時(shí)滿足。即時(shí)滿足是用戶傾向于立即得到滿足而忽略未來(lái)隱私披露的風(fēng)險(xiǎn)，用戶會(huì)選擇短期的收益，即時(shí)滿足感超越了隱私擔(dān)憂。社交機(jī)器人既能夠?yàn)槿藗兊纳钐峁┍憬莸姆?wù)，又能夠作為伴侶給予情感意義上的陪伴。隨著情感機(jī)器人的開(kāi)發(fā)和推廣，未來(lái)社交機(jī)器人會(huì)滿足人類更多的需求和欲望，變得更加人性化。當(dāng)用戶為了滿足一時(shí)的需求，而用自己的習(xí)慣、愛(ài)好、性格等私人數(shù)據(jù)作為交換，可能會(huì)面臨更大的隱私風(fēng)險(xiǎn)。例如，私人數(shù)據(jù)被披露、身份被盜竊或冒用等，從長(zhǎng)遠(yuǎn)來(lái)看，即時(shí)滿足潛藏著隱私披露風(fēng)險(xiǎn)的可能性，對(duì)用戶自身和社會(huì)的危害不可忽視。

(三)用戶無(wú)隱私風(fēng)險(xiǎn)的評(píng)估

在一些情況下，用戶幾乎不具備和隱私相關(guān)的知識(shí)，用戶對(duì)社交機(jī)器人的期望超出了對(duì)隱私的關(guān)注和考慮。盡管存在隱私問(wèn)題，用戶往往愿意接受社交機(jī)器人的隱私政策和披露的條件，這是因?yàn)橛脩艨梢酝ㄟ^(guò)訪問(wèn)實(shí)現(xiàn)自己的期望目標(biāo)。人機(jī)交互中，用戶為了便捷性忽略隱私問(wèn)題，增加了個(gè)人隱私數(shù)據(jù)披露的倫理風(fēng)險(xiǎn)。

還有一種情況，用戶和銷售社交機(jī)器人的公司存在信息不對(duì)稱的情況，并非雙方了解彼此的價(jià)值觀和規(guī)則。用戶可能不知道自身隱私的重要性和隱私披露的后果，由于用戶不了解隱私的重要性，最終的隱私風(fēng)險(xiǎn)無(wú)法評(píng)估，導(dǎo)致用戶隱私態(tài)度和行為出現(xiàn)自我矛盾的情況。信息不對(duì)稱的狀態(tài)阻礙了用戶理性行動(dòng)和最大化利益的評(píng)估，無(wú)法實(shí)現(xiàn)社交機(jī)器人為人類增加福祉的倫理目標(biāo)。此外，如果用戶不知道社交機(jī)器人會(huì)自動(dòng)收集自己生活習(xí)慣、性格等數(shù)據(jù)，不知道開(kāi)發(fā)商如何利用他們的隱私數(shù)據(jù)，很難合理判斷未來(lái)個(gè)人隱私信息披露的可能性。

基于理性的風(fēng)險(xiǎn)收益計(jì)算，在用戶權(quán)衡收益和風(fēng)險(xiǎn)時(shí)，大多數(shù)情況下更傾向于收益而不是風(fēng)險(xiǎn)，提供個(gè)人的隱私數(shù)據(jù)以換取社交機(jī)器人提供給用戶的便捷性和個(gè)性化服務(wù)，忽視隱私的感知風(fēng)險(xiǎn)?；谡J(rèn)知偏差的隱私評(píng)估，由于啟發(fā)式思維、即時(shí)滿足和樂(lè)觀偏差，用戶在隱私風(fēng)險(xiǎn)評(píng)估時(shí)產(chǎn)生認(rèn)知偏差，導(dǎo)致收益和風(fēng)險(xiǎn)計(jì)算的失真?；跓o(wú)隱私風(fēng)險(xiǎn)的評(píng)估則大多因?yàn)橛脩粜畔⒉粚?duì)稱造成隱私問(wèn)題被壓制或被忽視。用戶在社交機(jī)器人的購(gòu)買(mǎi)意向和使用意愿中，隱私態(tài)度和隱私行為的不一致導(dǎo)致了隱私悖論的產(chǎn)生，影響了人們對(duì)社交機(jī)器人的信任，侵犯用戶的個(gè)人隱私數(shù)據(jù)，甚至被不法分子濫用。

三、人機(jī)交互中用戶隱私悖論的消解

如何消解人機(jī)交互中用戶隱私悖論的問(wèn)題，我們從以下三方面提出消解的路徑：

(一)隱私設(shè)計(jì)：設(shè)計(jì)隱私友好型機(jī)器人

通過(guò)技術(shù)專家的設(shè)計(jì)，社交機(jī)器人個(gè)性化的功能得以實(shí)現(xiàn)。要實(shí)現(xiàn)個(gè)性化的服務(wù)，用戶的隱私必須納入其設(shè)計(jì)的事項(xiàng)、目標(biāo)、流程和規(guī)范操作中，以便在人機(jī)交互中提供安全和強(qiáng)有力的隱私保護(hù)。安·卡沃金提出了隱私設(shè)計(jì)(privacy by design)，這一設(shè)計(jì)理念是在web應(yīng)用程序和社交網(wǎng)絡(luò)背景下引入的。隱私設(shè)計(jì)的重點(diǎn)是通過(guò)在風(fēng)險(xiǎn)識(shí)別和管理周期整合隱私問(wèn)題，把隱私整合到設(shè)計(jì)和開(kāi)發(fā)的過(guò)程中[20]。為了確保社交機(jī)器人在開(kāi)發(fā)和使用過(guò)程中尊重用戶的隱私，卡沃金提出了隱私設(shè)計(jì)的七大原則。把這七大設(shè)計(jì)原則轉(zhuǎn)移到社交機(jī)器人領(lǐng)域，為人機(jī)交互中用戶的隱私保護(hù)提供保障。

1.預(yù)防性和主動(dòng)性原則。隱私設(shè)計(jì)的方法要在隱私披露發(fā)生之前預(yù)測(cè)并阻止，重點(diǎn)在于防止隱私披露，因而堅(jiān)持預(yù)防性和主動(dòng)性的原則是必要的?！半S著技術(shù)力量越來(lái)越強(qiáng)大，我們必須在預(yù)防性原則和主動(dòng)性原則之間達(dá)成一種可持續(xù)的平衡?！盵21]這要求社交機(jī)器人公司的開(kāi)發(fā)者首先要明確承諾在倫理設(shè)計(jì)時(shí)制定并實(shí)施隱私的高標(biāo)準(zhǔn)，通常要高于全球法律法規(guī)制定的標(biāo)準(zhǔn)。其次要在用戶和利益相關(guān)方明確共享隱私的承諾。最后，在設(shè)計(jì)中要識(shí)別不良的隱私設(shè)計(jì)，預(yù)測(cè)不良的隱私后果，能夠主動(dòng)糾正不良的隱私設(shè)計(jì)。

2.隱私作為默認(rèn)設(shè)置。社交機(jī)器人的隱私設(shè)計(jì)旨在最大程度保證用戶的隱私數(shù)據(jù)。這一設(shè)計(jì)原則要求把用戶的隱私數(shù)據(jù)內(nèi)置在社交機(jī)器人程序中。首先，要求在設(shè)計(jì)前主動(dòng)告知用戶收集數(shù)據(jù)的目的，其目的在于使社交機(jī)器人更加個(gè)性化，符合用戶自身的需求。因此，要在收集、使用、保留和披露個(gè)人數(shù)據(jù)之前告知用戶。其次，收集數(shù)據(jù)應(yīng)該保證公平、合法，限定在特定領(lǐng)域所必需的內(nèi)容。再次，應(yīng)保證用戶數(shù)據(jù)的最小化。用戶數(shù)據(jù)的可識(shí)別性、可觀察性和可鏈接性應(yīng)該最小化，確保用戶信息的安全性。最后，用戶的信息應(yīng)該限制在個(gè)人已同意的相關(guān)事項(xiàng)中，如果用戶數(shù)據(jù)被非法利用，則啟用預(yù)防原則，默認(rèn)設(shè)置保護(hù)用戶的隱私。

3.在設(shè)計(jì)中嵌入隱私?？ㄎ纸鹬赋鲭[私必須以整體、綜合和創(chuàng)造性的方式嵌入技術(shù)、運(yùn)營(yíng)和信息架構(gòu)中，要求考慮廣泛的背景，征求利益相關(guān)者的意見(jiàn)。在嵌入隱私這一原則時(shí)，首先要采用一種系統(tǒng)的、有原則的且可以信任的隱私標(biāo)準(zhǔn)和框架。其次，要公開(kāi)人機(jī)交互過(guò)程中隱私的內(nèi)容和風(fēng)險(xiǎn)評(píng)估，清楚記錄隱私風(fēng)險(xiǎn)和降低這些風(fēng)險(xiǎn)所采取的措施，把事前預(yù)防和事后補(bǔ)救的措施嵌入和隱私設(shè)計(jì)中。

4.隱私設(shè)計(jì)要實(shí)現(xiàn)最大化的有益效果。對(duì)社交機(jī)器人的隱私設(shè)計(jì)不僅要滿足機(jī)器人公司所涉及的聲明和承諾，還要滿足多方利益相關(guān)者的期望。在既定的技術(shù)、流程和嵌入隱私設(shè)計(jì)中，盡最大可能兼顧不同用戶的需求，以綜合、創(chuàng)造性的方式實(shí)現(xiàn)優(yōu)化和整合的功能，最大程度滿足用戶的隱私保護(hù)需求。

5.隱私設(shè)計(jì)要確保社交機(jī)器人的生命周期。社交機(jī)器人的隱私設(shè)計(jì)，需確保從開(kāi)發(fā)到使用過(guò)程信息安全完整的生命周期。隱私安全關(guān)系到機(jī)器人制造商在承擔(dān)用戶個(gè)人信息安全的責(zé)任。制造商和技術(shù)專家應(yīng)該確保用戶數(shù)據(jù)在整個(gè)社交機(jī)器人生命周期中的機(jī)密性、完整性和可用性。

6.隱私設(shè)計(jì)要求透明性。社交機(jī)器人的隱私設(shè)計(jì)旨在向利益相關(guān)者保證，在機(jī)器人材料、具體數(shù)據(jù)操作都是透明的，透明性對(duì)于建立問(wèn)責(zé)制和信任至關(guān)重要。社交機(jī)器人隱私設(shè)計(jì)的透明性，一方面要求機(jī)器制造商在收集用戶信息時(shí)承擔(dān)保護(hù)用戶隱私數(shù)據(jù)的責(zé)任。涉及用戶隱私相關(guān)政策和程序的責(zé)任都應(yīng)該有所記錄，并在適當(dāng)?shù)臅r(shí)候進(jìn)行溝通。在向第三方傳輸用戶信息的時(shí)候，必須確保用戶個(gè)人信息的安全性。另一方面，要求制定的隱私政策公開(kāi)和合規(guī)。公開(kāi)和合規(guī)是問(wèn)責(zé)制的關(guān)鍵。與用戶相關(guān)的隱私政策應(yīng)隨時(shí)供用戶了解，建立投訴和補(bǔ)救機(jī)制，用戶能夠采取正當(dāng)?shù)耐緩奖Ｗo(hù)自己的隱私。

7.以用戶為中心的隱私設(shè)計(jì)。社交機(jī)器人的服務(wù)對(duì)象是用戶，應(yīng)該把用戶的隱私利益放在首位。隱私設(shè)計(jì)要圍繞用戶的興趣和需求進(jìn)行有意識(shí)的開(kāi)發(fā)和設(shè)計(jì)，確保用戶個(gè)人信息的安全性、準(zhǔn)確性。在訪問(wèn)設(shè)置上，允許用戶訪問(wèn)自己的個(gè)人信息，并告知用戶信息的用途和披露的目的，用戶在實(shí)際應(yīng)用中可隨時(shí)做出訪問(wèn)設(shè)置的調(diào)整，確保用戶個(gè)人數(shù)據(jù)的安全。

引入7大原則對(duì)社交機(jī)器人的隱私進(jìn)行設(shè)計(jì)和開(kāi)發(fā)，嵌入在“風(fēng)險(xiǎn)識(shí)別、隱私分析和風(fēng)險(xiǎn)緩解”[22]這一隱私框架中，使得設(shè)計(jì)隱私友好型社交機(jī)器人的倫理原則得以實(shí)施。從隱私設(shè)計(jì)上消解社交機(jī)器人隱私悖論，制造商增加對(duì)隱私友好型機(jī)器人的投資，開(kāi)發(fā)隱私友好型的社交機(jī)器人，應(yīng)該以簡(jiǎn)潔透明的方式向用戶傳達(dá)隱私保護(hù)工作，設(shè)計(jì)可信的社交機(jī)器人服務(wù)好用戶。

(二)隱私增強(qiáng)：提升用戶的隱私保護(hù)意識(shí)

用戶沒(méi)有意識(shí)到個(gè)人數(shù)據(jù)披露的風(fēng)險(xiǎn)，往往認(rèn)為沒(méi)有隱私問(wèn)題，一旦將隱私風(fēng)險(xiǎn)透明化會(huì)導(dǎo)致用戶對(duì)社交機(jī)器人的接受度和信任度降低。基于這種情況，布羅德本特等學(xué)者引入了隱私增強(qiáng)行為(privacy enhancing behavior)[23]這一術(shù)語(yǔ)。作為社交機(jī)器人使用的道德主體，用戶有權(quán)控制自己的個(gè)人數(shù)據(jù)，對(duì)個(gè)人數(shù)據(jù)的使用有知情同意的權(quán)利。因此，社交機(jī)器人制造商需要遵守隱私法，考慮用戶的隱私權(quán)利。通過(guò)增強(qiáng)用戶和制造商隱私保護(hù)的意識(shí)，做出隱私增強(qiáng)的行為。

1.隱私增強(qiáng)需要以用戶為主體。在用戶把社交機(jī)器人視為朋友或者伴侶的場(chǎng)景中，信任、誠(chéng)實(shí)和可靠性至關(guān)重要[24]。社交機(jī)器人被當(dāng)作人類伴侶時(shí)，會(huì)給人虛幻的感覺(jué)，用戶對(duì)社交機(jī)器人的信任“像朋友一樣”，愿意分享更多的個(gè)人隱私信息。社交機(jī)器人的商業(yè)目的是為用戶提供個(gè)性化和人性化的服務(wù)，對(duì)機(jī)器人的信任程度影響著用戶購(gòu)買(mǎi)和使用它的意圖。使用社交機(jī)器人時(shí)，用戶應(yīng)該意識(shí)到自身是主體，不僅是決策的主體，也是行動(dòng)的主體，社交機(jī)器人的服務(wù)功能需要用戶的數(shù)據(jù)支撐。因此，我們要以“人”為中心，增強(qiáng)用戶的隱私意識(shí)。以用戶為主體，促使用戶在涉及到隱私問(wèn)題時(shí)能夠做出明智的決定，轉(zhuǎn)變用戶的心理狀態(tài)，從“不是我的”轉(zhuǎn)化為“是我的”。用戶意識(shí)到如果忽視隱私聲明和政策會(huì)伴隨隱私披露的風(fēng)險(xiǎn)，從而做出規(guī)避風(fēng)險(xiǎn)的判斷和決策。

2.隱私增強(qiáng)需要用戶參與。用戶參與，一方面能夠根據(jù)自身的實(shí)踐在隱私保護(hù)方面提供真實(shí)的體驗(yàn)和社會(huì)經(jīng)驗(yàn)，為隱私設(shè)計(jì)提供經(jīng)驗(yàn)性的依據(jù)，與技術(shù)專家、倫理學(xué)家等人員共同參與隱私友好型機(jī)器人設(shè)計(jì)的過(guò)程中，尋找在用戶與社交機(jī)器人交互時(shí)規(guī)避隱私侵犯風(fēng)險(xiǎn)的方案。另一方面，用戶參與，能夠讓用戶了解到社交機(jī)器人功能中的安全和隱私問(wèn)題以及潛在的風(fēng)險(xiǎn)，區(qū)分機(jī)器人可以識(shí)別、感知到的數(shù)據(jù)和機(jī)器人推斷出的信息，加強(qiáng)用戶對(duì)社交機(jī)器人隱私保護(hù)能力的認(rèn)識(shí)和判斷。讓用戶意識(shí)到隱私問(wèn)題，這種意識(shí)使用戶能夠更好地面對(duì)隱私問(wèn)題，既能最大程度發(fā)揮社交機(jī)器人的個(gè)性化服務(wù)，同時(shí)保護(hù)好用戶的隱私信息。用戶參與作為一種隱私增強(qiáng)的方法，為社交機(jī)器人開(kāi)發(fā)更多功能和服務(wù)提供了新的視角。

3.對(duì)用戶進(jìn)行隱私相關(guān)知識(shí)的培訓(xùn)。對(duì)用戶進(jìn)行隱私知識(shí)的培訓(xùn)，包括對(duì)隱私理念、隱私內(nèi)容和隱私保護(hù)實(shí)踐三個(gè)方面，深化用戶對(duì)隱私的感知和理解。在隱私理念上，要提高用戶了解社交機(jī)器人隱私信息的主動(dòng)性，用戶自愿接受其購(gòu)買(mǎi)社交機(jī)器人產(chǎn)品的隱私培訓(xùn)，及時(shí)更新培訓(xùn)的內(nèi)容，對(duì)不同功能的社交機(jī)器人涉及的個(gè)人隱私進(jìn)行個(gè)性化的培訓(xùn)，加深用戶對(duì)人機(jī)交互中涉及隱私理念的認(rèn)識(shí)。在隱私內(nèi)容上，主要包括對(duì)社交機(jī)器人隱私問(wèn)題的風(fēng)險(xiǎn)評(píng)估、隱私安全設(shè)置管理、可訪問(wèn)的控制、識(shí)別惡意的黑客或者病毒等。通過(guò)培訓(xùn)的方式，既豐富用戶對(duì)隱私內(nèi)容的認(rèn)知，又要學(xué)會(huì)處理隱私問(wèn)題，維護(hù)自身的隱私權(quán)益。在隱私培訓(xùn)路徑上，有兩種方式，即在線培訓(xùn)和現(xiàn)場(chǎng)培訓(xùn)。在線培訓(xùn)不受時(shí)空限制，方便用戶在線交流?，F(xiàn)場(chǎng)培訓(xùn)可以讓用戶在現(xiàn)場(chǎng)根據(jù)實(shí)際操作進(jìn)行培訓(xùn)，親身感知社交機(jī)器人的隱私保護(hù)設(shè)置和隱私政策等，把隱私的理論知識(shí)和實(shí)踐問(wèn)題結(jié)合起來(lái)。通過(guò)對(duì)用戶的隱私知識(shí)和實(shí)踐的培訓(xùn)，提升用戶隱私保護(hù)的意識(shí)，讓用戶在實(shí)踐中可以真切地操作社交機(jī)器人的隱私設(shè)置和管理，減少用戶隱私態(tài)度和隱私行為之間不一致的情況。

(三)隱私制度：明確隱私信任的邊界

用戶對(duì)隱私的擔(dān)憂影響使用社交機(jī)器人的意向，明確社交機(jī)器人隱私信任的邊界，可以增強(qiáng)用戶的信任。相關(guān)的研究表明，信任作為中介變量可以顯著調(diào)節(jié)隱私關(guān)注對(duì)隱私行為的影響[25]。從隱私政策聲明和隱私邊界兩個(gè)方面來(lái)完善用戶的隱私制度，明確隱私信任的邊界。

1.明確用戶對(duì)隱私政策的知情同意內(nèi)容范圍。用戶購(gòu)買(mǎi)社交機(jī)器人時(shí)，供應(yīng)商和銷售商應(yīng)從技術(shù)和策略上告知用戶產(chǎn)品的功能，以及在使用中收集個(gè)人信息數(shù)據(jù)的權(quán)限。用戶通過(guò)了解社交機(jī)器人的隱私聲明政策，感知隱私的風(fēng)險(xiǎn)，用戶根據(jù)隱私聲明政策可以修改隱私設(shè)置的方式實(shí)現(xiàn)隱私保護(hù)，故而減少隱私披露行為發(fā)生的可能性。

2.在法律層面規(guī)范社交機(jī)器人的隱私邊界。確定社交機(jī)器人規(guī)范化的法律準(zhǔn)則，對(duì)社交機(jī)器人隱私的立法要有前瞻性和預(yù)見(jiàn)性，以便應(yīng)對(duì)未來(lái)技術(shù)進(jìn)步出現(xiàn)更為復(fù)雜的隱私問(wèn)題。社交機(jī)器人未廣泛推廣個(gè)性化服務(wù)時(shí)，因研究樣本的局限性，未能對(duì)真正使用社交機(jī)器人的用戶進(jìn)行實(shí)證研究，加之不同文化的差異，社交機(jī)器人隱私倫理問(wèn)題的復(fù)雜性，全球?qū)ι缃粰C(jī)器人的隱私立法還未出現(xiàn)。隨著社交機(jī)器人逐漸向個(gè)性化機(jī)器人、機(jī)器人管家的方向發(fā)展，對(duì)社交機(jī)器人隱私邊界的法律規(guī)范十分必要。

3.在道德層面規(guī)范社交機(jī)器人的隱私邊界。強(qiáng)化社交機(jī)器人產(chǎn)品生產(chǎn)方、銷售方、用戶的責(zé)任意識(shí)。一方面，在生產(chǎn)和銷售過(guò)程中堅(jiān)持正確的義利觀，堅(jiān)守良知，在企業(yè)逐利的過(guò)程中要保證產(chǎn)品的安全性和人性化；另一方面，要求用戶在使用產(chǎn)品時(shí)，深入了解產(chǎn)品的各種功能以及可能會(huì)出現(xiàn)隱私侵犯的具體情境，在隱私風(fēng)險(xiǎn)和感知利益過(guò)程中，從認(rèn)知和理性雙系統(tǒng)角度做出理性的道德決策，促進(jìn)隱私態(tài)度和隱私行為的一致。

四、結(jié)論

試圖把隱私悖論放在社交機(jī)器人與人的交互應(yīng)用中討論，社交機(jī)器人因其社交的特性帶來(lái)了更為復(fù)雜的隱私問(wèn)題。通過(guò)用戶隱私的理性計(jì)算、認(rèn)知的隱私偏差和無(wú)隱私風(fēng)險(xiǎn)的評(píng)估三個(gè)角度分析隱私悖論產(chǎn)生的成因，從隱私設(shè)計(jì)、隱私增強(qiáng)和隱私制度消解用戶隱私悖論的問(wèn)題。社交機(jī)器人隱私悖論問(wèn)題，無(wú)論在法律層面還是道德層面，目前未能確定可靠的解決方法處理其理論和實(shí)踐困境。唯一可以確定的是，作為具有主觀能動(dòng)性的人，要謹(jǐn)慎地面對(duì)這些問(wèn)題，在迎接新技術(shù)的同時(shí)，要提升自己在技術(shù)時(shí)代的道德品質(zhì)和隱私保護(hù)意識(shí)。在未來(lái)社交機(jī)器人的隱私悖論研究中有兩個(gè)不同的方面：一是社交機(jī)器人應(yīng)用場(chǎng)景的隱私設(shè)置較為困難。社交機(jī)器人目前的隱私保護(hù)將很難實(shí)現(xiàn)，包括密匙管理也可能被意外破壞。二是用戶本身的問(wèn)題。用戶被視為機(jī)器人的外行，往往難以意識(shí)到隱私的風(fēng)險(xiǎn)。因此，在開(kāi)發(fā)和設(shè)計(jì)中，如何以用戶為中心設(shè)計(jì)，需要參與式設(shè)計(jì)進(jìn)行評(píng)估，增強(qiáng)用戶的隱私保護(hù)意識(shí)。既可以提高用戶對(duì)社交機(jī)器人隱私問(wèn)題的敏感性，又有助于機(jī)器人專家和團(tuán)隊(duì)深入了解用戶的思想、愿望和習(xí)慣，推動(dòng)開(kāi)發(fā)人員設(shè)計(jì)出更友好和可信的社交機(jī)器人，實(shí)現(xiàn)良性的人機(jī)交互。