升級之惑 數(shù)字經(jīng)濟(jì)時代的新問題

何海鋒 張彧通 劉元興

數(shù)字經(jīng)濟(jì)時代呈現(xiàn)出了三個最重要的面相，大數(shù)據(jù)成為最關(guān)鍵的生產(chǎn)資料，人工智能釋放出最強(qiáng)大的生產(chǎn)力，而區(qū)塊鏈改變了生產(chǎn)關(guān)系（編者注：詳見本刊2018年第9期，p71～79）。這三大改變對于人類社會生活影響深遠(yuǎn)，同時也帶來了新問題。這些新問題包括：大數(shù)據(jù)的發(fā)展放大了技術(shù)漏洞、數(shù)據(jù)侵權(quán)、數(shù)據(jù)違約、管理不當(dāng)?shù)葐栴}；人工智能進(jìn)化中產(chǎn)生了主體性危機(jī)；區(qū)塊鏈構(gòu)建起信任機(jī)制存在不確定性。

大數(shù)據(jù)技術(shù)發(fā)展放大了數(shù)據(jù)利用問題

技術(shù)漏洞。在大數(shù)據(jù)技術(shù)不斷迭代、黑客攻擊手段多樣的背景下，數(shù)據(jù)防控、傳輸?shù)榷鄠€技術(shù)環(huán)節(jié)如果沒有及時更新，技術(shù)漏洞就會存在被利用的風(fēng)險。而數(shù)據(jù)泄露的風(fēng)險隨著漏洞被利用而大大提升，并造成社會風(fēng)險事件。例如，2017年美國證券交易委員會發(fā)布聲明，其“埃德加文件系統(tǒng)”于2016年遭到黑客入侵，失竊的大量信息被用于交易。又如同年，由于公司數(shù)據(jù)庫沒有及時更新，美國最大征信巨頭之一伊奎法克斯公司（Equifax）的數(shù)據(jù)庫遭黑客入侵，1.46億用戶數(shù)據(jù)“被非法獲取”。

為了應(yīng)對這類風(fēng)險，以烏云漏洞報告平臺為代表的一類安全技術(shù)平臺應(yīng)運(yùn)而生。技術(shù)專家通過烏云平臺及時與廠商聯(lián)系發(fā)現(xiàn)的技術(shù)漏洞，促進(jìn)網(wǎng)絡(luò)安全水平。但是諸如烏云平臺這樣一類“白帽子黑客平臺”本身也游走于法律邊緣。發(fā)現(xiàn)技術(shù)漏洞所采用的技術(shù)手段不可避免地會觸及網(wǎng)絡(luò)安全，甚至有可能在獲取數(shù)據(jù)的過程中采用“非法”手段。2016年，烏云平臺就由于涉及“攻擊用戶數(shù)據(jù)”而停站整頓。

數(shù)據(jù)侵權(quán)。大數(shù)據(jù)的分析方式?jīng)Q定了其需要對于數(shù)據(jù)的各類標(biāo)簽、各方維度做多重使用，使用方式包括二次，甚至多次使用；交叉使用；非法獲取等。數(shù)據(jù)使用者可能侵犯公民的隱私權(quán)、消費(fèi)者選擇權(quán)、知情權(quán)、個人信息安全，也可能會侵犯其他公司或組織主體對數(shù)據(jù)的合法權(quán)益。這些行為有可能是數(shù)據(jù)控制者實(shí)施的，例如，一些共享出行平臺對于經(jīng)常使用平臺的消費(fèi)者的“殺熟”行為；也可能由于數(shù)據(jù)的外溢性，由非商業(yè)模式參與者實(shí)施侵權(quán)行為，例如，數(shù)據(jù)公司從電信運(yùn)營商內(nèi)部人士處獲取用戶原始信息數(shù)據(jù)，再轉(zhuǎn)售給小貸公司，小貸公司獲得用戶隱私數(shù)據(jù)，并將其用于信貸需求分析，推薦產(chǎn)品，甚至開展非法借貸活動。

數(shù)據(jù)違約。大數(shù)據(jù)在不同主體之間的流轉(zhuǎn)和共享一般通過合同約定的方式進(jìn)行。但是往往會出現(xiàn)合同相對方不按約定用途使用數(shù)據(jù)的情形。大數(shù)據(jù)的特性決定了大數(shù)據(jù)分析和挖掘的監(jiān)督十分困難，在違約成本極低、收益極高的情況下，大數(shù)據(jù)合約往往出現(xiàn)效率違約的情形。

管理不當(dāng)。在新技術(shù)領(lǐng)域，由于沒有成熟的規(guī)章制度可以依循，公共部門對行業(yè)的管理總是落入兩頭：要么監(jiān)管不足，要么監(jiān)管過度。監(jiān)管不足時，數(shù)據(jù)控制方的合法權(quán)益一旦受到侵害難以獲得有效、及時的救助；監(jiān)管過度時，監(jiān)管措施侵害行業(yè)主體的合法權(quán)益。例如，當(dāng)大數(shù)據(jù)挖掘、交易等行業(yè)標(biāo)準(zhǔn)不完善、交易平臺定位不明確等問題出現(xiàn)時，行業(yè)主體容易出現(xiàn)數(shù)據(jù)欺瞞行為從而危害市場秩序。值得特別指出的是，大數(shù)據(jù)依靠技術(shù)手段實(shí)現(xiàn)的侵權(quán)、違約等法律風(fēng)險的成本往往遠(yuǎn)小于收益。以大數(shù)據(jù)侵犯隱私為例。大數(shù)據(jù)使得隱私侵權(quán)變得十分容易，普遍侵權(quán)行為方式變得更加隱秘，侵權(quán)性質(zhì)更難以確定……侵權(quán)行為與結(jié)果之間的因果關(guān)系更松散。

人工智能進(jìn)化中產(chǎn)生的主體性危機(jī)

人工智能帶來多重主體性危機(jī)。人工智能的仿生性尤其仿智性，導(dǎo)致人格主體性問題必將成為一個繞不開的問題。人工智能分為弱人工智能、強(qiáng)人工智能、超人工智能三個階段。在第一個階段，智能體類似于人類輔助工具，沒有人格討論的必要和余地。而后兩個階段，尤其是超人工智能階段，因?yàn)橹悄荏w主體意識和情感意識的覺醒，可能會帶來極大的主體性危機(jī)。主體性危機(jī)表現(xiàn)在四個方面：（1）哲學(xué)上的主體危機(jī)：使得理性主義及物理主義下的物質(zhì)精神二分危機(jī)和困惑更加突出，自然主義和人文主義下的精神至上有更加走火入魔、誤入歧途的危險。（2）倫理上的主體危機(jī)：控制危機(jī)、安全威脅、自由限制、公平喪失、算法歧視、數(shù)據(jù)隱私、AI犯罪等。（3）法律上的主體危機(jī)：主體不明導(dǎo)致法律上難以歸責(zé)，勞動者身份的重構(gòu)與保護(hù)、權(quán)利歸屬難題（如 AI創(chuàng)作的知識產(chǎn)權(quán)歸屬問題）。（4）經(jīng)濟(jì)上的主體危機(jī)：人工智能將重構(gòu)生產(chǎn)、分配、交換、消費(fèi)四個環(huán)節(jié)的功能定位和銜接機(jī)制（如人工智能賽博物理操作系統(tǒng)AI-CPS OS），讓勞動價值定律失效，難以界定價值和產(chǎn)權(quán)歸屬。比如分配方面，“按勞分配”將會進(jìn)一步受到?jīng)_擊和瓦解，可能導(dǎo)致兩個極端。一是按照二八定律，智能技術(shù)和資源集中于極少大資本家和大財團(tuán)手中，他們得以操縱資本按資分配，極大加劇社會財富差距；另一個是按需分配，進(jìn)入馬克思主義的經(jīng)典社會——共產(chǎn)主義，人們從繁重的勞動中解放出來，實(shí)現(xiàn)極大的自由。

人和物之間的模糊地帶。解決主體性危機(jī)的關(guān)鍵在于對“是否以及如何賦予智能體人格”這兩個問題的回答。如果承認(rèn)人工智能擁有“人格”，那么人格基礎(chǔ)是什么？僅僅因?yàn)殚L得像人，或者讓人產(chǎn)生對待人類的感情，是否就可以獲得神圣的人之所以為人的權(quán)利？如果否認(rèn)人工智能的“人格”，那么又如何安放人類對其產(chǎn)生的同情心和同理心？在人和物之間，是否可以存在一個模糊地帶，這個模糊地帶的存在，是暫時的擱置，還是永久的和解？另外傳統(tǒng)的權(quán)利義務(wù)、責(zé)任獎懲機(jī)制是否適用于智能體？例如在智能金融領(lǐng)域，當(dāng)機(jī)器人交易員表現(xiàn)優(yōu)異時，如何去獎賞他？他們是否也可以疲憊，從而要求休息和度假？他們犯錯了，如何去處罰，“斷電”是不是一種酷刑？

智能體是否被賦予人格，關(guān)鍵取決于其是否產(chǎn)生常態(tài)化的自我意識。而這一點(diǎn)恐怕現(xiàn)在的人工智能以及將來很長一段時間都不會達(dá)到。因?yàn)槿祟愡€遠(yuǎn)沒有所謂“上帝”或自然的手法，人工智能體或許只能產(chǎn)生程序語言運(yùn)作而遠(yuǎn)非自我意識。那么現(xiàn)在賦予人格的呼聲或者現(xiàn)實(shí)案例（沙特阿拉伯賦予“索菲亞”公民身份資格）僅僅是爭相競爭和吸引目光的一個噱頭而已。

區(qū)塊鏈重構(gòu)起的信任機(jī)制存在不確定性

區(qū)塊鏈技術(shù)能否用算法代替制度？共識機(jī)制的存在使得區(qū)塊鏈系統(tǒng)本身就是一個擁有一套通行規(guī)則的社群。20世紀(jì)末期開始，一群密碼朋克的運(yùn)動家利用加密技術(shù)、分布式網(wǎng)絡(luò)等技術(shù)成立了一個屬于他們的社群，旨在“保護(hù)個人的自由”，免除政府的控制。在這些前人思想的指引下，中本聰才在2008年發(fā)表了《比特幣—一種點(diǎn)對點(diǎn)的電子現(xiàn)金系統(tǒng)》。保護(hù)自由、去中心化的靈感來源于密碼朋克。以共識機(jī)制為基礎(chǔ)的“社群認(rèn)證”就是先賢們想出來的對抗之道。共識機(jī)制在一定程度上就是通過代碼算法預(yù)先設(shè)定的一致性標(biāo)準(zhǔn)。與法律制度有幾分相似，但是它不像制度那樣需要依靠人力去運(yùn)行、維護(hù)。因此在區(qū)塊鏈系統(tǒng)中不需要單獨(dú)的“立法”“執(zhí)法”以及“司法”的體系。配合著智能合約，一切制度都可以自動執(zhí)行。但這一切的發(fā)生，卻必須得到現(xiàn)有社會資源分配機(jī)制的承認(rèn)，因此也具有不確定性。

非熟人互信的條件能否得到滿足？如果需要依靠區(qū)塊鏈系統(tǒng)這套幾乎“理想國”的計算機(jī)體系來約束人類的社會活動，將原先小圈子的共識機(jī)制推而廣之到全體社會成員，從而實(shí)現(xiàn)非熟人之間的互信，需要滿足至少兩點(diǎn)：第一點(diǎn)，小圈子的共識機(jī)制得到其他社會成員的認(rèn)可。這意味著這個圈子要盡可能地擴(kuò)展，從而使得更多的人愿意為互信做“背書”。第二點(diǎn)，非熟人之間的互信存在著“上鏈”這一先決條件。這意味著非熟人互信的前提是雙方甚至多方都在鏈上，一旦“下鏈”互信就不復(fù)存在。

對數(shù)據(jù)記賬的依賴。目前來看，區(qū)塊鏈技術(shù)已經(jīng)在金融、物流等多個領(lǐng)域得到了應(yīng)用。在金融領(lǐng)域，區(qū)塊鏈技術(shù)搭建了票據(jù)流轉(zhuǎn)的平臺、實(shí)現(xiàn)了資產(chǎn)證券化產(chǎn)品底層資產(chǎn)的管理、促進(jìn)跨境外匯轉(zhuǎn)賬的便捷進(jìn)行等。在多方參加，且最需要信任的領(lǐng)域?qū)崿F(xiàn)了各方的互信。除此之外，在物流溯源領(lǐng)域，區(qū)塊鏈技術(shù)可以從原材料的生產(chǎn)開始，追蹤直到呈現(xiàn)在消費(fèi)者手中的全流程?？梢园l(fā)現(xiàn)，這些不同主體之間互信的產(chǎn)生，來自于區(qū)塊鏈記錄下來的信息。這是充分發(fā)揮分布式網(wǎng)絡(luò)和加密算法的結(jié)果，也是區(qū)塊鏈技術(shù)發(fā)展的應(yīng)有之意。然而，在拓展實(shí)踐場景時，區(qū)塊鏈技術(shù)除了技術(shù)上的難點(diǎn)“不可能三角”（安全性、運(yùn)算速度、環(huán)保性三者無法同時實(shí)現(xiàn)）之外，還會遇到法律監(jiān)管對于此項技術(shù)的包容性態(tài)度問題。因此，對數(shù)據(jù)記賬的過渡依賴本身可能造成信任機(jī)制的脆弱性。

小結(jié)：直面升級的煩惱

技術(shù)應(yīng)用所帶來的變革是長期的、多層的。技術(shù)始終在更新迭代，但也有發(fā)展的階段和周期。不論是大數(shù)據(jù)、人工智能還是區(qū)塊鏈技術(shù)，勢必要經(jīng)歷技術(shù)進(jìn)步—新問題—架構(gòu)改進(jìn)—社會進(jìn)步的階段，有時候還會遭遇制度、舊技術(shù)等因素的考驗(yàn)甚至反噬。技術(shù)變革也不可能是一蹴而就的，數(shù)字經(jīng)濟(jì)時代的新問題也會展現(xiàn)不同的方式和不同的層級。就人工智能來說，其在圖像識別領(lǐng)域的應(yīng)用已經(jīng)獲得了十分長足的進(jìn)步，其針對特定任務(wù)的識別率可以高達(dá)驚人的99%，但問題仍然在發(fā)生。例如，2015年，谷歌的圖像識別算法曾經(jīng)將非洲裔美國人劃入黑猩猩一類，“客觀上”造成了對有色人種的歧視。此外，2018年3月，Uber自動駕駛汽車在亞利桑那州路測中撞人致死，引發(fā)了人們對自動駕駛技術(shù)安全性問題的擔(dān)憂。區(qū)塊鏈自身機(jī)制也存在安全問題， 理論上存在的51%攻擊也會成為現(xiàn)實(shí)，例如，2018年5月，比特幣黃金（BTG）遭遇51%雙花攻擊，致使損失1860萬美元。

此外，數(shù)字經(jīng)濟(jì)時代的新問題還會有動態(tài)的變化。例如大數(shù)據(jù)的不斷積累，數(shù)據(jù)侵權(quán)、數(shù)據(jù)盜用等不法行為的外部性越來越多，并且越來越嚴(yán)重。比如，技術(shù)漏洞的存在，導(dǎo)致酒店的個人敏感信息數(shù)據(jù)被盜取。在大數(shù)據(jù)分析方式還沒有發(fā)展到撞庫、深度挖掘等層面時，個人信息數(shù)據(jù)的泄露影響有限，個人敏感的開房記錄等信息無法被解析從而獲得更多的個人信息；而人工智能技術(shù)的發(fā)展，大大提升了開房記錄被復(fù)用、解析的可能，除了敏感的個人開房信息，甚至生活、工作、家庭等其他信息都會被挖掘暴露出來。這充分說明數(shù)據(jù)泄露帶來的數(shù)據(jù)所有權(quán)人信息曝光造成的傷害、數(shù)據(jù)控制權(quán)人商業(yè)利益的損失、全社會為了控制風(fēng)險而支付的額外成本與數(shù)據(jù)泄露之間甚至可能超越了潛在的線性關(guān)系。

因此，清醒地認(rèn)識并分析數(shù)字經(jīng)濟(jì)時代的各類新問題十分必要。只有對這些新問題進(jìn)行充分的預(yù)判，才有可能穩(wěn)妥應(yīng)對因生產(chǎn)資料關(guān)鍵地位的動搖而引發(fā)的擔(dān)憂、因生產(chǎn)力升級換擋所帶來的不適，以及因生產(chǎn)關(guān)系的調(diào)整而激起的阻礙。