國際競爭語境下智能化平臺的治理結(jié)構(gòu)

鄭戈

摘要：對人工智能所涉及的法律問題的理解要走出具象化、擬人化的誤區(qū)。遍布于操作系統(tǒng)、搜索引擎、交易平臺、社交平臺和訂制新聞平臺之中的機器學(xué)習(xí)算法才是對社會關(guān)系和相應(yīng)的法律關(guān)系沖擊最大的人工智能形態(tài)。智能化平臺的涌現(xiàn)，一方面帶來了新的國家安全和主權(quán)問題，另一方面也使公私關(guān)系以及防衛(wèi)國家權(quán)力的權(quán)利保障機制面臨著挑戰(zhàn)。本文從安全、發(fā)展、創(chuàng)新與個人權(quán)利三個維度及其相關(guān)關(guān)系的角度分析了智能化平臺的治理結(jié)構(gòu)，為比較、理解和評價智能化平臺的法治化路徑提供了一種理論框架。

關(guān)鍵詞：人工智能;平臺;算法;治理;法治

中圖分類號：C34

文獻標(biāo)志碼：A

文章編號：1007-9092（2020）01-0121-008

一、智能化平臺的興起及其對現(xiàn)有規(guī)制體系的沖擊

1955年8月底，數(shù)學(xué)家約翰·麥卡錫、計算機與認(rèn)知科學(xué)家馬文·明斯基、IBM系統(tǒng)設(shè)計師納薩尼爾·羅切斯特和信息論創(chuàng)始人克勞德·香農(nóng)在一起商議次年在達特茅斯學(xué)院舉辦一次為期兩月的暑期研討班。研討班的主旨在會議策劃書中得到明確表述：“我們提議1956年暑期在新罕布什爾州漢諾威城的達特茅斯學(xué)院舉辦一場為期兩月、十人參加的研討會，本次研討會將以這樣一個猜想為基礎(chǔ)而展開：學(xué)習(xí)的每一環(huán)節(jié)以及智力的其他方面原則上都可以得到如此準(zhǔn)確的描述，以至于我們可以制造出一臺機器對其進行模擬。我們將嘗試發(fā)現(xiàn)如何讓機器使用語言、提出抽象命題和概念、解決某些目前留給人類去解決的難題以及實現(xiàn)自我改進。我們認(rèn)為，只要一群經(jīng)過精挑細(xì)選的科學(xué)家在一起工作一個夏天，我們在這些方面就可以取得一項或多項重大進展。”在會議邀請函中，“人工智能”（Artificial Intelligence）這一概念正式誕生。由此可見，人工智能從一開始就是一群志同道合的科學(xué)家和工程師有意追求的事業(yè)，其目的是讓機器能夠?qū)W習(xí)并完成人類需要運用智能來完成的任務(wù)，它是對傳統(tǒng)編程模式的革新。人工智能的核心技術(shù)是機器學(xué)習(xí)，其商業(yè)應(yīng)用被稱為預(yù)測性分析（predictive analytics）。但這一事業(yè)并非一帆風(fēng)順，中間經(jīng)歷了數(shù)次“寒冬”，直到最近幾年才開始得到小圈子之外的普羅大眾的關(guān)注，并被認(rèn)為是“第四次工業(yè)革命”的核心技術(shù)，具有徹底改變?nèi)祟惿嫣幘车臐撡|(zhì)。

造成人工智能這座蟄伏已久的火山突然噴發(fā)的原因是經(jīng)濟形態(tài)和技術(shù)雙重變革的合力。一方面，互聯(lián)網(wǎng)平臺經(jīng)濟已經(jīng)成為當(dāng)代經(jīng)濟的主流，谷歌、百度、亞馬遜、阿里巴巴、臉書、騰訊已經(jīng)取代通用電氣等制造業(yè)巨頭成為新時代的商業(yè)霸主，大量的交易在網(wǎng)上而不是線下完成。從可穿戴設(shè)備到家用電器都已智能化和聯(lián)網(wǎng)化，使互聯(lián)網(wǎng)升格為物聯(lián)網(wǎng)，人們的網(wǎng)上和線下生活日漸融為一體，越來越多的人成為傳感器測量和監(jiān)督下的“量化自我”，每時每刻都生成著大量可供分析和產(chǎn)品化的數(shù)據(jù)，成為“遍布式計算”（pervasive computing或ubiquitous computing）的追蹤和分析對象。另一方面，英特爾創(chuàng)始人之一戈登·摩爾所提出的“集成電路上可容納的晶體管數(shù)量每18-24個月就會翻倍”這一定律不僅應(yīng)驗了，而且在計算機算力和存儲能力方面都得到體現(xiàn)，使得海量數(shù)據(jù)得以低成本存儲處理，為機器學(xué)習(xí)提供了豐富的資源。大數(shù)據(jù)是人工智能的燃料，應(yīng)用編程界面（API）是人工智能的引擎，再加上商業(yè)應(yīng)用的巨大獲利機會，共同推動著人工智能的蓬勃發(fā)展。但商業(yè)驅(qū)動的人工智能發(fā)展在源頭上便存在許多令人擔(dān)憂的屬性，沖擊著現(xiàn)代法律秩序中的基礎(chǔ)性原理，尤其是沖擊著關(guān)于主權(quán)、安全和個人自由的法律安排以及公法與私法的邊界。我們需要對相關(guān)問題進行頂層設(shè)計層面的戰(zhàn)略性考量，以避免被不可控的力量牽著鼻子走，最終陷入馬斯克所警告的“人類文明的生存危機”。目前法學(xué)界對人工智能的討論大多基于想象而不是對人工智能實際應(yīng)用場景的了解，許多研究針對人工智能技術(shù)突破“奇點”后具有自我意識和自主行為能力的想象而談?wù)撈洹胺扇烁瘛被蜇?zé)任機制問題。這種場景雖然并非毫無可能出現(xiàn)，但卻存在于遙遠的未來，而且即使出現(xiàn)也無法通過將人工智能體作為新的法律主體的方法而得到控制。這種討論還使我們忽視了人工智能真實應(yīng)用場景已然對社會生活和法律關(guān)系造成的巨大沖擊。這種應(yīng)用場景就是智能算法驅(qū)動的平臺經(jīng)濟。

平臺首先是一套軟件/算法在其中得到執(zhí)行的環(huán)境，它可以是一套硬件（服務(wù)器、電腦、手機或其他智能終端）和操作系統(tǒng)，也可以是一個瀏覽器及其相關(guān)的應(yīng)用編程界面。在這個意義上，平臺是計算機和網(wǎng)絡(luò)架構(gòu)的另一種說法。隨著物聯(lián)網(wǎng)時代的到來，平臺成為一種新的經(jīng)濟組織形式。它將數(shù)據(jù)化的資本、勞動和產(chǎn)品關(guān)聯(lián)起來，借助智能算法在各要素之間實現(xiàn)精準(zhǔn)匹配，從而極大地降低交易成本，提高生產(chǎn)效率，改進效用函數(shù)。它也帶來了新的定價機制，許多看似免費的服務(wù)都是以用戶交出自己的個人信息/數(shù)據(jù)為代價的，生產(chǎn)者和消費者之間的界限變得十分模糊。普遍存在的是權(quán)益在現(xiàn)有法律框架中很難得到確認(rèn)和保護的生產(chǎn)—消費者（prosumer）。從功能主義的角度看，平臺企業(yè)是一種網(wǎng)上交易中介，它借助云計算、算法匹配、普遍的無線網(wǎng)絡(luò)接入、規(guī)模化的用戶網(wǎng)絡(luò)以及近乎普遍的智能手機和平板電腦等智能化設(shè)備所有權(quán)所提供的現(xiàn)代能力而取代了傳統(tǒng)的交易中介。用美國學(xué)者朱莉·科恩的話來說：工業(yè)革命所帶來的商業(yè)模式變革將土地、勞動和資本重新概念化為商品，將它們從其所嵌入其中的村社共同體、家庭和宗族紐帶中解脫出來，在市場上自由流動。而三種類似的轉(zhuǎn)變正在塑造著當(dāng)下的信息產(chǎn)業(yè)革命：無形資源的產(chǎn)權(quán)化、工業(yè)生產(chǎn)基本要素的去物質(zhì)化和數(shù)據(jù)化以及嵌入在信息平臺中的交易模式。就產(chǎn)業(yè)組織而言，平臺是關(guān)鍵：平臺并不進入或擴展市場，它們?nèi)〈ú⒅厮埽┲袌觥?/p>

與基于開源代碼、開放架構(gòu)和網(wǎng)絡(luò)中立設(shè)計理念的互聯(lián)網(wǎng)本身相比，平臺的特點包括：具有明確的主權(quán)國家邊界;有明確的所有權(quán)歸屬;其設(shè)計是由商業(yè)模式和法律環(huán)境決定的;平臺所針對的不是人，而是微?；娜耍屈c滴需求、瞬間愉悅、碎片工作;智能算法可以實現(xiàn)對交易單位的精準(zhǔn)剪切，能夠把無數(shù)人的同類片段匯集起來，實現(xiàn)規(guī)模經(jīng)濟;平臺企業(yè)本身雖然有其所有權(quán)人，但其所提供的服務(wù)強調(diào)接入，而不是擁有;平臺的進入門檻低，人人皆可變成新聞、娛樂、服務(wù)和商品的提供者;與傳統(tǒng)市場不同，運用智能算法的平臺可以實現(xiàn)精準(zhǔn)定價，通過對海量供求數(shù)據(jù)的分析靈活調(diào)整定價;平臺可以通過雙向互評、動態(tài)積分和信息共享等方式解決信息不對稱問題。

盡管存在這些有利于民生福祉和經(jīng)濟效率的優(yōu)勢，平臺經(jīng)濟也帶來了一系列需要通過主權(quán)國家的法律干預(yù)來加以應(yīng)對的風(fēng)險。首先，平臺經(jīng)濟越來越依賴于能夠準(zhǔn)確預(yù)測用戶行為和匹配交易的智能算法，導(dǎo)致了“算力即權(quán)力”的格局，而最早進入這個領(lǐng)域的“大數(shù)據(jù)掌控者”擁有了“贏家通吃”的壟斷性優(yōu)勢。這些大數(shù)據(jù)掌控者，無論是政府還是企業(yè)，大多位于中國和美國。這便產(chǎn)生了國際競爭環(huán)境中的國家安全問題。應(yīng)對這一問題的典型法律模式是數(shù)據(jù)本地化規(guī)則。其次，由于人的大部分線上活動都不是在政府平臺上進行的，而是通過搜索引擎、購物平臺、社交網(wǎng)絡(luò)等由私人企業(yè)運營的商業(yè)平臺進行。平臺企業(yè)正越來越多地行使著某種“準(zhǔn)公權(quán)力”，平臺治理也因此需要走出傳統(tǒng)的政府規(guī)制模式，邁向公私合作的治理模式。第三，在平臺經(jīng)濟環(huán)境中，個人意圖的邊界以及相應(yīng)的主觀過錯概念變得模糊不清。個人披露私人信息顯然是為了獲得便利、享受服務(wù)，在效用的引誘下，個人最終披露的信息將是海量的、全方位的。就事論事，在一次次具體的信息披露中辨別個人是否同意、是否明知個人信息會被用于某一特定用途變得越來越困難。個人數(shù)據(jù)在大數(shù)據(jù)分析中的最終使用情況已經(jīng)遠遠超出個人的意圖范圍，甚至超出個人的認(rèn)知范圍。因此，由侵權(quán)法、產(chǎn)品責(zé)任法、個人信息保護法等傳統(tǒng)私法來承擔(dān)保護個人數(shù)據(jù)權(quán)的任務(wù)也顯得捉襟見肘。

二、主權(quán)與國家安全

首先，人工智能的發(fā)展涉及到國際競爭語境下的國家安全問題。早在人工智能成為熱點話題之前，美國便將“信息戰(zhàn)”作為營造對其有利的國際環(huán)境的重要戰(zhàn)略部署。比如，在2009年，古巴國營企業(yè)古巴移動（Cubacel）的一名員工偷偷摸摸地把50萬個古巴手機用戶的號碼發(fā)給了一位在西班牙定居的古巴移民，這位海外古巴人隨后免費把這些數(shù)據(jù)交給了美國國際開發(fā)署（USAID），該機構(gòu)又把數(shù)據(jù)交給了自己的承包商Creative Associates International。這家營利性公司隨后“創(chuàng)造性”地建立了一個自動化的手機短信發(fā)送平臺，先向古巴境內(nèi)的這些手機用戶免費發(fā)送足球、娛樂和天氣信息。等到訂戶數(shù)量穩(wěn)定下來之后，再向他們發(fā)送政治信息。用美國國際開發(fā)署官員的話來說，這樣做的目的是“重新調(diào)整國家與社會之間的權(quán)力平衡”。換句話說，這是為了在古巴境內(nèi)煽動政治動亂，促成“古巴之春”。這套被稱為ZunZuneo的古巴版Twitter系統(tǒng)應(yīng)用智能算法來分析用戶對不同類型信息的反應(yīng)，將他們歸類為“支持革命的”、“不關(guān)心政治的”和“反對革命的”，并且針對不同類別的人發(fā)送不同的信息。它一直運轉(zhuǎn)到2012年中期，因為經(jīng)費用完才終止。

但這種操作回過頭來又被施加給美國。最近曝光的大數(shù)據(jù)分析公司“劍橋分析”利用Facebook泄露的5000萬用戶的帳戶信息幫助特朗普競選團隊量身定制地投放政治廣告從而幫助特朗普在2016年美國總統(tǒng)大選獲勝的新聞，便是這方面一個現(xiàn)成例子。隨著對這起事件的調(diào)查工作的不斷深入，“劍橋分析”背后的俄羅斯背景已漸漸浮出水面。資本家沒有祖國，只追逐利益，在大數(shù)據(jù)和人工智能的武裝下，私人企業(yè)影響主權(quán)國家的政治已經(jīng)成為一個普遍存在的事實。無論這背后有沒有外國政府的操作，這一現(xiàn)象本身都值得重視。

最早進入互聯(lián)網(wǎng)行業(yè)的巨頭企業(yè)由于累積了最多的用戶數(shù)據(jù)而取得了絕對的優(yōu)勢，而這些企業(yè)主要集中在美國和中國。錯過了第一次工業(yè)革命的亞、非諸國和“新大陸”如何淪為率先走上工業(yè)化道路的西歐國家的“殖民地”，這是一段大家都很熟悉的歷史，而今天的數(shù)字革命又正在造成新一輪的洗牌。為此，歐盟和法國都專門委派專家小組起草了相關(guān)報告，旨在謀劃歐洲在這一輪信息技術(shù)革命中的戰(zhàn)略布局。法國數(shù)學(xué)家、菲爾茲獎得主和議員西德里克·維蘭尼在他領(lǐng)銜起草的報告中寫道：“對法國和歐盟來說，涉及人工智能的數(shù)據(jù)政策必須以主權(quán)獨立和戰(zhàn)略自主為目標(biāo)而加以設(shè)計。一開始，其間的平衡必然是十分脆弱的，目標(biāo)的實現(xiàn)需要領(lǐng)導(dǎo)者的遠見卓識。但這是法國和歐洲發(fā)展人工智能的前提條件，只有這樣我們才能避免變成中國和美國巨頭的‘?dāng)?shù)字殖民地?！本S蘭尼報告所提到的“數(shù)字巨頭”包括美國的谷歌、亞馬遜、臉書、蘋果和微軟（GAFAM）以及中國BATX（百度、阿里巴巴、騰訊和小米）。該報告主張法國政府和歐盟應(yīng)當(dāng)在整合數(shù)據(jù)資源、資助人工智能研究、打造人工智能品牌產(chǎn)品方面發(fā)揮積極主動的作用?！鞍l(fā)展人工智能是主權(quán)國家的當(dāng)務(wù)之急，”這是維蘭尼反復(fù)強調(diào)的核心觀點。

與此同時，美國正采取各種措施鞏固和強化自己在大數(shù)據(jù)和人工智能方面的既有優(yōu)勢，同時借此來擴張性地捍衛(wèi)美國的國家安全和國家利益。哈佛大學(xué)肯尼迪政府學(xué)院貝爾?？茖W(xué)與國際事務(wù)中心于2017年發(fā)布一份題為《人工智能與國家安全》的報告，其中就人工智能技術(shù)發(fā)展的全球分布對美國的軍事優(yōu)勢、信息優(yōu)勢和經(jīng)濟優(yōu)勢構(gòu)成的潛在威脅進行了系統(tǒng)分析。整份報告將中國作為美國最大的競爭對手而進行重點討論，提出要借助知識產(chǎn)權(quán)保護、核心技術(shù)保密和人才流動控制等措施來遏制中國在人工智能方面的發(fā)展?？梢钥闯?，美國眼中的國家安全不是防衛(wèi)性的，而是先發(fā)制人的，任何可能影響美國優(yōu)勢地位的競爭都被視為是對其國家安全的挑戰(zhàn)。報告中援引美國信息安全權(quán)威專家布魯斯·施奈爾的觀點指出：美國在信息安全技術(shù)方面仍然是毫無爭議的世界領(lǐng)先者，而且這種領(lǐng)先地位很難被撼動，因為（1）政府的情報預(yù)算超過其他國家的同類預(yù)算總和;（2）由于互聯(lián)網(wǎng)起源于美國，其基礎(chǔ)架構(gòu)使得全世界的數(shù)據(jù)流都會經(jīng)由美國，即使是兩個其他國家之間的數(shù)據(jù)流動;（3）其他國家的智能產(chǎn)品都在使用美國制造的芯片、操作系統(tǒng)和網(wǎng)絡(luò)服務(wù)，并因此受制于美國法律，“這就是霸權(quán)”。

正是因為清楚地認(rèn)識到美國的這種優(yōu)勢以及它毫不克制地利用這種優(yōu)勢監(jiān)控別國數(shù)據(jù)并影響別國政治的做法，中國通過防火墻等技術(shù)手段阻隔了Google、Facebook和Twitter等搜索引擎和社交平臺在中國的蔓延，并借此為百度、微信和微博等中國產(chǎn)品的發(fā)展?fàn)I造了空間。憑借中國本身的人口和市場規(guī)模優(yōu)勢以及由此形成的數(shù)據(jù)優(yōu)勢，中國如今在人工智能技術(shù)方面已經(jīng)成為僅次于美國的強國。但我們應(yīng)該清醒地看到，人工智能是一種前沿的應(yīng)用技術(shù)，它的基礎(chǔ)是計算機和互聯(lián)網(wǎng)，而在計算機的基礎(chǔ)物理構(gòu)件（芯片）和神經(jīng)系統(tǒng)（操作系統(tǒng)）方面，中國還遠遠落后于美國。這次的中美貿(mào)易戰(zhàn)和中興事件使我們看到，要在大數(shù)據(jù)和人工智能的基礎(chǔ)設(shè)施方面不受制于人，還有很長的路要走。

對世界各國網(wǎng)絡(luò)安全和數(shù)據(jù)安全立法影響甚大的是2013年的斯諾登事件。2013年5月，一位29歲的美國國家安全局（NSA）合同工告訴他的雇主自己想休假幾周。他帶著幾個硬盤于5月20日來到香港。隨后，《衛(wèi)報》和《華盛頓郵報》從他那里獲得了大量NSA如何監(jiān)控美國公民的絕密信息。這個青年程序員就是斯諾登。他披露了美國政府采取的各種監(jiān)控措施，其中最重要的三種是：（1）批量電話元數(shù)據(jù)項目（Bulk Telephony Metadata Program），涉及到NSA向美國所有電話公司發(fā)出秘密命令，要求提供所有在美國境內(nèi)打出和接聽的電話的號碼和通話時長信息，總計獲得了數(shù)百億條、覆蓋五年時間的數(shù)據(jù)，供NSA進行分析;（2）棱鏡計劃（Prism），通過這個項目，NSA從美國主要網(wǎng)絡(luò)服務(wù)商（包括谷歌、雅虎等等）那里獲得了數(shù)百億計的美國用戶與海外用戶之間的電郵、視頻、網(wǎng)絡(luò)通話和其他數(shù)據(jù);（3）信號情報獲取計劃（SIGINT），要求美國智能產(chǎn)品制造商和平臺企業(yè)在設(shè)計產(chǎn)品與服務(wù)時植入隱藏技術(shù)漏洞，便利NSA進行監(jiān)聽、監(jiān)視和情報獲取。

基于斯諾登所披露的信息，奧地利的隱私維權(quán)人士馬克西米利安·施樂姆提起訴訟，指稱按照歐盟標(biāo)準(zhǔn)美國的數(shù)據(jù)保護法無法達到歐盟數(shù)據(jù)保護標(biāo)準(zhǔn)，因此歐盟應(yīng)限制美國企業(yè)從歐盟各成員國公民那里獲取數(shù)據(jù)并轉(zhuǎn)移到美國。歐洲司法法院采納了斯諾登披露的信息作為證據(jù)，判定與美國之間關(guān)于數(shù)據(jù)跨境流動的數(shù)據(jù)安全港協(xié)定無法充分保障歐盟成員國公民的隱私權(quán)。此后，歐盟與美國重新協(xié)商簽訂了標(biāo)準(zhǔn)更高的隱私盾（Privacy Shield）協(xié)定。

后斯諾登時代各國數(shù)據(jù)安全立法的基礎(chǔ)認(rèn)識是安全與權(quán)利密不可分，保護本國公民的數(shù)據(jù)權(quán)免受外國（主要是美國）監(jiān)控就是維護國家安全。由此出現(xiàn)了數(shù)據(jù)本地化的立法趨勢，該趨勢被學(xué)者描述為數(shù)據(jù)民族主義：“全球互聯(lián)網(wǎng)的時代或許已成過去。世界各國都在打造阻止信息跨境流動的屏障。出于隱私、安全、監(jiān)控和執(zhí)法方面的考量，各國政府都在網(wǎng)絡(luò)空間確立邊境線，將萬維網(wǎng)弄得四分五裂。第一代的互聯(lián)網(wǎng)邊境控制致力于將納粹宣傳和侵犯著作權(quán)的內(nèi)容等有害信息屏蔽在國境之外。新一代的互聯(lián)網(wǎng)邊境控制則致力于把數(shù)據(jù)控制在國境之內(nèi)。第一代控制所屏蔽的信息范圍較窄，而新一代控制則試圖將所有的個人數(shù)據(jù)控制在一國之內(nèi)。”各國制定數(shù)據(jù)本地化規(guī)則的依據(jù)大致包括三種：（1）保護本國公民免受美國的監(jiān)控。（2）通過增強法律程序中本國用戶數(shù)據(jù)的可獲得性來便利本國的執(zhí)法活動。（3）促進本國信息產(chǎn)業(yè)的發(fā)展，并在此基礎(chǔ)上進行雙邊談判，達成互利互惠的數(shù)據(jù)交換和數(shù)據(jù)交換協(xié)議。我國的數(shù)據(jù)本地化規(guī)則主要體現(xiàn)在《網(wǎng)絡(luò)安全法》第三十七條：“關(guān)鍵信息基礎(chǔ)設(shè)施的運營者在中華人民共和國境內(nèi)運營中收集和產(chǎn)生的個人信息和重要數(shù)據(jù)應(yīng)當(dāng)在境內(nèi)存儲。因業(yè)務(wù)需要，確需向境外提供的，應(yīng)當(dāng)按照國家網(wǎng)信部門會同國務(wù)院有關(guān)部門制定的辦法進行安全評估;法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定?！?/p>

三、人工智能時代的公私合作治理

由于人的大部分線上活動都不是在政府平臺上進行的，而是在搜索引擎、購物平臺、社交網(wǎng)絡(luò)等由私人企業(yè)運營的商業(yè)平臺上進行，這些平臺借助帳戶注冊、用戶協(xié)議和平臺管理而掌握了比政府更多的個人數(shù)據(jù)，并且借助智能算法追蹤、匯集和分析個人行為的電子蹤跡，從而能夠?qū)€人進行數(shù)字畫像，準(zhǔn)確預(yù)測個人行為，并根據(jù)歷史數(shù)據(jù)對賬戶進行信用評級。從表面上看，政府收集著個人從出生、入學(xué)、就業(yè)、婚姻、生育到死亡的全流程信息，但這些信息是靜態(tài)的、孤立的和表面化的，在實時動態(tài)性、連續(xù)性和完整性方面都遠不如商業(yè)平臺所掌握的反映個人行為軌跡的信息。政府雖然可以在行政、司法和執(zhí)法的過程中要求企業(yè)提供特定的個人數(shù)據(jù)，但這種要求只能在具體個案中針對特定人物提起，而不能成為可供機器學(xué)習(xí)的大數(shù)據(jù)。而且，即使是在這種場合，也可能遭到企業(yè)以保護商業(yè)秘密或合同關(guān)系為由的拒絕。

比如，蘋果公司曾經(jīng)因拒絕政府要求披露用戶信息而獲得自由主義者們的普遍贊譽。2015年12月2日，美國加州圣貝納迪諾發(fā)生了美國本土自911之后最嚴(yán)重的恐怖襲擊，宣誓效忠“伊斯蘭國”的賽義德·法魯克（Syed Rizwan Farook）和塔什芬·馬利克（Tashfeen Malik）在開槍射殺14人、射傷20多人后被警察擊斃。聯(lián)邦調(diào)查局查獲了法魯克的iphone手機，為了獲得犯罪調(diào)查和反恐所需要的信息，它在獲得法院授權(quán)的情況下向蘋果公司發(fā)出了解鎖該手機的要求。但蘋果公司拒絕合作，公司總裁蒂姆·庫克還在公司網(wǎng)站上發(fā)布了一封公開信，譴責(zé)聯(lián)邦調(diào)查局的要求“破壞了我們的政府旨在保護的那種權(quán)利和自由?！睂μO果公司而言，這是一次成功的公眾形象宣傳。而對于美國的國家安全和公眾的生命安全而言，這顯然不是件好事。

在我國，平臺企業(yè)在犯罪偵查、反恐和國家安全事務(wù)上拒絕與政府合作是不大可能的事情。我國的《國家安全法》《反恐怖主義法》和《網(wǎng)絡(luò)安全法》等法律都規(guī)定了平臺企業(yè)向“國家安全機關(guān)、公安機關(guān)和有關(guān)軍事機關(guān)提供必要的支持和協(xié)助”的義務(wù)。在建設(shè)智慧政府、智慧城市、智慧法院、智慧檢務(wù)、智慧公安的過程中，政府成了人臉識別、智能安防系統(tǒng)、云服務(wù)、司法大數(shù)據(jù)、預(yù)測算法等智能化數(shù)據(jù)產(chǎn)品和服務(wù)的最大消費者。但這種過于緊密的合作關(guān)系使得本來應(yīng)該在企業(yè)和消費者之間充當(dāng)中立監(jiān)管者角色的政府失去了它的中立地位和公允品質(zhì)，無法有效監(jiān)管企業(yè)濫用個人數(shù)據(jù)以及利用智能算法誤導(dǎo)和操控消費者的行為，這是致力于建設(shè)法治社會的我國政府應(yīng)當(dāng)警惕的趨勢。

處在極度保護私權(quán)（企業(yè)商業(yè)秘密和知識產(chǎn)權(quán)）的美國模式與著力強化公權(quán)（國家維護安全與秩序的權(quán)力）的中國模式之間的是歐洲模式。比如，與我國全力建設(shè)智慧法院的政策取向不同，歐洲各國對于數(shù)字技術(shù)和人工智能在司法中的應(yīng)用持非常保守的態(tài)度。2019年3月23日，法國總統(tǒng)埃馬紐埃爾·馬克龍簽署頒布了《2018-2022年規(guī)劃與司法改革法》，其中第33條第1款第2項第4段規(guī)定：“法官和書記官的身份數(shù)據(jù)不能出于評估、分析、比較或預(yù)測其實際或據(jù)稱的職業(yè)活動的目的而被利用。違反本禁制的行為依據(jù)刑法第226-18、226-24和226-31條處罰。”這意味著在我國欣欣向榮的司法大數(shù)據(jù)產(chǎn)業(yè)在法國很可能意味著犯罪。這部法律通過之前經(jīng)過了法國憲法委員會的合憲性先決審查，針對申請人認(rèn)為該條款違反了憲法所保護的平等權(quán)和公正審判權(quán)的主張，憲法委員會認(rèn)為這一禁制是為了防止對司法人員個人進行類型化畫像，防止的是對司法人員施加壓力或機會主義地利用司法管轄權(quán)規(guī)則，且并未侵犯公民個人的平等權(quán)以及受公正審判的權(quán)利。

比較上述三種立法和公共政策模式，可以得出的初步結(jié)論是：信息技術(shù)的迅猛發(fā)展及其所帶來的商業(yè)模式和治理模式變革使公與私的關(guān)系呈現(xiàn)出了新的樣態(tài)。平臺企業(yè)越來越多地發(fā)揮著公共服務(wù)的職能，而政府則越來越依靠企業(yè)所提供的云服務(wù)、算法設(shè)計和人臉識別、語音識別技術(shù)來強化自己的治理能力。傳統(tǒng)的規(guī)制模式假定公、私界限分明，規(guī)制機構(gòu)應(yīng)該代表公共利益對私人企業(yè)進行監(jiān)管，這種規(guī)制模式應(yīng)當(dāng)讓位給公私合作、私人企業(yè)作為監(jiān)管中介承擔(dān)一定公共責(zé)任的治理模式。

四、權(quán)利保護

國家安全的目的在于實現(xiàn)人民幸福，而權(quán)利保障是確保人民生活福祉的前提條件之一?；诖髷?shù)據(jù)進行機器學(xué)習(xí)的人工智能產(chǎn)品具有侵犯個人隱私、固化社會歧視、利用人性弱點的潛質(zhì)，需要法律介入對個人權(quán)益加以保障。在這個方面，歐洲國家的立法走在前面。比如，法國于2016年通過了《數(shù)字共和國法》，強化了對個人數(shù)據(jù)權(quán)的保護。該法一方面要求數(shù)據(jù)企業(yè)在利用個人數(shù)據(jù)之前必須告知詳情、征得同意，另一方面賦予個人以全面控制涉及自身之?dāng)?shù)據(jù)的權(quán)利，包括知情權(quán)、要求刪除權(quán)（被遺忘權(quán)）、攜帶權(quán)（將全部個人數(shù)據(jù)從一個平臺轉(zhuǎn)移到另一個平臺的權(quán)利）甚至死后隱私權(quán)（自主決定數(shù)據(jù)企業(yè)能否以及如何在數(shù)據(jù)主體死亡之后利用個人數(shù)據(jù)的權(quán)利）。為了創(chuàng)造企業(yè)尊重個人數(shù)據(jù)的激勵機制，該法提高了濫用個人數(shù)據(jù)的罰款額度，授權(quán)法國數(shù)據(jù)保護局（CNIL）對違法企業(yè)處以最高2000萬歐元或4%的全球年收入。同時，為了平衡個人權(quán)利保護與鼓勵人工智能技術(shù)創(chuàng)新之間的關(guān)系，該法引入了“公共利益數(shù)據(jù)”的概念，允許企業(yè)在確保個人身份信息安全的條件下，在醫(yī)療衛(wèi)生、交通和教育等領(lǐng)域為了公共利益和研究目的可使用個人數(shù)據(jù)。

2018年5月25日生效的歐盟《一般數(shù)據(jù)保護條例》更是一部必將產(chǎn)生深遠影響的法律。這部法律的主要推動者是來自德國的歐洲議會議員阿爾布萊希特（Jan Philipp Albrecht），他試圖將歐洲法律傳統(tǒng)中對個人尊嚴(yán)和隱私權(quán)的重視帶入到數(shù)字化時代的權(quán)利保護機制之中。這部法律一體適用于對個人數(shù)據(jù)的自動化（即算法處理）和非自動化處理（第二條），其目的在于保護數(shù)據(jù)流動和數(shù)據(jù)處理過程中自然人所享有的數(shù)據(jù)權(quán)利（第一條）。而個人數(shù)據(jù)的定義十分寬泛，包括與已被識別出（identified）或可被識別出（identifiable）的自然人相關(guān)的任何信息。其中對“可被識別出的”個人數(shù)據(jù)的保護對算法設(shè)計者提出了很高的要求，包括采取匿名化等一系列使數(shù)據(jù)無法被關(guān)聯(lián)到具體個人的技術(shù)手段（第四條）。對個人數(shù)據(jù)的處理要符合合法、公平、透明、目的具體且有限、準(zhǔn)確、安全等原則（第五條）。除非是在法律明確規(guī)定的條件（比如數(shù)據(jù)主體明確同意）下，處理數(shù)據(jù)的方式不得顯示出個人的種族、民族、政治觀點、宗教或哲學(xué)信仰、工會成員身份等等，處理的對象不得包括基因數(shù)據(jù)、使某個人被識別出來的生物計量學(xué)數(shù)據(jù)、健康數(shù)據(jù)以及性生活或性取向數(shù)據(jù)（第九條）。該條例明確列舉了數(shù)據(jù)主體的若干具體權(quán)利，包括充分知情權(quán)、要求更正權(quán)、要求刪除權(quán)（被遺忘權(quán)）和限制處理權(quán)（第15-18條），旨在強化數(shù)據(jù)主體對涉及自身的所有數(shù)據(jù)的控制能力。在鼓勵創(chuàng)新和保護權(quán)利之間，歐盟立法者選擇了后者，預(yù)先給智能算法的發(fā)展劃定了界限。違反該條例最高可被罰款全球年收入的2-4%，這將極大地改變?nèi)虻臄?shù)據(jù)生態(tài)，尤其會對谷歌等美國公司的歐洲市場產(chǎn)生不利影響。

我國在隱私權(quán)和個人數(shù)據(jù)保護法治化方面也已經(jīng)取得了顯著的成就。首先，《憲法》第三十七條至第四十條分別保障著公民的人身自由、人格尊嚴(yán)、住宅安全、通信自由與通信秘密，筑起了公民隱私權(quán)的圍墻。其次，在民法層面，《民法通則》中雖然沒有明確提到“隱私權(quán)”，但姓名權(quán)、肖像權(quán)、名譽權(quán)、榮譽權(quán)卻覆蓋了個人隱私的重要方面。2010年7月1日起施行的《侵權(quán)責(zé)任法》第二條明確將“隱私權(quán)”列入“本法所稱民事權(quán)益”之中。該法第36條針對網(wǎng)絡(luò)服務(wù)提供者侵權(quán)的特殊性做了專門規(guī)定，直接侵犯隱私權(quán)的要承擔(dān)侵權(quán)責(zé)任，明知網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)侵權(quán)的，必須采取刪除、屏蔽、斷開連接等必要措施，否則要承擔(dān)連帶責(zé)任。2017年10月1日起施行的《中華人民共和國民法總則》第一百一十條規(guī)定了隱私權(quán)，第一百一十一條則明確規(guī)定：“自然人的個人信息受法律保護。任何組織和個人需要獲取他人個人信息的，應(yīng)當(dāng)依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個人信息，不得非法買賣、提供或者公開他人個人信息。”第三，在行政法層面，2017年6月1日起施行的《網(wǎng)絡(luò)安全法》第四十至第五十條規(guī)定了網(wǎng)絡(luò)運營者在收集和使用個人信息方面的保密義務(wù)、征得個人同意的義務(wù)、安全管理義務(wù)、告知義務(wù)等等，要求收集和使用個人信息的行為遵循合法、正當(dāng)、必要的原則，并授權(quán)國家網(wǎng)信部門和其他有關(guān)部門監(jiān)督和管理網(wǎng)絡(luò)運營者履行上述義務(wù)的情況。第五，在刑法層面，在刑法修正案七和九通過之前，我國刑法中已有的涉及侵犯隱私和個人信息方面的罪名便已經(jīng)包括：非法搜查罪，非法侵入他人住宅罪，侵犯通信自由罪，私自開拆、隱匿、毀棄郵件、電報罪，非法使用竊聽、竊照專用器材罪，破壞計算機信息系統(tǒng)罪，竊取、收買、非法提供信用卡信息罪和侮辱罪等等。刑七和刑九進一步針對網(wǎng)絡(luò)時代侵犯個人隱私行為的新特點，對上述罪名進行了補充和修改，例如，刑九對刑法第二百五十三條進行了修改，規(guī)定：“違反國家有關(guān)規(guī)定，向他人出售或者提供公民個人信息，情節(jié)嚴(yán)重的，處三年以下有期徒刑或者拘役，并處或者單處罰金;情節(jié)特別嚴(yán)重的，處三年以上七年以下有期徒刑，并處罰金?！钡诹?，我國還制定了《個人信息安全規(guī)范》國家標(biāo)準(zhǔn)（2018年5月1日起生效），致力于將個人信息保護嵌入互聯(lián)網(wǎng)行業(yè)的產(chǎn)品和服務(wù)標(biāo)準(zhǔn)之中，使罔顧公民隱私的商業(yè)模式難以立足。不過，迄今為止我國法律中對個人數(shù)據(jù)權(quán)的保護分散在諸多不同的法律之中，其中大多數(shù)并不以保護個人數(shù)據(jù)為側(cè)重點，而且缺乏有效的實施機制?？梢詤⒖?xì)W洲經(jīng)驗制定一部統(tǒng)一的《個人數(shù)據(jù)保護法》，并建立個人數(shù)據(jù)保護機構(gòu)來實施這部法律。當(dāng)然，過于嚴(yán)格的個人數(shù)據(jù)保護可能會制約人工智能技術(shù)的發(fā)展，在立法過程中需要權(quán)衡鼓勵創(chuàng)新和保護個人權(quán)利兩方面的戰(zhàn)略考量。

五、結(jié)語

臉書泄漏5000萬用戶個人數(shù)據(jù)事件曝光后，在長達十小時的國會質(zhì)詢過程中，扎克伯格不下30次提到人工智能，強調(diào)“人工智能可以解決好這個問題”，這顯然是把問題本身當(dāng)解藥了。正如哥倫比亞大學(xué)法學(xué)院吳修銘教授所言：“臉書商業(yè)模式的關(guān)鍵創(chuàng)新或許不是社交網(wǎng)絡(luò)，而是創(chuàng)造出了一種智能工具，用以說服為數(shù)眾多的人為了很少的一點兒娛樂和便利而交出如此之多的個人數(shù)據(jù)。”隨著我國建設(shè)創(chuàng)新國家的基本政策與借助信息技術(shù)加快實現(xiàn)國家治理現(xiàn)代化的基本政策的合流，我們對技術(shù)的依賴越來越強，而忽略了其所帶來的法律層面的問題。隨著人工智能技術(shù)從潮流變成席卷一切的漩渦，我們更應(yīng)保持清醒的頭腦，反思其中涉及的安全、治理和權(quán)利保護問題，避免技術(shù)決定論的誤區(qū)。

（責(zé)任編輯：胡曉慧）