王灝晨

摘 要：歐盟的《通用數(shù)據(jù)保護條例》已正式生效，成為保護歐盟用戶個人數(shù)據(jù)的重要法律依據(jù)?！稐l例》對個人保護的力度大幅增加，規(guī)定更加詳細嚴格。人工智能（AI）領(lǐng)域相關(guān)公司認為《條例》可能影響AI的有效性和實用性，進而影響AI領(lǐng)域的發(fā)展與創(chuàng)新，而其設(shè)定的高額罰款可能抑制AI企業(yè)在歐洲的發(fā)展。我國AI產(chǎn)業(yè)發(fā)展迅速，但在個人數(shù)據(jù)保護方面的管理及立法工作有待進一步加強。相關(guān)企業(yè)需主動加強數(shù)據(jù)保護工作，以降低違法風險。我國宜借鑒歐盟的《條例》，細化現(xiàn)有法律中保護個人數(shù)據(jù)的條款，加大處罰力度，同時注意減少對AI產(chǎn)業(yè)的發(fā)展造成直接的、重大的沖擊，在強化監(jiān)管的同時，促進AI產(chǎn)業(yè)健康、有序發(fā)展。

關(guān)鍵詞：通用數(shù)據(jù)保護條例 GDPR 人工智能 個人隱私保護

當前，人工智能（AI）已經(jīng)成為數(shù)字經(jīng)濟的前沿領(lǐng)域，歐盟也計劃投資數(shù)億歐元用于AI研究。根據(jù)普華永道的估計，截至2030年，AI可為歐盟國家的國內(nèi)生產(chǎn)總值增加2.5萬億歐元。這就需要AI領(lǐng)域?qū)?shù)據(jù)的收集和使用。可以認為，誰能訪問、使用大規(guī)模數(shù)據(jù)，誰就擁有開發(fā)出更好的AI算法和應用的基礎(chǔ)，創(chuàng)造更大價值。經(jīng)過近2年的討論修改，歐盟新的數(shù)據(jù)隱私規(guī)則，《通用數(shù)據(jù)保護條例》（General Data Protection Regulation， GDPR，簡稱“《條例》”），于2018年5月25日正式生效，受到了各方密切關(guān)注，媒體也密集開展介紹性的報道。AI領(lǐng)域相關(guān)公司認為其中一些規(guī)定可能對AI在歐洲的發(fā)展帶來負面影響。本文將就《條例》其中引發(fā)爭議的規(guī)則進行分類，分析其可能的負面影響，并結(jié)合國內(nèi)現(xiàn)狀，說明其對我國AI產(chǎn)業(yè)發(fā)展的啟示。

一、條例中引發(fā)爭議的規(guī)則

《條例》中的一些規(guī)定被認為可能影響AI在歐洲的發(fā)展。具體來說，主要涉及歐盟管理機構(gòu)及公司對數(shù)據(jù)的檢查，公司對數(shù)據(jù)的使用，以及條例自身的要求這三方面問題。

（一）對數(shù)據(jù)的多層次檢查規(guī)定

涉及對數(shù)據(jù)檢查的規(guī)定中，主要包括三方面對數(shù)據(jù)的監(jiān)管要求。

一是歐盟數(shù)字經(jīng)濟管理機構(gòu)的監(jiān)管。《條例》第13—15條規(guī)定公司有義務向歐盟管理機構(gòu)提供個別算法決策詳細解釋，或關(guān)于算法如何做出決定的一般信息。這主要針對利用AI算法提供精準服務過程中的“歧視問題”。該問題中比較常見的是“價格歧視”，即根據(jù)算法，使用不同設(shè)備或具有不同特征的用戶，在使用相同產(chǎn)品或服務時，會付出不同的價格。

二是歐盟要求公司開展的監(jiān)管?！稐l例》第22條規(guī)定了公司需要讓人工介入AI的使用過程，審查某些算法決策。該條例旨在強調(diào)在某些服務或行為可能對顧客產(chǎn)生法律影響，應該由人而不是AI算法來最終做出該顧客能否使用服務的決定。例如，在發(fā)放貸款過程中，在利用AI對貸款人進行各方面資格核驗后，最終仍需由人來決定是否放貸。

三是可以由個人提出的監(jiān)管要求?！稐l例》第17（1）條列舉了“擦除權(quán)”，即用戶可以要求公司擦除涉及個人隱私的數(shù)據(jù)，不得有誤。該條例意味著在用戶使用了某項服務或軟件后，如果認為該服務或軟件收集了個人數(shù)據(jù)并侵犯隱私，就可以要求公司立刻刪除，保護個人隱私。

（二）數(shù)據(jù)使用方面的監(jiān)管限制

該條例對于數(shù)據(jù)能否得到合理使用也做出了規(guī)定，存在三點引起較大的爭議。

一是禁止改變原有數(shù)據(jù)的使用目的?！稐l例》第6條規(guī)定，在首次獲取個人數(shù)據(jù)并利用該數(shù)據(jù)實現(xiàn)軟件或人工智能的功能后，該數(shù)據(jù)將不得再用于其他目的。例如某個APP或軟件獲得了用戶的位置信息，那么該信息只能被直接運用于當時的服務，而不能通過連續(xù)獲得用戶的位置信息，記錄用戶的行動軌跡并據(jù)此刻畫出用戶的生活習慣或常去的地點，以推送相應的信息。

二是數(shù)據(jù)本地化要求?！稐l例》第五章表明，歐盟對于在歐洲境外的個人數(shù)據(jù)流將實施更加嚴格的控制，即通過要求數(shù)字技術(shù)公司在歐盟內(nèi)部使用數(shù)據(jù)中心，而減少這些數(shù)據(jù)上傳到云平臺的機會。這樣，就可以將歐盟內(nèi)部產(chǎn)生的數(shù)據(jù)，特別是個人數(shù)據(jù)，盡可能限制在歐盟可控的范圍內(nèi)，避免這些數(shù)據(jù)上傳后造成個人隱私泄露。

三是數(shù)據(jù)需有可移植性?！稐l例》第20條規(guī)定，消費者有權(quán)力將自己的數(shù)據(jù)與其他公司進行分享。即消費者使用A軟件時，產(chǎn)生的個人信息數(shù)據(jù)由A公司進行標準化后，如果消費者使用B公司的軟件需要利用到這些信息，而且消費者認為B公司的軟件更好，愿意提供自己的信息時，就可以將儲存在A公司的已經(jīng)產(chǎn)生的數(shù)據(jù)轉(zhuǎn)給B公司，從而能獲得B公司軟件更好的服務。

（三）《條例》自身引發(fā)爭議的方面

除了對數(shù)據(jù)的使用及監(jiān)管有種種規(guī)定和限制外，《條例》自身也存在一些令人產(chǎn)生爭議的方面。

一是使用不可識別身份數(shù)據(jù)的規(guī)定較為模糊。不可識別身份數(shù)據(jù)，是指無法通過該數(shù)據(jù)鎖定某個個人。在開發(fā)和改進AI的過程中，通過共享這種“匿名化”或“假名化”的數(shù)據(jù)，可以只反映用戶的行為特征，但避免個人隱私的泄露。在《條例》中，并未禁止這種“匿名化”數(shù)據(jù)，但也規(guī)定了如果這種數(shù)據(jù)“有理由”被認為可以確定用戶，《條例》仍可以限制對這種數(shù)據(jù)的使用。不過《條例》并沒有明確“有理由”是依據(jù)哪些理由。

二是《條例》內(nèi)容設(shè)置較為復雜，需專門增派人員作為個人數(shù)據(jù)保護負責人。在《條例》中，除前文提及的有爭議的規(guī)定外，其他規(guī)定以及不同情況下的例外條款繁多?？赡茈y以完全遵循或兼顧。開發(fā)或使用AI的公司，需要建立專門的部門、指派個人數(shù)據(jù)保護負責人及相關(guān)技術(shù)去分析《條例》的規(guī)定以及公司各方面相關(guān)情況，以確保公司符合《條例》的各項要求。

三是《條例》的復雜性使犯錯誤的幾率上升，同時又課以較為嚴格的處罰。在《條例》試行的兩年中，很大一部分公司，特別是中小企業(yè)，因為較難安排專職的個人數(shù)據(jù)負責人，對《條例》中的復雜的監(jiān)管規(guī)則和處罰規(guī)定了解不充分，從而增加了犯錯誤、違反《條例》的幾率。而一旦違反規(guī)定，又可能觸發(fā)高額罰款，最高可達公司全球營業(yè)額的4%，或2千萬歐元（以較高者為準）。

二、《條例》可能對AI發(fā)展產(chǎn)生的影響

對于《條例》中一些有爭議的條款以及條例自身存在的問題，一些AI相關(guān)智庫對《條例》如何影響AI在歐洲的發(fā)展提出了不同看法以及調(diào)整建議。

（一）數(shù)據(jù)檢查可能影響AI的有效性和實用性

一是解釋權(quán)可能會降低AI的準確性。關(guān)于提供對個別結(jié)果的算法說明，反對的看法表示AI的準確性是建立在對用戶特征和大量數(shù)據(jù)的匯總基礎(chǔ)上得到的，根據(jù)這些特征和數(shù)據(jù)，通過編制算法計算而成。如果個別用戶因認為存在價格歧視，而要求公司向監(jiān)管機構(gòu)解釋并修改算法，則可能因為這些特例而影響到涉及其他用戶的算法，進而影響算法的準確性。

二是要求公司手動審查重要的算法決策會增加AI的總體成本。開發(fā)AI的主要原因是促進決策和業(yè)務的自動化功能，如果根據(jù)22條中的要求由人工最終審核，既大規(guī)模提高勞動成本，也會大幅降低效率，使人工審核成為AI公司的瓶頸。同時，該規(guī)定也并不能完全避免不合理決策，相反，由于人容易受更多因素的影響，其決策準確性與合理性是否優(yōu)于AI也有待考察。

三是擦除權(quán)可能會損害AI系統(tǒng)。前述的“擦除權(quán)”也可能危害歐洲的AI發(fā)展。在沒有外界幫助的情況下，通過學習AI自身所處理的數(shù)據(jù)來改進算法的AI系統(tǒng)被稱為無監(jiān)督機器學習的AI系統(tǒng)。其工作原理中非常重要的一步是“記住”用來訓練自己的所有數(shù)據(jù)，以維持從中獲得的規(guī)則并根據(jù)新進入的數(shù)據(jù)不斷改進。然而，如果完全遵從用戶要求刪除數(shù)據(jù)，特別是刪除支持AI系統(tǒng)行為中關(guān)鍵規(guī)則的數(shù)據(jù)可能會使其準確性下降，并影響其為其他用戶服務的能力，甚至完全破壞這個AI系統(tǒng)。

（二）使用數(shù)據(jù)存在困難可能影響AI領(lǐng)域的創(chuàng)新與發(fā)展

一是禁止改變數(shù)據(jù)使用目的將限制AI的創(chuàng)新。這條規(guī)定將使AI方面的公司無法擴展數(shù)據(jù)的使用范圍，所收集的信息如果不用于特定的軟件或APP，就變成了沉默的數(shù)據(jù)。而公司也無法利用這些數(shù)據(jù)和其他渠道獲得的數(shù)據(jù)進行關(guān)聯(lián)，降低了改善其服務的能力，也限制了對AI應用新場景的開發(fā)。歐盟的消費者和企業(yè)也將很難從AI的進一步創(chuàng)新中獲益。

二是數(shù)據(jù)的本地化要求提高了AI成本。AI領(lǐng)域的應用當然應該注意保護隱私，但這些信息是包含于數(shù)據(jù)之中，而與數(shù)據(jù)存儲設(shè)備的物理位置并無太大關(guān)系。盡管云平臺中存儲和傳輸?shù)臄?shù)據(jù)可能因為網(wǎng)絡安全受到威脅而產(chǎn)生隱私泄露的風險，但這并不能依靠在本地進行數(shù)據(jù)備份而解決，反倒提高了相關(guān)企業(yè)的運營成本。

三是數(shù)據(jù)可移植性雖然可以刺激AI公司的競爭，但也要付出代價。這一規(guī)定在一定程度上可對AI在歐盟的發(fā)展起到積極影響。用戶可以憑借自己相關(guān)的數(shù)據(jù)集作為選擇公司服務的籌碼，從而助長公司改善服務的競爭。但是用戶個人數(shù)據(jù)的收集、整理都要花費多年積累，其成本并非某個公司可以獨立承擔，而收集后該數(shù)據(jù)集可被用戶拿走并轉(zhuǎn)移給其他公司，從市場競爭角度也是令人無法接受的。

（三）《條例》自身的爭議可能抑制AI企業(yè)的發(fā)展

如果說數(shù)據(jù)監(jiān)管和使用方面有爭議的規(guī)定可能會影響AI公司的創(chuàng)新及利潤，那么《條例》自身的一些問題可能會抑制AI企業(yè)的發(fā)展甚至給這些企業(yè)帶來法律風險。

條例中對于哪些數(shù)據(jù)是不可識別數(shù)據(jù)缺乏清晰的定義，這使很多公司無法避免監(jiān)管機構(gòu)的嚴格執(zhí)法，同時也降低了公司利用不可識別數(shù)據(jù)處理、改進AI系統(tǒng)的積極性。因為一旦所用的不可識別數(shù)據(jù)被認定為可以確定某個具體用戶，公司將面臨罰款及法律起訴。

《條例》的復雜性決定了設(shè)立專門的個人數(shù)據(jù)保護負責人的必要性，而且該負責人需要直接對管理機構(gòu)負責。這一規(guī)定將增加相關(guān)公司的成本。特別是對于人力資源并不充裕的中小公司來說，專門抽調(diào)人手從事這一非盈利工作，還可能從公司的經(jīng)營活動中找出不符合《條例》規(guī)定的行為。這種既增加企業(yè)成本，又對企業(yè)實施監(jiān)督的做法，在實際執(zhí)行中的效果還有待觀察。

同時，《條例》的復雜性也使很多公司較難詳盡了解監(jiān)管規(guī)定的具體含義，可能導致公司在運營過程中違規(guī)。對于小公司來說，將更傾向于減少AI的使用，降低引起法律糾紛和高額罰款的風險。這將造成不同規(guī)模、類型的公司，在人工智能應用方面差距增大，形成人為設(shè)置的“數(shù)字鴻溝”。長此以往，在歐盟發(fā)展的公司將會逐漸喪失利用AI進行輔助決策和改進績效的積極性，也將抑制AI公司的創(chuàng)新創(chuàng)業(yè)行為。

三、對我國AI發(fā)展中數(shù)據(jù)監(jiān)管的啟示

通過分析《條例》中引起企業(yè)界爭議的規(guī)定及對條例自身的討論，可以看出《條例》旨在保護AI時代的用戶隱私，并試圖為用戶創(chuàng)造一個盡可能公平的使用環(huán)境，而這又可能增加AI相關(guān)公司的成本與法律風險。在我國AI產(chǎn)業(yè)快速發(fā)展的過程中，有必要借鑒歐盟的做法，同時也要避免對行業(yè)造成過多的沖擊。

（一）人工智能時代需更加重視用戶隱私保護

此次《條例》的頒布之所以在數(shù)字經(jīng)濟領(lǐng)域和AI產(chǎn)業(yè)界引起軒然大波，主要是因為該法律大幅提升了AI時代的用戶數(shù)據(jù)隱私保護門檻，提高了企業(yè)使用數(shù)據(jù)的成本，降低了自由度。這正說明《條例》的出臺對用戶數(shù)據(jù)保護產(chǎn)生了作用，提醒我們應該更加重視AI時代的用戶隱私。

在數(shù)字經(jīng)濟、人工智能時代，用戶隱私的保護越來越難。隨著各類數(shù)據(jù)采集設(shè)備的使用，各類APP、企業(yè)組織可以收集用戶的身份識別、生理、心理、行為等大量信息并加以利用，而這種收集經(jīng)常不是當事人的“自主行為”。作為支撐智能設(shè)備和人工智能應用的云計算架構(gòu)及云平臺，存儲了大量的用戶隱私數(shù)據(jù)，亟待得到有效保護。同時，人工智能擁有較強的從數(shù)據(jù)到知識的抽取能力，用戶在不同人工智能應用、網(wǎng)站上留下的數(shù)據(jù)、痕跡，通過抽取、組合，就可以勾勒出當事人的生活軌跡，進一步分析出當事人的生活習慣及潛在需求，將原本用于某一特定用途的基礎(chǔ)數(shù)據(jù)，未經(jīng)當事人同意就變?yōu)槊枥L用戶特征的元素之一。而根據(jù)《條例》的規(guī)定，這幾種情況下的數(shù)據(jù)使用、轉(zhuǎn)移等行為，都將被監(jiān)管乃至禁止。雖然《條例》可能在具體條目、規(guī)定上的要求較為嚴苛，其正式實施后是否會對AI產(chǎn)業(yè)造成沖擊還有待觀察，但至少形成了在AI時代保護用戶隱私的法律參考，也提高了政府、業(yè)界和用戶對用戶隱私保護的重視，這是《條例》頒布的重要意義。

（二）當前我國保護個人隱私的努力

目前我國已經(jīng)開始在指導意見及法律法規(guī)方面開展了保護用戶信息安全的努力。在指導意見方面，2017年7月，國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，對我國未來人工智能工作提出了明確要求?！兑?guī)劃》指出“加強人工智能標準框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應用、網(wǎng)絡安全、隱私保護等技術(shù)標準”。

在法律法規(guī)方面，我國《刑法》先于民法等其他法律對個人信息保護進行了規(guī)定?！缎谭ㄐ拚福ㄆ撸罚?009）確認了非法銷售公民個人信息罪和非法獲取公民個人信息罪。2015年，《刑法修正案（九）》對刑法第253條做出修訂完善，定義了“侵犯公民個人信息罪”，非法提供公民個人信息和非法獲取公民個人信息都將入刑。

《全國人大常委會關(guān)于加強網(wǎng)絡信息保護的決定》（2012）確立了我國個人信息保護最基本的規(guī)則，即個人同意規(guī)則。此規(guī)則貫徹到之后的《消費者權(quán)益保護法》（2013）與《網(wǎng)絡安全法》（2016）?！断M者權(quán)益保護法》中明確規(guī)定了“消費者享有個人信息受保護的權(quán)利”?！毒W(wǎng)絡安全法》以及最新刑事司法解釋正式施行，令信息安全尤其是個人隱私保護的問題產(chǎn)生了質(zhì)變。該法律具有“適用主體廣、入刑門檻低、適用刑罰嚴”等特點，對于加強個人信息保護，完善我國個人信息保護的法律體系具有重要意義。立法出臺之后，以往數(shù)字經(jīng)濟界關(guān)于個人隱私的一些約定俗成的規(guī)則將會發(fā)生改變?；诖说拇髷?shù)據(jù)、AI產(chǎn)業(yè)的發(fā)展也都將進入新階段。

（三）適當借鑒歐盟做法，注意數(shù)據(jù)保護與AI發(fā)展的協(xié)調(diào)

此次歐盟正式出臺的《通用數(shù)據(jù)保護條例》，對我國的數(shù)據(jù)保護規(guī)則的制定有較強的借鑒作用。一是《條例》在很大程度上起到了保護用戶個人數(shù)據(jù)及隱私的作用。歐盟的數(shù)字經(jīng)濟較為發(fā)達，有較多的跨國數(shù)字經(jīng)濟公司在歐盟開展業(yè)務，這與我國的情況類似。這些公司掌握著大量客戶數(shù)據(jù)，如果沒有相應的規(guī)定進行規(guī)制，則可能出現(xiàn)濫用數(shù)據(jù)甚至販賣數(shù)據(jù)的情況。因此，該條例雖然在一些規(guī)定上引起爭議，但從出發(fā)點及覆蓋的公司范圍看，還是可能達到保護個人隱私的目的。二是該條例規(guī)定細致，可操作性較強。該規(guī)定共有11章，99條。對個人、數(shù)據(jù)使用者及其所在組織，以及監(jiān)管者在其中扮演的角色及行為都進行了較為詳細的規(guī)定。這些規(guī)則可操作性較強，在一定程度上可以指導實際工作。

目前，我國的數(shù)字經(jīng)濟發(fā)展得如火如荼，AI的應用范圍在不斷擴大。但需注意的是，盡管已有相關(guān)法律、法規(guī)，但我國一些數(shù)字技術(shù)公司或AI公司并未很好地遵守。這些公司在收集用戶個人信息時，隨意擴大數(shù)據(jù)搜集范圍，強制用戶允許軟件或APP使用終端的某項功能，或私自啟動終端的某項功能，獲得用戶諸如定位情況等信息。同時，在軟件使用過程中，也存在利用AI手段對用戶進行精準差異化收費的問題。但由于這些活動的取證相對困難，專門的管理細則尚未完全覆蓋，這些公司較少受到處罰，也助長了一部分公司投機取巧的做法。而《條例》的出臺，有可能對在歐盟開展經(jīng)營的中國公司的上述問題展開相關(guān)調(diào)查，如果這些公司不能盡快請專業(yè)律師及數(shù)據(jù)保護咨詢機構(gòu)幫助提高公司的數(shù)據(jù)保護水平，未來很可能會因違反《條例》而收到高額罰單。

對于我國來說，可以參考歐盟的做法，在《網(wǎng)絡安全法》基礎(chǔ)上，補充或出臺一部更加適應我國數(shù)字經(jīng)濟與AI發(fā)展新動向的數(shù)據(jù)保護管理條例，以管制現(xiàn)存的一些不正規(guī)或“灰色”的行為，更好地保護用戶隱私。同時，也需注意歐盟《條例》中對AI發(fā)展產(chǎn)生較大影響的規(guī)定，在劃定明確邊界的情況下，適當予以放寬，使保護個人數(shù)據(jù)與不妨礙AI發(fā)展并存，達到促進我國數(shù)字經(jīng)濟健康有序發(fā)展的目的。

參考文獻：

[1]胡影，上官曉麗，張宇光等.人工智能安全標準現(xiàn)狀與思考[J].保密科學技術(shù)，2017（11）：23—26.

[2]邵國松，黃琪.人工智能中的隱私保護問題[J].現(xiàn)代傳播（中國傳媒大學學報），2017（12）：1—5.

[3]司曉，張欽坤，李汶龍，田小軍.未知的破曉，解構(gòu)互聯(lián)網(wǎng)法律前沿[R].騰訊研究院，2017.

[4]王國華，駱毅.論“互聯(lián)網(wǎng)+”下的社會治理轉(zhuǎn)型[J].人民論壇·學術(shù)前沿，2015（10）：39—51.

[5]張愛英.互聯(lián)網(wǎng)金融發(fā)展與風險防范——基于《關(guān)于促進互聯(lián)網(wǎng)金融健康發(fā)展的指導意見》的思考[J].經(jīng)濟問題，2015（10）：53—57.

[6] Blume P. Impact of the EU General Data Protection Regulation on the public sector[J]. Journal of Data Protection & Privacy， 2016， 1（1）： 53—63.

[7] Mantelero A. The EU Proposal for a General Data Protection Regulation and the roots of the ‘right to be forgotten[J]. Computer Law & Security Review， 2013， 29（3）： 229—235.

[8] Tikkinen-Piri C， Rohunen A， Markkula J. EU General Data Protection Regulation： Changes and implications for personal data collecting companies[J]. Computer Law & Security Review， 2017.