• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      論人工智能領(lǐng)域被遺忘權(quán)的保護:困局與破壁

      2021-09-10 05:52:06
      法學(xué)論壇 2021年5期
      關(guān)鍵詞:權(quán)利人工智能法律

      翟 凱

      (安徽建筑大學(xué) 公共管理學(xué)院,安徽合肥 230601)

      引言

      人工智能(AI)的快速進(jìn)步使得立法者和監(jiān)管機構(gòu)也亟需跟上技術(shù)的步伐。但目前法律在某些方面的規(guī)定并不適合處理人工智能所帶來的復(fù)雜性和挑戰(zhàn)性,隱私監(jiān)管領(lǐng)域即是一例。隨著個人信息使用功能的不斷提高,對被遺忘權(quán)的關(guān)注也隨之凸顯,更是被寫入諸如《歐洲數(shù)據(jù)保護條例》(又稱“一般數(shù)據(jù)保護條例”或“GDPR”)等法律中。人們經(jīng)常將隱私視為一種“隱喻”——將私密信息“隱藏”起來。被遺忘權(quán)基本原則中這一點體現(xiàn)也尤為明顯,根據(jù)該“隱藏”原則個人可以要求刪除所公布的信息(從而使其成為私人信息)。當(dāng)個人將以前的公共信息私密化時,會援引“隱喻”的內(nèi)涵要求他人忘記這些信息。然而這種隱喻的理解是人類思維所獨有的,并不一定能轉(zhuǎn)化到人工智能/機器學(xué)習(xí)中。雖然在許多監(jiān)管機構(gòu)來看“數(shù)據(jù)刪除”似乎是一個簡單的話題。但這個看似簡單的問題在實際的機器學(xué)習(xí)環(huán)境中已經(jīng)提出了許多新的問題,使得“數(shù)據(jù)刪除”的要求目前實際上已經(jīng)游離在一種不可能的邊緣。所以要在人工智能的背景下理解被遺忘權(quán),有必要首先深入研究人類與人工智能中記憶和遺忘的概念。現(xiàn)行的法律似乎將人類和機器兩者記憶的概念等同了,但這存在理論和實踐上的困擾,本文將探討人工智能的記憶和被遺忘權(quán)在其中如何適用的問題,以期促進(jìn)法律更能如實反映人工智能技術(shù)的現(xiàn)實發(fā)展。

      一、被遺忘權(quán)的法律分析

      (一)被遺忘權(quán)的關(guān)注緣起

      被遺忘權(quán)(Right to be Forgotten RtbF)在2010年因“岡薩雷斯訴谷歌案”開始為人們所關(guān)注。2014年歐洲法院(ECJ)對該案進(jìn)行了裁決,法院指出如果滿足以下三個條件中的一個或多個,則歐洲數(shù)據(jù)保護指令適用于搜索引擎運營商:(1)如果他們在歐盟成員國中有一個分支/子公司利用搜索引擎向該成員國的居民出售廣告空間;(2)如果母公司在一個歐盟成員國指定一家子公司,并且它負(fù)責(zé)最少兩個關(guān)于該成員國內(nèi)主體數(shù)據(jù)系統(tǒng)的維護;(3)如果分支機構(gòu)/子公司向歐盟以外的非歐盟籍母公司轉(zhuǎn)發(fā)數(shù)據(jù)主體或負(fù)責(zé)監(jiān)督數(shù)據(jù)權(quán)利保護的機構(gòu)的任何請求和要求,即使轉(zhuǎn)發(fā)是自愿參與的。只要滿足這些條件中的至少一個法院就認(rèn)為這足以使搜索引擎公司成為數(shù)據(jù)控制者。法院最終認(rèn)為谷歌已經(jīng)滿足的第一個條件并成為了數(shù)據(jù)控制者,而作為數(shù)據(jù)控制者,凡遵循歐盟指令95/46 EC目標(biāo)的該歐盟國家都將以GDPR的要求規(guī)范其行為。谷歌西班牙案意味著法院確認(rèn)數(shù)據(jù)主體有權(quán)要求搜索引擎公司刪除包含有關(guān)數(shù)據(jù)主體的個人信息的鏈接。該案總結(jié)了一些有關(guān)數(shù)據(jù)權(quán)利運用的判解:(1)數(shù)據(jù)主體在某些條件下有權(quán)要求刪除數(shù)據(jù),例如當(dāng)數(shù)據(jù)處理時信息不準(zhǔn)確、不充分、不相關(guān)或過多時;(2)數(shù)據(jù)權(quán)利不是絕對的,需要與其他令人信服的權(quán)利(如言論自由)保持平衡。(1)參見Eduardf V,“Humans Forget, Machines Remember: Artificial Intelligence and the Right to be Forgotten”.Computer Security & Law Review Vol.21 , No.4 , 2017, pp.2-3.

      (二)被遺忘權(quán)的法律界定

      該案中ECJ除了提到將指令95/46 EC進(jìn)行法律轉(zhuǎn)換的適用外,其裁決也構(gòu)成了對歐洲數(shù)據(jù)保護規(guī)則地域范圍的新理解,同時提出存在一種被遺忘的權(quán)利。谷歌訴西班牙案的判決并沒有首創(chuàng)被遺忘權(quán),實際上被遺忘權(quán)不是一個完全全新的概念,數(shù)據(jù)保護指令95/46 EC在其第12條中規(guī)定了“訪問權(quán)”,該條款以某種方式已經(jīng)考慮了從數(shù)據(jù)控制器中刪除不完整、不準(zhǔn)確或非法數(shù)據(jù)的可能性。目前,新的GDPR主要將原95/46 EC第17條的“刪除權(quán)”也囊括在內(nèi),該條款對涉及數(shù)據(jù)主體的多項權(quán)利可以要求從控制人那里獲得有關(guān)他或她的個人數(shù)據(jù)的刪除且不得無故拖延。該案的判決對數(shù)據(jù)中介、數(shù)據(jù)服務(wù)者(尤其是數(shù)據(jù)控制人)提出了嚴(yán)峻的信息檢索挑戰(zhàn)。雖然原告的初衷是從最初發(fā)布的在線檔案中刪除有爭議的信息,但ECJ的裁決卻針對技術(shù)中介而不是原始的信息發(fā)布者,對于數(shù)據(jù)服務(wù)者來說,為履行公共數(shù)據(jù)的擦除義務(wù),數(shù)據(jù)控制者有義務(wù)結(jié)合技術(shù)狀態(tài)和實施成本,采取合理步驟和技術(shù)措施向數(shù)據(jù)處理者通知數(shù)據(jù)主體的請求并刪除包含此類個人數(shù)據(jù)的任何鏈接或復(fù)制。

      近年來,被遺忘權(quán)在國內(nèi)學(xué)界也引起了熱切的關(guān)注。就其研究來看,已經(jīng)逐步從側(cè)重于研究歐美國家對該權(quán)利不同的保護理念、司法境遇之中集中厘清了被遺忘權(quán)的概念,并轉(zhuǎn)向?qū)ζ浞蓪傩浴⑦m用邊界以及本土化構(gòu)造的探討。(2)參見余煜剛:《司法視域下“被遺忘權(quán)”的邏輯推演與論證建構(gòu)——以我國首例“被遺忘權(quán)”案的分析為切入點》,載《北方法學(xué)》2018年第2期?;举澇杀贿z忘權(quán)是指“信息主體對已被發(fā)布在網(wǎng)絡(luò)上的,有關(guān)自身的不恰當(dāng)?shù)?、過時的、繼續(xù)保留會導(dǎo)致其社會評價降低的信息,要求信息控制者予以刪除的權(quán)利”。(3)楊立新、韓煦:《被遺忘權(quán)的中國本土化及法律適用》,載《法律適用》2015年第2期。其權(quán)利內(nèi)涵主要包含:“一是個人信息的事前控制,即適時刪除個人信息的權(quán)利;二是在特定領(lǐng)域?qū)π畔⒅黧w過往負(fù)面信息進(jìn)行披露與使用的限制”。(4)李媛:《被遺忘權(quán)之反思與建構(gòu)》,載《華東政法大學(xué)學(xué)報》2019年第2期。目前,學(xué)界對被遺忘權(quán)的性質(zhì)主要有隱私權(quán)權(quán)能說、個人信息權(quán)能說、獨立人格權(quán)說等,隨著《民法總則》中關(guān)于個人信息權(quán)的明確,目前個人信息權(quán)能說占主流。當(dāng)前學(xué)界基本對該權(quán)利持肯定態(tài)度并呼吁我國立法引入被遺忘權(quán)并對其加以本土化改造為我所用。(5)參見滿洪杰:《被遺忘權(quán)的解析與構(gòu)建:作為網(wǎng)絡(luò)時代信息價值糾偏機制的研究》,載《法制與社會發(fā)展》2018年第2期。

      (三)目前被遺忘權(quán)發(fā)展中的法律爭議

      引入被遺忘權(quán)被視為是近年來歐盟立法領(lǐng)域的一項突破。不過目前被遺忘權(quán)自身發(fā)展也引發(fā)出一些值得注意的問題。

      一方面是關(guān)于被遺忘權(quán)權(quán)利本身的爭議。第一,單純從邏輯層面看,被遺忘權(quán)之名一直存在爭論。諸如遺忘之類的心理過程其實是不能被強加的,因此在邏輯上原本沒有人可以因遺忘而被起訴,所以如何用一個恰當(dāng)?shù)姆尚g(shù)語來概括被遺忘權(quán)行為本就較難,而現(xiàn)有的被遺忘權(quán)似乎更適合被稱為“不被發(fā)現(xiàn)的權(quán)利”。第二,在權(quán)利屬性上存在模糊。GDPR條文中權(quán)利人以“遺忘”處分其個人信息以及對數(shù)據(jù)控制者因“未遺忘”而科以處罰甚至強制執(zhí)行的規(guī)定,使人感覺其是否意圖在個人信息中建立一種新的財產(chǎn)制度,在這種制度下遺忘將產(chǎn)生財產(chǎn)屬性甚至還可能涉及轉(zhuǎn)讓等處分疑問。但“信息無論如何傳播,均無損于其自身完整,由此決定了信息不能歸某一主體所有,即便是關(guān)于某人的信息某人并沒有傳統(tǒng)意義上的支配權(quán)”。(6)梅夏英:《論被遺忘權(quán)的法理定位與保護范圍之限定》,載《法律適用》2017年第16期。這種與傳統(tǒng)意義上財產(chǎn)支配的不同使得個人信息失控變得正常,同理個人信息也不會輕易產(chǎn)生“排除權(quán)”屬性,即允許一個數(shù)據(jù)主體將其他數(shù)據(jù)請求排除在保持對自身信息的并行控制之外。因而被遺忘權(quán)的財產(chǎn)屬性有待勘明。第三,該權(quán)利尚不能追溯性地實現(xiàn)遺忘的結(jié)果。誠然,如果行使被遺忘權(quán)可以完全填平既成的損害則可以使遺忘的結(jié)果具有追溯力,權(quán)利的實現(xiàn)度將更完滿。但因其損失而獲得補償?shù)慕Y(jié)果只是“好像”被遺忘,實際上完全恢復(fù)損失是不可能的。即使可以彌補部分損失但至少仍會遭受一些聲譽損失,同時權(quán)利人對于能夠不面對這些信息的心理可能也無法得到充分滿足,因此該權(quán)利的追溯性目前存在缺憾。第四,訴訟權(quán)利保障上存在困境。從權(quán)利的價值上看被遺忘權(quán)對雙方都是平等的,那么被告對于原告勝訴判決所載信息是否也可以行使被遺忘權(quán),從而要求刪除該信息。而如果這樣,則原告的被遺忘權(quán)又如何去落實。因此,如果只考慮被遺忘權(quán)本身而缺少各種訴訟限制,其價值目標(biāo)當(dāng)前也存在著邏輯上的困境。(7)參見丁宇翔:《被遺忘權(quán)的中國情境及司法展開——從國內(nèi)首例“被遺忘權(quán)案”切入》,載《法治研究》2018年第4期。第五,權(quán)利主體對如何恰當(dāng)?shù)匦惺乖摍?quán)利目前存在困惑。GDPR中對該權(quán)利定義的模糊使其應(yīng)用出現(xiàn)困難:GDPR中的“遺忘”似乎通過簡單刪除個人數(shù)據(jù)或刪除包含來自數(shù)據(jù)控制器系統(tǒng)的個人數(shù)據(jù)的文件集就可以實現(xiàn),其將計算機上的數(shù)據(jù)想象成一個可以簡單銷毀的有體物,這本身就嚴(yán)重輕視了數(shù)據(jù)運作的復(fù)雜性,后文將詳細(xì)闡明。此外,“刪除”一詞其實并未明確出現(xiàn)在GDPR中,“移除”一詞在GDPR只出現(xiàn)兩次但都與被遺忘權(quán)無關(guān)。用于GDPR中與被遺忘權(quán)使用中的刪除有關(guān)的詞是“擦除”,但在整個文本中都沒有對該詞含義與使用的具體解釋。因此,這樣的矛盾與含混使得學(xué)者和技術(shù)人員都對該權(quán)利的具體適用感到困惑。作為一項法定權(quán)利本不應(yīng)該用抽象的短語闡釋“遺忘”,更不用說遺忘本就是復(fù)雜的心理學(xué)術(shù)語,法定權(quán)利應(yīng)當(dāng)被法律所將授權(quán)的普通權(quán)利人輕易理解?!耙话愣詸?quán)利的主要目標(biāo)之一是將權(quán)力交到個人手中……”,(8)李季璇:《從權(quán)利到權(quán)力:洛克自然法思想研究》,江蘇人民出版社2017年版,第6頁。實際上涉及個體的私權(quán)利許多需將保護的“負(fù)擔(dān)”置于權(quán)利人的肩上,現(xiàn)有被遺忘權(quán)的內(nèi)涵也包含了數(shù)據(jù)主體是其自身數(shù)據(jù)保護者的思想。因此就必須以樸素、清晰且無需猜想的措辭標(biāo)明,這樣權(quán)利人才能夠頻繁地在適當(dāng)?shù)那闆r下(即不是為了消滅歷史事實)援用(被正確標(biāo)記的)該權(quán)利。但反觀GDPR的措辭,“擦除”可以實現(xiàn)多種目的,如防止進(jìn)行系統(tǒng)性分析、針對性定位和目的性推送等。但適當(dāng)?shù)臋?quán)利措辭不應(yīng)在消除某一目的的同時強調(diào)另一個目的,而應(yīng)是能夠容納權(quán)利人可能希望行使相關(guān)權(quán)利的所有可能原因,現(xiàn)有的被遺忘權(quán)表達(dá)中僅描述其權(quán)利運動的即時結(jié)果(擦除),對要實現(xiàn)的最終目的(遺忘)則指向不明,所以可能還會帶來誤導(dǎo)。

      另一方面,一個更為宏觀的問題在于是否存在保護被遺忘權(quán)的政治、社會或道德需要。比如對于被遺忘權(quán)適用的例外情形尤其是基于公共利益原因而做出的例外,一些學(xué)者認(rèn)為現(xiàn)在確定哪些信息在未來可能具有價值十分困難,在行使被遺忘權(quán)過程中信息的直接價值和遠(yuǎn)期價值的確定也十分困難,尤其在相關(guān)信息涉及政治、經(jīng)濟等敏感信息時這類分類和界定的困難將更加明顯。(9)參見Ambrose M L,“It's About Time: Privacy, Information Life Cycles, and the Right to Be Forgotten”, Stanford Technology Law Review Vol.13 , No.16 , 2013, pp.369.其次,隨著AI技術(shù)變得越來越真正地“復(fù)雜”“智慧”,傳統(tǒng)的數(shù)據(jù)被遺忘過程中的風(fēng)險、責(zé)任和決策之間的聯(lián)系正在發(fā)生變化,AI中被遺忘權(quán)的行使已涉及一些新的人權(quán)風(fēng)險與挑戰(zhàn)。比如,在AI不易控、不可測、不透明的一些遺忘活動中甚至?xí)?dǎo)致“算法歧視”“算法偏袒”等新問題,但AI運營方與AI自身的權(quán)力監(jiān)控、責(zé)任分擔(dān)等在現(xiàn)有法律規(guī)制中都尚未廓清,此時需要進(jìn)一步發(fā)展直接針對AI“有害遺忘”而提出的人權(quán)保護,其中不僅包括“保護”人類“數(shù)字人格”穩(wěn)固的各種“數(shù)字人權(quán)”,還包括“增強”人們抵御AI在其智能遺忘等主動性活動中所帶來的“算法侵害”的相關(guān)數(shù)字人權(quán)。

      二、人工智能領(lǐng)域數(shù)據(jù)遺忘的實施與困境

      (一)人類和AI記憶與遺忘的不同

      在人工智能的背景下理解被遺忘權(quán),有必要首先深入研究人類和AI各自關(guān)于記憶和遺忘的概念。現(xiàn)行的法律似乎將人類和機器的記憶概念等同了,即“支持對記憶的虛構(gòu)理解和忘記不符合現(xiàn)實的記憶”。(10)王鑫、沙永鋒:《從AI到AM:人工智能的知識觀》,載《新聞與傳播評論》2018年第6期。認(rèn)知心理學(xué)家認(rèn)為人類心靈中存在兩種主要的記憶系統(tǒng):短期記憶和長期記憶,但目前尚未就兩者之間的主要差異達(dá)成共識。(11)參見[美]艾肯鮑姆:《記憶的認(rèn)知神經(jīng)科學(xué)——導(dǎo)論》,周仁來譯,北京師范大學(xué)出版社2008年版,第41-44頁。存儲在長期記憶中的內(nèi)容可能取決于多種因素,包括記憶的“意義”等,但目前尚不清楚這些因素具體是什么。(12)參見[美]布洛克:《吾思魚所思:人類學(xué)理解認(rèn)知、記憶和識讀的方式》,周雷譯,格致出版社2013年版,第27頁。事實上,人類的思考與意識可以存儲多少原始數(shù)據(jù)至今還沒有一致的可靠估計。因此,“我們目前對人類思想和記憶的理解還依然處在懵懂探索之中,甚至可能某些認(rèn)識和理解根本就是不正確的”。(13)[英]彼得·布朗,亨利·勒迪格三世,馬克·麥克丹尼爾:《認(rèn)知天性》,鄧峰譯,中信出版社2018年版,第12頁。

      相比之下,當(dāng)前在弱人工智能階段,由于人類是創(chuàng)造人工智能背后邏輯過程的人,可以較便捷地了解人工智能世界中的“思想”是如何運作的。正因為對AI如何處理數(shù)據(jù)輸入、存儲和刪除已有很強的科學(xué)認(rèn)識,計算機科學(xué)家對人工智能決策基礎(chǔ)的了解比神經(jīng)科學(xué)家理解人類決策的基礎(chǔ)要更好。簡言之,雖然學(xué)者們可能無法完全理解特定AI的決策過程,但通常至少在基本的數(shù)據(jù)輸入、存儲和刪除的背景下是可以理解AI的“思維”是如何工作的。了解人類與AI“記憶”之間的差異,可以更好地理解當(dāng)前數(shù)據(jù)法律存在的不足,尤其有助于理解被遺忘權(quán)問題及其法律應(yīng)對。

      (二)當(dāng)前人工智能中數(shù)據(jù)遺忘(“刪除”)的實施困境

      如前述,被遺忘權(quán)要求刪除曾經(jīng)的公開數(shù)據(jù)。從本質(zhì)上講被遺忘權(quán)可比擬為一種人類記憶中對“忘記”信息的隱喻。當(dāng)個人要求刪除他們的信息時這相當(dāng)于請求其他人“忘記”該信息。然而這種比喻只是人類思維所獨有的,要轉(zhuǎn)化到AI/機器的學(xué)習(xí)中會存在困難。被遺忘權(quán)中的數(shù)據(jù)刪除要求不容易在AI中得到解讀,因為AI不像人類那樣“忘記”數(shù)據(jù)。機器學(xué)習(xí)中涉及刪除的第一個問題即是需要明確在各類現(xiàn)代數(shù)據(jù)驅(qū)動環(huán)境中刪除是否實際可行。數(shù)據(jù)刪除實際上在當(dāng)前智能系統(tǒng)中非常復(fù)雜,我們將以現(xiàn)代基本的智能數(shù)據(jù)庫管理系統(tǒng)(DBMS)為例(以下簡稱“數(shù)據(jù)庫”)說明在AI中被遺忘權(quán)當(dāng)前技術(shù)實現(xiàn)的基本問題。

      數(shù)據(jù)庫是一種為“有效”提供數(shù)據(jù)而設(shè)計的智能化操作程序,是當(dāng)前人工智能領(lǐng)域內(nèi)最基礎(chǔ)的一種機器學(xué)習(xí)?!坝行А钡牡湫腕w現(xiàn)即在正確和快速搜索數(shù)據(jù)。雖然在少量數(shù)據(jù)時有效搜索的效果并不明顯,但它依然是計算機科學(xué)中基本的算法類別之一。數(shù)據(jù)庫通常通過數(shù)據(jù)索引來工作,數(shù)據(jù)記錄雖然存儲在文件磁盤上,但是文件的物理位置布局會以名為B(數(shù)據(jù))—Tree(樹)的一種樹狀結(jié)構(gòu)體現(xiàn),通過使用SQL查詢語言這類程序來顯示并檢索數(shù)據(jù)記錄。(14)參見[美]David M,David J A:《數(shù)據(jù)庫處理——基礎(chǔ)、設(shè)計與實現(xiàn)》,孫未未、陳彤兵、張健譯,機械工業(yè)出版社2016年版,第23-25頁。添加到數(shù)據(jù)庫中的每個數(shù)據(jù)記錄可能不僅位于文件系統(tǒng)中的某個特定點,而且可能存儲在數(shù)據(jù)庫內(nèi)部運轉(zhuǎn)機制內(nèi)的不同位置,有的還被復(fù)制到其他數(shù)據(jù)庫的日志文件和備份中。按照RtbF的要求永久刪除數(shù)據(jù)時必須考慮這些情況,尤其當(dāng)需要滿足嚴(yán)格意義上的刪除時必須識別所有的這些空間并需要及時用新的信息覆蓋刪除空缺。但這樣的操作可能會導(dǎo)致嚴(yán)重危害數(shù)據(jù)庫的一致性、穩(wěn)定性,甚者將會破壞系統(tǒng)安全性以致?lián)p毀數(shù)據(jù)庫。

      詳言之,我們用常見的MySQL數(shù)據(jù)庫首先演示為何在數(shù)據(jù)庫中不徹底刪除數(shù)據(jù)所考慮的經(jīng)濟性問題。圖1展示了刪除數(shù)據(jù)記錄時MySQL數(shù)據(jù)庫內(nèi)部的運行情況。為了降低復(fù)雜性,該圖只顯示其中的某個運算“頁面”。運算數(shù)據(jù)時即開始在搜索“樹”中查找所需信息。該頁面為顯示系統(tǒng)活動的記錄,在頁面內(nèi)將從節(jié)點I開始查找并遵循箭頭的路徑直到找到所需的數(shù)據(jù),如果搜索在節(jié)點S處結(jié)束而沒有任何結(jié)果則為找不到數(shù)據(jù)。圖1(a)中有C1到C5五個數(shù)據(jù)記錄,當(dāng)執(zhí)行刪除C3處記錄命令時;第一,C3會被自動鏈接到數(shù)據(jù)庫中預(yù)置的一項名為“垃圾偏移”的空間中(該空間是兼有存儲已刪除數(shù)據(jù)且包含現(xiàn)在可用空間的一種集合)。第二,C3經(jīng)“垃圾偏移”命令的抽取,已被“標(biāo)記為刪除”,但圖中命令指示箭頭只是將C3拉走,它并未消失,只是換了個被標(biāo)記的位置。第三,運算活動在跳過C3之后繼續(xù)前進(jìn)。

      圖1 頁面中已錄的實際指向過程

      圖1(b)中的任務(wù)是繼續(xù)刪除存儲在C5中的數(shù)據(jù)。因系統(tǒng)已出現(xiàn)運算中斷因素(C3已被刪除),首先數(shù)據(jù)庫在“樹”中導(dǎo)航并搜索C5直到找到C5,通過將原C3中的箭頭彎曲到C5將C5添加到垃圾偏移中,此時C5經(jīng)“垃圾偏移”也被“標(biāo)記為刪除”,該運算活動在跳過C3、C5之后繼續(xù)前進(jìn)。但經(jīng)“垃圾偏移”抽取所得到的“標(biāo)記為刪除”只是把C5從頁面的活動記錄列表中移動到垃圾偏移指示的已刪除記錄列表,即與前圖刪除C3一樣。經(jīng)刪除后數(shù)據(jù)仍然存儲在數(shù)據(jù)庫中,但當(dāng)數(shù)據(jù)庫需要新空間來存儲新記錄時,出于經(jīng)濟考量會首先搜索“垃圾偏移”中已存在的既有數(shù)據(jù)空間,對該數(shù)據(jù)空間進(jìn)行覆蓋,而不是在磁盤上直接分配新空間,所以未被覆蓋的數(shù)據(jù)依然還留存在原空間上,即數(shù)據(jù)常常不會被真正刪除而僅是從某一種運算活動中刪除,在另一運算活動中可能又會被啟用。只有當(dāng)已刪除的空間(如C3、C5)因系統(tǒng)運算的新需要而被覆蓋上新數(shù)據(jù)時,此時才會有效地破壞其中的舊數(shù)據(jù)。(15)參見Fruhwirt A, Peter K, Edgar W,“Using Internal MySQL/InnoDB B-Tree Index Navigation For Data Hiding”, IFIP International Conference on Digital Forensics, New York: Springer International Publishing, 2015, p.183.

      GDPR等法律對RtbF的“刪除”規(guī)定了需滿足隨時檢驗刪除方是否遵守刪除要求,確保刪除信息的安全并防止恢復(fù)。要符合該要求不僅需從搜索查找中刪除,還需要覆蓋文件系統(tǒng),甚至是從所有內(nèi)部機制中刪除,即實現(xiàn)純粹的物理刪除。但由上圖所示,實踐中在經(jīng)濟性原則下數(shù)據(jù)庫運行的現(xiàn)實環(huán)境使得這種刪除可能并不會完全實現(xiàn)。

      其次,就安全性和穩(wěn)定性來說,RtbF所要求的全面而徹底的刪除也不可行。目前主流大型數(shù)據(jù)庫中,通常需在輔助索引的幫助下檢索數(shù)據(jù)以幫助運算。對索引的依賴性將使得刪除數(shù)據(jù)僅表現(xiàn)為對索引搜索不可見,但無法實際從記錄中刪除數(shù)據(jù)。圖2再次以MySQL數(shù)據(jù)庫為例,顯示了這種操縱輔助索引來刪除數(shù)據(jù)的過程。MySQL數(shù)據(jù)庫目前主要使用兩種索引類型:(1)主索引,即圖中從I、C1...C6到S;(2)用于提高搜索性能的輔助索引,如圖中的V1到V6,虛線箭頭代表每一個輔助索引在該系統(tǒng)運算中與主索引中某項以及其他輔助索引項所建立的相互鏈接關(guān)系。在該類系統(tǒng)的運算中,主索引一般保持不變,各種修改操作僅通過輔助索引進(jìn)行,因為主索引通常用于宏觀上維系系統(tǒng)運轉(zhuǎn),輕易不用于具體的實際數(shù)據(jù)檢索。當(dāng)想要刪除某一記錄時,如刪除C4,主索引中C4及與其相關(guān)聯(lián)的輔助索引V5之上的各項鏈接(即諸項間的虛線箭頭)將被移除。此時,圖2中可見V5已與整體系統(tǒng)運算結(jié)構(gòu)脫離,為了為維持主索引原全過程的安全、穩(wěn)定,保持系統(tǒng)運轉(zhuǎn)流暢、不發(fā)生宕機,系統(tǒng)分配的新設(shè)置為鏈接其鄰居V4和V6,即V5原先與V4和V6的鏈接被替換為兩個鄰居之間的直接鏈接。最終系統(tǒng)依然正常運轉(zhuǎn),因V5的脫離C4也將不再存在于輔助索引中,其“不被可見”“不被檢索”“不被鏈接”已經(jīng)形式上達(dá)到了被遺忘的效果,但它其實尚未從主索引中刪除,僅僅是一種數(shù)據(jù)隱藏。(16)參見Fruhwirt A, Peter K, Edgar W,“Using Internal MySQL/InnoDB B-Tree Index Navigation For Data Hiding”, IFIP International Conference on Digital Forensics, New York: Springer International Publishing, 2015, p.185.

      圖2 操作二級索引進(jìn)行數(shù)據(jù)刪除

      該方式在保持系統(tǒng)安全、穩(wěn)定的原則下雖然已無法通過正常搜索的方式來訪問主索引中的被刪除條目,但依然可以使用主索引后門或利用未被操作的輔助索引順藤摸瓜來訪問隱藏數(shù)據(jù)。所以要滿足RtbF所要求的刪除時,從輔助索引中刪除隱藏的數(shù)據(jù)鏈接的同時還必須深入系統(tǒng)底層進(jìn)行對主索引的刪除操作,但這樣對系統(tǒng)的安全穩(wěn)定威脅巨大。

      除了上述關(guān)涉系統(tǒng)內(nèi)部的經(jīng)濟性、安全性和穩(wěn)定性問題,就系統(tǒng)外部的信息傳播性來說,現(xiàn)有的RtbF的規(guī)則要求:如果系統(tǒng)控制者已確知第三方處理其已收集的一些數(shù)據(jù)時,需要負(fù)擔(dān)通知第三方有關(guān)擦除請求的額外義務(wù)。(17)參見“Fact Sheet on the Right to be Forgotten Ruling(C-131/12)”.Accessed November 15, 2019.http://ec.europa.eu/justice/data-protection/files/factsheets/factsheet_data_protection_en.pdf.即應(yīng)采取合理的步驟和技術(shù)措施通知處理個人數(shù)據(jù)的控制人,并要求各類控制人員刪除這些個人數(shù)據(jù)的任何鏈接和復(fù)制。因此,系統(tǒng)控制者需要擁有一整套技術(shù)解決方案以便跟蹤個人信息,并在依據(jù)RtbF要求刪除時證明其能有效刪除?!叭嫱ㄖ笨此坪唵危捎谠S多節(jié)點外控制器保留了其已復(fù)制信息的鏈接,因此證明從所有可用來源成功實施擦除在技術(shù)上仍然很難。(18)參見薛佳楣:《現(xiàn)代數(shù)據(jù)庫索引設(shè)計與優(yōu)化》,中國紡織出版社2018年版,第68頁。目前RtbF規(guī)則沒有明確在二次使用時(即個人數(shù)據(jù)已經(jīng)傳播給第三方或者已被匿名化或偽匿名化使用時),此類刪除如何實施的實際定義。(19)參見Mantelero A,“The EU Proposal for a General Data Protection Regulation and the Roots of the ‘Right to be Forgotten’”, Computer Law and Security Review Vol.20 , No.29 , 2013, pp.230.同時,當(dāng)出現(xiàn)為證明不可能泄露或刪除需要付出不成比例的代價時,RtbF履行中是否可以要求免除向所有接受者通報任何糾正或刪除的義務(wù)?但即使提出此類豁免,反而會引起對被遺忘權(quán)有效性的減損。(20)參見Koops B J,“Forgetting Footprints, Shunning Shadows: a Critical Analysis of the ‘Right to be Forgotten’ in Big Data Practice”, SCRIPTed Vol.9 , No.12 , 2011, pp.8.

      (三)AI背景下被遺忘權(quán)行權(quán)的反思

      綜上,現(xiàn)有的RtbF的實施更多復(fù)制于人類遺忘的機制,但即使是人類的遺忘也是需要區(qū)分不同級別的遺忘而不是簡單的完全擦除,所以RtbF在AI應(yīng)用中的實施需依賴于信息的編碼、檢索的水平而不是簡單的信息擦除。況且僅僅擦除鏈接并不能抹掉信息本身,因此現(xiàn)有的很多措施尚不能被視為實際遺忘。(21)參見Gorzeman L, Korenhof P,“Escaping the Panopticon Over Time”, Philosophy & Technology Vol.18 , No.30 , 2017, pp.73-74.

      當(dāng)前,在AI學(xué)習(xí)背景下,RtbF應(yīng)用的具體反思之一在于其權(quán)利屬性問題。被遺忘權(quán)本質(zhì)上是信息主體實現(xiàn)其信息自決權(quán)這一基本權(quán)利的主要權(quán)能之一,可以說只是依附個人信息自決權(quán)而存在的請求權(quán)之一?;谀J交幊痰腁I的記憶特征反證了AI運用背景下RtbF所保護的人格利益不具有相對的獨立性,不能成為一個具體的、具有類型化的人格利益,而只是某一種具有獨立性的人格利益的組成部分。該狀態(tài)下RtbF名為一種對可識別的某些信息予以刪除的請求權(quán),雖服務(wù)于人格利益的保護,但卻沒有實體內(nèi)容。因此,其將只是個人信息權(quán)實現(xiàn)的方式和手段——即名為請求權(quán)但常常僅具有“除名”權(quán)能,有時甚至其無法完滿實現(xiàn)隱私保護等“自決”權(quán)能。故RtbF在AI運用背景下的的這種權(quán)能實質(zhì)也意味著其此時將不是具體的權(quán)利,這種狀態(tài)其實也會對AI環(huán)境中的RtbF侵權(quán)關(guān)系認(rèn)定等問題帶來一些爭議,對此今后還需理論探索的進(jìn)一步深入。

      反思關(guān)注之二在于其與數(shù)字系統(tǒng)內(nèi)其他數(shù)字權(quán)利的位階與競爭關(guān)系問題?!氨贿z忘權(quán)不是一種可以凌駕于其他數(shù)字權(quán)利的超然權(quán)利”。(22)萬方:《終將被遺忘的權(quán)利——我國引入被遺忘權(quán)的思考》,載《法學(xué)評論》2016年第6期。前述數(shù)據(jù)庫基礎(chǔ)運用中搜索與索引的操作體現(xiàn)出AI系統(tǒng)中最基本的兩項運轉(zhuǎn)功能——“數(shù)據(jù)可攜”與“多重鏈接”,即兩個或多個數(shù)據(jù)主體可以通過同一組數(shù)據(jù)的流動輕松鏈接另一個數(shù)據(jù)主體,目前云技術(shù)的推廣還將大大提升這一功能。這一功能也是數(shù)據(jù)可攜權(quán)(right to data portability RtDP,下文簡稱RtDP)的一種基本體現(xiàn),即“數(shù)據(jù)主體通過向數(shù)據(jù)控制者請求以結(jié)構(gòu)化、通用、機器可讀取的格式獲取相關(guān)數(shù)據(jù),并在技術(shù)可行條件下有權(quán)要求數(shù)據(jù)控制者向另一個數(shù)據(jù)控制者實現(xiàn)數(shù)據(jù)的直接傳輸”。(23)謝琳、曾俊森:《數(shù)據(jù)可攜權(quán)之審視》,載《電子知識產(chǎn)權(quán)》2019年第1期。作為一種數(shù)據(jù)保護權(quán),將RtDP引入AI環(huán)境可以有效促進(jìn)AI系統(tǒng)自治、維持系統(tǒng)對外交流、保障系統(tǒng)內(nèi)部競爭。不過基于“多重鏈接”的AI運作環(huán)境使得目前單方面行使RtBF可能會剝奪其他主體行使RtDP的機會。同樣當(dāng)執(zhí)行RtDP時后續(xù)的RtBF(由另一數(shù)據(jù)主體執(zhí)行)因“多重鏈接”也將無法通過僅刪除數(shù)據(jù)的副本來使數(shù)據(jù)“被遺忘”??梢奟tBF與RtDP之間在AI系統(tǒng)背景下存在現(xiàn)實意義上的沖突。

      保護個人信息的RtBF其實可以被設(shè)計為對威脅個人信息安全的RtDP進(jìn)行覆蓋,但是這樣的設(shè)計并不能達(dá)到權(quán)利競爭之間的平衡。反觀GDPR,其中關(guān)于RtBF的第17條規(guī)定并無平衡RtBF與其他主體權(quán)利的表達(dá),在RtBF的例外中也沒有諸如RtDP之類的主體權(quán)利。但GDPR第20條關(guān)于RtDP表述的第(3)款涉及一個數(shù)據(jù)主體共同行使RtBF和RtDP,第(4)款適用于不同數(shù)據(jù)主體以沖突方式行使兩項權(quán)利的問題,但都僅是提及。條款設(shè)置的先后可能表明GDPR認(rèn)為不同數(shù)據(jù)主體權(quán)利之間存在等級關(guān)系:即RtBF的位階似乎高于RtDP。但據(jù)此得出RtBF在權(quán)利沖突中應(yīng)絕對優(yōu)先于其他主體權(quán)利并不恰當(dāng)。RtDP本質(zhì)上是當(dāng)前要求對相關(guān)數(shù)據(jù)進(jìn)行通信的權(quán)利的規(guī)制,即對“現(xiàn)有訪問權(quán)、傳輸權(quán)”的支持,這一“現(xiàn)有訪問權(quán)、傳輸權(quán)”是AI系統(tǒng)乃至其他數(shù)據(jù)應(yīng)用得以正常運轉(zhuǎn)的“先決條件,是進(jìn)一步改善信息流動的基礎(chǔ)條件……”,(24)付新華:《數(shù)據(jù)可攜權(quán)的歐美法律實踐及本土化制度設(shè)計》,載《河北法學(xué)》2019年第8期。在AI背景下不應(yīng)被減損抑或被其他權(quán)利覆蓋。RtBF與RtDP在AI背景下的競爭問題其本質(zhì)上依然反映了存取權(quán)與隱私權(quán)之間的長期緊張關(guān)系,在AI應(yīng)用中如何尋求一個能夠共享RtDP與RtBF平衡的規(guī)則將是權(quán)利保障與技術(shù)發(fā)展的共同訴求。

      反思關(guān)注之三在于如何劃定權(quán)利規(guī)制的邊界:AI應(yīng)用中的數(shù)字信息源作為巨大的外部交互存儲器還具有外部交互的特征,除了數(shù)據(jù)控制器和數(shù)據(jù)主體外還有一個規(guī)制因素不可忽略——即公眾等他人利益。RtbF是公共利益和個人法益的混合體,且個人法益是因該制度的建立而產(chǎn)生的。(25)參見吳姍姍:《論被遺忘權(quán)法律保護的必然性及其法理依據(jù)》,載《江蘇社會科學(xué)》2020年第1期。RtbF中平衡這些利益很困難,不過雖不同于人類記憶的運用,但我們可以從人類記憶過程中獲得指導(dǎo)和靈感。當(dāng)前弱人工智能階段可暫撇開AI自身“價值判斷”的考慮,人類記憶過程中關(guān)于記憶的“意義”、“使用”和“時間”的測算將可用于劃定AI中RtbF運用的規(guī)制界限。(26)參見薛杉:《被遺忘權(quán)制度的借鑒與司法探索——以中歐被遺忘權(quán)首案為視角》,載《法律適用》2020年第8期。其中最客觀、運用最有效的劃定工具將是“時間”?!皶r間”增加時通常支持“遺忘”的測定,而“意義”和“使用”通常在有效信息和使用頻度增大時就都不容易測算遺忘度,因此“時間”成為與RtbF規(guī)制相關(guān)的最重要因素。“時間不僅能使公共利益下降,而且也使個人利益下降,不過在這兩者利益均下降的情況中,個人利益在大多數(shù)情況中均能在某一個時間點超越公共利益”。(27)謝遠(yuǎn)揚:《信息論視角下個人信息的價值——兼對隱私權(quán)保護模式的檢討》,載《清華法學(xué)》2015年第3期。此時,“時間”可以在RtbF法律上扮演兩個角色。一方面可以在利益平衡中發(fā)揮作用,作為增加或消除“忘記”個人信息或其相悖利益要求的重要因素,從而維持不偏袒任何一方的平衡性。另一方面可以作為除權(quán)的明確標(biāo)記,一旦保留的理由不再成立就應(yīng)該遵循“忘記”機制。但數(shù)據(jù)處理的時間周期高度依賴于數(shù)據(jù)的使用、獲取數(shù)據(jù)的條件和收集數(shù)據(jù)的目的以及是否有必要。這導(dǎo)致時間作為利益平衡因素的作用復(fù)雜不定。因此,“在一些情況中時間并沒能改變利益的平衡,隨著時間的變化個人信息的公共利益雖然下降,但仍高于以同樣甚至更快速度持續(xù)下降的個人利益”,(28)張里安、韓旭至:《“被遺忘權(quán)”:大數(shù)據(jù)時代下的新問題》,載《河北法學(xué)》2017年第3期。因為平衡的度量在于需要同時測算信息生命周期的盛衰與其價值隨時間而變化的高低。不過,與信息生命周期相關(guān)的“時間”標(biāo)準(zhǔn)還需進(jìn)一步研究細(xì)化,比如具體的時間跨度可能因數(shù)據(jù)主體(終身使用)、數(shù)據(jù)控制器(階段處理和使用)以及第三方(為公共利益記憶而使用)的不同而需要完全適用不同的測算標(biāo)準(zhǔn)。

      三、融合AI技術(shù)發(fā)展與被遺忘權(quán)完善的可能性解決方案

      被遺忘權(quán)的法律價值正在愈發(fā)凸顯,在機器學(xué)習(xí)環(huán)境中被遺忘權(quán)的應(yīng)用目前雖然遇到困難,但結(jié)合前述的反思與探討,當(dāng)前是否可以從技術(shù)、法律和政策等諸多解決方案中進(jìn)行一些謀劃,以便在現(xiàn)有AI學(xué)習(xí)的技術(shù)實踐中保護RtbF?筆者認(rèn)為通過以下這些解決方案,可為在當(dāng)前AI機器學(xué)習(xí)條件下的被遺忘權(quán)實施提供一些思考。

      (一)法律和政策完善方案——有意遺忘與權(quán)利平衡

      鑒于當(dāng)前對被遺忘權(quán)的主流法律理解與目前AI中數(shù)據(jù)刪除技術(shù)現(xiàn)狀間的齟齬,彌合法律與技術(shù)之間差距的另一途徑是盡可能完善現(xiàn)有RtbF的法律和判例中的疏漏。直接改變法律以反映AI等新技術(shù)的發(fā)展雖然最為簡單,不過改革或更新像歐盟GDPR這樣的大型綜合數(shù)據(jù)法繁冗且耗時。其實以GDPR為例,從立法者故意避免建議采用特定的技術(shù)框架或特定的信息保護方法來實施其所引入的這些法律要求就可以看出,在立法之初已經(jīng)遵循著技術(shù)中立的立法原則,即在基本框架中從高度抽象的層面上來指定法律實施的功能需求,并設(shè)置各種空白條款、兜底條款來預(yù)留未來新的法律插入。只是因為目前監(jiān)管更新的速度落后于技術(shù)變革的速度,所以類似GDPR這樣的法律在已有基礎(chǔ)上可以插入對RtbF的各類完善。

      首先,關(guān)于“遺忘”概念需進(jìn)行重新梳理?,F(xiàn)有關(guān)于遺忘的法律概念的界定都是基于對傳統(tǒng)的有限知識獲取中“災(zāi)難性遺忘”(29)參見楊慶峰、伍夢秋:《記憶哲學(xué):解碼人工智能及其發(fā)展的鑰匙》,載《探索與爭鳴》2018年第11期。的理解。人工智能時代由于知識和知識獲取無處不在,故在AI系統(tǒng)中需要一種更為復(fù)雜的遺忘界定,在此有必要引入“有意遺忘”的概念。通過算法獲取新知識是機器學(xué)習(xí)的重點,“各種機器學(xué)習(xí)方法基本都是通過聚合信息或抽象輸入數(shù)據(jù)以獲得更好的概括”。(30)雷明:《機器學(xué)習(xí)與應(yīng)用》,清華大學(xué)出版社2019年版,第19頁。在被遺忘權(quán)的語境下機器學(xué)習(xí)可以看作一種將不相關(guān)的屬性或特征淡化的隱式遺忘函數(shù)。此時遺忘的目的在于提高機器學(xué)習(xí)能力。所以,人工智能時代RtbF中的遺忘應(yīng)當(dāng)重新被定義為包括被動(淡出舊信息)和主動(決定不考慮障礙性信息)兩種,尤其是主動地“有意遺忘”。前者以前僅指從特定控制器中刪除數(shù)據(jù),但后者意味著為“有益”等需要將可能“有意”地“從所有可能的源”中刪除信息。經(jīng)此改造該項數(shù)據(jù)權(quán)利的范圍可能將比任何現(xiàn)有其他數(shù)據(jù)權(quán)利都要廣泛,而其司法適用可秉持一般侵權(quán)損害與信息特殊限制性因素相結(jié)合的裁判思路,參照一般理性人,區(qū)別AI行為對信息的主動利用與被動防御,并在此基礎(chǔ)上考察是否具有排除RtbF適用的免責(zé)事由。(31)參見楊立新、杜澤夏:《被遺忘權(quán)的權(quán)利歸屬與保護標(biāo)準(zhǔn)——任甲玉訴百度公司被遺忘權(quán)案裁判理由評述》,載《法律適用》2017年第16期。

      其次,平衡AI背景下RtBF與RtDP兩項權(quán)利的使用規(guī)則。“被遺忘權(quán)只能建立在共同體信息合理流通的基礎(chǔ)之上”,(32)丁曉東:《被遺忘權(quán)的基本原理與場景化界定》,載《清華法學(xué)》2018年第6期。所以AI系統(tǒng)內(nèi)存在的數(shù)據(jù)流動需要保障,而穩(wěn)固AI系統(tǒng)數(shù)據(jù)運轉(zhuǎn)中的數(shù)據(jù)可攜性使權(quán)利人能夠基于數(shù)據(jù)被傳輸、被處理而真正獲益,激勵數(shù)據(jù)控制者對數(shù)據(jù)的高效、充分地利用,(33)參見溫昱:《個人數(shù)據(jù)權(quán)利體系論綱——兼論〈芝麻服務(wù)協(xié)議〉的權(quán)利空白》,載《甘肅政法學(xué)院學(xué)報》2019年第2期。故一般不應(yīng)減損。但為了平衡RtBF的要求可以重新組合數(shù)據(jù)可攜權(quán)中信息存取和訪問個人數(shù)據(jù)的內(nèi)容,就像RtBF以“大遺忘權(quán)”的組合擴充并完善了原刪除權(quán)、數(shù)據(jù)使用限制等方面的內(nèi)容。(34)參見劉文杰:《被遺忘權(quán):傳統(tǒng)元素、新語境與利益衡量》,載《法學(xué)研究》2018年第2期。RtDP中出于個人目的(在此可指代為系統(tǒng)自身需要)使用數(shù)據(jù)或?qū)?shù)據(jù)許可供第三方進(jìn)一步使用,以交換其他服務(wù)或獲取現(xiàn)金價值的財產(chǎn)屬性,(35)參見卓力雄:《數(shù)據(jù)攜帶權(quán):基本概念,問題與中國應(yīng)對》,載《行政法學(xué)研究》2019年第5期??蓱?yīng)用于判斷RtBF和RtDP之間的沖突,即依數(shù)據(jù)的性質(zhì)將人格身份數(shù)據(jù)與可移植的經(jīng)濟數(shù)據(jù)區(qū)分開來。一般使用下,無論對數(shù)據(jù)主體自身還是其他相關(guān)的利益方,處于對隱私、名譽等利益保護的RtBF都應(yīng)優(yōu)先于定位在經(jīng)濟利益考量的RtDP之前。但當(dāng)不同數(shù)據(jù)使用者被授權(quán)共同確定數(shù)據(jù)處理的目的時,則應(yīng)確保同時保障。不過當(dāng)AI與AI之間出現(xiàn)系統(tǒng)效益和人權(quán)保障的沖突時,即一方系統(tǒng)內(nèi)部的RtBF和RtDP平衡后,但與另一方的RtBF需要相悖時,此時該選擇哪一種平衡將是另一個復(fù)雜的問題。

      再次,AI中遺忘權(quán)的設(shè)置要更多地考慮如何發(fā)揮遺忘的優(yōu)勢和效益。目前在分布式人工智能中,知識通過分布在多個代理上以保持其在現(xiàn)實環(huán)境的自然適應(yīng)并降低復(fù)雜性。(36)參見楊正洪、郭良越、劉瑋:《人工智能與大數(shù)據(jù)技術(shù)導(dǎo)論》,清華大學(xué)出版社2018年版,第135-136頁。這類系統(tǒng)在未來通過展現(xiàn)通信和協(xié)調(diào)的并重將使多代理系統(tǒng)中的社會審議成為可能,這類人工智能系統(tǒng)中的推理和規(guī)劃將被轉(zhuǎn)化為具有有限的個體知識的代理人間的任務(wù)協(xié)調(diào)。(37)參見劉鐵巖、陳薇、王太峰:《分布式機器學(xué)習(xí):算法、理論與實踐》,機械工業(yè)出版社2018年版,第147-149頁。因此,通過合理的記憶與遺忘協(xié)調(diào)該系統(tǒng)中的知識分布并在運行時對其動態(tài)調(diào)整將成為體現(xiàn)AI中被遺忘權(quán)運用的優(yōu)勢之處。同時,處理海量信息的AI系統(tǒng)也會面臨潛在的信息過載,其需要具有平衡學(xué)習(xí)和遺忘的自主能力以及足夠的意識度。由于人類也將遺忘作為一種意識的發(fā)展過程,因此正如社會心理學(xué)中所考慮的那樣,伴隨著AI的演化遺忘權(quán)法律規(guī)制的核心問題也需要從另一個側(cè)面考慮AI是否可以通過從激活遺忘機制中受益。正如有學(xué)者所指出:被遺忘權(quán)通過刪除將“使得留存下來的資訊更符合主體的現(xiàn)行狀態(tài),減少了誤導(dǎo)性信息,提高了信息的準(zhǔn)確度,還有利于公眾知情權(quán)的維護”。(38)鄭志峰:《網(wǎng)絡(luò)社會的被遺忘權(quán)研究》,載《法商研究》2015年第6期。

      (二)綜合性“技術(shù)、法律/政策集成”式解決方案

      在對法律、技術(shù)和隱私的未來關(guān)系的反思中,美國學(xué)者加瑟認(rèn)為:“法律和技術(shù)可以通過相互補強的關(guān)系推進(jìn)其共同的實踐發(fā)展”。(39)Urs G,“Recording Privacy Law: Reflections on the Future Relationship Among Law, Technology, and Privacy”, Harvard Law Review Vol.17 , No.9 , 2016, pp.189.“一種旨在整合法律和技術(shù)方法的隱私工具的開發(fā)可以幫助以一種更具戰(zhàn)略性和系統(tǒng)性的方式,通過模塊性協(xié)同來為信息隱私領(lǐng)域的法律和技術(shù)間的相互作用鋪平道路……這種綜合方法意味著法律可以與技術(shù)一起發(fā)揮更加豐富的作用,如果芯片、程序或者代碼能夠融合不同的技術(shù)工具和法律方法,無論是在法律概念層面還是技術(shù)實施層面都可以產(chǎn)生更加強大和有效的隱私保護”。(40)Styliarit, Natim,“Researching the Transparency of Personal Data Sharing: Designing a Concert Receipt”, University of Toronto Law Review Vol.26 , No.5 , 2016, pp.79.

      這種以帶有“跨技術(shù)”“融方案”特性的,以新型芯片、程序或代碼為載體的集成性隱私工具可能也是未來處理AI領(lǐng)域信息保護問題的理想方案樣板。但這類集成型隱私工具的技術(shù)仍處于初始階段,尚不能完全匹配當(dāng)前AI領(lǐng)域的技術(shù)發(fā)展。其實數(shù)據(jù)保護領(lǐng)域的立法發(fā)展中目前很少關(guān)注這類隱私增強技術(shù)(PET),但越來越多來自技術(shù)領(lǐng)域的倡議正在呼吁為此制定法律以驗證隱私保護技術(shù)方面的進(jìn)步。在此背景下,面對RtbF在智能數(shù)據(jù)庫和其他更為復(fù)雜的AI系統(tǒng)的應(yīng)用,由于現(xiàn)有的某些技術(shù)設(shè)定對于系統(tǒng)的正常運轉(zhuǎn)必不可少,因此亟需一種能夠在保留現(xiàn)有技術(shù)標(biāo)準(zhǔn)的情況下支持各類物理刪除和非物理刪除的集成性被遺忘權(quán)解決方案。對此,目前由技術(shù)專家和法律學(xué)者通過直接合作已經(jīng)創(chuàng)新出一些融合化方案,可資借鑒。

      為匹配GDPR等法律規(guī)范對執(zhí)行遺忘的較高要求,微軟研究人員提出了一種基于“元數(shù)據(jù)”可互操性的“法律—數(shù)據(jù)”交互感知技術(shù)架構(gòu),其允許將責(zé)任設(shè)定和行為策略綁定到具體數(shù)據(jù)上,從而實現(xiàn)以任何更符合用戶意愿的方式處理數(shù)據(jù),尤其包括撤銷前期用途的操作。該架構(gòu)中,使用“可信處理容器”機制挑選并保存可能會被關(guān)聯(lián)使用的“元數(shù)據(jù)”以及被選為指定策略綁定的處理數(shù)據(jù),并維持其穩(wěn)定。各種數(shù)據(jù)處理和解釋活動將首先在元數(shù)據(jù)上進(jìn)行,而數(shù)據(jù)本身只有在數(shù)據(jù)請求實體被正確驗證為有權(quán)使用數(shù)據(jù)時才能使用。對于基于知識庫分布的數(shù)據(jù)系統(tǒng)或處理需語義技術(shù)加工的文本,由于邏輯知識在其中占主導(dǎo)地位,該架構(gòu)提供了用于增減知識(如增減法律推理規(guī)則)的獨立運算符。同時該技術(shù)架構(gòu)還能直接將遺忘運算符加入系統(tǒng)的主索引以及邏輯總目錄,這樣將來可在維持正常運算的同時,無需暫停系統(tǒng),實現(xiàn)數(shù)據(jù)的柔性消除,維持系統(tǒng)穩(wěn)定。(41)參見Maguire S, Friedberg J, Nguyen M,“A Metadata-Based Architecture for User-Centered Data Accountability”, Electronic Markets Vol.6 , No.25 , 2015, pp.157-158.總之,該架構(gòu)足夠靈活并可以隨時通過改變各類已有的程序設(shè)計滿足監(jiān)管機構(gòu)增加透明度和加強問責(zé)等愿望。雖然這種基于元數(shù)據(jù)的體系結(jié)構(gòu)可較好地隨技術(shù)發(fā)展?jié)M足和支持增減各種被遺忘權(quán)需求,但僅規(guī)制系統(tǒng)內(nèi)部的元數(shù)據(jù)不能保證AI操縱實體在實踐中一定遵守指定的策略。不過可以通過設(shè)置強制性訪問規(guī)程來促進(jìn)其執(zhí)行。

      還有學(xué)者提議使用區(qū)塊鏈概念用于搭建一個平臺,使用戶能夠擁有和控制他們的數(shù)據(jù),但不會影響安全性或限制為企業(yè)和政府提供個性化服務(wù)的能力。(42)參見Sas C, Whittaker S,“Design for Forgetting: Disposing of Digital Possessions After a Breakup”, Acm Depiwhite Soin Eclaircissant journal Vol.31 , No.2 , 2013, pp.1823.這是一種分散性個人數(shù)據(jù)管理協(xié)議,該協(xié)議將區(qū)塊鏈變成自動訪問的控制管理器,無需添加被授信的第三方。通過將區(qū)塊鏈(其用作訪問控制的主持人)與目前已投入運用的專注隱私保護的“off blockchain”在線存儲解決方案相結(jié)合,可實現(xiàn)控制遺忘的目標(biāo)。其間,特定時間內(nèi)用戶可以改變權(quán)限并撤銷對先前收集的數(shù)據(jù)的訪問。由于無需依靠其他被信任的第三方提供核實與支持,用戶始終可了解收集的數(shù)據(jù)及其使用方式。除非對手能控制大部分網(wǎng)絡(luò)資源,否則區(qū)塊鏈的分散性質(zhì)與數(shù)字簽名交易相結(jié)合可確保對手無法解析用戶或破壞局域網(wǎng)絡(luò)。

      當(dāng)然,最終還需要通過大量的實踐案例來檢驗,才可以證明這些“法技術(shù)性”創(chuàng)新工具的功效。

      猜你喜歡
      權(quán)利人工智能法律
      法律解釋與自然法
      法律方法(2021年3期)2021-03-16 05:57:02
      我們的權(quán)利
      2019:人工智能
      商界(2019年12期)2019-01-03 06:59:05
      人工智能與就業(yè)
      論不存在做錯事的權(quán)利
      法大研究生(2018年2期)2018-09-23 02:19:50
      數(shù)讀人工智能
      小康(2017年16期)2017-06-07 09:00:59
      下一幕,人工智能!
      讓人死亡的法律
      山東青年(2016年1期)2016-02-28 14:25:30
      權(quán)利套裝
      Coco薇(2015年12期)2015-12-10 02:43:39
      “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
      桐柏县| 松原市| 凌云县| 诸城市| 股票| 石屏县| 尼勒克县| 康保县| 夏河县| 扶沟县| 柳州市| 尉犁县| 吉木萨尔县| 宁德市| 通化县| 手游| 冕宁县| 丹东市| 新绛县| 洛川县| 滁州市| 体育| 班玛县| 高唐县| 沙雅县| 汤阴县| 敦煌市| 左权县| 报价| 赤城县| 桓台县| 文化| 张家港市| 阳东县| 长宁县| 搜索| 西平县| 福建省| 贵阳市| 缙云县| 临城县|