梅 帥

隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，智能算法推薦（intelligent algorithm recommendation）已滲透并融入生活的方方面面，包括購(gòu)物、新聞、閱讀等，人們?cè)谙硎芩鼛?lái)的選擇智慧化、便利化和個(gè)性化服務(wù)的同時(shí)，也開(kāi)始對(duì)智能算法推薦背后的運(yùn)行機(jī)制逐漸產(chǎn)生隱憂。但不管怎樣，算法推薦的出現(xiàn)及其智能特征，使個(gè)性化需求與海量信息篩選之間的矛盾得以有效緩解，用戶不斷發(fā)展變化的需求逐步得到滿足，社會(huì)生產(chǎn)生活發(fā)展空間也因此更加廣闊。目前，世界許多國(guó)家在智能算法推薦相關(guān)領(lǐng)域出臺(tái)立法，我國(guó)也在民法、經(jīng)濟(jì)法、行政法等領(lǐng)域出臺(tái)相關(guān)規(guī)范，對(duì)此作出積極回應(yīng)①我國(guó)《民法典》《反不正當(dāng)競(jìng)爭(zhēng)法》《電子商務(wù)法》《廣告法》《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等法律均有涉及算法推薦侵害規(guī)制的內(nèi)容，但算法推薦相關(guān)法律規(guī)范仍呈現(xiàn)原則性較強(qiáng)、系統(tǒng)性不足等問(wèn)題，規(guī)制算法推薦的專門規(guī)范較為匱乏。。然而，現(xiàn)有對(duì)智能算法推薦的相關(guān)研究多集中于計(jì)算機(jī)技術(shù)、人工智能等自然科學(xué)領(lǐng)域，鮮有從社會(huì)風(fēng)險(xiǎn)角度尤其是從法治維度予以思考、回應(yīng)，亦少有提出專門的法律規(guī)制方案。故而，對(duì)智能算法推薦進(jìn)行風(fēng)險(xiǎn)防控并提出法治化路徑，已迫在眉睫。為此，本文從智能算法推薦的技術(shù)特質(zhì)入手，在厘清其主要類型的基礎(chǔ)上，分析其引發(fā)的社會(huì)風(fēng)險(xiǎn)，并試圖提出智能算法推薦風(fēng)險(xiǎn)法律規(guī)制的路徑策略。

一、智能算法推薦的技術(shù)特質(zhì)及主要類型

傳統(tǒng)社會(huì)對(duì)信息的搜集獲取主要依靠對(duì)紙媒內(nèi)容的讀取，但也存在檢索復(fù)雜、效率低下、容易遺漏、不好保存等弊端。進(jìn)入數(shù)字時(shí)代以后，海量數(shù)據(jù)、信息爆炸等現(xiàn)象的出現(xiàn)，使得有效信息的獲取難度加大，而隨著用戶個(gè)性化多元需求的高漲以及互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，智能算法推薦技術(shù)應(yīng)運(yùn)而生。從解釋語(yǔ)義學(xué)的視角看，算法推薦技術(shù)主要是借助解釋機(jī)制，獲得確定的指向性。算法推薦外在效果的體現(xiàn)，是外在的解釋框架機(jī)制轉(zhuǎn)換為算法內(nèi)部的構(gòu)架機(jī)制的結(jié)果。換言之，算法智能性的呈現(xiàn)是特定表征、外在情境和內(nèi)在整體論因素的綜合產(chǎn)物，這很大程度上取決于算法與遠(yuǎn)端事務(wù)投射感覺(jué)表層近端影子的聯(lián)系①高新民、付東鵬：《意向性與人工智能》，北京：中國(guó)社會(huì)科學(xué)出版社2014年版，第157-163頁(yè)。。算法的行為邏輯是建構(gòu)事務(wù)發(fā)展過(guò)程的行為，根據(jù)情況的調(diào)整變化，沿著其認(rèn)知的路線活動(dòng)，判斷在什么樣的場(chǎng)景中運(yùn)用是合理、適宜的②松尾豐、鹽野誠(chéng)：《大智能時(shí)代——智能科技如何改變?nèi)祟惖慕?jīng)濟(jì)、社會(huì)與生活》，陸貝旎譯，北京：機(jī)械工業(yè)出版社2016年版，第49-50頁(yè)。。智能算法推薦即在大量數(shù)據(jù)的場(chǎng)景判斷、信息反饋基礎(chǔ)之上，通過(guò)對(duì)數(shù)據(jù)的整合加工，提取“特征性”的算法決策內(nèi)容，為人們的決定提供選擇參考。算法推薦為應(yīng)用獲取和整合用戶數(shù)據(jù)提供技術(shù)支撐，其對(duì)數(shù)據(jù)的抽象、泛化和預(yù)測(cè)，進(jìn)一步滿足了用戶的需求，提升了用戶與海量數(shù)據(jù)之間的交互體驗(yàn)③瑪若曼尼斯、巴賓寇：《智能Web算法》，阿穩(wěn)、陳鋼譯，北京：電子工業(yè)出版社2011年版，第5頁(yè)。。

智能算法推薦是通過(guò)數(shù)據(jù)模塊對(duì)用戶數(shù)據(jù)的分析反饋，實(shí)現(xiàn)對(duì)人們喜好的掌握，例如對(duì)于網(wǎng)頁(yè)點(diǎn)擊量，推薦軟件可自動(dòng)隨機(jī)選擇，并分析網(wǎng)上的信息反饋，以即時(shí)更新統(tǒng)計(jì)網(wǎng)頁(yè)的點(diǎn)擊率，預(yù)測(cè)人們對(duì)某網(wǎng)頁(yè)的意愿喜好程度④伊恩·艾瑞斯：《大數(shù)據(jù)思維與決策》，宮相真譯，北京：人民郵電出版社2014年版，第52-56頁(yè)。。換言之，智能算法推薦是以用戶數(shù)據(jù)為基礎(chǔ)的技術(shù)，其主要通過(guò)模塊或系統(tǒng)的分工處理，提供與用戶需求相匹配的個(gè)性化服務(wù)。根據(jù)算法運(yùn)行邏輯的差異，智能算法大致分為基于統(tǒng)計(jì)的機(jī)器學(xué)習(xí)算法與深度學(xué)習(xí)算法兩類?；诮y(tǒng)計(jì)的機(jī)器學(xué)習(xí)算法主要通過(guò)對(duì)用戶歷史瀏覽、關(guān)注、收藏、消費(fèi)等痕跡數(shù)據(jù)的計(jì)算，分析用戶的喜好，為用戶推送算法決策參考。深度學(xué)習(xí)算法則是對(duì)用戶數(shù)據(jù)的內(nèi)在規(guī)律和行為層次進(jìn)行深層分析，通過(guò)算法自我學(xué)習(xí)不斷強(qiáng)化和模型建構(gòu)，模擬人的思維網(wǎng)絡(luò)，以達(dá)到挖掘解釋數(shù)據(jù)、構(gòu)建用戶個(gè)性畫像和估測(cè)用戶偏好的效果。

（一）智能算法推薦的技術(shù)特質(zhì)

對(duì)于智能算法推薦如何聯(lián)系用戶需求，有學(xué)者曾指出，智能算法推薦之所以向用戶推薦相關(guān)內(nèi)容，其主要原因在于被推薦的內(nèi)容經(jīng)由計(jì)算與用戶的興趣相符合⑤劉文杰：《算法推薦新聞的法律透視》，《新聞?dòng)浾摺?019年第2期，第22-29頁(yè)。，那么，從技術(shù)目的來(lái)看，智能算法推薦技術(shù)的采用，主要是為了感知用戶不斷變化的多元需求，以精準(zhǔn)高效地推送信息。如近年來(lái)風(fēng)靡移動(dòng)短視頻平臺(tái)的快手APP，其取得成功的關(guān)鍵點(diǎn)在于建立以社群經(jīng)濟(jì)為紐帶的商業(yè)模式，而這一模式的基礎(chǔ)正是基于社區(qū)用戶間的大數(shù)據(jù)算法推薦①陳少峰、張立波、王建平主編：《中國(guó)文化企業(yè)報(bào)告（2018）》，杭州：浙江工商大學(xué)出版社2019年版，第220-221頁(yè)。。從技術(shù)方式來(lái)看，人工智能算法通過(guò)對(duì)信息的自動(dòng)化處理并作出相應(yīng)決策，從而把合適的信息推薦給合適的人，在此背景下，智能平臺(tái)僅充當(dāng)它的流量發(fā)射器②潘紅霞：《智媒時(shí)代智能信息推薦算法的缺陷及正向重構(gòu)》，《未來(lái)傳播》2020年第5期，第36-41頁(yè)。。因而，算法推薦通過(guò)其內(nèi)部設(shè)置的系統(tǒng)流轉(zhuǎn)對(duì)離散的信息進(jìn)行加工、編排，實(shí)現(xiàn)對(duì)信息與用戶需求之間的高度匹配，這種對(duì)信息的篩選和傳遞是充分建立在技術(shù)的基礎(chǔ)之上，并反映了算法推薦的技術(shù)特性。

不可否認(rèn)的是，智能算法推薦具有智能化、便利化和個(gè)性化的特點(diǎn)。一方面，其以互聯(lián)網(wǎng)、大數(shù)據(jù)分析等綜合性技術(shù)為基礎(chǔ)，提供了差異化的“訂制服務(wù)”，另一方面，對(duì)于不同個(gè)體而言，有效降低了搜尋目標(biāo)信息的成本，便利了多元用戶主體，也滿足了個(gè)體間的多樣需求。從技術(shù)支撐來(lái)看，智能算法推薦的運(yùn)行需要數(shù)據(jù)輸入、數(shù)據(jù)收集、數(shù)據(jù)分析、數(shù)據(jù)處理、數(shù)據(jù)輸出等多模塊的鏈條銜接。在內(nèi)部鏈接上，多模塊的組合或多系統(tǒng)的串聯(lián)，推動(dòng)系統(tǒng)內(nèi)部對(duì)數(shù)據(jù)的識(shí)別、分流，進(jìn)而使用戶的數(shù)據(jù)被層層加工和傳遞，這也為用戶提供量身定做的算法輸出結(jié)果。例如在新聞?lì)I(lǐng)域，算法推薦新聞的生成，乃是基于計(jì)算機(jī)和統(tǒng)計(jì)學(xué)的知識(shí)，通過(guò)數(shù)據(jù)、算法與人機(jī)的交互結(jié)合，建立用戶與資源之間的個(gè)性關(guān)聯(lián)，從而為用戶提供信息決策支持。其基本思路是對(duì)信息、場(chǎng)景等進(jìn)行綜合判斷，實(shí)現(xiàn)信息匹配③匡文波：《對(duì)個(gè)性化算法推薦技術(shù)的倫理反思》，《上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2021年第5期，第14-23頁(yè)。。因此，在本質(zhì)上，智能算法推薦是以數(shù)據(jù)收集為基礎(chǔ)，以決策運(yùn)作為機(jī)理，通過(guò)數(shù)據(jù)運(yùn)算，為用戶提供決策參考的技術(shù)。從技術(shù)的影響來(lái)看，這種技術(shù)的生成深刻改變了傳統(tǒng)人們獲取數(shù)據(jù)的方式，推動(dòng)了商業(yè)經(jīng)營(yíng)、運(yùn)作等商業(yè)結(jié)構(gòu)與模式的革新。在算法系統(tǒng)（algorithmic system）層面，也促進(jìn)不同應(yīng)用場(chǎng)景需求下算法運(yùn)行結(jié)構(gòu)的生成，形成了以用戶數(shù)據(jù)為基礎(chǔ)的智能化、個(gè)性化服務(wù)體系。

（二）智能算法推薦的主要類型

一般而言，機(jī)器學(xué)習(xí)通過(guò)建立模型解釋已有數(shù)據(jù)和預(yù)測(cè)更多數(shù)據(jù)，這一技術(shù)的前提基礎(chǔ)在于，存在消費(fèi)者購(gòu)買和瀏覽習(xí)慣的數(shù)據(jù)庫(kù)，算法系統(tǒng)可以此為基礎(chǔ)分析和建立行為的統(tǒng)計(jì)模型，從而根據(jù)消費(fèi)者的歷次記錄和網(wǎng)頁(yè)瀏覽情況預(yù)測(cè)偏好④默里·沙納漢：《技術(shù)奇點(diǎn)》，霍斯亮譯，北京：中信出版集團(tuán)2016年版，第62頁(yè)。。智能算法推薦主要有協(xié)同過(guò)濾推薦、基于內(nèi)容的推薦和混合推薦三種主要類型⑤除以上三種外，還有基于圖結(jié)構(gòu)的推薦（graph-based recommendation）、基于效用推薦（utility-based recommendation）、關(guān)聯(lián)規(guī)則推薦（association rule-based recommendation）、基于知識(shí)推薦（knowledge-based recommendation）、基于規(guī)則推薦（rule-based recommendation）、基于人口統(tǒng)計(jì)的推薦（demographic-based recommendation）等，有的因?yàn)樵趯?shí)踐中使用頻率較低未被納入主要類型中考慮，有的是對(duì)用戶背景的估測(cè)或相關(guān)統(tǒng)計(jì)函數(shù)的計(jì)算得以呈現(xiàn)，故不納入本文的主要類型加以討論。。

協(xié)同過(guò)濾推薦（collaborative filtering recommendation）是實(shí)踐中應(yīng)用廣泛的算法推薦類型，指的是從用戶的歷史數(shù)據(jù)中挖掘和發(fā)現(xiàn)有用知識(shí)，自動(dòng)地把用戶可能最感興趣的內(nèi)容推薦出來(lái)，使得推送更加精準(zhǔn)高效的技術(shù)⑥馬宏偉、張光衛(wèi)、李鵬：《協(xié)同過(guò)濾推薦算法綜述》，《小型微型計(jì)算機(jī)系統(tǒng)》2009年第7期，第1282-1288頁(yè)。。從技術(shù)層面來(lái)看，其是從過(guò)往數(shù)據(jù)出發(fā)，把用戶消費(fèi)行為作為分析特征，進(jìn)行用戶或物品的相似度計(jì)算，從而實(shí)現(xiàn)信息的有效匹配①喻國(guó)明、耿曉夢(mèng)：《智能算法推薦：工具理性與價(jià)值適切——從技術(shù)邏輯的人文反思到價(jià)值適切的優(yōu)化之道》，《全球傳媒學(xué)刊》2018年第4期，第13-23頁(yè)。。也即用相似興趣的其他用戶使用項(xiàng)目進(jìn)行比對(duì)和推送。協(xié)同過(guò)濾推薦可分為基于用戶的推薦（userbased recommendation）、基于物品的推薦（item-based recommendation）和基于模型的推薦（model-based recommendation）三個(gè)子類?；谟脩敉扑]的基本原理是利用用戶偏好程度的相似性來(lái)發(fā)現(xiàn)和推薦到可能感興趣的用戶，通過(guò)對(duì)歷史記錄與相似性函數(shù)的計(jì)算，發(fā)現(xiàn)與用戶最相近的鄰居集，計(jì)算每個(gè)鄰居集對(duì)用戶的推薦度，并進(jìn)行由高到低的推薦匹配②邢春曉、高鳳榮、戰(zhàn)思南等：《適應(yīng)用戶興趣變化的協(xié)同過(guò)濾推薦算法》，《計(jì)算機(jī)研究與發(fā)展》2007年第2期，第296-301頁(yè)。?；谖锲返耐扑]，又稱基于項(xiàng)目的推薦，其基本理念是立足于物品相關(guān)性的評(píng)測(cè)，通過(guò)用戶對(duì)物品的評(píng)分來(lái)預(yù)測(cè)未評(píng)分物品的評(píng)分，使得與物品最相近的鄰居集來(lái)達(dá)到對(duì)未評(píng)物品評(píng)分預(yù)測(cè)的目的③鄧愛(ài)林、左子葉、朱揚(yáng)勇：《基于項(xiàng)目聚類的協(xié)同過(guò)濾推薦算法》，《小型微型計(jì)算機(jī)系統(tǒng)》2004年第9期，第1665-1670頁(yè)。。進(jìn)一步講，其是在計(jì)算物品關(guān)系的基礎(chǔ)上，基于用戶對(duì)物品的偏好來(lái)找到相似的物品，然后利用相鄰物品的加權(quán)來(lái)預(yù)測(cè)喜好程度④鄧園園、吳美香、潘家輝：《基于物品的改進(jìn)協(xié)同過(guò)濾算法及應(yīng)用》，《計(jì)算機(jī)系統(tǒng)應(yīng)用》2019年第1期，第182-187頁(yè)。?；谀Ｐ偷耐扑]則是在云模型相似度計(jì)算（likeness comparing method based on cloud model）的基礎(chǔ)上，通過(guò)對(duì)知識(shí)的定性評(píng)測(cè)、定量轉(zhuǎn)換，利用項(xiàng)目矩陣、評(píng)分特征向量和相似度矩陣，給出基于用戶偏好的知識(shí)表示⑤張光衛(wèi)、李德毅、李鵬等：《基于云模型的協(xié)同過(guò)濾推薦算法》，《軟件學(xué)報(bào)》2007年第10期，第2403-2411頁(yè)。。就技術(shù)的構(gòu)成要素而言，協(xié)同過(guò)濾推薦技術(shù)主要分為協(xié)同和過(guò)濾兩大部分。通過(guò)對(duì)用戶間的協(xié)同作用與篩選過(guò)濾，來(lái)為用戶推薦其所偏好的信息。當(dāng)然，協(xié)同過(guò)濾推薦主要應(yīng)用于音樂(lè)、視頻等非結(jié)構(gòu)化的產(chǎn)品，而對(duì)于數(shù)據(jù)稀疏（sparsity problem）、不易測(cè)量（poor scalability）等情況，并不能發(fā)揮其效果優(yōu)勢(shì)⑥李忠俊、周啟海、帥青紅：《一種基于內(nèi)容和協(xié)同過(guò)濾同構(gòu)化整合的推薦系統(tǒng)模型》，《計(jì)算機(jī)科學(xué)》2009年第12期，第142-145頁(yè)。。

基于內(nèi)容的推薦（content-based recommendation）主要通過(guò)對(duì)用戶選取的內(nèi)容特征進(jìn)行綜合分析，對(duì)用戶可能感興趣的內(nèi)容進(jìn)行預(yù)測(cè)，以獲得個(gè)性化的推薦結(jié)果⑦曾春、邢春曉、周立柱：《基于內(nèi)容過(guò)濾的個(gè)性化搜索算法》，《軟件學(xué)報(bào)》2003年第5期，第999-1004頁(yè)。。換言之，其主要提取的是用戶喜歡的項(xiàng)目屬性，然后捕捉用戶喜歡的內(nèi)容，通過(guò)類似私人定制的推送，對(duì)用戶接收的內(nèi)容進(jìn)行加強(qiáng)⑧胡鍵：《算法治理及其倫理》，《行政論壇》2021年第4期，第41-49頁(yè)。。與協(xié)同過(guò)濾推薦所不同，基于內(nèi)容的推薦是以用戶喜歡內(nèi)容的自身特征為挖掘和發(fā)現(xiàn)對(duì)象，通過(guò)其與數(shù)據(jù)庫(kù)整體的對(duì)照與相識(shí)度排序，來(lái)搜尋符合用戶內(nèi)容特點(diǎn)的興趣文件。根據(jù)其構(gòu)成要素，大致可分為相似計(jì)算和評(píng)分預(yù)測(cè)兩部分。相似計(jì)算指的是通過(guò)構(gòu)建用戶瀏覽和購(gòu)買等數(shù)據(jù)集合，查詢某用戶數(shù)據(jù)與整個(gè)集合相似的內(nèi)容，并計(jì)算與之相關(guān)集合的相似度。所謂評(píng)分預(yù)測(cè)，指的是在相似計(jì)算基礎(chǔ)上，對(duì)每個(gè)相關(guān)數(shù)據(jù)進(jìn)行智能評(píng)分，并選取較高相似度的內(nèi)容，對(duì)用戶進(jìn)行推薦⑨江周峰、楊俊、鄂海紅：《結(jié)合社會(huì)化標(biāo)簽的基于內(nèi)容的推薦算法》，《軟件》2015年第1期，第1-5頁(yè)。。當(dāng)然，在具體化的場(chǎng)景中，基于內(nèi)容的推薦多應(yīng)用于內(nèi)容讀取方便的數(shù)據(jù)，比如新聞、網(wǎng)頁(yè)、文檔等，而對(duì)于音頻、視頻等受制于內(nèi)容屬性較多的物品，并不能有效地發(fā)揮作用。

混合推薦（hybrid recommendation）也被稱為組合推薦，是一般單向算法推薦之外綜合多種算法推薦要素的方法技術(shù)，具有復(fù)雜性、綜合性、整合性等特征。混合推薦可以是協(xié)同過(guò)濾推薦、基于內(nèi)容的推薦等算法推薦兩者之間的互聯(lián)，也可以是多者之間應(yīng)用的協(xié)同。其主要為了解決不同算法推薦之間的缺點(diǎn)、而對(duì)兩者或多者進(jìn)行融合創(chuàng)新的推薦技術(shù)。由于數(shù)據(jù)的不同特征，每個(gè)算法在不同的數(shù)據(jù)集中性能不同，這些算法在單一準(zhǔn)則評(píng)價(jià)的基礎(chǔ)上有時(shí)可能誤導(dǎo)算法候選列表中選擇最佳算法的決策，進(jìn)而體現(xiàn)單一算法框架和準(zhǔn)則的局限性，而多準(zhǔn)則混合型的推薦技術(shù)則巧妙回避這一點(diǎn)①Rahman Ali,Sungyoung Lee,Tae Choong Chung,“Accurate Multi-criteria Decision Making Methodology for Recommending Machine Learning Algorithm”,Expert Systems with Applications,2017,Vol.71,pp.257-278.?；旌贤扑]因是兩種或多種算法推薦的結(jié)合，能更好彌補(bǔ)各個(gè)算法推薦可能存在的問(wèn)題，使得算法推薦結(jié)果更為符合實(shí)際需要。在適用范圍上，混合推薦應(yīng)用較為廣泛，包括輸電網(wǎng)規(guī)劃、變壓器診斷，乃至機(jī)器人路徑計(jì)算等。

可以看出，在智能算法推薦的三種主要類型中，盡管協(xié)同過(guò)濾推薦、基于內(nèi)容的推薦通過(guò)不同的算法推薦技術(shù)，得出不一樣的分析推薦結(jié)果，但其均存在技術(shù)上適用的取舍以及適應(yīng)場(chǎng)域上的優(yōu)缺點(diǎn)，而混合推薦雖然具有兩者或多者算法推薦結(jié)合的優(yōu)勢(shì)，但也同樣面臨推薦內(nèi)容不突出、適用技術(shù)不可控等實(shí)踐問(wèn)題，這也在不同程度上影響混合推薦的實(shí)際效果與性能?；旌纤惴ㄍ扑]在具體化場(chǎng)景的應(yīng)用中，更易引發(fā)諸多爭(zhēng)議，包括采取哪些算法推薦、算法推薦如何融合、融合后如何達(dá)到最佳的適用效果等，這些均需要嚴(yán)格的實(shí)驗(yàn)數(shù)據(jù)支撐和風(fēng)險(xiǎn)評(píng)估。

二、智能算法推薦的社會(huì)風(fēng)險(xiǎn)

世界各國(guó)圍繞智能算法推薦從自然科學(xué)領(lǐng)域的討論到哲學(xué)社會(huì)科學(xué)領(lǐng)域的關(guān)注，反映了人們對(duì)智能算法推薦認(rèn)識(shí)的轉(zhuǎn)向與深化。誠(chéng)然，智能算法推薦不僅涉及如何發(fā)揮其智能功能的技術(shù)運(yùn)行，還關(guān)系道德、哲學(xué)、法律等多維度的深層考量。從法律維度來(lái)看，智能算法推薦不僅涉及用戶隱私權(quán)、知情權(quán)、個(gè)人信息權(quán)等權(quán)益保護(hù)，還涉及秩序維護(hù)、技術(shù)界限、責(zé)任分擔(dān)等法律機(jī)制的設(shè)置。智能推薦技術(shù)社會(huì)化的展開(kāi)以及其對(duì)社會(huì)關(guān)系、安全秩序的影響，導(dǎo)致算法推薦可能引發(fā)一系列的法律、倫理上的社會(huì)風(fēng)險(xiǎn)。

（一）權(quán)益侵害

1.對(duì)隱私權(quán)益的侵害。算法的隱私權(quán)益問(wèn)題一直備受關(guān)注。智能算法推薦實(shí)現(xiàn)了從復(fù)雜收集到簡(jiǎn)潔推薦的范式轉(zhuǎn)變。智能算法推薦技術(shù)在充分獲取用戶數(shù)據(jù)基礎(chǔ)上，滿足了人們對(duì)商品的多元需求，提升了人們對(duì)智能推薦的期待，但也可能加深人們對(duì)智能算法推薦的依賴。在經(jīng)濟(jì)成本上，算法推薦也有著更小投入、更大產(chǎn)出的積極效用。

從技術(shù)的負(fù)面效應(yīng)來(lái)看，算法推薦將用戶數(shù)據(jù)與推薦結(jié)果相關(guān)聯(lián)具有相當(dāng)?shù)娘L(fēng)險(xiǎn)。智能算法推薦以數(shù)據(jù)搜集為基礎(chǔ)，軟件平臺(tái)可輕易獲得用戶數(shù)據(jù)的權(quán)限。算法推薦前對(duì)用戶數(shù)據(jù)的充分收集，容易帶來(lái)相對(duì)人隱私權(quán)益侵害的風(fēng)險(xiǎn)。事實(shí)上，用戶在提供數(shù)據(jù)的同時(shí)，經(jīng)營(yíng)者很少對(duì)其提供充分必要的使用說(shuō)明，而格式化的隱私保護(hù)協(xié)議使用戶權(quán)利容易被遺漏，用戶不能完全理解電子協(xié)議的授權(quán)內(nèi)容。在簡(jiǎn)化的視角下，隱私權(quán)益容易被應(yīng)用軟件的格式流程所掩蓋，用戶多在不知情的情況下把隱私“讓渡”給互聯(lián)網(wǎng)經(jīng)營(yíng)者，從而可能帶來(lái)隱私權(quán)益被侵害的社會(huì)風(fēng)險(xiǎn)。例如，在手機(jī)APP領(lǐng)域，2019年1月，中央網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局四部門聯(lián)合發(fā)布的專項(xiàng)報(bào)告《APP違法違規(guī)收集使用個(gè)人信息專項(xiàng)治理報(bào)告（2019）》指出，APP強(qiáng)制授權(quán)、過(guò)度索權(quán)、超范圍收集個(gè)人信息的現(xiàn)象普遍存在，未制定并公開(kāi)隱私政策等不規(guī)范行為屢見(jiàn)不鮮，這表明加強(qiáng)APP應(yīng)用中的個(gè)人隱私保護(hù)勢(shì)在必行①參見(jiàn)《APP違法違規(guī)收集使用個(gè)人信息專項(xiàng)治理報(bào)告（2019）》，2022-01-18，http://www.cac.gov.cn/2020-05/26/c_1592036763304447.htm，2022年1月18日.。

2.對(duì)知情權(quán)益的侵害。相較于個(gè)人信息獲取的知情，知情權(quán)益指的是用戶對(duì)算法推薦內(nèi)部運(yùn)作進(jìn)行知曉、了解的權(quán)益。智能算法推薦對(duì)不同用戶設(shè)置的個(gè)性化服務(wù)，其內(nèi)設(shè)的差異化服務(wù)機(jī)制（differentiated service mechanism）非常隱蔽。當(dāng)前，在算法推薦的具體應(yīng)用中，基于逐利、信息不對(duì)稱等原因，不當(dāng)收集分析用戶數(shù)據(jù)，并進(jìn)行歧視性定價(jià)或差別化對(duì)待等現(xiàn)象相伴而生②胡小偉：《人工智能時(shí)代算法風(fēng)險(xiǎn)的法律規(guī)制論綱》，《湖北大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2021年第2期，第120-131頁(yè)。。而且，由于經(jīng)營(yíng)者未充分披露信息，使得用戶對(duì)于算法推薦的結(jié)果并不知情，算法審查也可能隱藏誤差、偏見(jiàn)和干預(yù)，導(dǎo)致用戶陷入信息的洪流中，使其錯(cuò)過(guò)太多應(yīng)知未知的信息，減損用戶的知情權(quán)益③周建明、馬璇：《個(gè)性化服務(wù)與圓形監(jiān)獄：算法推薦的價(jià)值理念及倫理抗?fàn)帯?，《社?huì)科學(xué)戰(zhàn)線》2018年第10期，第168-173頁(yè)。。

對(duì)知情權(quán)益的侵害必然涉及算法黑箱（algorithm black box）問(wèn)題。這是因?yàn)閷?duì)于算法運(yùn)作的過(guò)程，用戶無(wú)從了解，即便了解了算法運(yùn)作的流程，也很難對(duì)每個(gè)數(shù)據(jù)背后的產(chǎn)生機(jī)理有效掌握。況且，法律制度上盡管設(shè)置經(jīng)營(yíng)者的自我披露義務(wù)、公開(kāi)義務(wù)，但要做到對(duì)算法推薦的每個(gè)流程乃至數(shù)據(jù)的透明化，這自始至終離不開(kāi)經(jīng)營(yíng)者對(duì)算法推薦公開(kāi)的自覺(jué)④孫少晶、陳昌鳳、李世剛等：《“算法推薦與人工智能”的發(fā)展與挑戰(zhàn)》，《新聞大學(xué)》2019年第6期，第1-8頁(yè)。。然而，出于算法披露的投入與收益不成比例，算法機(jī)構(gòu)和技術(shù)公司在商業(yè)化的運(yùn)營(yíng)壓力之下難以為繼，而且，如若披露所采取的方式不當(dāng)，其仍可能影響自身的技術(shù)競(jìng)爭(zhēng)優(yōu)勢(shì)以及承擔(dān)一定的訴訟糾紛風(fēng)險(xiǎn)⑤張淑玲：《破解黑箱：智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制》，《中國(guó)出版》2018年第7期，第49-53頁(yè)。。因此，在僅有制度層面的規(guī)制時(shí)，出于商業(yè)利益等因素的考慮，經(jīng)營(yíng)者難以實(shí)現(xiàn)算法推薦的完全公開(kāi)，那么，當(dāng)算法推薦的過(guò)程無(wú)從充分公開(kāi)時(shí)，這就可能產(chǎn)生用戶受到知情權(quán)益侵害的法律問(wèn)題。

3.對(duì)個(gè)人信息權(quán)益的侵害。在對(duì)個(gè)人信息收集分析時(shí)，與用戶相關(guān)聯(lián)的個(gè)人信息將用于描繪形成“用戶畫像”（users portrait），這是智能算法推薦引發(fā)的眾多分歧之一。在算法推薦運(yùn)用過(guò)程中，對(duì)個(gè)人信息的匿名或加密處理，是經(jīng)營(yíng)者經(jīng)常采用的技術(shù)策略，但簡(jiǎn)易化、定型化的技術(shù)處理方式仍可能產(chǎn)生對(duì)個(gè)人信息庫(kù)的組裝或重建問(wèn)題，進(jìn)而產(chǎn)生對(duì)個(gè)人信息權(quán)益侵害的社會(huì)風(fēng)險(xiǎn)。算法推薦技術(shù)中的留存信息被經(jīng)營(yíng)者獲取，而在數(shù)據(jù)整合過(guò)程中，“無(wú)關(guān)”信息可能被舍棄，而這些信息的去向以及如何對(duì)其妥善保存，涉及個(gè)人信息保護(hù)的安全保障。算法推薦對(duì)信息的自動(dòng)化取舍，在給人們提供方便的同時(shí)，也可能帶來(lái)個(gè)人信息取舍后的權(quán)益保障問(wèn)題。

（二）秩序妨害

1.對(duì)監(jiān)管秩序的妨害。秩序在法律體系中位居首位，安定的社會(huì)秩序是治理的首要目標(biāo)。人們的生活必須在秩序之中，不能讓無(wú)序、脫序和失序引發(fā)社會(huì)危機(jī)和災(zāi)難，讓人們失去合理預(yù)期和安全感③張文顯：《構(gòu)建智能社會(huì)的法律秩序》，《東方法學(xué)》2020年第5期，第4-19頁(yè)。。智能算法推薦不能脫離秩序而存在，應(yīng)盡可能地優(yōu)化算法設(shè)計(jì)，通過(guò)建立算法監(jiān)管與外部問(wèn)責(zé)制度，來(lái)確定算法主體的行為責(zé)任④崔聰聰、許智鑫：《機(jī)器學(xué)習(xí)算法的法律規(guī)制》，《上海交通大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2020年第2期，第35-47頁(yè)。。智能算法推薦的形成發(fā)展必須符合秩序的規(guī)制要求。安全作為秩序的核心內(nèi)容，必須采取措施予以維護(hù)。法治作為以秩序?yàn)榍疤嵋?、以建立和維護(hù)社會(huì)秩序?yàn)槟繕?biāo)的治理方式，有著維系人們對(duì)社會(huì)未來(lái)穩(wěn)定預(yù)期的功能。算法推薦技術(shù)與秩序有著緊密的內(nèi)在聯(lián)系，它是人工智能領(lǐng)域?qū)ι鐣?huì)秩序有著深刻影響的重要技術(shù)。但算法推薦對(duì)算法結(jié)果的自動(dòng)生成，不僅對(duì)相應(yīng)的監(jiān)管體系提出更高要求，也為智能算法推薦監(jiān)管秩序的維護(hù)帶來(lái)挑戰(zhàn)。

監(jiān)管秩序是秩序在監(jiān)管領(lǐng)域的投射，包括監(jiān)管部門對(duì)經(jīng)營(yíng)者收集、使用、儲(chǔ)存數(shù)據(jù)等方面的監(jiān)管。隨著算法推薦的日益更新和升級(jí)，其對(duì)監(jiān)管秩序的妨害正呈現(xiàn)擴(kuò)大化趨勢(shì)，算法推薦的隱蔽性使其運(yùn)作的過(guò)程難以為監(jiān)管者所知。當(dāng)然，這也涉及對(duì)新業(yè)態(tài)領(lǐng)域包容審慎監(jiān)管的問(wèn)題，即對(duì)于新產(chǎn)業(yè)、新領(lǐng)域，國(guó)家應(yīng)采取包容審慎的態(tài)度。但在目前情況下，亟需關(guān)注和解決的是算法推薦對(duì)監(jiān)管秩序的妨害問(wèn)題以及監(jiān)管秩序的如何建構(gòu)，而非放任算法推薦的“自由發(fā)展”，使其游離在監(jiān)管之外。

2.對(duì)行業(yè)秩序的妨害。自由平等、公平競(jìng)爭(zhēng)是市場(chǎng)經(jīng)濟(jì)的基本準(zhǔn)則。工業(yè)革命以后，以市場(chǎng)為中心的工業(yè)社會(huì)法律秩序逐漸形成。而以算法為中心智能社會(huì)的快速發(fā)展，正給以市場(chǎng)為中心的社會(huì)秩序帶來(lái)新的沖擊。經(jīng)營(yíng)者可以將其市場(chǎng)價(jià)值定位與算法推薦連接起來(lái)，特別是通過(guò)定位排序，把要推出的產(chǎn)品放在突出位置，獲得用戶的頻繁關(guān)注，擴(kuò)大市場(chǎng)的影響力，但這可能會(huì)帶來(lái)無(wú)序競(jìng)爭(zhēng)的問(wèn)題，嚴(yán)重影響其他經(jīng)營(yíng)者的自主權(quán)。經(jīng)營(yíng)者按照其想法定制出具有市場(chǎng)影響的產(chǎn)品，其他經(jīng)營(yíng)者的產(chǎn)品也可能不具備算法推薦的“競(jìng)爭(zhēng)力”而失去競(jìng)爭(zhēng)優(yōu)勢(shì)。發(fā)達(dá)國(guó)家實(shí)踐表明，市場(chǎng)在資源配置中具有重要作用，而算法對(duì)歷史數(shù)據(jù)的搜索，所形成的標(biāo)準(zhǔn)化在線行為，并給出基于哪些搜索購(gòu)買產(chǎn)品或服務(wù)的建議，用戶選擇并沒(méi)有轉(zhuǎn)變?yōu)闊o(wú)限性。事實(shí)上，算法內(nèi)設(shè)的一套狹義解釋，將基于過(guò)去、無(wú)生命的對(duì)象組合成“類別—使用”的建議，實(shí)際上約束了用戶的行為活動(dòng)①M(fèi)ike Ananny,“Toward an Ethics of Algorithms:Convening,Observation,Probability,and Timeliness”,Science,Technology,&Human Values,2016,Vol.41,No.1,pp.93-117.。與此同時(shí)，經(jīng)營(yíng)者產(chǎn)品與其推薦排位的不相匹配，也可能給用戶帶來(lái)價(jià)值與價(jià)格不相匹配的感受和體驗(yàn)。

現(xiàn)代的經(jīng)營(yíng)者競(jìng)爭(zhēng)秩序是市場(chǎng)競(jìng)爭(zhēng)的結(jié)果。而通過(guò)刷單、競(jìng)價(jià)排序等作出影響用戶決定的算法推薦行為給市場(chǎng)競(jìng)爭(zhēng)帶來(lái)的消極影響是難以預(yù)知的。即便將用戶對(duì)經(jīng)營(yíng)產(chǎn)品的合理期待有效量化，也不能為算法推薦逐利的正當(dāng)性提供證成。因此，智能算法推薦給經(jīng)營(yíng)構(gòu)想提供定制便利的同時(shí)，不可避免地引發(fā)經(jīng)營(yíng)者之間的惡性競(jìng)爭(zhēng)，使得一個(gè)經(jīng)營(yíng)者的行為不斷波及其他經(jīng)營(yíng)者，從而引發(fā)漣漪效應(yīng)，進(jìn)而侵害相應(yīng)的行業(yè)秩序。例如，2016年魏則西事件反映出以競(jìng)價(jià)排名作為唯一標(biāo)準(zhǔn)的算法推薦系統(tǒng)是具有逐利性的。國(guó)家網(wǎng)信辦聯(lián)合調(diào)查組隨后對(duì)百度展開(kāi)調(diào)查，要求其調(diào)整競(jìng)價(jià)排名機(jī)制，更正以錢的多少作為排位唯一標(biāo)準(zhǔn)的技術(shù)系統(tǒng)，并嚴(yán)格規(guī)范其商業(yè)推廣信息內(nèi)容比例。此事件也體現(xiàn)出不當(dāng)?shù)乃惴ㄍ扑]系統(tǒng)設(shè)計(jì)給某個(gè)行業(yè)帶來(lái)的秩序妨害②國(guó)家網(wǎng)信辦：《要求百度改變競(jìng)價(jià)排名機(jī)制》，2021-09-03，https://www.sohu.com/a/74403686_253468.。

（三）技術(shù)異化

1.技術(shù)的負(fù)面后果。智能算法推薦技術(shù)的發(fā)展在發(fā)揮積極作用的同時(shí)，容易帶來(lái)負(fù)面后果。而技術(shù)對(duì)不同人群提供不同精準(zhǔn)服務(wù)的同時(shí)，也可能帶來(lái)對(duì)社會(huì)人群的分選效應(yīng)（separation effect），例如在智能媒體的背景下，在單調(diào)的信息交互中，人們逐漸形成特定的興趣習(xí)慣，進(jìn)而使得人們受到“信息繭房”（information cocoon house）的束縛，對(duì)于社會(huì)而言，這可能造成不同社會(huì)群體的分離③Lili Ji,“How to Crack the Information Cocoon Room under the Background of Intelligent Media”,International Journal of Social Science and Education Research,2020,Vol.3,No.3,pp.169-173.。然而，技術(shù)發(fā)展的便利化、快捷化，使得人們漸漸淡忘乃至忽視這一點(diǎn)，而過(guò)分強(qiáng)調(diào)算法推薦技術(shù)的智能化，要求其在自動(dòng)化輸出的同時(shí)，避免對(duì)人的尊嚴(yán)和基本權(quán)利的疏漏，則具有一定的理想化成分。算法推薦技術(shù)基于精確測(cè)算和數(shù)據(jù)建模對(duì)用戶作出區(qū)分對(duì)待，可能產(chǎn)生不同人群之間的不平等問(wèn)題。

智能技術(shù)作為改變促進(jìn)人的發(fā)展的觀點(diǎn)曾廣受認(rèn)可。技術(shù)似乎可滿足人們對(duì)高效服務(wù)的要求，也能滿足人們對(duì)多樣化服務(wù)選擇的需求。但這并不能避免伴隨著技術(shù)進(jìn)步而帶來(lái)的負(fù)面后果。一方面，技術(shù)容易引發(fā)信息安全、社會(huì)安全乃至國(guó)家安全等問(wèn)題。算法的智能運(yùn)算盡管帶來(lái)便利，但如何確保技術(shù)使用的輔助性、適當(dāng)性仍為實(shí)踐難題，例如在法律適用層面，算法智能系統(tǒng)憑借超級(jí)推理，自動(dòng)梳理法律關(guān)系，提出裁判建議和生成法律文書，這種微妙而有效的方式，容易給人造成“自動(dòng)化偏見(jiàn)”，進(jìn)而塑造和影響人的行為④張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，《法商研究》2019年第4期，第63-75頁(yè)。。另一方面，智能技術(shù)作為促進(jìn)和發(fā)展人的基本假設(shè)可能并不成立。在觀念中，我們預(yù)設(shè)技術(shù)是中立的、不偏私的，事實(shí)上，算法推薦技術(shù)可能隱藏內(nèi)在的導(dǎo)向性。例如，2020年9月引發(fā)熱議的《外賣騎手，困在系統(tǒng)里》一文，揭示出外賣騎手在違反交規(guī)與準(zhǔn)時(shí)送餐之間的矛盾困境，側(cè)面反映了算法推薦技術(shù)應(yīng)用的負(fù)面后果。因?yàn)樵谕赓u送達(dá)程序中，系統(tǒng)推薦的最短時(shí)間路徑和限時(shí)送到機(jī)制，這是以商業(yè)利益為導(dǎo)向的，外賣騎手盡管可以根據(jù)其決策結(jié)果作出是否以及何時(shí)送到的選擇，但算法推薦的結(jié)果如若不被采納，騎手就只能面臨收入扣除、訂單量減少的風(fēng)險(xiǎn)，而通過(guò)違反交規(guī)等作出符合算法系統(tǒng)推薦的“最優(yōu)選擇”（optimal choice），這并非算法推薦建議性特征的體現(xiàn)。

2.技術(shù)濫用。為了更好地發(fā)揮技術(shù)的決策參考作用，自動(dòng)化決策機(jī)制被應(yīng)用于諸多領(lǐng)域，在很多場(chǎng)景中，算法自主（algorithm autonomy）等現(xiàn)象頻發(fā)，而從技術(shù)濫用的角度來(lái)看，這未必值得宣揚(yáng)。這個(gè)場(chǎng)景中是否必須使用算法推薦，算法推薦在該領(lǐng)域的適用是否存在不正當(dāng)聯(lián)結(jié)？在未經(jīng)充分論證的條件下，智能算法推薦技術(shù)就被應(yīng)用到該領(lǐng)域，并由算法得出推薦結(jié)果，這是對(duì)算法應(yīng)用場(chǎng)域的擴(kuò)大，也會(huì)增加經(jīng)營(yíng)者對(duì)算法推薦的依賴。為了改善用戶的體驗(yàn)，提升該領(lǐng)域的智能化，算法推薦被當(dāng)作促進(jìn)產(chǎn)業(yè)發(fā)展的“利器”，這顯然是缺乏科學(xué)合理性的。社會(huì)整體利益應(yīng)呈現(xiàn)均衡發(fā)展的狀態(tài)，并結(jié)合技術(shù)的積極因素推動(dòng)人們物質(zhì)和精神文明水平的提升。如何在發(fā)揮技術(shù)積極功能的同時(shí)避免技術(shù)的濫用，如何平衡技術(shù)使用的限度，等等，這些問(wèn)題對(duì)智能社會(huì)時(shí)代的法律秩序建構(gòu)提出現(xiàn)實(shí)挑戰(zhàn)。

(3)加強(qiáng)反濾排水措施。設(shè)置適當(dāng)級(jí)配的砂反濾層，用以截留壩體中的細(xì)顆粒，保證不流出壩體，減少流土和管涌風(fēng)險(xiǎn)。當(dāng)出現(xiàn)管涌時(shí)，具體措施有設(shè)置反濾圍井、反濾層壓蓋、透水壓滲平臺(tái)、蓄水反壓方式。

此外，算法推薦也可能面臨落入犯罪分子手中而引發(fā)社會(huì)風(fēng)險(xiǎn)。技術(shù)盡管重要，但技術(shù)使用者往往影響乃至決定技術(shù)的適用領(lǐng)域。如若算法推薦被網(wǎng)絡(luò)犯罪、木馬軟件等加以利用，也將帶來(lái)民事侵權(quán)、行政違法乃至刑事犯罪的問(wèn)題。再者，在跨國(guó)的網(wǎng)絡(luò)犯罪中，由于國(guó)家間的交流局限以及司法合作的有待深入，算法推薦的濫用也可能為跨國(guó)犯罪活動(dòng)提供溫床，從而增加違法查處的難度，導(dǎo)致信息化跨國(guó)犯罪的頻繁發(fā)生。

（四）責(zé)任模糊

算法推薦在內(nèi)容分發(fā)市場(chǎng)的地位越來(lái)越重要，已成為資訊內(nèi)容獲取的主渠道之一。以“今日頭條”為例，根據(jù)《2016移動(dòng)資訊行業(yè)細(xì)分報(bào)告》數(shù)據(jù)統(tǒng)計(jì)，截至2016年12月，“今日頭條”已累計(jì)用戶7.1億，文圖資訊日均閱讀量11.6億次，視頻資訊日均閱讀量12.69億次①《算法給社會(huì)治理帶來(lái)哪些挑戰(zhàn)?如何應(yīng)對(duì)?》，2022-01-18，http://www.yidianzixun.com/article/0Imra9NQ?s=mochuang&%20appid=s3rd_mochuang&toolbar=&ad=.。算法推薦在帶來(lái)便利的同時(shí)，也帶來(lái)責(zé)任如何劃定的風(fēng)險(xiǎn)。傳統(tǒng)責(zé)任規(guī)則的承擔(dān)一般按照過(guò)錯(cuò)責(zé)任來(lái)判定行為人的行為，而這一判斷標(biāo)準(zhǔn)在算法推薦方面卻無(wú)法識(shí)別不同主體是否有過(guò)錯(cuò)、存在何種過(guò)錯(cuò)、過(guò)錯(cuò)如何分擔(dān)，由此產(chǎn)生算法推薦的責(zé)任模糊問(wèn)題。換言之，一旦算法推薦出現(xiàn)嚴(yán)重的侵權(quán)損害或法律后果，那么，如何科學(xué)厘清相關(guān)主體的責(zé)任，過(guò)錯(cuò)原則在這里顯然是不能完全解釋和適用的。算法推薦內(nèi)容主要通過(guò)算法語(yǔ)言得以實(shí)現(xiàn)，但這些算法語(yǔ)言容易受商業(yè)利益驅(qū)使和影響。更深層次的一般性問(wèn)題是，算法經(jīng)營(yíng)者、算法設(shè)計(jì)者、算法用戶、監(jiān)管部門等責(zé)任如何劃分，至今未有清晰的法律原則②蘇宇：《算法規(guī)制的譜系》，《中國(guó)法學(xué)》2020年第3期，第165-184頁(yè)。。對(duì)于經(jīng)營(yíng)者來(lái)說(shuō)，其主要將需要達(dá)到的商業(yè)利益目標(biāo)轉(zhuǎn)化為算法語(yǔ)言予以實(shí)現(xiàn)，這存在商業(yè)導(dǎo)向、責(zé)任偏離的風(fēng)險(xiǎn)。設(shè)計(jì)者主要把商業(yè)利益目標(biāo)寫成不同的算法語(yǔ)言，設(shè)計(jì)不同的應(yīng)用場(chǎng)景，為用戶提供差別化的服務(wù)，這存在用戶分選、責(zé)任分化的風(fēng)險(xiǎn)。對(duì)于用戶來(lái)說(shuō)，其主要按照經(jīng)營(yíng)者提供的算法推薦結(jié)果，參與到算法推薦系統(tǒng)的運(yùn)行中活動(dòng)，這存在黏性增強(qiáng)、責(zé)任削弱的風(fēng)險(xiǎn)。故而，從整體層面來(lái)看，對(duì)于智能推薦帶來(lái)的消極影響乃至危害，容易存在商業(yè)利益驅(qū)動(dòng)、設(shè)計(jì)自動(dòng)延伸、用戶意愿增強(qiáng)等現(xiàn)象，這里很難說(shuō)清楚經(jīng)營(yíng)者、設(shè)計(jì)者和用戶的責(zé)任究竟是如何劃分的以及各自的責(zé)任逾越問(wèn)題。另外，算法侵權(quán)多基于智能平臺(tái)直接生成，數(shù)據(jù)在系統(tǒng)的運(yùn)行過(guò)程中并無(wú)侵權(quán)痕跡，而用戶的留意觀察僅限于算法推薦的外圍監(jiān)督，這也就產(chǎn)生算法推薦責(zé)任難以取證、無(wú)從確定的問(wèn)題。因此，在責(zé)任承擔(dān)維度，算法推薦的多主體、利害性、自控性等元素的復(fù)雜交織以及用戶的證明困難，就產(chǎn)生責(zé)任模糊、責(zé)任邊界不清、責(zé)任難以證明等問(wèn)題，從而可能引發(fā)一系列的社會(huì)風(fēng)險(xiǎn)。

三、智能算法推薦風(fēng)險(xiǎn)規(guī)制的理論分析及理論基礎(chǔ)

（一）智能算法推薦風(fēng)險(xiǎn)規(guī)制的理論分析

智能算法推薦作為一項(xiàng)算法決策技術(shù)，要實(shí)現(xiàn)精準(zhǔn)推送和高效分發(fā)信息，獲得洞悉用戶需求的能力，就必須推動(dòng)智能算法推薦的創(chuàng)新和發(fā)展，不斷優(yōu)化智能算法推薦的決策運(yùn)作，預(yù)防和控制該技術(shù)運(yùn)行中可能引發(fā)的風(fēng)險(xiǎn)，滿足用戶多元化、多樣化的訴求，發(fā)揮其專門優(yōu)勢(shì)和促進(jìn)社會(huì)整體利益的均衡發(fā)展。對(duì)于智能算法推薦帶來(lái)的可能風(fēng)險(xiǎn)，相應(yīng)的規(guī)制理論應(yīng)包括以下三個(gè)層面的內(nèi)容：

一是人的基本權(quán)利的保護(hù)。這主要從算法推薦的理念遵循進(jìn)行考量的。法治作為人類不懈追求的價(jià)值目標(biāo)，人的基本權(quán)利是憲法和法律規(guī)定的必備內(nèi)容。對(duì)于智能算法推薦技術(shù)而言，是否在算法推薦過(guò)程中考慮人的主體地位、保障人的基本權(quán)利，是判斷該技術(shù)服務(wù)健全完善的重要標(biāo)準(zhǔn)，對(duì)于能否有效防止對(duì)人的侵害，避免算法決策中的法律風(fēng)險(xiǎn)意義重大。算法推薦技術(shù)是經(jīng)營(yíng)者提供特定的產(chǎn)品服務(wù)的重要體現(xiàn)，在算法推薦技術(shù)不斷更新?lián)Q代之際，應(yīng)保護(hù)技術(shù)使用中公民的知情權(quán)、隱私權(quán)、發(fā)展權(quán)以及數(shù)字化權(quán)利等，以使得憲法和法律中人的尊嚴(yán)和自由條款真正落實(shí)與實(shí)現(xiàn)。

二是技術(shù)運(yùn)用的理性審慎。這主要是從技術(shù)的發(fā)展歷程進(jìn)行切入的。技術(shù)是一個(gè)具有歷史特征的概念，每一種技術(shù)都有其發(fā)展特征。每一階段的技術(shù)都在演化、升級(jí)和調(diào)整中逐步形成完善，并通過(guò)信息載體、技術(shù)原理、社會(huì)規(guī)則等體現(xiàn)出來(lái)。從算法推薦的發(fā)展歷程來(lái)看，對(duì)信息內(nèi)容的獲取，不僅是過(guò)去簡(jiǎn)單的對(duì)信息的單向接收，算法推薦還涉及對(duì)用戶信息的收集、整合和加工。那么，技術(shù)發(fā)展本身對(duì)技術(shù)運(yùn)用提出的科學(xué)合理、規(guī)范審慎要求，理應(yīng)成為算法推薦技術(shù)遵守的“邏輯鏈條”。算法推薦技術(shù)產(chǎn)生于社會(huì)化組織體系之中，其發(fā)展必然受著科學(xué)的理性指引。因此，其理論構(gòu)成中必然包含著技術(shù)的理性審慎。

三是風(fēng)險(xiǎn)預(yù)防控制的法律約束。這主要是從算法推薦風(fēng)險(xiǎn)的現(xiàn)實(shí)性與制度因應(yīng)加以回應(yīng)的。風(fēng)險(xiǎn)的現(xiàn)實(shí)性指的是該技術(shù)使用中誘發(fā)社會(huì)風(fēng)險(xiǎn)的客觀存在。一種技術(shù)要有效發(fā)揮其功能，保持其實(shí)效性，就要求不斷更新優(yōu)化，預(yù)防和控制該技術(shù)的風(fēng)險(xiǎn)，算法推薦技術(shù)同樣如此。法律作為調(diào)整社會(huì)秩序的重要手段，技術(shù)的使用，均應(yīng)以相應(yīng)的科技法制化的建立健全為前提條件①曾婧婧、鐘書華：《論科技治理工具》，《科學(xué)學(xué)研究》2011年第6期，第801-807頁(yè)。。這表明技術(shù)在一步步完善之前，要有相應(yīng)的法律規(guī)則為支撐，從而實(shí)現(xiàn)技術(shù)應(yīng)用的法律約束。算法推薦的適應(yīng)性，有必要性、可行性、在先性等客觀要求，在具體場(chǎng)景上，算法推薦技術(shù)的風(fēng)險(xiǎn)防控應(yīng)包含技術(shù)使用的合法性、技術(shù)場(chǎng)景應(yīng)用的適應(yīng)性、技術(shù)對(duì)象選擇的合規(guī)性以及具體技術(shù)法律規(guī)制的對(duì)應(yīng)性等內(nèi)容。

以上簡(jiǎn)要從理念、歷史和現(xiàn)實(shí)等層面對(duì)智能算法推薦展開(kāi)的理論分析，這些內(nèi)容構(gòu)筑了算法推薦風(fēng)險(xiǎn)規(guī)制的理論構(gòu)架。理念遵循為算法推薦技術(shù)的運(yùn)用提供方向指引。歷史發(fā)展通過(guò)對(duì)該技術(shù)的回顧，把握其在現(xiàn)階段的樣態(tài)，有助于厘清其在技術(shù)發(fā)展過(guò)程中的價(jià)值。在技術(shù)的運(yùn)用過(guò)程中，應(yīng)厘定其風(fēng)險(xiǎn)產(chǎn)生的原理，發(fā)揮法律對(duì)秩序的調(diào)整功效，把該技術(shù)納入法治軌道。因此，三個(gè)層面的理論邏輯是密切相關(guān)、互聯(lián)互通的。算法推薦規(guī)制理論的三個(gè)層面，共同融匯于規(guī)制算法推薦的治理過(guò)程，為算法推薦法律規(guī)制提出了根本要求。

（二）智能算法推薦風(fēng)險(xiǎn)規(guī)制的理論基礎(chǔ)

對(duì)技術(shù)進(jìn)行風(fēng)險(xiǎn)規(guī)制的同時(shí)，也需平衡經(jīng)營(yíng)者與使用者、提供者、競(jìng)爭(zhēng)者等主體之間的權(quán)益，用科學(xué)具體的原則指導(dǎo)實(shí)踐。為此，應(yīng)根據(jù)算法推薦的發(fā)展實(shí)際，把握其發(fā)展特征，規(guī)制其運(yùn)行中的可能風(fēng)險(xiǎn)，實(shí)現(xiàn)技術(shù)運(yùn)用的合法、有效和長(zhǎng)效。理論基礎(chǔ)是算法推薦風(fēng)險(xiǎn)規(guī)制的重要命題。理論基礎(chǔ)內(nèi)容的科學(xué)合理與否，直接關(guān)系到算法推薦技術(shù)的運(yùn)用和發(fā)展。因此，科學(xué)合理的理論基礎(chǔ)指引，是必要的、必需的。根據(jù)經(jīng)營(yíng)者與用戶之間的協(xié)議內(nèi)容，筆者認(rèn)為，應(yīng)按照《民法典》等法律要求，合理設(shè)置經(jīng)營(yíng)者與用戶之間的權(quán)利義務(wù)分擔(dān)，保障用戶在算法推薦中的知情權(quán)益等，建立經(jīng)營(yíng)者之間有序競(jìng)爭(zhēng)的行為準(zhǔn)則，推動(dòng)算法推薦社會(huì)利益的健康可持續(xù)發(fā)展。具體而言，算法推薦風(fēng)險(xiǎn)規(guī)制的理論基礎(chǔ)表現(xiàn)在以下幾個(gè)方面。

一是公平原則。我國(guó)《民法典》第6條規(guī)定：“民事主體從事民事活動(dòng)，應(yīng)當(dāng)遵循公平原則，合理確定各方的權(quán)利和義務(wù)。”這指明了公平原則的價(jià)值要求。在智能算法推薦技術(shù)的應(yīng)用上，經(jīng)營(yíng)者與用戶之間簽訂的電子協(xié)議，同樣受《民法典》公平原則價(jià)值的約束。特別是在格式化條款消減用戶權(quán)利和增加義務(wù)的條件下，用戶無(wú)從與經(jīng)營(yíng)者對(duì)每個(gè)條款內(nèi)容達(dá)成合意，只能被動(dòng)選擇接受與選擇程序是否繼續(xù)進(jìn)行，用戶的自身權(quán)益更容易受到侵害。這時(shí)公平原則的“介入”，有利于保障用戶在電子協(xié)議中的權(quán)益，使得經(jīng)營(yíng)者與用戶之間權(quán)益分擔(dān)達(dá)到實(shí)質(zhì)平衡。此外，對(duì)于經(jīng)營(yíng)者為不同用戶提供的差異服務(wù)，公平原則的應(yīng)用有利于減少經(jīng)營(yíng)者對(duì)不同用戶的歧視與差別對(duì)待，使得法律上的平等理念真正落實(shí)到算法推薦的實(shí)踐之中。

二是公開(kāi)原則。所謂公開(kāi)原則，指的是經(jīng)營(yíng)者對(duì)算法推薦涉及公民權(quán)益重要事項(xiàng)的公開(kāi)，包括使得用戶信息、使用時(shí)間等內(nèi)容為用戶所知曉。公開(kāi)原則具有兩個(gè)方面的重要功能：一方面，由于經(jīng)營(yíng)者在技術(shù)設(shè)計(jì)、信息獲取等方面占據(jù)優(yōu)勢(shì)，容易利用其優(yōu)勢(shì)地位，不公開(kāi)或不完全公開(kāi)特定信息。公開(kāi)原則在算法推薦上的適用，有利于使經(jīng)營(yíng)者按照法律要求履行公開(kāi)義務(wù)，保障用戶的知情權(quán)益；另一方面，在算法推薦的設(shè)計(jì)理念上，公開(kāi)原則的適用，也有助于提升算法程序設(shè)計(jì)的透明度。當(dāng)然，公開(kāi)原則在算法推薦的適用，也有其邊界：當(dāng)侵犯其他用戶的合法權(quán)益，算法推薦對(duì)個(gè)人信息應(yīng)以不公開(kāi)為原則；當(dāng)涉及第三方利益或公共利益時(shí)，應(yīng)必要時(shí)進(jìn)行利益衡量。

三是社會(huì)利益原則。社會(huì)利益原則指的是在強(qiáng)調(diào)對(duì)算法推薦風(fēng)險(xiǎn)進(jìn)行規(guī)制的同時(shí)，在法治框架下考慮技術(shù)背后社會(huì)發(fā)展的均衡性，使算法推薦在可持續(xù)健康的軌道上發(fā)展。社會(huì)利益原則不僅關(guān)注算法推薦設(shè)計(jì)的價(jià)值理念，還關(guān)照算法推薦給社會(huì)整體利益帶來(lái)的影響。當(dāng)智能算法推薦可能帶來(lái)社會(huì)風(fēng)險(xiǎn)時(shí)，僅強(qiáng)調(diào)經(jīng)營(yíng)者應(yīng)用算法推薦的利益獲得，就可能給用戶及其他經(jīng)營(yíng)者帶來(lái)利益損害，這對(duì)良性社會(huì)秩序的形成有著消極影響，長(zhǎng)期也不利于算法推薦相關(guān)領(lǐng)域的繁榮穩(wěn)定。為此，應(yīng)從社會(huì)整體出發(fā)，考量算法推薦對(duì)社會(huì)整體的有益性以及使用者與避免算法推薦經(jīng)營(yíng)者的不合法、不正當(dāng)利益，平衡用戶及其他經(jīng)營(yíng)者等主體的利益，促進(jìn)算法推薦行為科學(xué)規(guī)范與價(jià)值理性的實(shí)現(xiàn)。

四、智能算法推薦風(fēng)險(xiǎn)的法律規(guī)制路徑

人工智能在帶給人們便利的同時(shí)，法律必須對(duì)其技術(shù)風(fēng)險(xiǎn)作出回應(yīng)和防范。在對(duì)智能推薦技術(shù)更新研發(fā)的同時(shí)，關(guān)注法律對(duì)算法推薦的規(guī)制作用，使其在法治框架下運(yùn)行，這不僅是法治社會(huì)建設(shè)的應(yīng)有之義，也是國(guó)家治理體系和治理能力現(xiàn)代化的必然要求。目前，世界多數(shù)國(guó)家對(duì)智能算法推薦進(jìn)行立法，包括出臺(tái)通用數(shù)據(jù)保護(hù)規(guī)范、規(guī)定規(guī)制算法的法律原則等，也有少部分國(guó)家采取了專門立法的模式①歐盟在《個(gè)人信息保護(hù)公約》《歐盟數(shù)據(jù)保護(hù)通用條例》等規(guī)范中確立了個(gè)人信息保護(hù)的原則和范圍，其中《歐盟數(shù)據(jù)保護(hù)通用條例》作為最嚴(yán)格的數(shù)據(jù)保護(hù)立法，規(guī)定了算法技術(shù)中的個(gè)人信息保護(hù)。美國(guó)在《消費(fèi)者隱私權(quán)法案》《信息去識(shí)別化技術(shù)指南》等立法中確立了規(guī)制算法推薦的一般法律原則，德國(guó)則通過(guò)出臺(tái)《聯(lián)邦信息保護(hù)法》等專門立法規(guī)范個(gè)性化推薦的使用。。我國(guó)對(duì)智能算法推薦的法律規(guī)制主要集中于信息保護(hù)、網(wǎng)絡(luò)安全、電子商務(wù)等技術(shù)標(biāo)準(zhǔn)和指引規(guī)范中，但相關(guān)條款存在過(guò)于原則、操作性較弱等問(wèn)題，對(duì)智能算法推薦的基本內(nèi)涵、價(jià)值遵循、制度規(guī)范等未有明確的規(guī)定。與此同時(shí)，相關(guān)規(guī)范也未能從智能社會(huì)維度展開(kāi)法治回應(yīng)，一定程度上影響對(duì)智能算法推薦的規(guī)制作用。把智能算法推薦納入法治軌道是世界法治實(shí)踐的發(fā)展趨勢(shì)，我國(guó)智能算法推薦也應(yīng)在借鑒域外有益經(jīng)驗(yàn)的基礎(chǔ)上，對(duì)智能推薦的法律規(guī)制方式、未來(lái)路向等予以關(guān)注和回應(yīng)，以助推智能算法推薦的制度化、規(guī)范化和法治化。

（一）加強(qiáng)對(duì)算法推薦合法性的前置審查

在機(jī)器學(xué)習(xí)中，預(yù)設(shè)觀念必不可少②佩德羅·多明戈斯：《終極算法》，黃芳萍譯，北京：中信出版集團(tuán)2017年版，第82頁(yè)。。智能算法推薦技術(shù)發(fā)展應(yīng)以合法為基本前提，保證人們?cè)谙硎苤悄苌鐣?huì)紅利的同時(shí)，避免技術(shù)異化等可能引發(fā)的社會(huì)風(fēng)險(xiǎn)，以維護(hù)智能社會(huì)法律秩序。智能算法推薦應(yīng)堅(jiān)持合法性原則，以算法推薦主體合法、程序合法、內(nèi)容合法、目的合法、手段合法等法治內(nèi)容為基本要求，將算法中人的尊嚴(yán)和基本權(quán)利放在首位，以社會(huì)公共利益的保護(hù)為價(jià)值目標(biāo)，不斷促進(jìn)社會(huì)整體的均衡發(fā)展，提升社會(huì)的整體效益，降低算法技術(shù)可能引發(fā)的社會(huì)風(fēng)險(xiǎn)。為此，要健全審查機(jī)制，建立由新聞、法律和倫理等各方專家組成的機(jī)構(gòu)來(lái)審核算法原理及決策過(guò)程①匡文波：《智能算法推薦技術(shù)的邏輯理路、倫理問(wèn)題及規(guī)制方略》，《深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版）》2021年第1期，第144-151頁(yè)。。就合法性的前置審查而言，筆者認(rèn)為，可從形式合法性和實(shí)質(zhì)合法性層面，在應(yīng)用推出之前以及后續(xù)版本更新等階段，審查算法推薦的必要性、正當(dāng)性和適當(dāng)性。

在形式合法性層面，應(yīng)審查算法獲取用戶信息形式的合法性。盡管詳盡的解釋與簡(jiǎn)化的解釋之間存在“透明度悖論”（transparency paradox）②所謂的“透明度悖論”，指的是平臺(tái)對(duì)算法的詳細(xì)解釋造成用戶可能的無(wú)法理解性與簡(jiǎn)化解釋掩蓋重要細(xì)節(jié)產(chǎn)生透明度不夠的對(duì)立。參見(jiàn)Christina Blacklaws.,“Algorithms:Transparency and Accountability”,Philosophical Transactions of the Royal Society a Mathmatical,Physical and Engineering Sciences,2018,Vol.376,No.2128,pp.20170351-20170351.的爭(zhēng)議，筆者認(rèn)為，這并不能消解平臺(tái)對(duì)算法數(shù)據(jù)信息獲取的公開(kāi)義務(wù)。換言之，算法推薦對(duì)用戶數(shù)據(jù)的獲取應(yīng)按照知情同意的原則，采用電子“告知—承諾”（inform and commitment）的形式，以明確算法推薦使用數(shù)據(jù)的范圍、權(quán)限和時(shí)間等，厘清算法推薦的信息框架。當(dāng)然，這并不意味著所有信息均可采用“告知—承諾”的方式，從憲法層面來(lái)看，算法對(duì)用戶信息的獲取同樣應(yīng)受比例原則、平等原則、尊重和保障人權(quán)原則等的約束。算法推薦對(duì)用戶的告知應(yīng)避免一攬子授權(quán)的形式，而采用“基本信息+特殊信息”獲取的告知形式似乎更為適宜?；拘畔⑴c特殊信息的劃分乃基于人格尊嚴(yán)。基本信息主要指的是與人格無(wú)關(guān)的相關(guān)內(nèi)容，包括無(wú)涉人格的昵稱、用戶名、密碼等。特殊信息則包括與人格聯(lián)系緊密的內(nèi)容，包括面部特征、指紋信息等。對(duì)于基本信息可采用概括授權(quán)的方式，對(duì)于特殊信息應(yīng)采取逐一授權(quán)的方式。在授權(quán)時(shí)效上，基本信息與特殊信息均應(yīng)設(shè)置相應(yīng)的時(shí)間節(jié)點(diǎn)，對(duì)特殊信息的授權(quán)應(yīng)采取更為嚴(yán)格、審慎的方式。

在實(shí)質(zhì)合法性層面，應(yīng)審查算法推薦設(shè)置的必要、適當(dāng)以及涉及實(shí)質(zhì)理性的內(nèi)容，例如對(duì)平臺(tái)使用算法推薦的必要、算法推薦獲取的界限、算法推薦的第三方傳輸、算法推薦中的保密事項(xiàng)、算法與其他程序的關(guān)聯(lián)、算法模塊之間的數(shù)據(jù)合作等問(wèn)題進(jìn)行前置審查，以厘清該平臺(tái)是否在實(shí)質(zhì)上符合法律規(guī)范的要求，符合法治的目的和精神。這里可借鑒歐盟GDPR的數(shù)據(jù)保護(hù)官制度，通過(guò)培養(yǎng)相應(yīng)的復(fù)合型人才，對(duì)相關(guān)的信息數(shù)據(jù)進(jìn)行審慎審查，以降低其存在的社會(huì)風(fēng)險(xiǎn)，確保數(shù)據(jù)信息使用上的合法合規(guī)性。

（二）建立健全具體化算法推薦場(chǎng)景規(guī)范

當(dāng)前，智能算法推薦的應(yīng)用領(lǐng)域不斷擴(kuò)大，一些原本不大可能使用算法的領(lǐng)域也開(kāi)始應(yīng)用該技術(shù)，這不僅拓寬算法推薦的實(shí)際應(yīng)用場(chǎng)域，也可能引發(fā)人們對(duì)算法推薦適用的不適。與此同時(shí)，伴隨著算法推薦技術(shù)的不斷更新與多元交錯(cuò)，算法技術(shù)呈現(xiàn)多樣化、復(fù)雜化的趨勢(shì)，這在提升算法推薦場(chǎng)景適應(yīng)性的同時(shí)，也帶來(lái)規(guī)制手段跟不上、規(guī)制方式無(wú)法同步、規(guī)制效果不理想的監(jiān)管挑戰(zhàn)。因此，為防止技術(shù)的無(wú)序化、失序化，應(yīng)結(jié)合相應(yīng)的應(yīng)用場(chǎng)域，通過(guò)具體化的場(chǎng)景設(shè)置，來(lái)設(shè)計(jì)與之對(duì)應(yīng)的規(guī)范細(xì)則，以更好發(fā)揮法律對(duì)算法推薦的規(guī)制功能。

一方面，應(yīng)在區(qū)分不同類別算法技術(shù)基礎(chǔ)上，將智能算法推薦適用的場(chǎng)景具體化。人工智能時(shí)代風(fēng)險(xiǎn)防范，可采取技術(shù)和法律的綜合治理機(jī)制③高奇琦：《智能革命與國(guó)家治理現(xiàn)代化初探》，《中國(guó)社會(huì)科學(xué)》2020年第7期，第81-102頁(yè)。。從還原論的視角，智能算法推薦技術(shù)可按照一定運(yùn)行機(jī)理，劃分為若干的子元素。在此意義上，不同種類的算法推薦技術(shù)可被理解為若干類別基礎(chǔ)部件的組合，例如在相似案例的搜尋領(lǐng)域，經(jīng)由大量法律數(shù)據(jù)分析，基于法律要素創(chuàng)建引導(dǎo)不同向量生成的基本語(yǔ)詞結(jié)構(gòu)，將相似度最高的案例網(wǎng)絡(luò)層作為推薦的案例集合，從而使得司法工作者乃至民眾輕松獲取法律數(shù)據(jù)庫(kù)需要的信息①劉博陽(yáng)、李尚、葉麟等：《基于法律要素引導(dǎo)的相似案例推薦算法》，《智能計(jì)算機(jī)與應(yīng)用》2021年第6期，第1-4頁(yè)。。在此技術(shù)原理的基礎(chǔ)之上，按照算法推薦的主要分類，筆者認(rèn)為可探索建立與此相對(duì)應(yīng)的基本類別法律規(guī)制方式，作為智能算法推薦適用具體化的分類基礎(chǔ)。再者，由于算法中因果關(guān)系的斷裂與可制定技術(shù)造成的知識(shí)窄化以及推薦數(shù)據(jù)的同質(zhì)化現(xiàn)象，應(yīng)增加算法場(chǎng)景集合的多樣性，以彌補(bǔ)算法本身設(shè)置的不足，提升算法推薦的合理性②郭哲：《反思算法權(quán)力》，《法學(xué)評(píng)論》2020年第6期，第33-41頁(yè)。。正如學(xué)者所言，“當(dāng)系統(tǒng)能有效解釋為什么推薦時(shí)，人們會(huì)更信任推薦。當(dāng)有新訊息的時(shí)候，人們希望能獲得即時(shí)更新的信息。多樣性是有價(jià)值的，而重復(fù)性是令人厭惡的”③CACM Staff.,“Recommendation Algorithms,Online Privacy,and More”,Communications of the Acm,2009,Vol.52,No.5,pp.10-11.。

另一方面，應(yīng)圍繞場(chǎng)景的具體特征，出臺(tái)相應(yīng)的規(guī)范細(xì)則。《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》明確提出，制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問(wèn)答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法④新華社：《中共中央印發(fā)〈法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）〉》，2022-01-18，http://www.gov.cn/xinwen/2020-12/07/content_5567791.htm.。那么，圍繞智能算法推薦的典型特征，建立健全規(guī)范算法推薦的制度規(guī)范，包括算法的披露義務(wù)、規(guī)范流程、報(bào)備模型等⑤汪慶華：《人工智能的法律規(guī)制路徑：一個(gè)框架性討論》，《現(xiàn)代法學(xué)》2019年第2期，第54-63頁(yè)。，有助于在厘定算法推薦種類基礎(chǔ)上，實(shí)現(xiàn)對(duì)具體算法推薦的場(chǎng)景化規(guī)制，加強(qiáng)規(guī)范與算法之間的適應(yīng)性。例如對(duì)于協(xié)同過(guò)濾算法推薦，設(shè)計(jì)規(guī)則時(shí)可更側(cè)重算法對(duì)用戶間協(xié)同連帶與數(shù)據(jù)過(guò)濾保護(hù)；對(duì)于基于內(nèi)容的算法推薦，設(shè)計(jì)規(guī)則時(shí)可更多關(guān)注內(nèi)容讀取與安全儲(chǔ)存；對(duì)于混合算法推薦，設(shè)計(jì)規(guī)則可更多考慮兩者或多者算法推薦的特征，以建構(gòu)形成各有側(cè)重的場(chǎng)景規(guī)范體系，實(shí)現(xiàn)對(duì)不同算法推薦場(chǎng)景的規(guī)制化。

（三）強(qiáng)化算法的行業(yè)監(jiān)督與第三方評(píng)估

加強(qiáng)對(duì)算法推薦的監(jiān)督是防范風(fēng)險(xiǎn)的內(nèi)在要求。為有效預(yù)防技術(shù)可能引發(fā)的社會(huì)風(fēng)險(xiǎn)，不僅需要加強(qiáng)對(duì)算法的外在監(jiān)管，更需強(qiáng)化算法行業(yè)的內(nèi)部監(jiān)督。換言之，要建立健全人工智能領(lǐng)域的行業(yè)監(jiān)督機(jī)制，提升算法行業(yè)的自律水平。值得一提的是，行業(yè)監(jiān)督與第三方評(píng)估是存在聯(lián)系和區(qū)別的。內(nèi)在聯(lián)系在于算法行業(yè)監(jiān)督的主體與第三方評(píng)估的主體都需要算法工作者的參與，而主要區(qū)別在于前者旨在促使行業(yè)建立符合法律規(guī)定和行業(yè)規(guī)范的行業(yè)規(guī)則，參與主體集中于算法從業(yè)人員，而后者則是為了準(zhǔn)確把握算法推薦的實(shí)際情況，找出主要問(wèn)題，提出對(duì)策建議，其參與主體更為多元，不僅包括算法從業(yè)人員，還包括其他相鄰領(lǐng)域的專家、社會(huì)公眾和監(jiān)管人員。

其一，行業(yè)監(jiān)督是推動(dòng)算法推薦有序發(fā)展的重要力量。智能互聯(lián)網(wǎng)時(shí)代的法律規(guī)制，需放棄傳統(tǒng)的強(qiáng)行干預(yù)方式，而更多地采用技術(shù)路線，把法律規(guī)制轉(zhuǎn)化為相應(yīng)的法律技術(shù)規(guī)制①馬長(zhǎng)山：《智能互聯(lián)網(wǎng)時(shí)代的法律變革》，《法學(xué)研究》2018年第4期，第20-38頁(yè)。。算法推薦技術(shù)目前已運(yùn)用于思政教育、廣告新聞、圖書閱讀、電子商務(wù)、智能投顧等諸多領(lǐng)域。盡管其在各個(gè)領(lǐng)域的應(yīng)用呈現(xiàn)出不同特點(diǎn)，但從起源論來(lái)看，算法推薦最初是由算法行業(yè)所構(gòu)建和產(chǎn)生的，不同領(lǐng)域、不同行業(yè)、不同種類的算法推薦技術(shù)均反映算法推薦的價(jià)值理念。算法被設(shè)計(jì)為特定領(lǐng)域下的執(zhí)行任務(wù)，設(shè)計(jì)師的“道德委托”影響其他主體的行為。在規(guī)制的視角下，應(yīng)確定打開(kāi)和關(guān)閉“門”的主體，授予行業(yè)的特定主體為“看門人”（gatekeepers）角色②Kirsten Martin.,“Ethical Implications and Accountability of Algorithms”,Journal of Business Ethics,2019,Vol.160,No.1,pp.835-850.。因此，應(yīng)加強(qiáng)算法推薦的行業(yè)自律，構(gòu)建科學(xué)有效的行業(yè)規(guī)則，注重行業(yè)規(guī)則對(duì)法律規(guī)定的有益補(bǔ)充，以彌補(bǔ)法律規(guī)制的不足。行業(yè)監(jiān)督是行業(yè)主體基于行業(yè)準(zhǔn)則對(duì)算法推薦作出內(nèi)在監(jiān)督的集中體現(xiàn)。應(yīng)鼓勵(lì)和引導(dǎo)成立算法推薦的行業(yè)協(xié)會(huì)，建立健全算法推薦行業(yè)監(jiān)督準(zhǔn)則，從技術(shù)、法律、倫理等整體層面，建構(gòu)算法推薦的行業(yè)監(jiān)督體系。

其二，第三方評(píng)估是算法推薦健康運(yùn)行的評(píng)價(jià)手段。邏輯分析表明，經(jīng)驗(yàn)并不在于對(duì)觀察材料的機(jī)械積累，而在于嚴(yán)格的批判、嚴(yán)格的抽查和創(chuàng)造性的解釋③董軍：《人工智能哲學(xué)》，北京：科學(xué)出版社2011年版，第107頁(yè)。。對(duì)于可能引發(fā)社會(huì)風(fēng)險(xiǎn)的算法推薦行為，應(yīng)通過(guò)外在的專門評(píng)估，對(duì)其不合理乃至“臆造”的內(nèi)容進(jìn)行剝離和改進(jìn)。為此，可建立由公眾代表、專家代表、第三方代表等組成的算法審查委員會(huì)，按照一定流程，定期對(duì)算法推薦的安全系數(shù)、產(chǎn)品質(zhì)量和風(fēng)險(xiǎn)層次等進(jìn)行綜合評(píng)定，并發(fā)布相應(yīng)產(chǎn)品算法推薦的風(fēng)險(xiǎn)審查結(jié)果和評(píng)估報(bào)告，強(qiáng)化算法的第三方評(píng)估，建立智能推薦風(fēng)險(xiǎn)的專項(xiàng)評(píng)估機(jī)制。對(duì)于審查結(jié)果和評(píng)估報(bào)告中反映風(fēng)險(xiǎn)較高的算法推薦產(chǎn)品，算法審查委員會(huì)可提出糾正意見(jiàn)，有關(guān)部門也應(yīng)在綜合考慮評(píng)估結(jié)果的同時(shí)，依法作出反不正當(dāng)競(jìng)爭(zhēng)、虛假?gòu)V告、數(shù)據(jù)泄露等的責(zé)任認(rèn)定。此外，第三方評(píng)估應(yīng)兼顧社會(huì)化的公共信息推送，要完善必要的人工干預(yù)機(jī)制，對(duì)不良信息等關(guān)鍵詞進(jìn)行甄別和篩查，以挖掘具有社會(huì)、經(jīng)濟(jì)、文化和專業(yè)價(jià)值的信息，發(fā)揮算法推薦的正向功能④雷霞：《搜索引擎智能推薦的權(quán)力控制與人的能動(dòng)性》，《現(xiàn)代傳播（中國(guó)傳媒大學(xué)學(xué)報(bào)）》2021年第5期，第145-151頁(yè)。。

（四）完善算法推薦的責(zé)任認(rèn)定分擔(dān)機(jī)制

如何在法律層面確立有效的分擔(dān)機(jī)制，明確經(jīng)營(yíng)者、設(shè)計(jì)者、用戶等相關(guān)主體的責(zé)任，已成為算法推薦亟待完善的重要課題。為此，應(yīng)健全相應(yīng)的責(zé)任認(rèn)定以及責(zé)任承擔(dān)機(jī)制，以厘清算法推薦的責(zé)任主體、責(zé)任類型和責(zé)任分配。筆者認(rèn)為，可建立吸收新聞、算法、法律等專業(yè)人才的復(fù)合機(jī)構(gòu)，從內(nèi)部與外部?jī)蓚€(gè)維度，對(duì)責(zé)任認(rèn)定分擔(dān)機(jī)制作出審查認(rèn)定。

算法推薦內(nèi)部責(zé)任主要涉及經(jīng)營(yíng)者、設(shè)計(jì)者等主體的責(zé)任?？紤]到算法的透明性及其自我深度學(xué)習(xí)的特征，對(duì)算法推薦責(zé)任的認(rèn)定分擔(dān)應(yīng)覆蓋到算法的內(nèi)部運(yùn)行之中，即算法推薦信息的收集、匯聚、融合、利用的全過(guò)程⑤丁曉東：《用戶畫像、個(gè)性化推薦與個(gè)人信息保護(hù)》，《環(huán)球法律評(píng)論》2019年第5期，第82-96頁(yè)。。算法推薦內(nèi)部責(zé)任的內(nèi)容包括確保算法不存在侵害用戶權(quán)益的可能；對(duì)于算法獲取用戶的數(shù)據(jù)信息遵循知情同意（informed consent）的原則以及法治精神；算法推薦引發(fā)的風(fēng)險(xiǎn)損害可查證和問(wèn)責(zé)；算法推薦是否遵循相關(guān)行業(yè)的行為規(guī)則和倫理要求，由專門機(jī)構(gòu)和人員認(rèn)定；鼓勵(lì)經(jīng)營(yíng)者、設(shè)計(jì)者通過(guò)加強(qiáng)算法透明化設(shè)置、規(guī)范算法推薦結(jié)果等承擔(dān)社會(huì)責(zé)任；對(duì)于違反法律規(guī)范和行業(yè)規(guī)則的相關(guān)主體，應(yīng)加強(qiáng)對(duì)違法違規(guī)行為的懲處，包括民事責(zé)任、行政責(zé)任乃至刑事責(zé)任的承擔(dān)。

算法推薦外部責(zé)任關(guān)系到用戶、監(jiān)管者等主體的責(zé)任。為明確算法推薦行為的外部影響，在算法推薦外部主體承擔(dān)責(zé)任之前，可建立舉證責(zé)任倒置（inverted evidence-providing）的分擔(dān)機(jī)制，由算法推薦的提供主體作為舉證主體，以證明其行為的合法性及用戶的過(guò)錯(cuò)。如其不能證明相應(yīng)的主張，應(yīng)承擔(dān)舉證不能的法律后果。對(duì)監(jiān)管者不履行職責(zé)、干預(yù)算法推薦程序設(shè)置的行為，也可由算法推薦的提供主體予以證明。但為了社會(huì)公共利益，算法推薦的應(yīng)用可能會(huì)給個(gè)人帶來(lái)權(quán)益直接損失的，經(jīng)由相關(guān)主管部門批準(zhǔn)，可由用戶提出補(bǔ)償?shù)恼?qǐng)求，由主管機(jī)關(guān)或算法推薦提供主體承擔(dān)補(bǔ)償責(zé)任。對(duì)于需要法定許可但未經(jīng)監(jiān)管者審批的行為以及違反法律規(guī)范設(shè)置的算法推薦行為，應(yīng)由算法推薦的提供主體承擔(dān)警告、罰款或吊銷營(yíng)業(yè)執(zhí)照或許可證等行政責(zé)任。

五、結(jié)語(yǔ)

“算法已經(jīng)進(jìn)入人們的日常生活，并應(yīng)用于治理中。沒(méi)有人參與的治理變得更加普遍。我們往往在強(qiáng)調(diào)其積極作用，而對(duì)風(fēng)險(xiǎn)和不利方面的關(guān)注卻很少?！雹費(fèi)arijn Janssen,George Kuk,“The Challenges and Limits of Big Data Algorithms in Technocratic Governance”,智能算法推薦有著提供智慧化、便利化和個(gè)性化服務(wù)的技術(shù)特質(zhì)，具有提升社會(huì)經(jīng)濟(jì)效益、推動(dòng)人類文明不斷進(jìn)步等社會(huì)價(jià)值。與此同時(shí)，該技術(shù)可能引發(fā)一系列的法律、倫理等社會(huì)風(fēng)險(xiǎn)。在智能算法推薦的深度學(xué)習(xí)、自我革新的過(guò)程中，有必要深入考量其技術(shù)便利背后的算法侵權(quán)和倫理風(fēng)險(xiǎn)問(wèn)題，從法治維度予以規(guī)制和完善。為此，在加強(qiáng)算法推薦技術(shù)研發(fā)更新的同時(shí)，應(yīng)建立算法推薦的法律規(guī)制框架，平衡新型技術(shù)應(yīng)用與技術(shù)的可能風(fēng)險(xiǎn)，確立算法推薦的法律規(guī)制規(guī)則，對(duì)智能算法的合法性、場(chǎng)景性、監(jiān)管性和責(zé)任性作出回應(yīng)，以厘清智能算法推薦的應(yīng)用邊界。2021年8月20日通過(guò)的《個(gè)人信息保護(hù)法》，在第四章“個(gè)人在個(gè)人信息處理活動(dòng)中的權(quán)利”內(nèi)容中規(guī)定了個(gè)人對(duì)信息的知情權(quán)、決定權(quán)、限制權(quán)、拒絕權(quán)，這為算法推薦劃定了法律框架。2021年8月27日，國(guó)家網(wǎng)信辦發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》，就互聯(lián)網(wǎng)涉及的信息服務(wù)算法推薦向社會(huì)征求意見(jiàn)。下一步，應(yīng)在《個(gè)人信息保護(hù)法》等法律的指引下，盡快推出規(guī)范互聯(lián)網(wǎng)等領(lǐng)域算法推薦管理的立法，同時(shí)明確算法推薦技術(shù)的概念、范圍、目的、邊界和責(zé)任，推動(dòng)算法推薦的透明化、公開(kāi)化，保障用戶的知情權(quán)、隱私權(quán)和個(gè)人信息權(quán)，建立適應(yīng)智能技術(shù)發(fā)展的法治秩序，以確保算法推薦體現(xiàn)人的尊嚴(yán)和基本權(quán)利，推動(dòng)算法推薦技術(shù)的良性發(fā)展。