□陳筱貞
2021年全球人工智能秩序治理加速推進,一是在人工智能整體立法與場景類型化立法方面均有成效,二是立法基本完成對信息、數(shù)據(jù)的保護,開始進入人工智能算法核心區(qū)。2021年4月歐盟公布《歐盟人工智能法案(草案)》,6月美國參議院通過《美國創(chuàng)新與競爭法案》,成為全球人工智能治理的重要成果。同時場景立法迅速推進,5月德國聯(lián)邦委員會通過《自動駕駛法》、8月英國針對自動駕駛修訂《公路法》,人臉識別禁用行動在世界多國獲立法支持……我國在個人信息與數(shù)據(jù)安全保護立法密集頒布后,算法作為重要環(huán)節(jié)開始被納入各種層級立法的具體條款,以回應大數(shù)據(jù)殺熟、算法歧視、信息繭房、智能駕駛問責等一系列新發(fā)難題。但法律規(guī)則仍零散不成體系,整體架構和立法路線并未清晰。我國專家學者在算法治理環(huán)節(jié)、算法評估機制構建有較深入的探索,在場景化規(guī)制趨勢方面也形成了共識,但如何將這些成果納入一個完整立法系統(tǒng),如何架構彼此之間的邏輯關系,是立法需要回答的宏觀問題,也是立法的總領和開局。盡管在相關零散立法頒行后,才追溯這個起點問題,但對中國算法法律體系架構的構建,這是第一邏輯。
人工智能興起于電子商務與智慧城市兩個場域,世界各國算法實踐與研究均落地于電子商務的有序繁榮與城市管理的高效與正義。以技術催生業(yè)態(tài)的繁榮生長,以大數(shù)據(jù)帶動算法演進,電子商務與智慧城市成為算法崛起的兩極。算法在商務與政務兩個標志性領域不斷推廣與交互融合,使得法律規(guī)制面臨新的邏輯與問題。
(一)電子商務。我國在人工智能商業(yè)布局方面走在世界前列,人工智能高速發(fā)展以率先實現(xiàn)商業(yè)運用為引領,算法實際上承擔了網(wǎng)絡空間的日常治理。根據(jù)商務部電子商務和信息化司《2020年網(wǎng)絡零售市場發(fā)展報告》,2020年全國網(wǎng)上零售額11.76萬億元,比上年增長10.9%。2021年國家統(tǒng)計局數(shù)據(jù)顯示,一季度全國網(wǎng)上零售額達2.81萬億元,同比增長29.9%。同時同城零售、社區(qū)團購、生鮮到家、新零售門店等數(shù)字化模式,共同推動電商加速滲透。大規(guī)模運維所需的人工智能將被集成到業(yè)務運營的幾乎每個領域。主要體現(xiàn)在推薦引擎、智能分揀、趨勢預測、智能客服等環(huán)節(jié),其中算法模型與決策應用滲透商業(yè)利益邏輯,消費者弱勢端的權益遭遇顯性與隱性的剝奪,難實現(xiàn)救濟。從貿(mào)易活動角度分析,電子商務可以在多個環(huán)節(jié)實現(xiàn),包括電子商情、電子貿(mào)易、電子合同等,信息流、商流、資金流和部分物流可通過平臺算法運行完整地實現(xiàn)。除了買家、賣家外,還有銀行金融機構、政府機構、認證機構、配送中心等機構的加入,由于參與電子商務中的各方在物理環(huán)境上互不謀面,自動化算法的安全可信成為關鍵。
(二)智慧城市。在數(shù)智經(jīng)濟發(fā)展戰(zhàn)略中,智慧城市成為經(jīng)濟轉型、產(chǎn)業(yè)升級、民眾幸福感提升、城市可持續(xù)發(fā)展的新引擎。根據(jù)前瞻產(chǎn)業(yè)研究院《2020年中國智慧城市發(fā)展研究報告》,我國推進智慧城市建設以來,住建部發(fā)布三批智慧城市試點名單,合計計算科技部、工信部、國家測繪地理信息局、發(fā)改委所確定的智慧城市相關試點數(shù)量,我國智慧城市試點數(shù)量累計已達749個。智慧城市是城市數(shù)字化、信息化之后的高級階段,是中國城市發(fā)展轉型的主要方向。智慧城市通過多維感知、全局洞察、實時決策、持續(xù)進化等方式,幫助城市運行管理者在復雜局面下快速作出更優(yōu)決定,人工智能算法成為智慧城市強大信息處理能力的支撐。智慧城市日益龐大的“算法權力”,引發(fā)公共管理和國家安全風險隱患,備受各界關注。算法治理的多米諾骨牌效應接踵而至:從個人信息到數(shù)據(jù)安全,從算法評估到算法問責,從國家立法到地方規(guī)制和行業(yè)自治,學術探討與立法實證都在力圖勾勒出算法法律體系的應然輪廓和應有邏輯。
人工智能發(fā)展的三大支柱包括技術研發(fā)、應用推廣與秩序法治。技術和應用提速后,虛擬數(shù)字孿生世界與現(xiàn)行經(jīng)濟社會治理模式、法律架構規(guī)則互動共生出透明、公平、正義、秩序等一系列新的挑戰(zhàn)。聚焦人工智能大規(guī)模應用的電子商務與智慧城市兩大領域,我國算法立法需要解決以下焦點問題。
(一)算法治理政商分離抑或合一?算法是否存在商用與民政的分水嶺?考量的三個維度:一是數(shù)據(jù)來源與權屬;二是算法模型與邏輯;三是算法運營與應用領域。算法生態(tài)鏈包括信息數(shù)據(jù)、算法公式、應用投放三個主要環(huán)節(jié),如果三個環(huán)節(jié)均存在商用與民政的明顯區(qū)分,則考慮遵循各自的特殊價值與邏輯分離治理,反之則采合一模式。
首先,電子商務與智慧城市都是縱橫交織相互作用的系統(tǒng),參與主體包括政府、企業(yè)和個人,在信息化與城市化的高度融合的特質(zhì)下,信息、數(shù)據(jù)與應用泛在互聯(lián)。數(shù)據(jù)來源雖可溯源,但我國強調(diào)操作性規(guī)制,經(jīng)合法采集和同意協(xié)議,脫敏后的數(shù)據(jù)進入數(shù)據(jù)池與云平臺,在開放共享與自由流動的環(huán)境下,商用與民政屬性不斷轉換會導致同質(zhì)。其次,算法模型與邏輯基于特定算法目標和價值倫理,商用與民政確有較大不同,但對于通用算法,如遞推算法、分治算法、動態(tài)規(guī)劃、貪心算法、回溯法等不同領域均可適用。最后,實證觀察科技運營公司正通過戰(zhàn)略合作為智慧城市提供著全方位的運營(如IBM與深圳、昆明、寧波等城市簽訂戰(zhàn)略合作協(xié)議),或者成立“城市大腦有限公司”(如杭州)由市國有企業(yè)控股,社會企業(yè)和研發(fā)團隊參股,面向市場公司化運營。平臺出于商業(yè)利益,積極地通過各種方式協(xié)助政府的大規(guī)模數(shù)據(jù)收集與處理,通過法律授權、后門、買賣、外包甚至數(shù)據(jù)交易等方式,使得算法與數(shù)據(jù)在公私主體之間自由流動,公私界限日益模糊。于是商業(yè)領域與公共部門的權力很難簡單二元劃分,由算法引起的公私二元界限模糊使得算法治理更適宜選擇以平臺為核心的政商合一為主導的模式。
(二)算法生態(tài)三要素規(guī)制不可缺一。信息、數(shù)據(jù)與算法是人工智能算法生態(tài)中的三要素,數(shù)據(jù)是算法的原材料,數(shù)據(jù)的價值在于其中蘊含的信息,算法對兩者進行分析、處理,并經(jīng)決策系統(tǒng)導出應用。我國人工智能相關立法進程,從網(wǎng)絡與平臺,到信息和數(shù)據(jù)資源,立法均已基本完成,現(xiàn)開始探索人工智能運行邏輯的核心區(qū)“算法”的法律建構。我國《網(wǎng)絡安全法》(2017)、《電子商務法》(2019)、《網(wǎng)絡交易監(jiān)督管理辦法》(2021)在網(wǎng)絡運營環(huán)境方面有較好的規(guī)制和維護;在信息數(shù)據(jù)標準化方面有《信息安全技術個人信息安全規(guī)范(2020版)》《大數(shù)據(jù)標準化白皮書(2020版)》《人工智能安全標準化白皮書(2021版)》。同時基本形成了個人信息保護、數(shù)據(jù)保護的立法,《個人信息保護法》和《數(shù)據(jù)安全法》均已發(fā)布,《個人信息保護法》第24條、第55條、第73條針對自動化決策的定義、透明度、算法解釋、算法推送、算法評估做了初步規(guī)定,為算法體系化規(guī)范做了鋪墊。但算法的系統(tǒng)化法律規(guī)制仍處于滯后狀態(tài)。對信息、數(shù)據(jù)的保護并不能解決自動化算法的價值嵌入與模型設計等向善問題,最終通過算法輸出的應用結果還是面臨失控風險。
(三)權利空窗與算法責任悖論。算法是一系列解決問題的清晰指令,代表著用系統(tǒng)的方法描述解決問題的策略機制。對算法的法律性質(zhì),我們持產(chǎn)品抑或行為規(guī)則立場,在法律非賦格算法時代,算法并非法律主體,就無算法權利可言,嚴謹意義上應該是“算法上的權利”,或“基于算法的權利”。在“算法可責”的現(xiàn)實呼聲與立法探討中,無論“算法權利”,還是“基于算法的權利”,都面臨于法無據(jù)的風險。算法責任在權利和義務并未經(jīng)立法構造好的情形下,先行醞釀,這種實用主義路徑有悖傳統(tǒng)法律邏輯,卻在大數(shù)據(jù)時代和智能時代越來越被追隨,類同于個人信息和數(shù)據(jù)的保護立法?;蛟S中國不會法定信息權或數(shù)據(jù)權的類型,但侵害責任已清晰立法并成體系。算法應走上先規(guī)制責任,再建構權利的路線,這是法理邏輯與法律功能對抗后的有效選擇,也是法律工具于科技發(fā)展、國家利益的一種時代實證。算法環(huán)境中若有權利設計,應包括:知情權、選擇權、解釋權、參與權、異議權、求償權。
(四)過程主義與結果主義。算法規(guī)制的策略可劃分為兩大類:一是基于結果主義的事后問責;二是強調(diào)過程控制的事前規(guī)制。結果主義認為,從應用結果問責倒逼算法過程自覺正當,可以規(guī)避算法透明和算法解釋的復雜技術,避開過程規(guī)制的高成本。過程主義認為,算法在互聯(lián)網(wǎng)環(huán)境里瞬間、大規(guī)模與不可逆,沒有事前監(jiān)管可能會有難以挽回的損失,僅事后問責不足以實現(xiàn)算法的安全與救濟。況且算法權利還處于立法空窗期,問責程序的起點還未有立法明確,包括權利人適格、具體權利內(nèi)容等,加上算法侵害不易被感知,因果關系辨析也更為復雜。同樣的規(guī)制目標,采行政部門與行業(yè)管理在算法過程監(jiān)管更為實效。2021年3月中國人民銀行發(fā)布了《人工智能算法金融應用評價規(guī)范》,其中第6部分“安全性評價”對算法的依賴庫、可追溯性、內(nèi)控機制提出具體和描述性的標準和要求。第7部分“可解釋性評價”,涵蓋建模準備、建模過程和建模應用。通過標準化規(guī)范構建,使針對算法“黑箱”的立法在一定程度上成為可能。同時,事后問責行政規(guī)制的嘗試也正在開啟。2021年7月國家市場監(jiān)管總局發(fā)布《價格違法行為行政處罰規(guī)定(修訂征求意見稿)》,其中針對廣受關注的“大數(shù)據(jù)殺熟”,規(guī)定在沒收違法所得基礎上,可并處上一年度銷售額最高5‰罰款。過程主義與結果主義結合,對于算法立法更為安全有效,從局部行業(yè)示范到推廣,需要漸進探索。從行政問責到民事問責的完善,也必走賦權之路。
(五)超越國際立法經(jīng)驗的中國邏輯。算法評估監(jiān)管和算法問責在國際上已有歐盟、美國、加拿大、德國等國先行經(jīng)驗,但各國對權利、安全和發(fā)展的博弈有所不同,算法戰(zhàn)略目標存在差異。盡管聯(lián)合國、國際協(xié)會、國家聯(lián)盟及產(chǎn)業(yè)聯(lián)盟等層面均有人工智能規(guī)則陸續(xù)出臺,但數(shù)據(jù)全球化立法與數(shù)據(jù)本地化立法的對峙已然成型,新一輪立法管轄權沖突正悄然升級,算法技術化立法規(guī)制也同時打上國家利益的烙印。中國算法立法應充分借鑒國際立法經(jīng)驗,實現(xiàn)算法通行治理的有效性,同時要更符合人工智能在中國社會發(fā)展中的戰(zhàn)略目標和應用邊界,創(chuàng)立國家發(fā)展利益優(yōu)位的法律體系與規(guī)則。
(一)數(shù)字孿生觀下的規(guī)則創(chuàng)新。當前數(shù)智中國建設已步入“數(shù)字孿生時代”,數(shù)字空間正在通過物理模型、傳感器更新、運行歷史等數(shù)據(jù),實現(xiàn)對現(xiàn)實空間的復制、互動和超越。美國學者勞倫斯·萊斯格認為,網(wǎng)絡空間和物理空間一樣,都存在著四種力量,分別是法律、市場、社群規(guī)范和架構[1]。市場與社群的自動調(diào)整效應會投射于算法的主體自覺,而架構和法律需要我們探索設計。算法作為虛擬世界人工智能運行的核心規(guī)則,要將現(xiàn)實社會法律原則和規(guī)則嵌入其模型和邏輯,實現(xiàn)“法律即代碼”的規(guī)訓。同時兼容算法運行與決策的技術特性,創(chuàng)設新規(guī)則。
1.算法法律關系新解構。弱人工智能算法非主體人格階段,算法是一種策略機制,應界定為應用中的工具屬性,于此展開法律關系結構分析。算法從設計到應用再到執(zhí)行的整個流程涉及眾多的主體,包括算法設計者、算法應用者、用戶、監(jiān)管者以及受直接或間接影響的第三人,這些主體基于算法這一連接點建立的社會關系可以被稱作算法法律關系?;谒惴ㄗ詣踊瘺Q策主體的復雜性、效應的長期性,以及參與因素的多樣性,有必要將“負責任”的算法制度目標置于一個覆蓋算法自動化生命周期的框架內(nèi)。即從設計、部署、運行到結果應用的整個算法自動化決策流程中,對相關責任主體的權利與義務均予以一定的法律控制。針對數(shù)智化戰(zhàn)略下迅速搭建的各種應用場景,構建的各種新型關系,行業(yè)立法和地方立法正嘗試從行政責任和刑事責任設立規(guī)制,而民事關系的梳理還未統(tǒng)一。如《電子商務法》《人工智能算法金融應用評價規(guī)范》《價格違法行為行政處罰規(guī)定(修訂征求意見稿)》《道路交通安全法(修訂建議稿)》等行業(yè)立法;《杭州城市大腦賦能城市治理促進條例》《浙江省平臺企業(yè)競爭合規(guī)指引》《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例(草案)》等地方立法,均有算法行政責任規(guī)范或刑事責任提及。接下來我們需要側重商榷算法民事法律關系,包括主體適格和權義內(nèi)容,具體涉及設計方、運用方(與否運用方連帶責任)、用戶(合同關系、侵權關系或消費關系)。只有直面法律關系,算法責任才得以系統(tǒng)化合理建立。
2.算法責任新樣態(tài)??档略谕苿舆壿媽W從傳統(tǒng)形式邏輯走向現(xiàn)代辯證邏輯的過程中,提出樣態(tài)觀包括可能與不可能、存在與不存在、必然與偶然等三組邏輯判斷。算法是一種人機交互場景下決策的新形態(tài)。在算法技術下,人類可以通過代碼設置、數(shù)據(jù)運算與機器自動化判斷進行決策,這個過程人機共同參與,既有人的決策又有機器的自動化決斷,算法責任會出現(xiàn)超越人們已有認知的樣態(tài)。
(1)“黑箱”化的算法傷害。算法“黑箱”是輸入和輸出之間的運算過程不透明的一種隱喻空間。以普遍使用葉貝斯算法為例,用若干給定的點連線組成圖形,從而表示事件之間的因果推導關系。該算法規(guī)范運用商業(yè)活動和醫(yī)療診斷系統(tǒng),消費者和患者可能無從知曉指令的運算過程,無法得知結果的正當性但在特定情勢下又別無選擇[2]。不可信算法應用風險責任如何分配目前并未形成共識,但算法歧視、價格殺熟、信息繭房等傷害成立已獲確認并陸續(xù)納入法律調(diào)控。對算法應用致害,目前可以納入產(chǎn)品和服務責任范疇,例如自動駕駛汽車責任、金融智能投顧責任等。算法透明制度在逐步建立,“黑箱”不可知并不能切斷因果關系而免責。
(2)平臺責任的政商分離。平臺是算法的使用者與控制者,各國都加強了算法造成危害結果后對平臺的問責,“西班牙谷歌案”等一系列司法判例,以及一些行政處罰案都表明了平臺算法還有從設計階段問責的傾向,它有義務減輕算法可能帶來的任何負面影響或者潛在危害。平臺責任應區(qū)分設計者責任、運營者責任與應用者責任。在算法治理政商統(tǒng)一的模式下,智慧城市平臺責任最具代表性。智慧城市行政管理者與技術服務商職責和身份不同,在法律責任上的適格與承擔也必然不同。我國智慧城市運行于城市大腦平臺,運行模式可以是政府與企業(yè)合股,也可以是政府向企業(yè)外包,還可能作為駕駛艙或項目在總包下進行分包。那么算法責任該如何安排?如果政商責任合一,從行政管理法律關系上比較容易確定,政府一方先對外承擔責任,然后再向科技企業(yè)追償。但追償是一個結果叵測的事情,掌握海量數(shù)據(jù)、上下游信息以及核心技術的科技企業(yè),已在數(shù)據(jù)信息戰(zhàn)略資源上占據(jù)絕對優(yōu)勢,如果法律責任居次,不利于警戒企業(yè)自律,極大可能滋長信息、數(shù)據(jù)、算法安全事件或事故,且后果不可逆轉。所以,建議算法責任政商分離,在協(xié)議約定基礎上,立法強化各自職責和業(yè)務規(guī)則,在問責流程及責任安排上各負其責,不選擇連帶方案。
根據(jù)算法在政務平臺的功能,責任主體的確定可分為以下幾種情況:一是在算法輔助政府決策場景中,行為最終由代表政府意志的主體作出,承擔責任的主體是政府機關,而非算法技術。二是在算法自主決策場景中,因算法錯誤導致決策侵害了行政相對人的合法權益,應當承擔責任的是算法設計企業(yè),技術價值中立在此不能成為抗辯的理由。三是因算法設計違背價值倫理或運維違反技術操作規(guī)程,導致算法錯誤,政府機關可以要求算法設計者或運維者承擔責任。四是平臺企業(yè)因行政機關授權具有公共事務職能濫用行政權力而濫用市場支配地位的,應承擔法律責任。平臺責任方式包括停止使用有技術瑕疵的算法,賠償對人身、財產(chǎn)造成的損害,恢復名譽并消除不良影響等。
(3)算法透明并非責任豁免。辨析算法責任的因果關系很大程度上回溯于算法透明中的算法解釋與算法評價備案。無論是歐盟GDPR的算法專條還是美國的《算法問責法案》,其中的算法透明度、可見性、評估、認證等制度均充分體現(xiàn)了算法風險預防型流程監(jiān)管的加強趨勢。如果算法履行了透明義務,是否可以豁免算法責任?過程正義是否就能實現(xiàn)結果正義?由于算法是批量、大規(guī)模、系統(tǒng)性的決策,效果會放大,自動化數(shù)據(jù)軌跡的原始記賬性不可更改導致影響難以撤回,所以算法將監(jiān)管和審查的對象從具體信息前移至算法的開發(fā)與部署,是實現(xiàn)算法結果正義的程序性保障。由于算法可能發(fā)生的實時變化,以及算法運行的有關因素并非都可控,算法透明并不一定完全能實現(xiàn)結果正義。我國算法評估和審計制度在構建和推廣進程中,如果算法透明義務的履行可以豁免結果責任,那么是用透明度的制度設計博弈算法技術的精深和嬗變,這并非法律能夠勝任,也不是法律本義。如果透明就可以免責,算法結果責任也會隨算法評估的普適而逐漸失去意義。算法透明并不能豁免算法責任,它是從前期可以過濾、減少算法傷害的法律程序和技術,盡管成本高卻效益深遠,不能功利地繞開或取締。完整的算法責任體系應包括事前責任(倫理嵌入、透明與備案)、事中責任(運維監(jiān)控、透明與備案)、事后責任(停止并賠償威脅或損害)。
(二)國家倫理立法下的地方立法規(guī)程化與場景規(guī)制行業(yè)化。
1.算法倫理國家立法。2017年7月國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》提出人工智能監(jiān)管制度構建分三步走的部署,當下應進入第二步階段,即建立人工智能法律規(guī)范、倫理規(guī)范和政策體系,形成對人工智能安全評估和管控的能力。人工智能核心算法既有歸一性又有差異性和成長變化性,國家立法作出算法倫理頂層設計,能促使利益共同體根據(jù)需要形成一系列的立法原則和規(guī)范體系。立法倫理為算法確立基本的編程規(guī)則和價值優(yōu)先順序,使其符合法律內(nèi)在道德性的要求,宏觀調(diào)控公平正義等價值目標的實現(xiàn)。倫理具體可分為社會倫理、行業(yè)倫理、區(qū)域倫理。2019年科技部發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》,強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八條原則。確立人工智能產(chǎn)業(yè)多元主體協(xié)調(diào)共治的治理機制,劃定行為底線,有效地從上位法預防風險。隨著人工智能算法性能不斷提升,算法倫理可持續(xù)調(diào)整完善,或上升為效力更高的法律形式,以適應人工智能算法普適背景下人類主控社會秩序的持續(xù)需要。
2.算法地方立法規(guī)程化?;谌斯ぶ悄墚a(chǎn)業(yè)促進政策各地有所不同,算法立法由地方落地完成,能細化國家倫理立法的要求和流程。省市級地方立法可以在法律授權下根據(jù)當?shù)刂攸c領域和產(chǎn)業(yè)進程擬定規(guī)則,如2020年10月27日通過的《杭州城市大腦賦能城市治理促進條例》、2021年8月24日發(fā)布的《浙江省平臺企業(yè)競爭合規(guī)指引》、2021年7月14日發(fā)布的《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例(草案)》。地方立法能本土化實現(xiàn)具體規(guī)范,有效落實執(zhí)行,包括政府監(jiān)管職能與治理機制、分級監(jiān)管與分類規(guī)制、行業(yè)自律與企業(yè)自治、禁止行為與社會監(jiān)督、風險評估與追溯機制等方面。如《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例(草案)》第68條規(guī)定了市人民政府設立人工智能倫理委員會,并規(guī)范了其對算法歧視、智能濫用等重點領域開展監(jiān)測與研判等五方面職責。第71條規(guī)定了分級監(jiān)管,高風險的人工智能應用采事前評估和風險預警的監(jiān)管模式;中低風險的人工智能應用采事前披露和事后監(jiān)控的監(jiān)管模式。第72條規(guī)定了算法的分類規(guī)制,根據(jù)人工智能算法運用涉及的不同領域進行分類規(guī)制,對于公共決策領域以及涉及公共利益的商業(yè)領域,算法應采取公眾可理解的方式進行算法說明。把算法規(guī)制作為人工智能發(fā)展的一個核心組成進行規(guī)范,符合國際通行做法。我國目前地方立法發(fā)布草案的范例也還屈指可數(shù),期待北京、上海、深圳、杭州等數(shù)智高地成為領跑者,以立法促進算法有序發(fā)展,實現(xiàn)算法具象化的負責與可信。
3.算法場景規(guī)制行業(yè)化。對于人工智能與未來法治研究而言,專家共識應當準確把握算法規(guī)制的場景化特征與原理,根據(jù)不同場景與情形對算法進行規(guī)制,以實現(xiàn)可信賴與負責任的算法決策。場景化規(guī)制是實用主義起點,也是歸屬。它建立在合理的算法治理系統(tǒng)下,這個系統(tǒng)的建構,包括三方面。規(guī)制體系應包括:主體自覺(平臺自治、算法倫理)、監(jiān)管機制(職能部門、全過程、監(jiān)管結果應用)、法律控制(賦權、問責)。算法作為新型的人機交互決策,會被不同的主體運用,內(nèi)嵌于不同場景和處理不同的問題。中國信息通信研究院互聯(lián)網(wǎng)法律研究中心主任方禹、中國政法大學大數(shù)據(jù)和人工智能法律研究中心主任沈偉偉等專家都主張算法場景化規(guī)制思路,但分類的標準并未清晰。筆者主張場景化規(guī)制采行業(yè)化路徑,既符合場景類型化特質(zhì),又與行業(yè)管理部門分工相協(xié)調(diào),并且在實務中已有嘗試。如中國人民銀行頒布《人工智能算法金融應用評價規(guī)范》調(diào)控金融投顧、市場監(jiān)督管理總局發(fā)布《價格違法行為行政處罰規(guī)定(修訂征求意見稿)》調(diào)控價格歧視、公安部發(fā)布《道路交通安全法(修訂建議稿)》規(guī)制自動駕駛責任等。從場景應用重點行業(yè)試點開始,逐步推及更多應用領域。
(三)算法法律體系與我國既有法律體系的補強銜接。我國算法法律體系應呈“一基兩翼”模式,以國家倫理立法為基礎和指引,以地方立法和行業(yè)立法為“兩翼”,同時融入我國現(xiàn)有法律體系,相互補充補強,協(xié)調(diào)適用。考慮避免重復立法,在《民法典》《個人信息保護法》《數(shù)據(jù)安全法》等已有的相關規(guī)定,可以同樣適用。針對算法賦權和算法責任,可以新增特別條款。既能延續(xù)又能增強我國現(xiàn)有法律框架體系,也符合算法融入社會生活的未來法治觀。例如《消費者權益保護法》對消費者權益的保護與救濟規(guī)則,在算法消費中仍可以適用?!峨娮由虅辗ā穼toC算法的規(guī)制如第18、40、77條,《反壟斷法》(修正案)與《國務院反壟斷委員會關于平臺經(jīng)濟領域的反壟斷指南》對BtoB算法的規(guī)定,均可以實現(xiàn)相應監(jiān)管效能。算法行政責任的規(guī)制先于民事責任已有地方試點頒行,如《濟寧市智慧城市促進條例》(2017)、《杭州城市大腦賦能城市治理促進條例》(2021)、《浙江省平臺企業(yè)競爭合規(guī)指引》(2021),可在其上位法的法律法規(guī)中進一步對應具體責任,協(xié)調(diào)完善并推廣?!缎谭ā房煽紤]擴展相關原罪名或新增算法罪名,適用于如危及國家安全、民事與行政法律責任不足以震懾、大規(guī)模影響嚴重的情形,具體觸刑標準有待進一步探索論證。
中國數(shù)智化進程走在世界前列,人工智能、法學、管理學、社會學等領域的專家學者們傾力探索,努力搭建符合中國社會發(fā)展和國情需要的算法法律體系,實現(xiàn)人工智能立法的完整邏輯。立法探路者考慮通過法律規(guī)則和法律價值,影響技術價值的建構,最大限度地衡平科技發(fā)展與社會秩序。我們今天使用的算法正在進化,風險與發(fā)展如影隨形,算法立法應秉持中國特有的治理邏輯與立場,在不斷完善的進程中為智慧中國向?qū)?,實現(xiàn)算法時代的安全、正義和秩序,提升中國國家競爭力。