〔摘要〕 在技術(shù)驅(qū)動和公共管理職能轉(zhuǎn)變的需求下，公共領(lǐng)域算法決策得到廣泛應(yīng)用，其在管理職能和方式中的獨特性是規(guī)則調(diào)整的前提。算法決策同公共權(quán)力的結(jié)合，使得技術(shù)發(fā)展無法中立，且在機會平等表象下可能造成對權(quán)力秩序的沖擊和對個體權(quán)利的侵害。傳統(tǒng)的法學(xué)調(diào)整方法面臨分散的個體發(fā)展同民主秩序穩(wěn)定、風(fēng)險預(yù)測與因果關(guān)系、權(quán)力賦予與權(quán)利保障等矛盾的協(xié)調(diào)問題。公共領(lǐng)域算法決策的法律規(guī)制必須在算法系統(tǒng)、價值選擇、制度構(gòu)建和評估標(biāo)準(zhǔn)層面進(jìn)行引導(dǎo)。

〔關(guān)鍵詞〕 公共管理，算法決策，自由裁量權(quán)，權(quán)力邏輯

〔中圖分類號〕D90 ?? 〔文獻(xiàn)標(biāo)識碼〕A〔文章編號〕1004-4175（2020）03-0113-08

我們身處的時代，信息成為一種有價值的資源，算法開始介入其中。算法幫助人們將分散的信息和數(shù)據(jù)整合為有用的概念、規(guī)則甚至模式。同時，信息的膨脹，讓數(shù)據(jù)挖掘和知識發(fā)現(xiàn)成為必然選擇，這意味著算法不再止步于信息查詢，而是能夠發(fā)現(xiàn)數(shù)據(jù)之間的潛在聯(lián)系，以便在準(zhǔn)確預(yù)測的前提下，更合理地制定決策。算法可以在短時間內(nèi)對大量數(shù)據(jù)進(jìn)行分類篩選，并進(jìn)行深度挖掘，將通常是非結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行模式或者關(guān)聯(lián)性的構(gòu)建，是一種新的知識生產(chǎn)方式。

伴隨計算機技術(shù)和智能硬件設(shè)備的發(fā)展，人們愈加能夠享受基于機器學(xué)習(xí)算法決策所帶來的便利，算法解決了諸多復(fù)雜的問題，節(jié)約或者超越了人力，對社會產(chǎn)生了深刻的影響。有學(xué)者研究算法作為一種權(quán)力的特征 〔1 〕，或者討論算法決策對整個法律體系和法制建設(shè)可能產(chǎn)生的影響 〔2 〕;既有的研究有從個案出發(fā)討論法律調(diào)整算法歧視的范圍和類型 〔3 〕，也有從憲法或者其他實體法出發(fā)尋找調(diào)整算法的依據(jù) 〔4 〕與方法 〔5 〕。在肯定這些研究對算法和法律之間的互動關(guān)系做出努力的同時，同樣應(yīng)當(dāng)關(guān)注算法在不同場景的應(yīng)用，尤其是以公共管理為目的的算法決策的獨特性，進(jìn)而探知公共領(lǐng)域算法決策的驅(qū)動因素和價值追求，作為公共領(lǐng)域算法決策法律規(guī)制的依據(jù)。

一、算法決策為什么被應(yīng)用在公共領(lǐng)域

算法決策是大數(shù)據(jù)時代的必然產(chǎn)物，對公共事務(wù)的發(fā)展具有技術(shù)性驅(qū)動作用，它滿足了公共管理職能轉(zhuǎn)變的需求，體現(xiàn)出其獨特的功能優(yōu)勢和存在的系統(tǒng)性問題。

（一）公共領(lǐng)域算法決策的應(yīng)用優(yōu)勢。公共領(lǐng)域算法決策是指對大量公共管理中的數(shù)據(jù)進(jìn)行深層次分析之后，按照既定組織目標(biāo)和秩序，進(jìn)行管理方法的探索，重復(fù)既有成功的、驗證已知的、揭秘隱藏的、發(fā)現(xiàn)未知的有效信息和規(guī)律價值，并創(chuàng)建模型，促進(jìn)公共管理運作。算法決策在公共領(lǐng)域的應(yīng)用，是基于結(jié)構(gòu)化的數(shù)據(jù)而獲得較強的驅(qū)動力。公共服務(wù)傾向于使用數(shù)據(jù)分析和算法決策來實現(xiàn)政府服務(wù)的轉(zhuǎn)型，以期待更好的公共服務(wù)，比如提高工作效率，讓行政相對人獲得更好的體驗，或者以更加廣泛的決策促進(jìn)市場經(jīng)濟的發(fā)展。為了實現(xiàn)這些目的，公共服務(wù)算法的應(yīng)用也經(jīng)歷了從作為傳統(tǒng)決策的證據(jù)，向構(gòu)建算法模型的轉(zhuǎn)變。

算法在決策層面具有兩個明顯的優(yōu)勢：第一，具有更準(zhǔn)確或者更強大的數(shù)據(jù)計算能力;第二，能夠考慮到更多的因素，并發(fā)現(xiàn)這些變量之間意外的關(guān)聯(lián)。算法雖然無法預(yù)測未來，但是可以根據(jù)現(xiàn)有的數(shù)據(jù)評估發(fā)生某件事情的可能性，尤其是在錯綜復(fù)雜的因素中，發(fā)現(xiàn)那些容易被人們忽略的某些因素混合以后產(chǎn)生結(jié)果的可能性——因此可以做人類在通常的計算中無法做到的事情。

算法決策服務(wù)于行政關(guān)系，第一，加強內(nèi)部組織職能，規(guī)范權(quán)力行使的方式和標(biāo)準(zhǔn)，排除個人行為對整體行政職能的損害;第二，加強對行政相對人的監(jiān)管，改變管理方式，適應(yīng)新的時代特征，提高效率且有助于約束個人行為;第三，幫助公共管理凝聚共識，使得人在物理和信息層面的流動性加強，導(dǎo)致法律關(guān)系主體復(fù)雜化，客體多元化，法律關(guān)系在多層次和多場景中展開。這使得自發(fā)形成的社會規(guī)范如習(xí)慣和道德倫理愈加無法得到統(tǒng)一和普遍適用，而算法決策對于建構(gòu)性規(guī)則在作為證據(jù)和價值指引層面的作用得以增強，從而有助于規(guī)則的統(tǒng)一，并可以為立法提供依據(jù)。

（二）公共領(lǐng)域算法決策的方式及問題。公共決策應(yīng)用算法的形式主要有兩種，第一是自動化系統(tǒng)，第二種是深度學(xué)習(xí)系統(tǒng)。在算法的自動化階段，算法決策帶來的進(jìn)步主要體現(xiàn)在技術(shù)層面，比如行業(yè)基礎(chǔ)規(guī)則的嵌入、算法在特定場景的應(yīng)用、底層技術(shù)與交互技術(shù)的融合、算法語言與可視化系統(tǒng)的發(fā)展以及數(shù)據(jù)開發(fā)精確性的進(jìn)步 〔6 〕。自動化系統(tǒng)的優(yōu)勢符合公共服務(wù)的決策原則，即政府應(yīng)當(dāng)以合法的方式行使權(quán)力，并以公平、有效、高效的方式輸出決策。自動化系統(tǒng)傾向于處理較為簡單的問題，在決策程序上更多的扮演證據(jù)的效力或者是發(fā)揮輔助的作用。所以在這一層面，其法律問題爭議不大。算法發(fā)揮輔助作用，讓決策者對公共管理所預(yù)期的結(jié)果有了更清晰的認(rèn)識;可以對結(jié)果或者目標(biāo)是否達(dá)成進(jìn)行實時測量或者監(jiān)控;在這一過程中運用算法對行政行為進(jìn)行糾正，并且讓定期科學(xué)的事后評估成為可能。

對于自動化系統(tǒng)，公共服務(wù)面臨的一個問題是，如何將越來越復(fù)雜的元素結(jié)合在一起得出簡單并且客觀的結(jié)果。海量數(shù)據(jù)可能會讓機械性的決策系統(tǒng)效率低下。另外，行政相對人也愈加需要個性化的服務(wù)。而這一層次的問題特別需要技術(shù)的進(jìn)步，以實現(xiàn)更加有效和個性的公共產(chǎn)品輸出。在這種需求的推動下，算法向深度學(xué)習(xí)系統(tǒng)轉(zhuǎn)變。深度學(xué)習(xí)系統(tǒng)不僅可以加速決策，而且可以改善決策。在滿足決策的專業(yè)性和標(biāo)準(zhǔn)化要求層面，深度學(xué)習(xí)系統(tǒng)發(fā)揮了重要的作用，即可以讓政府通過系統(tǒng)地利用知識來指導(dǎo)具有前瞻性和社會變化的決策方式;通過這些算法來幫助政府應(yīng)對耦合和復(fù)雜的問題;通過分析復(fù)雜的數(shù)據(jù)，并結(jié)合其他領(lǐng)域的資源，挖掘那些容易被忽略和錯過的信息，或者排除不必要因素的干擾。所以與自動化系統(tǒng)不同，深度學(xué)習(xí)算法不僅可以復(fù)制既有的成功做法并降低人工成本，而且可以比人類做得更好。因此將深度學(xué)習(xí)算法制定的政府決策納入合法性評價體系中，還必須思考：第一，這種深度學(xué)習(xí)算法追求何種價值，其應(yīng)用的績效以及執(zhí)行的標(biāo)準(zhǔn)為何，在進(jìn)行法律的評估之前這些問題都必須加以明確。第二，由于這一系統(tǒng)不僅承擔(dān)了人類決策的工具性作用，而且對決策具有結(jié)構(gòu)化增強作用，因此，必須考慮如何讓傳統(tǒng)的行政法主體去承擔(dān)責(zé)任。第三，如何讓基于深度學(xué)習(xí)系統(tǒng)的政府行為具有可預(yù)測性、可解釋性和可控制性。這些問題的實質(zhì)就是解決公共領(lǐng)域算法決策的合法性問題。

二、公共領(lǐng)域的算法決策為什么需要規(guī)制

公共領(lǐng)域的算法決策具有人力所無法實現(xiàn)的優(yōu)勢，驅(qū)動著決策系統(tǒng)的技術(shù)升級。隨之而來的問題是政府依靠大量數(shù)據(jù)作出的決策，如果違背行政實體法或者程序法，是否可以被問責(zé);實踐中政府對算法決策的快速部署，比如在福利分配或者安全防控方面，會給公民權(quán)利帶來風(fēng)險，這使得算法如何對規(guī)范結(jié)構(gòu)產(chǎn)生作用受到關(guān)注;如果行政主體的決策可以基于算法主張免責(zé)，背后的數(shù)據(jù)驅(qū)動可以跳脫法律價值的判斷，屬于政府監(jiān)管或服務(wù)的對象，是否可以因為算法的應(yīng)用而主張免除責(zé)任，是否可以同公共領(lǐng)域算法決策起到同樣的效果。要回答這些問題，就必須對公共領(lǐng)域算法決策中立性問題和合法性問題進(jìn)行思考。

（一）算法決策的中立性判斷和透明度需求。從政治哲學(xué)出發(fā)，“政治事務(wù)依照其本性容易受到支持與反對、選擇與抵制以及稱贊與責(zé)怪” 〔7 〕3。因此，算法決策作為一種公共管理的手段，本質(zhì)性的知識和判斷性的標(biāo)準(zhǔn)應(yīng)當(dāng)為人們所了解。就這一問題的回答，西方學(xué)者歷來存在爭議。一種傾向認(rèn)為，數(shù)十年來，將技術(shù)應(yīng)用于政務(wù)決策的實踐一直存在，因此依靠算法做出管理決策并非深層次的改變 〔8 〕86;與之相對應(yīng)，近年來有學(xué)者傾向于認(rèn)為，技術(shù)已經(jīng)成為公共管理的中心 〔9 〕，公共領(lǐng)域算法決策應(yīng)當(dāng)被重新定義為數(shù)字時代的治理;還有學(xué)者關(guān)注如何將分散的數(shù)據(jù)進(jìn)行共享，并建立一站式服務(wù)，在這個層次上已經(jīng)涉及權(quán)力的分配問題。

技術(shù)變革通過影響公共管理能力而更廣泛地對制度決策產(chǎn)生影響。因此關(guān)于公共領(lǐng)域的算法決策，與其單純地在公共職能視角下理解技術(shù)的發(fā)展和應(yīng)用，毋寧說是理解技術(shù)對傳統(tǒng)公權(quán)力的影響。人們普遍接受電子政務(wù)在現(xiàn)代行政權(quán)力中所發(fā)揮的作用，并就權(quán)力機關(guān)的職責(zé)形成普遍共識，那么算法決策是否可以視為電子政務(wù)呢？或許有人會說，電子政務(wù)具有輔助性，而算法決策是對人力的替代，因此，電子政務(wù)是傳統(tǒng)行政權(quán)力的延伸，而算法則不能依照傳統(tǒng)的程序和實體性法律問責(zé)。算法應(yīng)用于決策之中，是一種輔助證據(jù)還是決策取代因素在實踐中并沒有嚴(yán)格限制。從目前來看，決策者可以開發(fā)風(fēng)險評估的簡單方法，基于上下文的簡單規(guī)則進(jìn)行評估，這個時候行政相對人被分配的風(fēng)險就較少;隨著數(shù)據(jù)收集和分析工具的增加，決策者可以使用算法來加權(quán)和聚合承擔(dān)管理職能的人所選擇的大量指標(biāo)，進(jìn)而提供對決策具有重要影響的報告;算法同樣可以基于機器學(xué)習(xí)來識別、加權(quán)和匯集有用的指標(biāo)并且開發(fā)最佳的統(tǒng)計模型，進(jìn)而無需人工的參與。這表明，當(dāng)技術(shù)性因素攝入較少而依然保持權(quán)力機關(guān)工作人員的主導(dǎo)性時，算法決策與電子政務(wù)一樣可以納入行政法調(diào)控的范疇。

但當(dāng)算法決策超越傳統(tǒng)的決策能力時，是否可依技術(shù)中立而拒絕承擔(dān)責(zé)任呢？問題集中到，公共領(lǐng)域技術(shù)應(yīng)用是中立的嗎？答案是否定的。認(rèn)為人工智能與算法奉行價值中立原則的人，往往基于算法可以將信息篩查與風(fēng)險評估適用于所有全體，因此可以同平等相兼容。而傳統(tǒng)的分類是建立排斥系統(tǒng)的重要步驟，即將個人從一組中分離出來，或者將一個組從一個類別當(dāng)中分離出來。南非歷史上的種族制度，比利時在盧旺達(dá)殖民時期的特權(quán)制度，以及納粹的優(yōu)生制度，甚至美國的Jim Crow制度都是被法律所明確的分離標(biāo)準(zhǔn)的典型代表 〔10 〕。這一法律分離的標(biāo)準(zhǔn)還需要其他社會規(guī)則維持附加規(guī)則。因為傳統(tǒng)的分離和篩查制度是為了維護(hù)分離的實質(zhì)。傳統(tǒng)的公共管理決策中，這些不公平的決策容易引起公民的警惕，因為這些篩選的依據(jù)可能是歧視性的，判斷的標(biāo)準(zhǔn)也不客觀。在算法決策中，篩選對全部公民是平等的，但分類是個別的，分類被隱藏在表面平等之下。所以法律一旦確認(rèn)了誰享有特權(quán)或者誰沒有特權(quán)進(jìn)行分類，那么分類與篩選都只是一種隱藏特權(quán)的表象：其一，算法可能不是簡單地復(fù)制歧視性的標(biāo)準(zhǔn)，比如把種族、國籍、宗教等作為分類標(biāo)準(zhǔn)，但是算法有能力使用有關(guān)的抽象信息達(dá)到同樣的效果，比如生物數(shù)據(jù)、網(wǎng)路活動軌跡、社交信息，然后進(jìn)行記錄、提取與分析。其二，在這一過程中機器學(xué)習(xí)取代了人力的判斷，算法決策無需對個人進(jìn)行分類就可以實現(xiàn)篩選的目的，而在人工的時代分離往往是篩選的前提，擁有了種族制度或者特權(quán)制度，才需要在教育、職業(yè)甚至娛樂層面進(jìn)行區(qū)別。分離是篩選的前提還體現(xiàn)在分離強調(diào)諸多的外在形式，比如檔案記錄、流程的連續(xù)以提供人工篩選使用。但是這些形式化要求都被算法所突破，分類并非篩選的必經(jīng)程序。二者的順序可以互換也可以同步完成。其三，以往篩選與分離經(jīng)過長期發(fā)展，在民主決策與平權(quán)運動的推動下，篩選的目的必須為社會公眾所認(rèn)可，比如基于反恐和安全的需要，而分離的標(biāo)準(zhǔn)也必須是法律明確規(guī)定或授權(quán)使用的依據(jù)。算法決策不僅可以對流程進(jìn)行組合，而且可以對數(shù)據(jù)目的進(jìn)行延伸性使用，完全數(shù)字化和自動化的結(jié)果導(dǎo)致公民幾乎不可能查閱與追問這一分類和篩選的過程，也就無法對其目的、主體、程序和結(jié)果進(jìn)行合法性判斷。因此，算法介入公共決策的程度可以由淺入深，但是算法對人力的徹底取代或者管理方式的創(chuàng)新，并不能實現(xiàn)真正的中立，且會將過去很多違背法治價值的現(xiàn)象被隱藏或者被放大。

（二）算法決策的權(quán)力賦予與法治需求。在現(xiàn)代法治國家，人們普遍認(rèn)為行政權(quán)力應(yīng)當(dāng)受到法律約束。雖然就算法決策對基本權(quán)利、民主制度以及善的理念的影響，各國憲法和行政法如何調(diào)整有所不同，但是對算法決策的法律規(guī)制應(yīng)當(dāng)包括形式和實質(zhì)兩個方面業(yè)已達(dá)成共識，前者側(cè)重合法性的來源和形式，后者側(cè)重程序和實質(zhì)性具體制度規(guī)定 〔11 〕。而算法決策代表著一種權(quán)力話語的轉(zhuǎn)換，其結(jié)果是防止那些受到自動化系統(tǒng)影響的人理解決定如何做出以及背后的邏輯和推理。正如?？滤?，語言塑造著我們對合法性的理解和認(rèn)識。在從人工向算法決策轉(zhuǎn)變的過程中，當(dāng)然隱匿著權(quán)力的轉(zhuǎn)換，但這不是一個新穎性的話題。這種權(quán)力轉(zhuǎn)換在法律規(guī)制層面并不陌生，因為對國家安全、商業(yè)秘密、個人隱私的保護(hù)，其背后都是一種權(quán)力對信息和財產(chǎn)的控制。公共領(lǐng)域算法決策代表著向誰賦予權(quán)力的問題，因此必然涉及合法性問題。

算法決策對整個法律體系方面的影響，比如創(chuàng)新行為規(guī)則，對既有規(guī)則進(jìn)行補充，其本質(zhì)是擴展并深化權(quán)力對社會的滲透。雖然算法決策同社會流動性與信息化密不可分，但是其在私人領(lǐng)域的應(yīng)用與政府制定公共決策存在較大區(qū)別，二者所追求的價值不同。商業(yè)決策在主體地位平等的情景下，對自由價值的追尋，通過新型權(quán)力的創(chuàng)設(shè)，形成同國家法律、市場和技術(shù)的競爭關(guān)系，是對現(xiàn)有規(guī)則的創(chuàng)新和補充;公共領(lǐng)域算法決策則追求實質(zhì)平等的結(jié)果，是權(quán)力對分散的市場決策則所進(jìn)行的整合。政府通過算法決策增強其權(quán)力的實施，對既有的管理對象進(jìn)行規(guī)范的整合。以算法制定的公共決策更加的不透明和復(fù)雜，可能會加劇既有的不平等。算法決策會將設(shè)計者固有的偏見擴大。較之于商業(yè)算法，公共決策中的算法歧視往往更具有隱蔽性，原因歸結(jié)為：第一，算法決策表面上使用的基礎(chǔ)數(shù)據(jù)是中立的，但是因為使用的數(shù)據(jù)中隱藏著應(yīng)保護(hù)的敏感信息，即“冗余編碼” 〔12 〕的存在，這些原本客觀的數(shù)據(jù)一旦被組合在一起，便成為歧視的根源。公權(quán)力較之于私人決策者具有更廣泛的資源和手段獲取公民的敏感信息。第二，設(shè)計者偏見的輸入因政府利用數(shù)據(jù)決策的系統(tǒng)而變得更為復(fù)雜，數(shù)據(jù)處理階段、信息控制挖掘階段、結(jié)果展示階段都有可能帶入偏見，而僅僅在結(jié)果展示層面歧視容易被發(fā)現(xiàn)，事實上是數(shù)據(jù)的獲取、取樣、篩選、轉(zhuǎn)換以及數(shù)據(jù)存儲的管理、規(guī)則的設(shè)計與評價都有可能存在歧視。公共管理合法性對主體具有嚴(yán)格的限制，這導(dǎo)致依靠技術(shù)層面服務(wù)器所產(chǎn)生的問題和發(fā)生在網(wǎng)絡(luò)信息空間的問題比較容易規(guī)避行政法的調(diào)控。

因此，算法決策雖然對傳統(tǒng)行政權(quán)力為代表的公共權(quán)力有不同程度的影響，但并不能基于技術(shù)中立而免除公共領(lǐng)域算法決策的問責(zé)。算法決策的本質(zhì)是一種權(quán)力的賦予。算法決策小心謹(jǐn)慎地收集和分析有關(guān)公共事務(wù)的信息和數(shù)據(jù)，同公共權(quán)力的結(jié)合，使得決策對社會治理結(jié)構(gòu)性影響和對私權(quán)利的風(fēng)險更具有隱蔽性，因此必須以法治目標(biāo)對算法決策進(jìn)行評價和規(guī)范。

三、公共領(lǐng)域算法決策對傳統(tǒng)法律規(guī)制的挑戰(zhàn)

對算法決策中立性的否定和透明度的需求分析說明將公共領(lǐng)域算法決策納入法律規(guī)制的必要性。但是算法決策合法性問題的核心不在于它比人類更加不透明，更加復(fù)雜或者更具有偏見，如果是這樣，那么對人類決策起作用的問題機制經(jīng)過一系列的修改，即規(guī)則的精細(xì)化將起到作用。公共領(lǐng)域算法決策本身蘊含著這樣的矛盾，創(chuàng)造價值并制造價值沖突，即當(dāng)在公共管理視域中，法治的進(jìn)步蘊含著對以知識代替意見與以客觀標(biāo)準(zhǔn)代替主觀隨意性的要求，由此建立起為社會一般公眾所認(rèn)可的規(guī)則體系，這一過程并不摒棄價值的存在。尤其是在社會公共領(lǐng)域，如果沒有價值判斷就不能進(jìn)行重要社會現(xiàn)象的研究。但是承認(rèn)價值評價，并不代表拒絕和排斥價值的沖突，比如在制度構(gòu)建上自由和秩序的選擇，在路徑上保守還是改革的方法，在歷史進(jìn)程中前學(xué)科知識和現(xiàn)代知識體系的優(yōu)越性判斷，而這恰恰是算法決策必須面對的困境。因此，厘清算法決策作為一種知識形態(tài)或者技術(shù)方法及其對法律傳統(tǒng)方法形成的挑戰(zhàn)就成為法律規(guī)制的前提。

（一）以分散個體為導(dǎo)向沖擊法律秩序的追求。算法決策代表了一種明顯的市場向度，無論從理論上還是實踐上，都對社會政治和經(jīng)濟制度構(gòu)建影響深刻 〔13 〕。算法決策的核心價值追求是效率，促使社會資源的投入向著超過人工生產(chǎn)力的大規(guī)模機械化作業(yè)進(jìn)行傾斜，包括人工智能和自動化決策。其在市場機制中體現(xiàn)的尤為明顯 〔14 〕。在制度上，算法決策削弱了程序護(hù)欄確保問責(zé)機制的有效性。對于傳統(tǒng)的法學(xué)價值，其目的機制在于公平、非歧視和人權(quán)保障等，以此作為標(biāo)準(zhǔn)進(jìn)行審視，算法決策很有可能被認(rèn)為具有“違法性”。但是，算法決策的創(chuàng)新和效率等價值卻受到重視，這就要求我們要學(xué)會審核代碼，而不僅僅將重心局限于合規(guī)程序。算法決策與其是一種政治哲學(xué)，毋寧說以私有財產(chǎn)權(quán)、個人自由、不受阻礙的市場和自由貿(mào)易為特征的制度取代基于正義和福利為特征的制度，通過網(wǎng)絡(luò)機構(gòu)和人工智能培養(yǎng)個人選擇美好生活的能力來最大程度地提高個人福祉，這為算法的合法性帶來系統(tǒng)性問題。因為算法決策的平等是機會均等，或者選擇均等。因此，平等的理念與社會實踐之間的差距不是因為制度設(shè)計而成為個人問題，自動化決策恰好適應(yīng)了新自由主義的認(rèn)識，平等地將有差別的人作為無差別的數(shù)字符號。超越單純的機制選擇與迭代的技術(shù)，政府一直是推動算法決策并將之用于公共服務(wù)的重要推動力量。由于經(jīng)濟社會的高速數(shù)字轉(zhuǎn)型，數(shù)據(jù)主體的有效控制，收集和處理的合法、公開、透明，輸入和輸出的充分和準(zhǔn)確，數(shù)據(jù)的存儲與訪問，技術(shù)措施的安全等問題都會引發(fā)關(guān)注。算法決策法律規(guī)制的背后，存在著明顯的價值沖突：有人保持對新技術(shù)的熱情，認(rèn)為其是解決問題的關(guān)鍵;有人擁護(hù)自由的發(fā)展，認(rèn)為個性與私營主體的多元創(chuàng)新能力優(yōu)于政府的利益;也有人主張?zhí)摂M的空間自由，防止公權(quán)力的介入。但是，如果一項技術(shù)是服務(wù)于社會中的大多數(shù)群體，政府的作用就不可替代，無論是作為社會系統(tǒng)的設(shè)計者還是行業(yè)領(lǐng)域技術(shù)創(chuàng)新的監(jiān)管者，政府都應(yīng)承擔(dān)其職責(zé)，打破技術(shù)中心主義的局限，將個體保護(hù)納入到社會系統(tǒng)的構(gòu)建中，不僅列明算法決策透明度規(guī)則的強制性規(guī)定，而且強調(diào)民主的控制。所以公共領(lǐng)域算法決策的法律規(guī)制并非讓法律保障算法，而是應(yīng)當(dāng)讓算法同法律一樣，服務(wù)于構(gòu)建公共基礎(chǔ)性的架構(gòu)。

（二）控制論基礎(chǔ)沖擊線性邏輯。問責(zé)離不開對因果關(guān)系的關(guān)注。法律責(zé)任通過線性邏輯和程序規(guī)定了被問責(zé)行為的實現(xiàn)方式。算法會為了利益進(jìn)行程序性的選擇。算法可以識別和評估所有風(fēng)險，考慮替代方案，確定減輕的風(fēng)險，并幫助闡明自動化的基本原理。算法注定了對于數(shù)據(jù)和過程的關(guān)注，也導(dǎo)致了將符號結(jié)構(gòu)提升為實際遵守的法律證據(jù)，從而有可能忽略被算法決策實質(zhì)性侵害的公正、平等和人性尊嚴(yán)的基本價值。

算法決策在邏輯上是一種以控制論為基礎(chǔ)，通過對“元數(shù)據(jù)”和“原始數(shù)據(jù)”進(jìn)行收集和分析，使用智能化設(shè)備記錄數(shù)據(jù)的頻率、時間和階段，通過網(wǎng)絡(luò)進(jìn)行設(shè)備和設(shè)備之間的通信，并且通過算法挖掘組合數(shù)據(jù)，觸發(fā)自動化的響應(yīng)機制。所以從機制上來看，算法決策是通過循環(huán)控制實現(xiàn)自動化，反對因果關(guān)系的線性邏輯。立法確認(rèn)和調(diào)整社會關(guān)系離不開從具體到抽象的總結(jié)，因此是以個體為基礎(chǔ)的規(guī)范機制。機器學(xué)習(xí)算法則通過網(wǎng)路基礎(chǔ)架構(gòu)和云端，不局限于個體用戶的定位，還包括對分散的群體數(shù)據(jù)進(jìn)行監(jiān)控。因此算法從一開始就能以敏銳的洞察力預(yù)測個體和群體層面的行為，而不需要經(jīng)過多個個體的累加和結(jié)果的總結(jié)，這種預(yù)測能力恰恰是人類認(rèn)知所無法實現(xiàn)的。

關(guān)于符號的輸入，做到完全無差別是一種絕對理想的狀態(tài)。在這一過程中，固有的偏見可能會被強化，但這不是最重要的問題。問題在于設(shè)計者制定的算法和決策系統(tǒng)，貫徹執(zhí)行的標(biāo)準(zhǔn)明顯優(yōu)于社會業(yè)已形成的線性關(guān)系，即傳統(tǒng)的因果關(guān)系。二戰(zhàn)以后跨學(xué)科的控制論發(fā)展，像美國的國防建設(shè)、英國的認(rèn)知科學(xué)，以及俄羅斯的計算機和網(wǎng)絡(luò)發(fā)展都是控制論推動算法在公共服務(wù)領(lǐng)域的實踐 〔10 〕。而公共領(lǐng)域算法決策既有的實踐表明，如果不將個人獨特的知識體系納入決策系統(tǒng)中，將是機器代替人類的延伸，由此創(chuàng)造了大量的無用階級，而這可能會對整個社會結(jié)構(gòu)帶來影響。

（三）算法精確性沖擊著權(quán)力-權(quán)利的運行。公共領(lǐng)域算法決策的法律規(guī)制所面臨的另一問題是如何通過比例原則在政府算法決策與公民個體權(quán)利保護(hù)之間取得協(xié)調(diào)。法國行政法典要求算法決策必須向數(shù)據(jù)主體說明以下要素：第一，算法決策的貢獻(xiàn)程度和方式;第二，處理的數(shù)據(jù)和數(shù)據(jù)的來源;第三，處理數(shù)據(jù)參數(shù)以及酌情加權(quán)適用于有關(guān)人員的情況;第四，處理所有進(jìn)行的操作。法國的行政法典雖然規(guī)定了政府向個人說明的義務(wù)，但是綜合這四項要素，能夠?qū)φ袨楹侠硇耘袛喈a(chǎn)生影響的只有貢獻(xiàn)程度這一實質(zhì)要素，其他三項僅是一種說明的義務(wù)。但是在行政法上，解釋與辯解歷來存在張力，因此，當(dāng)我們按照行政法要求公共領(lǐng)域算法決策的可解釋性時，并不能夠證成其合理性。另外，還必須思考的問題是，行政法所要求的合理性不允許算法錯誤的存在，這種算法錯誤有可能是基于技術(shù)的錯誤，也可能是基于歧視的錯誤。

提高算法透明度是法治的要求。算法可能帶來國家權(quán)力和平臺權(quán)力的擴張，從而擠壓公民個人權(quán)利的實現(xiàn)，因此必須通過信息公開以保障對個體行為的預(yù)測能力，防止權(quán)力在技術(shù)支撐下對個體權(quán)利進(jìn)行侵害;公共領(lǐng)域算法的應(yīng)用必須防止權(quán)力的膨脹，實現(xiàn)有序的制度安排;算法所支撐的權(quán)力除傳統(tǒng)意義上自上而下的滲透，還體現(xiàn)出實際應(yīng)用中的網(wǎng)絡(luò)化結(jié)構(gòu)和彌散性，因此也要防止數(shù)字精英對政府權(quán)力的實質(zhì)性取代。所以，對政府的算法決策應(yīng)當(dāng)采取預(yù)防性審查機制，進(jìn)行算法審查和評估，首要原則是進(jìn)行公開，以排除不合法的敏感數(shù)據(jù)的使用，確保決策的公正。同時，政府的算法決策要有民眾參與與退出機制，這是行政權(quán)在實體和程序?qū)用婧戏ㄐ缘囊蟆?/p>

算法決策挑戰(zhàn)了自由裁量權(quán)，而這關(guān)系到權(quán)力在公共管理中的運行問題。為了讓權(quán)力具有生命力，并在落實的過程中保持活力，決策的模糊性是必需的。決策期待更低層次的執(zhí)行者，對法律進(jìn)行具體的實踐和定義的完善。這意味著傳統(tǒng)的決策與執(zhí)行之間雖然并非完全一致，但是在實踐中卻保持了系統(tǒng)的有效運作。算法的精確性可能導(dǎo)致權(quán)力的集中。強大的數(shù)據(jù)分析和人工智能技術(shù)，作為創(chuàng)新驅(qū)動在諸多國家戰(zhàn)略決策層面得到重視。較之于需要長期等待的實踐和分散信息的反饋，在宏觀層面建立新的協(xié)調(diào)機制加強數(shù)據(jù)監(jiān)管和算法決策的方法備受青睞，比如數(shù)據(jù)管理機構(gòu)的設(shè)立，英國、法國、德國等國家均采取了這種策略。這種新興協(xié)調(diào)機制的具體任務(wù)包括確立步驟以明確法律法規(guī)指導(dǎo)數(shù)據(jù)應(yīng)用與人工智能技術(shù)發(fā)展。新興數(shù)據(jù)機構(gòu)向政府提供有關(guān)于人工智能和數(shù)據(jù)安全的倫理性建議，并且根據(jù)數(shù)據(jù)使用和技術(shù)應(yīng)用產(chǎn)生的潛在風(fēng)險提供專家建議和解決途徑的支撐論證。在這一層面上，歐盟的GDPR與英國的數(shù)據(jù)保護(hù)條例都被視為創(chuàng)新協(xié)調(diào)機制的體現(xiàn)。

四、公共領(lǐng)域算法決策的法律規(guī)制

公共領(lǐng)域的算法決策具有數(shù)字經(jīng)濟時代的流動性特征，這是由宏觀環(huán)境決定的。公共管理要體現(xiàn)技術(shù)進(jìn)步帶來的歷史性特征，并基于算法的應(yīng)用具有自身的獨特性，這取決于技術(shù)的發(fā)展和法治的本質(zhì)追求。因此公共領(lǐng)域算法決策的法律規(guī)制在算法系統(tǒng)、價值選擇、制度構(gòu)建和評估標(biāo)準(zhǔn)層面需要對時代要求和技術(shù)特征作出回應(yīng)。

（一）將結(jié)果評估與裁量權(quán)控制相結(jié)合。算法應(yīng)用的反應(yīng)性系統(tǒng)在實現(xiàn)行政監(jiān)管時側(cè)重以結(jié)果為中心，其優(yōu)勢是可以保障管理質(zhì)量的實現(xiàn)，主要工作方法是通過算法制定標(biāo)準(zhǔn)，現(xiàn)實中主要針對作為市場主體的生產(chǎn)者。在監(jiān)督和評估過程中，反應(yīng)性系統(tǒng)算法雖然給予數(shù)據(jù)輸入層面（對應(yīng)著生產(chǎn)條件）的自由，但是結(jié)果的控制迫使其必須通過降低成本才有可能獲取更大的優(yōu)勢，這在一定程度上鼓勵技術(shù)創(chuàng)新。但是以結(jié)果為導(dǎo)向的算法決策，可能存在嚴(yán)重問題：第一，基于算法決策而無法進(jìn)行有意義的說明和解釋;第二，為了實現(xiàn)結(jié)果目標(biāo)而進(jìn)行的數(shù)字創(chuàng)造并非真正聚焦于公共服務(wù)的質(zhì)量;第三，決策會為實現(xiàn)目標(biāo)而壓制管理人員的能動性，或者為了壓制群體和目標(biāo)之間的實際差異而最終導(dǎo)致系統(tǒng)的整體性僵化。

如果反應(yīng)系統(tǒng)以結(jié)果為導(dǎo)向，其目的是為了防止違法現(xiàn)象的出現(xiàn)，那么預(yù)測性系統(tǒng)就以干預(yù)自由裁量權(quán)為導(dǎo)向，其目的則是防止風(fēng)險的出現(xiàn)。預(yù)測性系統(tǒng)的作用在于降低行政負(fù)擔(dān)，并最大限度地符合比例原則，尤其是在檢查和監(jiān)視方面作用明顯。因此，算法決策實際上是幫助分配執(zhí)法資源，通過過濾和分類，對風(fēng)險進(jìn)行優(yōu)先性的自動排序，根據(jù)算法結(jié)果，進(jìn)行具有針對性和有效性的應(yīng)對。但預(yù)測性系統(tǒng)本身也存在風(fēng)險，比如預(yù)測性警務(wù)目前雖然被普遍接受，但是公共服務(wù)尤其是安全需求中所使用的數(shù)據(jù)和結(jié)果卻容易被動性泄露，進(jìn)而會造成其他資源分配的不公，或者權(quán)力的主動性擴張，比如從基于安全性的公共領(lǐng)域向司法領(lǐng)域延伸。這種現(xiàn)象應(yīng)該引起足夠警惕，因為個人完全被消失在社會現(xiàn)象中，存在被物化的危險。雖然都是依靠數(shù)據(jù)分析和自動化決策，公共領(lǐng)域的算法決策卻可以體現(xiàn)為不同的系統(tǒng)，結(jié)果和過程應(yīng)當(dāng)互為標(biāo)準(zhǔn)，并在法律監(jiān)管和評估當(dāng)中予以確立，防止偏廢其一而造成公權(quán)力和私權(quán)利的緊張關(guān)系。

（二）正當(dāng)程序與實質(zhì)性公平的并重。影響公民個人的法律決策應(yīng)根據(jù)正當(dāng)程序行使，而自由裁量權(quán)必須合法。因此算法決策在影響公職人員的決定時應(yīng)當(dāng)滿足合法性要求。另一方面，算法系統(tǒng)可能導(dǎo)致隱藏的或者意外的偏差，這些偏差既有人為的參與也可能由系統(tǒng)自身因素造成。雖然數(shù)據(jù)作為一種客觀存在已經(jīng)取得普遍共識，且為社會現(xiàn)象提供了廣泛的解釋權(quán)，但是算法并非是全知全能的，數(shù)據(jù)收集與校準(zhǔn)、過濾和解釋、設(shè)計和計算、路徑選擇和輸出本質(zhì)上都無法排除主觀因素的存在。在商業(yè)算法層面，法律規(guī)制要消除依賴、打破壟斷、形成良性的市場競爭，并且平衡相關(guān)利益，防止數(shù)字權(quán)力對消費者個體權(quán)利的侵蝕。因此往往采取事后救濟的方式，特別強調(diào)結(jié)果的正義，即當(dāng)商業(yè)利益對公民個體或者其他競爭者產(chǎn)生侵害時，應(yīng)當(dāng)追究責(zé)任。公共領(lǐng)域算法決策能力的提高，離不開技術(shù)創(chuàng)新與節(jié)約資本的相互結(jié)合 〔15 〕，比如智利的Cybersyn系統(tǒng)性設(shè)計。算法作為一種有效的設(shè)計有時的確以較低的技術(shù)投入改善政府的溝通能力，這與商業(yè)和市場對智能設(shè)備的更新?lián)Q代相分離。除卻技術(shù)和利益性影響，更為重要的是公共領(lǐng)域的算法應(yīng)當(dāng)遵循不同的治理規(guī)則。正當(dāng)程序不僅要求排除算法的固有偏見，而且應(yīng)當(dāng)保證正當(dāng)程序的雙重面向，即決策過程中執(zhí)法人員的決策權(quán)（因保護(hù)弱勢群體需求的酌情決定權(quán)與不采取算法作為主要證據(jù)的指導(dǎo)權(quán)）和被執(zhí)法者公正參加聽證和獲得被公開審判的權(quán)利。所以公共領(lǐng)域算法決策中的程序救濟要以實體正義作為標(biāo)準(zhǔn)，這既由算法決策的特殊性決定，也是基于公權(quán)力自身合法性與合理性的需求。

（三）構(gòu)建公共服務(wù)算法決策的民主程序。算法決策較之于人類決策更具有隱蔽性，因此算法的可解釋性尤為重要。算法的不透明可能是多種因素造成的 〔16 〕，其中之一是商業(yè)優(yōu)先權(quán)和商業(yè)秘密的存在。但是行政權(quán)力的行使不同于商業(yè)算法，其可解釋性要具備必要性：第一，法治要求個人應(yīng)當(dāng)知道不利于其決定的原因，這些原因還必須伴隨因果關(guān)系。第二，行政程序不僅僅強調(diào)決策的過程，而且強調(diào)以問責(zé)制保證決策的結(jié)果，即要求決策者必須根據(jù)某種標(biāo)準(zhǔn)來解釋和證明自己的決策，然后對過失和錯誤進(jìn)行修正。第三，法治要求社會秩序整體上的透明性，即運作的方式和原則都是透明的，為社會公眾所理解，且具有穩(wěn)定性，這是政府對于社會公眾的持久性承諾。第四，公共服務(wù)決策過程，不僅僅是一種制度性安排，還應(yīng)該是對集體道德和文化結(jié)構(gòu)的保障。因此算法還必須保障民主機制的平衡，這意味著人們不僅可以在透明的規(guī)則下實現(xiàn)民主的參與，還能夠創(chuàng)設(shè)其他的規(guī)則與自上而下的統(tǒng)合形成競爭機制，所以公共管理的目的不是僅僅讓個體成為被管理的對象，而應(yīng)該是一種集體化的主體，由此決定了公共決策中的算法也不應(yīng)該僅僅掌握在權(quán)力執(zhí)行者手中，個人和社會的公開與應(yīng)用是保障這種競爭與平衡的前提。

（四）滿足透明度和一致性的要求。透明要求程序性的法律規(guī)范，比如在歐盟法律層面依賴于歐盟數(shù)據(jù)保護(hù)原則，但一致性原則則要求不同效力位階的規(guī)范在數(shù)據(jù)收集預(yù)算決策時以結(jié)果和目標(biāo)為導(dǎo)向，所以算法決策又是一種流程性的規(guī)制模式。歐盟對算法決策的法律規(guī)制，貫徹數(shù)據(jù)保護(hù)法的傳統(tǒng)，這一框架性的法律具有如下特征：算法決策必須符合歐盟層面法律制度的“命令與控制” 〔17 〕，其具體舉措必須滿足核心法律標(biāo)準(zhǔn)，比如第5條①或者第22條②的規(guī)定;歐盟數(shù)據(jù)框架還賦予一些數(shù)據(jù)主體權(quán)利，成為數(shù)據(jù)控制者必須遵守的義務(wù)。因此算法決策的治理應(yīng)當(dāng)是公共服務(wù)機構(gòu)采取常規(guī)命令與控制技術(shù)的組合，但以私權(quán)利作為補充。此外，雖然數(shù)據(jù)保護(hù)法是框架性命令，但是要避免過于原則。比如GDPR第25條第2款③，是一種具體方式和實質(zhì)性結(jié)果的結(jié)合。此外，歐盟對算法決策的監(jiān)管依賴于獨立的數(shù)據(jù)保護(hù)機構(gòu)，這一機構(gòu)被賦予廣泛的執(zhí)行權(quán)和解釋裁量權(quán);與自上而下的監(jiān)督相對應(yīng)，歐盟法律賦予數(shù)據(jù)主體申請強制執(zhí)行等廣泛的救濟性權(quán)利，讓數(shù)據(jù)主體的同意成為一種可能。

法律的目的可能不是真的讓處于技術(shù)和資源相對貧乏的個人通過終止侵權(quán)、強制執(zhí)行與行政賠償?shù)姆绞綄拐墓矝Q策，而是敦促公共管理主體的義務(wù)履行，進(jìn)而確保算法的升級不排除個人的參與，所以政府依然被視為制度的設(shè)計者。為此，雖然諸多的個體權(quán)利被予以確認(rèn)，算法決策法律規(guī)制絕非應(yīng)該定位于單一的隱私保護(hù)或者數(shù)據(jù)財產(chǎn)權(quán)利。計算機技術(shù)和算法讓行政行為在先進(jìn)性和效益方面有了非凡的增長，但是將這些單一的個體組合在一起，不僅會對個人自主權(quán)和人性尊嚴(yán)等一系列的價值產(chǎn)生影響，最重要的是可能會對民主的共同體造成影響。所以算法決策不是單純在技術(shù)上對唯理論的追尋，還必須滿足對道德、民主和政治的維護(hù)。

總之，對公共領(lǐng)域算法決策進(jìn)行法律規(guī)制，需要解決傳統(tǒng)調(diào)整方法在動態(tài)社會所面臨的矛盾：認(rèn)識層面的技術(shù)中立性隱藏著“算法監(jiān)獄”“算法暴政” 〔18 〕與追求共同善之間的沖突;方法層面自上而下的權(quán)力滲透與自下而上的自我整體性監(jiān)管之間的張力;具體操作層面追求結(jié)果的效率導(dǎo)向和追求控制的過程監(jiān)督之間的區(qū)別，為此，必須具有權(quán)力-權(quán)利秩序構(gòu)建的雙重面向，以實現(xiàn)制度的構(gòu)建和價值的保障。從更廣闊的視角看，算法決策并非在尋求放之四海而皆準(zhǔn)的真理，也不是通過抽象數(shù)學(xué)公式、物理定律或者機器原理對數(shù)字經(jīng)濟進(jìn)行哲理上的定義，而應(yīng)當(dāng)是通過對信息的處理使其針對細(xì)分的場景和特定的條件，更便于操作和理解，更能夠被大眾所認(rèn)知并被自然語言所描述，進(jìn)而促進(jìn)公共管理職能的實現(xiàn)和數(shù)字社會的進(jìn)步。

注 釋：

①Art. 5 GDPR Principles relating to processing of personal data

②Art. 22 GDPR Automated individual decision-making，including profiling

③Art. 25 GDPR Data protection by design and by default：The controller shall implement appropriate technical and organisational measures for ensuring that，by default，only personal data which are necessary for each specific purpose of the processing are processed.2That obligation applies to the amount of personal data collected， the extent of their processing，the period of their storage and their accessibility.3In particular，such measures shall ensure that by default personal data are not made accessible without the individuals intervention to an indefinite number of natural persons.

參考文獻(xiàn)：

〔1〕張凌寒.算法權(quán)力的興起、異化及法律規(guī)制〔J〕.法商研究，2019（04）：64-75.

〔2〕胡 凌.數(shù)字社會權(quán)力的來源：評分、算法與規(guī)范的再生產(chǎn)〔J〕.交大法學(xué)，2019（01）：21-34.

〔3〕鄭智航，徐昭曦.大數(shù)據(jù)時代算法歧視的法律規(guī)制與司法審查〔J〕.比較法研究，2019（04）：111-122.

〔4〕段偉文.數(shù)據(jù)智能的算法權(quán)力及其邊界校勘〔J〕.探索與爭鳴，2018（10）：92-100+143.

〔5〕林洹民.自動決策算法的法律規(guī)制：以數(shù)據(jù)活動顧問為核心的二元監(jiān)管路徑〔J〕.法律科學(xué)（西北政法大學(xué)學(xué)報），2019（03）：43-53.

〔6〕Cobber.J.Administrative law and the ma chines of government〔J〕.judicial review of automated public-sector decisionmaking Legal Studies，2019（39）：636-655.

〔7〕施特勞斯.什么是政治哲學(xué)〔M〕.北京：華夏出版社，2014.

〔8〕Margetts，H.Information Technology in Government：Britain and America〔M〕.London：Routledge，1999

〔9〕Hood.C，Peters.G.The Middle Aging of New Public Management：Into the Age of Paradox〔J〕.Journal of Public Administration Research and Theory，2004（03）：267-282.

〔10〕Margaret.H，Algorithmic Jim Crow〔J〕.Fordham Law Review，2017（02）：633-696.

〔11〕Zalnieriute.M，Moses.B，Williams.G.The Rule of Law and Automation of Government Decision-Making〔J〕.Modern Law Review，2019（03）：425-455.

〔12〕Barocas.S，Selbst.A.D.Big Datas Disparate Impact〔J〕.California Law Review，2016（03）：671-732.

〔13〕Michael Veale and Irina Brass，Administration by Algorithm？Public Management meets Public Sector Machine Learning〔EB/OL〕.publication available at：https：//ssrn.com/abstract=3375391（Feb.1，2020）.

〔14〕王延川.算法價格歧視的市場解決機制〔N〕.學(xué)習(xí)時報，2019-10-18（03）.

〔15〕Mergel，I.Open innovation in the public sector：drivers and barriers for the adoption of Challenge.gov〔J〕.Public Management Review，2018（20）：726-745.

〔16〕陳姿含.人工智能算法中的法律主體性危機〔J〕.法律科學(xué)（西北政法大學(xué)學(xué)報），2019（04）：40-47.

〔17〕Roig，A.Safeguards for the right not to be subject to a decision based solely on automated processing（Article 22 GDPR）〔J〕.European Journal of Law and Technology，2017（08）：1-17.

〔18〕徐 風(fēng).人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開〔J〕.東方法學(xué)，2019（06）：78-86.

責(zé)任編輯 楊在平

〔收稿日期〕2020-02-02

〔基金項目〕司法部《國家法治與法學(xué)理論研究》項目（18SFB1005），主持人齊延平。

〔作者簡介〕陳姿含（1987-），女，山東濰坊人，北京理工大學(xué)法學(xué)院講師、法學(xué)博士、生物醫(yī)藥法學(xué)博士，工信部智能科技風(fēng)險法律防控重點實驗室辦公室主任，主要研究方向為智能科技與法理學(xué)。