梅立潤

(武漢大學馬克思主義學院,湖北 武漢 430072)

人類社會漫長的政治發(fā)展進程中充滿了權力生產與權力轉移現象。自國家產生以來,國家與權力就形成了一體兩面的關系,國家是權力的主要代名詞,權力是國家的核心象征。基本上沒有人會質疑國家擁有最廣泛和最正當的權力,也基本上不存在能夠與國家相媲美的權力主體。出于發(fā)展和治理的需要,國家雖然會在部門體系內部實行分權,或將部分權力授予國家部門體系之外的其他主體,但國家始終是權力的核心,權力配置的主動權依然牢牢掌握在國家手中。隨著人工智能專項戰(zhàn)略的密集出臺、新創(chuàng)人工智能企業(yè)的不斷出現、人工智能領域投融資的持續(xù)火熱以及人工智能應用場景的日益豐富,人類社會開始邁入人工智能時代。在人工智能時代,作為人工智能技術關鍵成分的數據與算法,逐漸成為權力生產的新要素,誰掌握更充分的數據和更先進的算法,誰就可能擁有更多或更大的權力,技術的賦權效應得以彰顯。技術賦權可能催生與國家競爭的新權力主體,權力轉移現象可能再度發(fā)生。

一、數據與算法：人工智能時代權力的新來源

人類社會的發(fā)展與權力有著天生的粘連。在人類社會漫長的發(fā)展進程中,構成權力生產的要素不斷地發(fā)生變化,權力不停地流轉,這意味著,并不是誰獲得了權力,就將永遠坐擁權力。生活在一個技術色彩濃厚的時代,人們對技術及其關鍵成分作為一種重要的權力生產要素或者說對技術的賦權效應,早已司空見慣。在人工智能時代,權力生產的要素將再次迎來轉變,技術的賦權效應將再次彰顯,權力也將再次發(fā)生轉移。

人類社會充滿了權力現象。雖然權力是一個頗為古老且使用頻率很高的概念,但也是一個“在本質上可爭議”的概念,想要得到沒有爭議的理解權力的方式充滿難度[1]。“無論中西,權力的詞源含義說到底都是指影響,表示一個人影響他人的能力和力量?！盵2]將權力視為某種影響力是權力界定的慣常用法,實際上,“慣常用法也構成了一種真正的限制,完全背離慣常用法的界定只會成為孤芳自賞的純粹私人語言?！盵3]以慣常用法來看待權力,將權力視為某種影響力,緊接而來的問題是,什么可以帶來“影響力”?莫里斯·迪韋爾熱曾指出,“影響是建立在各種不同因素之上的,如物質力量、進行獎懲的可能條件、財產、威望、擁戴、標準、價值等等?！盵4]丹尼斯·朗則意識到,資源是權力的基礎[5],而達爾列舉出了更為具體的可供權力生產的“資源清單”,包括：個人自己的時間;獲取金錢、借貸和財富的機會;對工作機會的掌控;對信息的控制;自尊或社會地位;擁有個人魅力、知名度、合理性、合法性;與公職相稱的權利;作為社會某個階層的成員博得他人支持的能力;在職業(yè)、社會地位、宗教、種族血統(tǒng)等方面的相似性[6]。

雖然許多要素都單獨或組合地成為過權力的重要來源,但在不同時期,權力的來源會因時而變,不同要素對權力生產的貢獻率也會有所不同?！霸诙?zhàn)時期,我們認為鋼鐵、輪船和飛機是權力的源泉。在核武時代,我們也是如此。如今在信息時代,我們開始重新確認權力的來源?！盵7]“一個比黃金、貨幣和土地更靈活的無形的財富和權力基礎正在形成。這個新基礎以思想、技術和通訊占優(yōu)勢為標志,一句話,以‘信息’為標志。”[8]換言之,信息的權力屬性在人類步入信息社會后愈發(fā)明顯[9],甚至在21世紀將成為權力最重要的來源[10]。隨著人工智能時代的到來,權力生產要素將再次發(fā)生轉變,“智能技術將成為重要的‘權力’元素”[11]。

數據是人工智能的根基。“如果說人工智能是嬰孩,大數據就是奶粉。人工智能的核心在于數據支持,人工智能的發(fā)展需要學習大量知識和經驗,這些知識和經驗其實就是數據,人工智能越是深度發(fā)展,所需要學習的數據量就越大、越具體。”[12]新一輪人工智能發(fā)展浪潮的興起在很大程度上正是得益于數據基礎的改善,移動互聯(lián)時代的到來,使得來自網絡搜索、電子商務、社會媒體、科學研究等不同領域的海量數據迅速累積,為人工智能的飛躍提供了充足的養(yǎng)分[13]。正因如此,數據的價值和重要性開始飆升。早在2006年,就有學者意識到“數據是新石油”[14]。近些年,這種認知得到了更為廣泛的支持,比如《經濟學人》2017年刊出的一篇文章就指出,“世界上最寶貴的資源不再是石油,而是數據”[15]。有人甚至認為,隨著數據的新用途被不斷提出,數據已經成為實現人們夢想的“萬靈藥”[16]。可以說,誰擁有更充分和更優(yōu)質的數據,誰就可能在人工智能時代擁有更大的影響力或權力。數據成了人工智能時代權力生產的要素之一,“我們完全有理由說,數據不僅僅是新時代的原油、火藥,數據就是權力?！盵17]

“從技術的角度來看,算法本質上是基于特定的數學模型,將輸入轉化為輸出結果的系列計算步驟,也就是說,它本質上是一種復雜的計算結構與計算過程?！盵18]如果說數據是人工智能的基礎,那么算法就是人工智能的“靈魂”[19],算法控制著數據的流動并實現所謂的“智能”[20],算法讓數據的價值得以彰顯。如果將數據視為“金礦石”,那么算法就是“煉金術”。更為關鍵的是,在人工智能時代,萬事萬物皆可數據化,數據成為信息與社會利益的載體,社會資源的分配往往需要基于對海量數據的分析,而分析海量數據又需要依賴于算法,這使得社會資源的分配權力不得不逐漸讓位于算法,算法由此逐漸脫離數學工具的角色,并發(fā)展成為一種重要的新興社會力量[21]。這種“新興社會力量”在選擇、判斷和決策方面具有獨特的優(yōu)勢,對現實生活的諸多方面都會產生顯著影響。“一種比‘代碼(算法)是法律’更具有啟發(fā)性的表達是‘代碼(算法)就是權力’：它能讓我們去做只有武力、強制、影響力和操縱才會讓我們就范的事情”[22]。這也意味著,在人工智能時代,誰掌握更先進和更高級的算法,誰就可能擁有更大的影響力或權力,算法同樣成為人工智能時代權力生產的要素之一。

二、技術優(yōu)勢與輔助治理：人工智能企業(yè)的權力生產

數據與算法在人工智能時代成為權力生產的新要素。問題在于,作為人工智能技術關鍵成分的數據與算法,并不會均衡地被不同主體所掌握。一方面,獲取海量、優(yōu)質的數據往往是絕大多數人無法做到的;另一方面,設計先進、高級的算法或者利用優(yōu)秀的算法對龐大的數據集進行充分的價值挖掘,絕大多數人同樣也無法做到。換言之,在人工智能時代,由于數據獲取與數據處理能力的不均衡,只有少數更有能力獲取和分析數據的人,才會享受到人工智能的技術賦權紅利。

從理論上來說,“人工智能技術十分復雜、投資巨大,需要巨大數量的數據集合來創(chuàng)建人工智能場景應用,只有政府或者大的科技型公司才有能力壟斷資源、壟斷數據?！盵11]然而現實情況是,“政府相對于某些巨頭科技公司來說,在大數據研發(fā)、應用和人才方面都略遜一籌?！盵23]因為“現有人類社會大數據的生產主要來自各類應用平臺,人們的工作和生活、學習、娛樂等消費記錄都通過各類應用平臺傳遞到云端,而這些應用平臺的研發(fā)者和運行者屬于少數互聯(lián)網企業(yè)?！盵24]即是說,雖然政府在理論上有能力“壟斷數據”,但實際上,是大型科技公司或少數互聯(lián)網企業(yè),而不是國家和政府掌握著“更多的數據”。恰如有的研究者所言,“作為新時代的原油、火藥、權力基礎,一部分數據掌握在國家相關機構手中,但更多的、每時每刻都在更新的數據掌握在少數網絡科技巨頭的手中”[17]。另外,算法研發(fā)的門檻偏高,要想設計出優(yōu)秀的算法,需要巨大的資金投入、專業(yè)的研究團隊、扎實的前期技術基礎等支撐,只有少數大型科技公司和互聯(lián)網企業(yè)才有這樣足夠的“動機”和“實力”,將巨量資源投入到算法設計。因此,許多優(yōu)秀算法也主要掌握在少數大型科技公司和互聯(lián)網企業(yè)手中。

算法是人工智能的“靈魂”,是人工智能的技術內核。隨著人工智能時代不斷從概念走向實踐,“算法在現代社會愈發(fā)重要,通過挖掘分析和創(chuàng)新使數據產生了更大價值,提高了企業(yè)的運行效率,優(yōu)化了產品和服務的質量,提高了現代社會的自動化程度,影響著社會生活的各個方面,顯著提高了社會的運轉效率和人們智能化生活的水平,甚至通過預測和輔助決策等功能決定著人類社會未來的走向。”[25]不可否認,當前的人工智能應用或算法應用主要集中于經濟領域和社會領域,或用來促進一系列產業(yè)的轉型與升級,或用來為社會大眾提供方便適宜、體驗優(yōu)良的各種生活服務。不過在“算法統(tǒng)治的世界”[26],算法的作用最終會從經濟、社會領域逐漸擴散乃至滲透到國家治理領域。一方面,這符合歷次科技革命中標志性技術作用擴散的軌跡規(guī)律。鑒于治理的廣泛關聯(lián)性影響,國家在決定是否將新技術應用于治理事務中時會更審慎。這雖在一定程度上延緩了新技術的治理應用進程,但并不至于完全封阻這種進程。另一方面,這也契合現代國家治理的回應性特征。畢竟當人工智能帶來更佳的生產與生活體驗之后,社會大眾可能出現期待轉移,開始期待國家利用人工智能提供同樣的治理體驗和公共服務體驗。而且,社會大眾的心理預期會隨之水漲船高,一旦國家達成了民眾的期待,就只能按照“百尺竿頭更進一步”的邏輯,繼續(xù)努力提供比之前更好的治理體驗和公共服務體驗。在國家治理越來越注重回應社會期待與關切的環(huán)境中,這種期待轉移在某種程度上會倒逼國家不斷擴大人工智能在國家治理領域中的應用范圍。實際上,算法與國家治理的結合已經日益成為一種潮流。不管是在中國還是其他國家,“機器學習在公共管理部門的使用似乎越來越普遍。各級政府實體越來越多地使用自動化系統(tǒng)和增強系統(tǒng)來提高公共管理部門業(yè)務的效率,或為更復雜的政策問題和方案決策提供技術支持?！盵27]

算法嵌入國家治理是大勢所趨,也是提升國家治理效度的科學嘗試。利用算法為治理決策提供新鮮全面的信息支持,識別政策問題并模擬解決方案,監(jiān)測社會問題,預判社會風險等事例都已經屢見不鮮?！敖柚诤Ａ康拇髷祿途邆鋸姶笥嬎隳芰Φ挠布O備,擁有深度學習算法的人工智能機器可以通過自主學習和強化訓練來不斷提升自身的能力,解決很多人類難以有效應對的治理難題?！盵28]由于人工智能企業(yè)在數據與算法方面擁有獨特優(yōu)勢,國家在解決社會公共問題時往往需要人工智能企業(yè)提供技術支持或技術輔助,人工智能企業(yè)因此成為國家治理需要依靠的重要力量。有人甚至認為,在人工智能時代,“政府在理論上仍然是最大的‘公共性’組織,但是實現公共任務的技術路線和工具,將更多依賴于廣泛的協(xié)同合作……隨著數字革命和人工智能技術的進步,未來可能有更多政府職能將被新技術方案或新技術機構革新或替代?！盵29]其實,人工智能企業(yè)為國家治理提供技術支持或技術輔助的例子不在少數。比如,2020年6月,北京百分點信息科技有限公司自主研發(fā)的“智能政府決策系統(tǒng)(Deep Governor)”在中國國際大數據產業(yè)博覽會上全新發(fā)布。該系統(tǒng)的核心功能包括數據融合治理、全局態(tài)勢感知、自由數據探索分析、預測預警和數據共享,能夠支持智能交互式增強分析以及實現對決策業(yè)務的事前判斷、事中控制和事后反饋,為提高國家科學決策水平,助推數字政府建設和“數據治國”提供了堅實的技術支撐。還比如,阿里云、浪潮集團等云計算和人工智能科技公司,通過輔助建設城市大腦提高了眾多城市治理的精細化與智慧化水平。

總的來說,在人工智能時代,數據與算法成為權力生產的新要素。少數大型科技公司和互聯(lián)網企業(yè)在數據與算法方面擁有獨特的技術優(yōu)勢,實際上就等于掌握著獨特的技術型權力,即數據權力和算法權力,而且這是一種內生型權力。由于少數大型科技公司和互聯(lián)網企業(yè)已經搖身一變成為人工智能企業(yè),因此也可以說,人工智能的技術賦權紅利最終被各種各樣的人工智能企業(yè)所吸納。另外,在人工智能時代,許多社會公共問題雖然表面上是由國家運用權力予以解決,但實際上越來越需要人工智能企業(yè)提供數據和算法支撐,人工智能企業(yè)在某種意義上成為國家治理的“幕后操作手”。在為國家治理提供技術支持或技術輔助的過程中,人工智能企業(yè)在某種程度上也獲得了國家“委托”的部分權力,開始憑借先進的技術逐漸介入眾多公共事務,并發(fā)展成為重要的公共治理主體。不過,人工智能企業(yè)這種因為輔助國家治理而獲得的權力帶有明顯的條件限制,是一種典型的外獲型權力。

三、人工智能企業(yè)權力增長的政治影響

穩(wěn)定的技術優(yōu)勢和滾滾向前的時代趨勢還可能使人工智能企業(yè)不斷獲得更多的內生型權力與外獲型權力,人工智能企業(yè)權力的不斷增長會帶來什么影響?這是人工智能時代國家治理需要敏捷預判的問題。

1.從單中心到多中心：國家治理權力結構的變化

從人類社會發(fā)展的漫長歷史事實來看,權力是比國家更早出現的現象,不過在國家產生之后,權力似乎就成了國家的天然標簽,國家也成了權力的代名詞,這一點從諸多關于國家起源的論證中可以得到證明。在諸多論者看來,源于特定的需要,國家的存在總是與完成某種任務、解決某種問題、實現某種目的息息相關。不是為了幫助每個人過上自足優(yōu)良的生活,就是為了克服自然弊端或緩和社會矛盾,以避免在無謂斗爭中把自己和社會消滅。正是在承擔特定責任或者說在完成特定任務、解決特定問題、實現特定目的的過程中,國家才實現了對權力的獲取,與此同時也成了權力中心。隨著社會發(fā)展,社會公共事務和社會問題也變得更為多樣、多變和復雜,由于沒有任何其他主體能夠比國家更全面有效地處理這些事務,因此國家長期以來甚至一直以來都是絕對權力中心,沒有任何其他主體能夠擁有與國家相媲美的治理權力。換言之,人類社會的國家治理權力結構長期處于單中心狀態(tài)。

治理浪潮的興起曾一度在理念與實踐雙向層面,對國家的絕對權力中心地位產生了沖擊。正如王浦劬所說,西方學者在20世紀末賦予治理以新的含義時,帶有明顯的弱化政治權力甚至是去除政治權威的傾向,大多主張通過向社會授權或者說放權于社會來實現國家與社會多元共治以及社會的多元自我治理,雖然西方治理理論發(fā)展至今已形成多個流派,但是立足于社會中心主義,取向于多中心社會自我治理,主張去除或者弱化國家權威,卻是其基本政治主張和傾向[30]。然而國家治理概念的盛行,似乎意味著國家的絕對權力中心地位再次得到了鞏固,因為“在治理前面加一個主語‘國家’,它跟一般講的治理有很大的區(qū)別,它避免單純講治理產生的去國家化、去政黨化、去政府化的傾向?！盵31]如果治理強調的是國家在多維度上的后退,那么國家治理強調的就是向國家回退,就是再次看到了國家在處理多樣多變以及復雜的社會公共事務和社會問題中的作用。盡管隨著國家治理體系的日益開放,不少國家之外的其他主體也能夠參與處理這些事務,或者說獲得了部分國家治理權力,但是都還不足以作為獨立的治理權力中心而存在。

然而,隨著人工智能時代的到來,人工智能企業(yè)可以憑借其擁有的數據與算法優(yōu)勢自行進行權力生產,以及在輔助國家治理的過程中另獲部分權力,從而有可能成為新權力中心,這會對傳統(tǒng)的國家單中心式治理權力結構產生沖擊。有人就意識到,“隨著大數據技術在政府治理方面嵌入程度的不斷加深,政府將更加依賴這些巨頭公司,政府在利用企業(yè)開發(fā)的智能平臺處理政務時,后臺產生的大量數據也會被企業(yè)所俘獲,從而進一步加劇權力結構的不對稱性。因此,在人工智能時代,表面上看政府依舊是權力的行使者,但實際上其權力地位正在遭受來自互聯(lián)網巨頭的嚴重挑戰(zhàn)?！盵23]雖說人工智能企業(yè)可能會挑戰(zhàn)或弱化國家的權力中心地位,但這并不代表國家權力中心地位會徹底消逝。換言之,在人工智能時代,國家治理權力中心的變化并不是非此即彼的單項選擇題,即A是權力中心,B就不是權力中心,而是一個多項選擇題,即A可以是權力中心,B也可以是權力中心,C還可以是權力中心。概言之,在人工智能時代的國家治理事業(yè)中,國家作為治理權力中心的傳統(tǒng)地位雖經受沖擊,但是并未完全垮掉。一些代表性的人工智能企業(yè)可以成為新權力中心,國家治理權力結構從國家單中心式結構轉變?yōu)槎嘀行慕Y構。

人類社會對權力的警惕由來已久,權力有作惡以及濫用的自然本性這一認知被廣為接受。如果在人工智能時代到來之前,人們警惕的是實實在在的國家及其權力,那么在人工智能時代,人們需要警惕的則是人工智能企業(yè)及其權力。畢竟連具有獨特使命與責任的國家都需要被警惕,更何況是以追求利潤為根本目標的人工智能企業(yè)呢?如果人工智能企業(yè)在提供技術輔助時,在設計算法環(huán)節(jié)嵌入企業(yè)私利的考慮,那么依賴于該算法的特定國家治理行動就可能難以達致預期效果。如果說在人工智能時代到來之前,人們常見的權力尋租形式是國家向社會、市場、企業(yè)、個人尋租,那么在人工智能時代,權力尋租形式可能變?yōu)槿斯ぶ悄芷髽I(yè)向國家、其他企業(yè)、個人尋租。

2.從權責同體到權責分離：國家治理問責難題的出現

通過分工劃定不同主體的職權范圍,并且對特定主體履職不當、用權不力進行問責是一個政治體系健康運行的基礎。國家治理是一項頗為繁瑣復雜的工程,國家治理的展開既需要各種國家部門履行好各自職權,也需要對國家部門的過錯行為進行問責。權責同體或者說讓擁有特定職權的主體承擔履職不當、用權不力的責任,是現代社會通行的基本政治規(guī)則。長期以來,通過明確劃定職權邊界以及建立健全一系列與履職用權責任認定或追究相關的制度、規(guī)則、標準、程序,國家各種部門總體上能夠有序有效履職用權,國家也能夠在其出現過錯時及時清晰鎖定責任對象,權責同體的基本政治規(guī)則得以普遍遵循。

隨著人工智能技術發(fā)展段位的不斷提高和應用范圍的不斷擴大,國家治理的數字化轉型和智能化轉型進程也不斷加快,“循數治國”和“算法治理”日趨成為備受理論與實踐雙向推崇的治理樣態(tài)。在此過程中,許多國家部門的行動越來越注重遵循算法的指示,“行政決策中人類形式上的參與無法掩蓋算法作出實質決策的真相”[21]。不過算法也可能產生不可預測的后果。一方面,算法是為解決問題而生的,隨著社會問題越來越多且越來越復雜,算法設計的難度也在不斷增加。過去由幾百行、幾千行或幾萬行代碼組成的算法就可以解決問題,而如今可能需要幾十萬行、幾百萬行甚至上億行代碼,在此過程中難免會有所疏漏,從而使算法產生一些不可預測的后果。另一方面,算法畢竟是由人設計的,算法的優(yōu)劣很大程度上取決于算法設計者的認知能力、知識水平。然而,人的能力是有限的,算法設計者很難掌握與特定問題相關的所有知識,因此在算法設計過程中很可能出現某些偏差,最終使得算法后果不堪設想。再者,針對特定問題而設計出來的算法帶有一定的穩(wěn)定性,但是特定問題的發(fā)展態(tài)勢會受各種自然和社會環(huán)境因素變化的影響,而算法設計者很難全面了解和控制環(huán)境的變化,因此設計出來的算法可能難以解決已經發(fā)生了變化的問題,“強行匹配”只會使得算法的后果不可預測[32]。換言之,由于算法本身的復雜程度日益提高、算法設計者的認知局限以及環(huán)境的動態(tài)變化,算法可能出現失誤,從而造成不可預測的后果。雖然算法失誤并不是新鮮事,但關鍵問題是,依據算法指示而行動的國家部門可能也會因此出現失誤,從而造成影響更為廣泛的負面后果。

國家治理影響廣泛的特性使得國家治理更不容有失,嚴肅問責可以倒逼國家部門盡職履責,盡可能減少治理失誤。問題在于,當治理失誤是由算法失誤導致時,到底該向誰問責?從理論上來說,應該直接問責于相關國家部門,但由于國家在解決社會公共問題時已將部分權力“委托”給人工智能企業(yè),而且企業(yè)的這部分“授權”會隨國家治理算法依賴程度的加深而不斷增長,因此,責任似乎更應歸咎于人工智能企業(yè)。然而,由于算法可以自我學習與升級,因此即使是人工智能企業(yè)或算法設計者本身有時都無法完全清楚算法為何那般決策。即是說,在數據輸入與結果輸出之間,人們明知存在一個計算環(huán)節(jié),然而卻無法洞悉計算的邏輯與過程,這就形成了所謂的“算法黑箱”。恰如有的研究者所言,“算法的使用在實際傳播中形成了一道認知門檻,使得普通公眾無法清晰了解其中的運作流程,好像是在面對一個無法看到內部的黑洞。”[33]“算法黑箱”的存在,同樣使得人工智能企業(yè)或算法設計者可以找到卸責的理由。隨著卸責鏈條的拉長,最終導致無法找到合適的對象來為算法失誤的后果負責。權責分離或者說責任模糊,使得問責的大棒高高舉起卻又難以揮下,國家治理陷入問責難題。有學者意識到,“即使因算法缺陷導致決策失誤,或者公眾對算法決策的結果不滿意,行政人員往往傾向于把責任諉過算法或算法開發(fā)公司,而對算法或算法開發(fā)公司又難以司法審查,責任主體模糊往往使得算法決策陷入審查難、問責難的窘境?！盵34]強行問責是許多人想到的解決辦法,不過結果可能得不償失,因為強行問責相關國家部門,容易抑制國家部門采用新技術的動力,強行問責人工智能企業(yè)或算法設計者,又容易消解市場與國家進行技術合作的信心。

總體而言,以特定職權作為各種國家部門行動的方向指引,以問責糾偏來校正各種國家部門的行動選擇,是保證國家治理有力有序有效的重要機制支撐。不過在國家治理走向算法化的時代,當出現治理失誤時,“算法黑箱”和卸責鏈條的存在會使得責任歸屬模糊化或使權責同體的基本政治規(guī)則遭受沖擊,本應為治理失誤負責的職權主體,很可能找到卸責理由而僥幸避責,出現權責分離或問責空轉現象。誰的責任,誰來負責,問責于誰將成為一個難題。

四、結論與思考

人類社會充滿了技術與權力的身影,技術發(fā)展與權力生產之間有著千絲萬縷的聯(lián)系。人工智能時代的到來,使得數據與算法成為新的權力生產要素,人工智能企業(yè)因為在數據與算法方面占有獨特優(yōu)勢而內生出部分技術型權力,加之這些企業(yè)受國家治理倚重而另獲國家“委托”的部分權力,由此可能會形成國家與人工智能企業(yè)聯(lián)合治理的局面。隨著人工智能技術不斷發(fā)展升級,以及在國家治理算法依賴程度不斷加深的情況下,人工智能企業(yè)的權力有可能會繼續(xù)增長,這就意味著其介入國家治理事務的范圍會不斷擴大,可能會成為除國家之外的新權力中心。這必然會改變傳統(tǒng)的國家治理權力結構,使之從國家單中心式結構轉變?yōu)槎嘀行慕Y構。然而,鑒于算法可能出現失誤以及“算法黑箱”和卸責鏈條的存在,人工智能企業(yè)權力的不斷增長還可能使權責同體的基本政治規(guī)則遭到破壞,催生權責分離現象或引發(fā)問責難題。當然,除了促使國家治理權力結構改變和催生權責分離現象,人工智能企業(yè)權力的不斷增長還會產生其他政治影響,只不過上述影響更為明顯且直接。這意味著,人工智能企業(yè)權力增長的政治影響還有潛在的學術挖掘空間,有待持續(xù)細致的實踐觀察。

新權力中心在多大概率上會出現,既取決于國家與人工智能企業(yè)的技術實力對比,也取決于國家治理對人工智能企業(yè)的技術依賴程度。如果人工智能企業(yè)在數據與算法方面擁有更顯著的技術優(yōu)勢,國家治理對人工智能企業(yè)的技術依賴程度較高,那么其就會有更多的機會與空間實現權力獲取,新權力中心就很有可能出現;相反,如果國家在數據與算法方面擁有不輸于人工智能企業(yè)的實力,或者只是小范圍、低程度地依賴人工智能企業(yè)的技術支持或技術輔助,那么新權力中心出現的可能性就會低很多。在此意義上,國家在應對新權力中心出現方面具有較大的進退空間,因為國家可以張弛有度地推進技術研發(fā),以增強技術相對優(yōu)勢,也可以幅度自控地減少對人工智能企業(yè)的技術依賴。雖說如此,但也需要未雨綢繆,對人工智能企業(yè)輔助國家治理“做好最壞的打算”,因為“公共管理部門人工智能系統(tǒng)的部署和應用所帶來的問題,很多是高度政治性和飽含主觀價值偏載的,因此在這些技術擴展所涉及的各個領域,我們都應當特別注意”[27],畢竟企業(yè)逐利的本性加上龐大的權力讓人“不得不防”。盡管有人不情愿以某種不好的預設去假想人工智能企業(yè)在輔助國家治理時可能發(fā)生的事情,不過國家治理的廣泛關聯(lián)性已經超越了情不情愿的問題。以“無賴假設”推測人工智能企業(yè)有助于國家在與人工智能企業(yè)展開治理合作時提高警惕,以更周全的方案推動人工智能企業(yè)輔助國家治理,避免國家面對“出乎意料”的情況時手足無措、自亂陣腳。

相對于應對新權力中心所具有的較大進退空間,國家在應對問責難題時就沒有多少回旋余地,只要人工智能企業(yè)介入國家治理,就一定要注意可能由“算法黑箱”和卸責鏈條引發(fā)的權責分離現象。換言之,國家對新權力中心是否會出現可以選擇性地關注,對權責分離現象或問責難題卻是一定要關注。應對人工智能時代的權責分離現象或問責難題,治本之法就是規(guī)避算法失誤,因為規(guī)避算法失誤就等于規(guī)避了治理失誤,從源頭上掐斷了卸責的鏈條。規(guī)避算法失誤,促使人工智能企業(yè)高度自律,是最為節(jié)約成本的方式。人工智能企業(yè)高度自律指的是人工智能企業(yè)在設計相關算法時主動精益求精,不刻意設計存有漏洞的算法,而要促使人工智能企業(yè)形成高度自律,國家還需要匹配系列制度。一是備案與試點制。任何人工智能企業(yè)在為國家提供治理算法支持時,都需要將算法的核心設計精神、關鍵代碼等向國家相關機構備案說明,并且盡可能在小范圍內先進行使用試驗。備案說明既是一種承諾壓力,也是提供責任認定的線索與證據。二是隨機抽查檢驗制。針對人工智能企業(yè)為國家治理提供的特定算法,國家需要不定時進行算法抽查檢驗,這樣既能防止人工智能企業(yè)“備用分離”,單方面擅自調整算法,也能防止算法在自我學習過程中“變壞”而無人知曉。三是服務積分制。對于輔助國家治理效果非常好、一般、不好、很差的算法及企業(yè),國家可以考慮記不同分數,經過多輪合作之后形成一個動態(tài)積分榜。國家定期統(tǒng)計積分,對于積分低的人工智能企業(yè),國家要壓縮其技術支持的空間和機會,甚至“一票否決”,對于積分高的人工智能企業(yè),國家可以考慮增進與其合作的頻率。