人工智能的發(fā)展動(dòng)力與風(fēng)險(xiǎn)生成：一個(gè)整合性邏輯框架

張 樂(lè)，童 星

（1.山東大學(xué) 生活質(zhì)量與公共政策研究中心，山東 威海264209；2.南京大學(xué) 社會(huì)風(fēng)險(xiǎn)與公共危機(jī)管理研究中心，江蘇 南京210023）

當(dāng)前，人工智能正深刻地影響著經(jīng)濟(jì)社會(huì)發(fā)展乃至國(guó)際政治經(jīng)濟(jì)格局。世界主要發(fā)達(dá)經(jīng)濟(jì)體幾乎同時(shí)將人工智能納入重大戰(zhàn)略，加快部署。中華人民共和國(guó)《國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》更是將人工智能技術(shù)列入重點(diǎn)攻關(guān)計(jì)劃。在可期的時(shí)間內(nèi)，中國(guó)的人工智能或?qū)⒃诨A(chǔ)研究投入顯著增加、重大創(chuàng)新平臺(tái)持續(xù)建設(shè)、企業(yè)創(chuàng)新能力不斷提高和人才隊(duì)伍活力日益增強(qiáng)等利好環(huán)境下迎來(lái)爆發(fā)式突破。國(guó)家和地方政策的加持也將增強(qiáng)投資者的信心，資本市場(chǎng)對(duì)人工智能的追捧會(huì)加速技術(shù)的成熟與商用。人工智能迸發(fā)出的革命性力量越強(qiáng)，國(guó)家、市場(chǎng)和普通人越是對(duì)其寄予厚望，社會(huì)越是應(yīng)該對(duì)這股發(fā)展熱潮中的不確定性及其帶來(lái)未知風(fēng)險(xiǎn)與挑戰(zhàn)多做些“冷思考”。本文從交互視角闡釋人工智能發(fā)展的動(dòng)力機(jī)制和風(fēng)險(xiǎn)生成機(jī)理，嘗試揭示其動(dòng)力與生機(jī)中的阻礙與危機(jī)。希望借助此類(lèi)分析，為加強(qiáng)人工智能風(fēng)險(xiǎn)的前瞻預(yù)防與約束引導(dǎo)提供政策依據(jù)，進(jìn)而最大限度降低發(fā)展中的主要風(fēng)險(xiǎn)，確保人工智能始終在安全、可靠、可控的道路上健康發(fā)展。

一、人工智能發(fā)展的驅(qū)動(dòng)力量

驅(qū)動(dòng)一項(xiàng)新興技術(shù)快速發(fā)展的因素多種多樣，就目前可觀察到的人工智能的發(fā)展?fàn)顩r而言，技術(shù)進(jìn)化的內(nèi)生力、投資效應(yīng)和政策扶持是三個(gè)最主要的動(dòng)因，它們會(huì)首先按照各自領(lǐng)域的運(yùn)行規(guī)律推動(dòng)人工智能的發(fā)展。

（一）技術(shù)進(jìn)化的內(nèi)驅(qū)力

人工智能被認(rèn)為是新一代的“通用技術(shù)”（General Purpose Technology，GPT）①所謂“通用技術(shù)”是指那些可識(shí)別為通用產(chǎn)品、流程或組織形式的技術(shù)。通俗講就是存在多種用途、能應(yīng)用到政治、經(jīng)濟(jì)、文化、社會(huì)的各個(gè)領(lǐng)域，有很強(qiáng)溢出效應(yīng)的技術(shù)類(lèi)型。，具有巨大的發(fā)展前景。盡管未來(lái)人工智能可能會(huì)進(jìn)入強(qiáng)人工智能甚至超人工智能階段，超出單純“物”的界定，但目前看，人工智能依然屬于技術(shù)范疇，是人類(lèi)為了自身某些目的而對(duì)自然原理的捕捉、駕馭和開(kāi)發(fā)利用的工具系統(tǒng)。人類(lèi)科技史表明，基于不斷滿(mǎn)足人類(lèi)需求的技術(shù)進(jìn)步動(dòng)力永不枯竭，技術(shù)系統(tǒng)作為人類(lèi)文明不可或缺的體系，早已自成一體，具有“自我創(chuàng)生”的能力：技術(shù)提供問(wèn)題的解決方案，每次技術(shù)的進(jìn)步或更新都會(huì)解決一些難題，同時(shí)包含著新問(wèn)題的種子，進(jìn)而形成“問(wèn)題—技術(shù)解決方案—新問(wèn)題—技術(shù)更新”的遞歸循環(huán)（布萊恩·阿瑟，2018）。[1]由此，技術(shù)系統(tǒng)獲得了持續(xù)不斷的新穎性和源源不斷的發(fā)展動(dòng)力。

人工智能系統(tǒng)非常復(fù)雜，大致包括基礎(chǔ)層（數(shù)據(jù)和計(jì)算能力）、技術(shù)層（系統(tǒng)框架和算法技術(shù)）與應(yīng)用層（通用應(yīng)用和行業(yè)應(yīng)用）三大層級(jí)。限于篇幅，本文僅以算法這個(gè)人工智能核心技術(shù)層的演進(jìn)為例來(lái)展開(kāi)。算法的突破性進(jìn)展大體可分為三個(gè)階段：（1）簡(jiǎn)單感知階段。20世紀(jì)50年代，神經(jīng)模擬計(jì)算研究有了新發(fā)展。羅森布拉特（Rosenblatt）的感知器模型通過(guò)算法定義出精確的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則，從而實(shí)現(xiàn)對(duì)大腦學(xué)習(xí)的簡(jiǎn)單結(jié)構(gòu)和效果模擬。該算法用在像素識(shí)別與分類(lèi)中獲得成功，帶動(dòng)了人工智能發(fā)展的第一個(gè)高峰。不過(guò)，感知器算法模型存在著缺陷：?jiǎn)螌痈兄W(wǎng)絡(luò)無(wú)法解決非線(xiàn)性可分問(wèn)題，加之網(wǎng)絡(luò)模擬示范點(diǎn)計(jì)算力超過(guò)了當(dāng)時(shí)算力的極限，這讓人工智能陷入技術(shù)瓶頸。（2）多層神經(jīng)網(wǎng)絡(luò)階段。遺留的難題隨著“反向傳播算法”的出現(xiàn)而得到解決。明斯基（Minsky）等人提出采用多層神經(jīng)網(wǎng)絡(luò)函數(shù)表達(dá)來(lái)解決非線(xiàn)性可分問(wèn)題的具體方法，帶來(lái)了人工智能解決復(fù)雜問(wèn)題的希望。1989年，辛頓（Hinton）等研究者開(kāi)發(fā)的“卷積神經(jīng)網(wǎng)絡(luò)”算法成功讀取了銀行支票上的手寫(xiě)數(shù)字，帶動(dòng)了人工智能第二波研發(fā)熱潮。但算法多重網(wǎng)絡(luò)梯度衰減引發(fā)的神經(jīng)網(wǎng)絡(luò)計(jì)算停滯拖慢了機(jī)器學(xué)習(xí)的速度，參數(shù)過(guò)多、學(xué)習(xí)自由度太大又帶來(lái)過(guò)度擬合等問(wèn)題，無(wú)法真正實(shí)現(xiàn)商用推廣。（3）深度學(xué)習(xí)階段。若干年后，隨著辛頓等人的無(wú)監(jiān)督學(xué)習(xí)算法的成熟，機(jī)器學(xué)習(xí)進(jìn)入深度學(xué)習(xí)階段。該算法較好地解決了梯度衰減和神經(jīng)網(wǎng)絡(luò)訓(xùn)練誤差等難題，后續(xù)的“丟棄算法”進(jìn)一步提高了模型的擬合精度，大數(shù)據(jù)的存儲(chǔ)也讓算法訓(xùn)練大幅度提高（尼克，2017；俞祝良，2017；施鶴群，2020）。[2-4]2010年以來(lái)，隨著GPU等硬件的發(fā)展和“云計(jì)算”的普及，大量的計(jì)算資源被提供給高性能算力使用，不斷突破機(jī)器學(xué)習(xí)的技術(shù)限制，讓深度學(xué)習(xí)越發(fā)成熟，人工智能被廣泛應(yīng)用在圖像識(shí)別等領(lǐng)域，獲得了極高的商用價(jià)值。

（二）資本增值的推動(dòng)力

馬克思和恩格斯認(rèn)為，資本有一種生活本能，就是增殖自身（中共中央編譯局，2009）。[5]資本增值的邏輯是現(xiàn)代社會(huì)經(jīng)濟(jì)發(fā)展的主導(dǎo)動(dòng)力；資本主要通過(guò)對(duì)生產(chǎn)工具、產(chǎn)業(yè)部門(mén)直至生產(chǎn)方式、生產(chǎn)關(guān)系的不斷變革等方式實(shí)現(xiàn)增值。盡管當(dāng)代經(jīng)濟(jì)的發(fā)展存在金融資本自我增值的現(xiàn)象，但大多數(shù)資本的增值活動(dòng)還是發(fā)生在實(shí)體經(jīng)濟(jì)當(dāng)中，通過(guò)投資與技術(shù)緊密結(jié)合形成“資本—技術(shù)”密集型產(chǎn)業(yè)集群的方式來(lái)實(shí)現(xiàn)價(jià)值最大化。正如馬克思所言，資本不創(chuàng)造科學(xué)，但是它為了生產(chǎn)過(guò)程的需要，利用科學(xué)，占有科學(xué)（中共中央編譯局，2009）。[6]資本最擅長(zhǎng)的就是將它認(rèn)為有利可圖的事物包括高度理想化的、抽象的、形式化的技術(shù)轉(zhuǎn)化為空前的生產(chǎn)力。在這一轉(zhuǎn)化過(guò)程中，投資技術(shù)的市場(chǎng)風(fēng)險(xiǎn)很高，為了最大限度地規(guī)避風(fēng)險(xiǎn)，專(zhuān)利保護(hù)制度應(yīng)運(yùn)而生：一方面，法律保護(hù)專(zhuān)利權(quán)人對(duì)其發(fā)明創(chuàng)造依法享有排他性獨(dú)占權(quán)，憑借專(zhuān)利技術(shù)獲取市場(chǎng)優(yōu)勢(shì)，得到更多超額利潤(rùn)，實(shí)現(xiàn)資本更大增值；另一方面，專(zhuān)利還可以被有條件地公開(kāi)復(fù)制，通過(guò)付費(fèi)方式向他人轉(zhuǎn)讓或許可使用，利用專(zhuān)利賦予的增殖服務(wù)同樣可以達(dá)到資本增值的目的。

上述人工智能技術(shù)經(jīng)歷的“三起兩落”的波動(dòng)，背后皆與資本“大量涌入和快速撤資”直接相關(guān)。資本推動(dòng)人工智能技術(shù)發(fā)展的形式主要有三種：（1）資本風(fēng)投。以國(guó)內(nèi)為例，據(jù)億歐智庫(kù)的統(tǒng)計(jì)，2012—2020年，中國(guó)AI私募投資頻數(shù)年復(fù)合增長(zhǎng)率為68%，2014—2018年年均投資額約為1300億元，單筆平均投資額達(dá)4.1億元（張一豪，2020）。[7]資本的大量涌入催生了數(shù)以千計(jì)的人工智能企業(yè)，促進(jìn)了人工智能技術(shù)的成熟和商業(yè)落地能力的增強(qiáng)。（2）資本并購(gòu)。在過(guò)去十年里，超過(guò)600家全球AI創(chuàng)業(yè)公司被收購(gòu)，收購(gòu)方主要集中于巨型科技企業(yè)。以美國(guó)為例，僅在2018年，蘋(píng)果收購(gòu)了20家，谷歌收購(gòu)了14家，微軟收購(gòu)了10家（陳林，2020）。[8]在中國(guó)，騰訊、阿里、百度、華為、京東、科大訊飛等平臺(tái)企業(yè)，同樣是人工智能科技產(chǎn)業(yè)發(fā)展的主導(dǎo)者，通過(guò)資助開(kāi)發(fā)和資本并購(gòu)的方式發(fā)展各自的人工智能技術(shù)。（3）專(zhuān)利壟斷。國(guó)家工業(yè)信息安全發(fā)展研究中心（2020）《人工智能中國(guó)專(zhuān)利技術(shù)分析報(bào)告》顯示，中國(guó)人工智能領(lǐng)域的專(zhuān)利申請(qǐng)量總體上呈逐年上升趨勢(shì)，2018年達(dá)到70281件，是2010年申請(qǐng)量的近20倍。在人工智能專(zhuān)利申請(qǐng)量和授權(quán)量方面，百度分別以9364件專(zhuān)利申請(qǐng)和2682件專(zhuān)利授權(quán)處于第1位，騰訊、浪潮、華為、阿里以及西安電子科技大學(xué)、國(guó)家電網(wǎng)公司、浙江大學(xué)等都居前列。[9]

（三）政策扶持的傳導(dǎo)力

政策通常以技術(shù)發(fā)展的外部環(huán)境形態(tài)出現(xiàn)，是影響技術(shù)發(fā)展的關(guān)鍵因素。中國(guó)在2017年以國(guó)務(wù)院的名義發(fā)布《新一代人工智能發(fā)展規(guī)劃》，美國(guó)在2016年發(fā)布《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》，歐盟在2019年發(fā)布《人工智能戰(zhàn)略計(jì)劃》。各國(guó)戰(zhàn)略規(guī)劃目標(biāo)明確，那就是維護(hù)國(guó)家安全并贏得國(guó)際競(jìng)爭(zhēng)。在策略方向上，各國(guó)都試圖通過(guò)政策引導(dǎo)甚至是直接參與的方式來(lái)推動(dòng)人工智能的快速發(fā)展。人工智能?chē)?guó)家戰(zhàn)略對(duì)外是國(guó)際競(jìng)爭(zhēng)宣言，對(duì)內(nèi)則是發(fā)展目標(biāo)指南。國(guó)際競(jìng)爭(zhēng)壓力傳導(dǎo)到國(guó)內(nèi)，通過(guò)國(guó)內(nèi)政策分解與階段性實(shí)施的形式再傳導(dǎo)給地方，成為地方政策落實(shí)的抓手。

我國(guó)推動(dòng)人工智能發(fā)展采用的是“國(guó)家戰(zhàn)略統(tǒng)籌、地方競(jìng)爭(zhēng)落實(shí)”的政府主導(dǎo)模式。其最大特點(diǎn)就是“使命驅(qū)動(dòng)型創(chuàng)新”（Mission-Oriented Innovation）（張學(xué)文和陳勁，2019）[10]：國(guó)家基于重大戰(zhàn)略和公共利益考量推動(dòng)的技術(shù)攻堅(jiān)創(chuàng)新。政策對(duì)人工智能發(fā)展的扶持傳導(dǎo)分為三個(gè)方面：（1）國(guó)家采用目標(biāo)導(dǎo)向和資金稅收刺激導(dǎo)向，雙管齊下地提高地方和行業(yè)發(fā)展人工智能的積極性。在國(guó)家《新一代人工智能發(fā)展規(guī)劃》（下文簡(jiǎn)稱(chēng)《發(fā)展規(guī)劃》）①如未特殊說(shuō)明，文中的國(guó)家政策規(guī)劃都是指《新一代人工智能發(fā)展規(guī)劃》。里，明確指出發(fā)展人工智能的戰(zhàn)略意義、基本原則，制定了戰(zhàn)略步驟、總體目標(biāo)要求和可量化指標(biāo)，發(fā)布了人工智能發(fā)展的重點(diǎn)任務(wù)，提出了資源配置、保障措施與實(shí)施路徑。這一戰(zhàn)略規(guī)劃的政策意圖非常明顯：“通過(guò)全方位的智能化建設(shè)，全面提升社會(huì)生產(chǎn)力、綜合國(guó)力和國(guó)家競(jìng)爭(zhēng)力，加快建設(shè)創(chuàng)新型國(guó)家和世界科技強(qiáng)國(guó)，為國(guó)家民族復(fù)興提供強(qiáng)大支撐?！痹诰唧w發(fā)展指標(biāo)里，要求人工智能核心產(chǎn)業(yè)規(guī)模從2020年的1500億元發(fā)展到2030年超1萬(wàn)億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模從1萬(wàn)億元增加到10萬(wàn)億元（國(guó)務(wù)院，2017）。[11]國(guó)家還通過(guò)預(yù)算內(nèi)資金、專(zhuān)項(xiàng)建設(shè)基金、工業(yè)轉(zhuǎn)型升級(jí)基金、國(guó)家重大科研計(jì)劃等渠道給發(fā)展人工智能提供充足的資金支持。2019年，科技部印發(fā)《國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》（國(guó)科發(fā)規(guī)〔2019〕298號(hào)）①2020年9月，科技部根據(jù)中央和習(xí)近平總書(shū)記的重要指示批示精神對(duì)《國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》進(jìn)行了修訂，進(jìn)一步明確國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)的總體要求、重點(diǎn)任務(wù)、申請(qǐng)條件、建設(shè)程序和保障措施，為打造新一代人工智能創(chuàng)新發(fā)展的地方樣板奠定了政策基礎(chǔ)。，鼓勵(lì)地方政府在體制機(jī)制、政策法規(guī)等方面先行先試，逐步形成促進(jìn)人工智能與經(jīng)濟(jì)社會(huì)發(fā)展深度融合的格局。（2）地方政策跟進(jìn)與落實(shí)。地方政府按照中央的戰(zhàn)略部署分別制定符合自身?xiàng)l件和發(fā)展目標(biāo)的實(shí)施細(xì)則，包括分解目標(biāo)、具體的支持內(nèi)容、可量化的扶持工具和地方特色發(fā)展重點(diǎn)等。相關(guān)研究表明，2017年國(guó)家戰(zhàn)略規(guī)劃出臺(tái)后，地方性人工智能政策跟進(jìn)速度非常快，政策種類(lèi)和數(shù)量都大幅度增加（宋偉和夏輝，2019；陳小亮和陳彥斌，2019；袁野等，2021）。[12-14]不過(guò)，這些地方配套主要屬于供給型政策，在目標(biāo)規(guī)劃、金融支持和稅收優(yōu)惠上發(fā)力較多，在相關(guān)法律法規(guī)建設(shè)、風(fēng)險(xiǎn)治理、基礎(chǔ)研究投入等方面關(guān)注較少。（3）政策推進(jìn)競(jìng)標(biāo)賽。在“央地關(guān)系”結(jié)構(gòu)性背景下，人工智能發(fā)展表現(xiàn)出“地方錦標(biāo)賽”的特點(diǎn)。一是目前超半數(shù)的省（市、區(qū)）出臺(tái)了人工智能發(fā)展規(guī)劃與實(shí)施細(xì)則，展現(xiàn)出各地爭(zhēng)相落實(shí)中央決策的積極性；二是地方政策關(guān)注的重點(diǎn)都集中在人工智能產(chǎn)業(yè)集群培育、高端人才培養(yǎng)、智能服務(wù)平臺(tái)打造等方面，政策同質(zhì)性較強(qiáng)；三是地方競(jìng)爭(zhēng)加劇導(dǎo)致政策偏向應(yīng)用型人工智能產(chǎn)業(yè)的扶持。

二、驅(qū)動(dòng)交互作用下的人工智能風(fēng)險(xiǎn)

技術(shù)、資本和政策三方驅(qū)動(dòng)下的人工智能技術(shù)迭代、產(chǎn)業(yè)化規(guī)模和商用價(jià)值都得到了提升或增加，人工智能越來(lái)越多地被應(yīng)用在生產(chǎn)生活的各個(gè)領(lǐng)域，科技賦能的效果明顯。在這一片欣欣向榮之中也蘊(yùn)含著安全隱患和各種風(fēng)險(xiǎn)，正隨著人工智能的持續(xù)發(fā)展而日益顯露。

（一）“技術(shù)—資本”交互下的人工智能風(fēng)險(xiǎn)

1.技術(shù)對(duì)資本的裹挾及風(fēng)險(xiǎn)

其一，技術(shù)控制資本封存其內(nèi)生風(fēng)險(xiǎn)。技術(shù)一旦獲得足夠的資金支持，就有可能不斷增強(qiáng)自身能力，反過(guò)來(lái)“控制”資本。資本把占領(lǐng)市場(chǎng)先機(jī)、推動(dòng)技術(shù)商用落地看作是第一要?jiǎng)?wù)，一些關(guān)鍵核心技術(shù)被冠之以商業(yè)秘密?chē)?yán)加保護(hù)，而對(duì)技術(shù)內(nèi)在漏洞及其潛在風(fēng)險(xiǎn)的關(guān)注較少。這就很容易讓自家技術(shù)固有的安全漏洞被“封存”起來(lái)。以算法技術(shù)最為依賴(lài)的大數(shù)據(jù)領(lǐng)域?yàn)槔?，?dāng)前人工智能數(shù)據(jù)資產(chǎn)已開(kāi)始出現(xiàn)寡頭壟斷的態(tài)勢(shì)，互聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)資產(chǎn)半數(shù)都集中在100家左右的頭部企業(yè)，這些頭部企業(yè)對(duì)數(shù)據(jù)開(kāi)放持謹(jǐn)慎態(tài)度（中國(guó)信息通信研究院，2021）。[15]它們憑借自身優(yōu)勢(shì)數(shù)據(jù)進(jìn)行人工智能算法研究和驗(yàn)證，根本不會(huì)與其他公司更遑論公眾分享數(shù)據(jù)及其算法成果，“有限理性”常常使它們自己也不太清楚設(shè)計(jì)出的算法究竟存在哪些漏洞，這就導(dǎo)致技術(shù)內(nèi)部風(fēng)險(xiǎn)（如精確度不高、識(shí)別度差、能效比低、系統(tǒng)不穩(wěn)定等）擴(kuò)散到實(shí)驗(yàn)室之外。

其二，技術(shù)收益遮蔽風(fēng)險(xiǎn)讓資本放松監(jiān)管。杰里米·里夫金（2014）在《零邊際成本社會(huì)》中預(yù)言，隨著市場(chǎng)競(jìng)爭(zhēng)和技術(shù)創(chuàng)新，生產(chǎn)力發(fā)展終將躍過(guò)“終點(diǎn)線(xiàn)”，即商品生產(chǎn)的邊際成本趨向于零。[16]在該模式下，技術(shù)的持續(xù)改進(jìn)會(huì)讓產(chǎn)品性能和服務(wù)質(zhì)量得以持續(xù)提高，會(huì)給資本帶來(lái)可見(jiàn)的、不斷增長(zhǎng)的收益。如今，人工智能技術(shù)的快速發(fā)展讓資本看到了生產(chǎn)率足夠高、價(jià)格足夠低的零邊際成本的增長(zhǎng)模式實(shí)現(xiàn)的希望。技術(shù)帶來(lái)的巨大收益將“遮蔽”技術(shù)風(fēng)險(xiǎn)，資本會(huì)誤認(rèn)為，技術(shù)即便有漏洞和———— ———不完善的地方，與其帶來(lái)的收益相比也是可以接受的。技術(shù)與資本間的互惠使資本加強(qiáng)了對(duì)技術(shù)帶來(lái)高附加值的期待，放松了對(duì)技術(shù)風(fēng)險(xiǎn)的監(jiān)管自覺(jué)，埋下并積累了隱患。

其三，人工智能技術(shù)改變著資本主導(dǎo)的生產(chǎn)方式，增強(qiáng)了資本對(duì)勞動(dòng)的控制，在一定程度上激化了勞資矛盾的風(fēng)險(xiǎn)。人工智能催生的新業(yè)態(tài)讓勞動(dòng)者看似可以“自由”地選擇工作平臺(tái)、工作時(shí)間，實(shí)則又陷入App、智能算法等數(shù)字機(jī)器體系所左右的數(shù)字泰勒主義的控制之中（Staab和Nachtwey，2016）。[17]掌握數(shù)字網(wǎng)絡(luò)平臺(tái)的科技巨頭競(jìng)相通過(guò)操作系統(tǒng)授用、應(yīng)用程序編程接口和標(biāo)準(zhǔn)開(kāi)發(fā)工具包等方式，精心構(gòu)筑“帶圍墻的花園”（walled garden），攫取并壟斷呈指數(shù)級(jí)增長(zhǎng)的海量數(shù)據(jù)（黃再勝，2020）。[18]各種算法等數(shù)字機(jī)器對(duì)源源不斷的人類(lèi)生產(chǎn)生活信息進(jìn)行“二次加工”，形成功能各異的數(shù)據(jù)產(chǎn)品或服務(wù)，人工智能技術(shù)在生產(chǎn)環(huán)節(jié)被用來(lái)優(yōu)化生產(chǎn)流程、控制員工行為，成為“壓榨”員工勞動(dòng)的“幫兇”。無(wú)處不在的數(shù)字監(jiān)控和數(shù)字化績(jī)效考核，不斷侵蝕勞動(dòng)的自主性，把數(shù)字勞工的勞動(dòng)強(qiáng)度推向極限，勞資沖突的風(fēng)險(xiǎn)在這一過(guò)程中進(jìn)一步累積。

2.資本對(duì)技術(shù)發(fā)展的操控及風(fēng)險(xiǎn)

其一，資本會(huì)促逼①德語(yǔ)中，促逼（Herausfordern）有挑釁和挑戰(zhàn)的意思。海德格爾在關(guān)于技術(shù)本質(zhì)的論述中使用了促逼，意指一種把自然功能化、齊一化的技術(shù)模式，是人類(lèi)要求自然提供出能量及其蘊(yùn)藏著的能效的開(kāi)發(fā)行徑。本文將其用在技術(shù)與資本關(guān)系闡釋上，以描述資本對(duì)技術(shù)的利用狀況與程度。人工智能商業(yè)落地，導(dǎo)致技術(shù)領(lǐng)域的短視行為激增。由于資本先天對(duì)“高風(fēng)險(xiǎn)”的厭惡本能，它們更青睞那些短線(xiàn)的、能快速見(jiàn)到效益的技術(shù)項(xiàng)目，因此人工智能應(yīng)用類(lèi)技術(shù)項(xiàng)目獲得了大量投資。2012—2018年，中國(guó)人工智能投資呈現(xiàn)爆發(fā)式增長(zhǎng)，其中行業(yè)解決方案、智能風(fēng)控、智能影像診療、智能營(yíng)銷(xiāo)等技術(shù)應(yīng)用資金熱度最高，相比之下，資本對(duì)人工智能基礎(chǔ)層的投資則非常保守，針對(duì)基礎(chǔ)元件、AI芯片的投資頻數(shù)占比不足20%（張一豪，2020）。[7]資本促逼下的技術(shù)短視行為造成了技術(shù)力量的分散化，難以形成合力以開(kāi)展核心技術(shù)的攻堅(jiān)。為了生存，一些人工智能科技公司特別是小型的初創(chuàng)公司會(huì)把大量的技術(shù)力量投入短平快的技術(shù)應(yīng)用開(kāi)發(fā)項(xiàng)目上，做出一些打著人工智能旗號(hào)的低端產(chǎn)品，競(jìng)爭(zhēng)力不強(qiáng)，市場(chǎng)淘汰風(fēng)險(xiǎn)大。

其二，資本對(duì)技術(shù)倫理的直接干預(yù)導(dǎo)致內(nèi)部倫理審查失守。資本對(duì)增加安全性而進(jìn)行的研究普遍缺乏耐心。如果資本意識(shí)到技術(shù)性能改進(jìn)之外的設(shè)計(jì)將延遲產(chǎn)品服務(wù)投放市場(chǎng)的周期，則很容易做出干預(yù)技術(shù)的決定，這些干預(yù)在技術(shù)倫理審查領(lǐng)域較為突出。目前，業(yè)界對(duì)與人工智能配套的倫理規(guī)范和法律法規(guī)尚未達(dá)成共識(shí)，僅有少數(shù)科技公司自行制定的技術(shù)倫理宣言或類(lèi)行業(yè)準(zhǔn)則。例如，2019年，谷歌公司曾成立過(guò)內(nèi)部倫理審查委員會(huì)，較早提出“技術(shù)不作惡”的倫理宣言。但該倫理審查與公司商業(yè)利益相悖，這個(gè)委員會(huì)僅存在一周就不得不宣告解散。可見(jiàn)，為保護(hù)公眾安全與用戶(hù)利益的科技倫理多數(shù)時(shí)候還是要讓位于資本增值的目標(biāo)。

其三，資本迫使技術(shù)幫其實(shí)施操縱式牟利活動(dòng)。算法技術(shù)原本可以提高機(jī)器的識(shí)別效率，相關(guān)應(yīng)用的開(kāi)發(fā)原本是為了更好地了解用戶(hù)需求，從而改善用戶(hù)體驗(yàn)。資本在這里卻發(fā)現(xiàn)了“商機(jī)”，一些互聯(lián)網(wǎng)平臺(tái)企業(yè)濫用市場(chǎng)支配地位，憑借數(shù)據(jù)和算法優(yōu)勢(shì)操縱價(jià)格體系，出現(xiàn)了所謂的“殺熟”現(xiàn)象。企業(yè)越是熟悉用戶(hù)的習(xí)慣和價(jià)格偏好，越有機(jī)會(huì)實(shí)施有區(qū)別的定價(jià)策略，那些對(duì)企業(yè)服務(wù)或產(chǎn)品越忠實(shí)的用戶(hù)受到不公平待遇的概率就越大。這些行為背后都有資本的幕后推動(dòng)。資本為了獲取超額利潤(rùn)，會(huì)授意乃至迫使人工智能技術(shù)部門(mén)服務(wù)于資本增值的需要。這時(shí)的技術(shù)要么由于本身隸屬于企業(yè)，只能聽(tīng)命于資本；要么因被資本購(gòu)買(mǎi)了服務(wù)，同樣需要幫其攫取利潤(rùn)。

（二）“技術(shù)—政策”交互及風(fēng)險(xiǎn)

1.政策對(duì)技術(shù)的復(fù)雜態(tài)度及風(fēng)險(xiǎn)

政策對(duì)技術(shù)存在“扶持和監(jiān)管”兩種態(tài)度，二者的狀態(tài)將影響技術(shù)發(fā)展空間、成長(zhǎng)速度和應(yīng)用落地機(jī)會(huì)及效果。就當(dāng)前國(guó)內(nèi)政策對(duì)人工智能的態(tài)度看，鼓勵(lì)與扶持多于限制與監(jiān)管。對(duì)于人工智能發(fā)展帶來(lái)的道德、法律和社會(huì)影響雖然有提及，但政策采取了“無(wú)需批準(zhǔn)式”監(jiān)管邏輯（賈開(kāi)和蔣余浩，2017），強(qiáng)調(diào)除非有充分案例證明其危害性，否則新技術(shù)和新商業(yè)模式都是允許的。[19]在這種情況下，“技術(shù)作惡”給用戶(hù)利益乃至國(guó)家安全帶來(lái)的損失與威脅也越來(lái)越大。

一是政策監(jiān)管缺失給國(guó)家安全帶來(lái)極大的不確定性。在政權(quán)安全方面，人工智能日益強(qiáng)大的信息采集、分析、加工和傳播能力一旦不受約束或被利益集團(tuán)、敵對(duì)勢(shì)力控制，就存在被直接用于制造國(guó)內(nèi)政治議程、干擾內(nèi)部政治生態(tài)、破壞國(guó)內(nèi)政權(quán)穩(wěn)定等重大風(fēng)險(xiǎn)。在經(jīng)濟(jì)安全方面，人工智能將徹底改變經(jīng)濟(jì)的運(yùn)作模式，產(chǎn)生超乎想象的經(jīng)濟(jì)后果，給現(xiàn)有的經(jīng)濟(jì)體制、市場(chǎng)機(jī)制帶來(lái)更大風(fēng)險(xiǎn)與挑戰(zhàn)。如金融領(lǐng)域人工智能的廣泛應(yīng)用誘發(fā)高頻交易故障①2012年，美國(guó)“騎士資本”就因其人工智能控制的高頻交易程序發(fā)生故障導(dǎo)致超過(guò)4億美元的虧損，并造成美國(guó)股市大幅波動(dòng)。，極易導(dǎo)致金融股市的大幅波動(dòng)，嚴(yán)重時(shí)會(huì)造成金融市場(chǎng)混亂，影響整個(gè)國(guó)家經(jīng)濟(jì)運(yùn)行；不受監(jiān)管的人工智能還會(huì)給國(guó)家的經(jīng)濟(jì)數(shù)據(jù)安全帶來(lái)風(fēng)險(xiǎn)，大量關(guān)系國(guó)家經(jīng)濟(jì)運(yùn)行狀況的核心經(jīng)濟(jì)數(shù)據(jù)一旦被境外人工智能程序抓取分析，則容易將國(guó)家經(jīng)濟(jì)發(fā)展的薄弱環(huán)節(jié)暴露，給國(guó)際競(jìng)爭(zhēng)對(duì)手提供精確打擊的目標(biāo)。在國(guó)土安全方面，缺少監(jiān)管的人工智能會(huì)滋生“技術(shù)恐怖主義”，恐怖組織和個(gè)人利用人工智能技術(shù)采集情報(bào)、動(dòng)員人力，發(fā)動(dòng)隱秘性更強(qiáng)、破壞性更大的網(wǎng)絡(luò)襲擊，大大增加了國(guó)土安全防護(hù)的難度。

二是政策監(jiān)管不到位不及時(shí)會(huì)產(chǎn)生數(shù)據(jù)濫用與侵害用戶(hù)權(quán)益等問(wèn)題。在當(dāng)前的商業(yè)領(lǐng)域，數(shù)據(jù)非法采集、超出服務(wù)范圍的存儲(chǔ)和數(shù)據(jù)販賣(mài)等數(shù)據(jù)濫用情況呈現(xiàn)多發(fā)高發(fā)態(tài)勢(shì)。2018年，有媒體曝光英國(guó)劍橋分析公司曾以不正當(dāng)方式從美國(guó)社交媒體平臺(tái)Facebook獲取8700萬(wàn)用戶(hù)的居住地、喜歡的內(nèi)容、朋友信息等敏感內(nèi)容，并利用人工智能分析結(jié)果精準(zhǔn)推送政治廣告，影響美國(guó)總統(tǒng)選舉（張家偉，2018）。[20]2021年，央視3·15晚會(huì)曝光非法獲取消費(fèi)者人臉信息的情況（央視網(wǎng)，2021），眾多知名企業(yè)利用人面識(shí)別技術(shù)，在沒(méi)有向消費(fèi)者征詢(xún)?cè)S可意見(jiàn)等情況下，利用店內(nèi)廣布的攝像頭收集用戶(hù)人臉相關(guān)數(shù)據(jù)服務(wù)于產(chǎn)品銷(xiāo)售，以此掌握定價(jià)主動(dòng)權(quán)，損害消費(fèi)者權(quán)益。[21]

三是缺乏監(jiān)管或監(jiān)管偏弱會(huì)導(dǎo)致算法偏見(jiàn)等后果，加劇社會(huì)不平等狀況。“算法偏見(jiàn)”是指人工智能的算法程序在信息生產(chǎn)和分發(fā)過(guò)程中失去客觀中立的立場(chǎng)，進(jìn)而導(dǎo)致顯失公平的社會(huì)性后果的歧視現(xiàn)象，包括基于技術(shù)的政治偏見(jiàn)、性別偏見(jiàn)和種族偏見(jiàn)。算法偏見(jiàn)實(shí)際上將人們困在原有的社會(huì)結(jié)構(gòu)之中，加劇社會(huì)資源分配的“馬太效應(yīng)”。2018年，路透社揭露亞馬遜公司開(kāi)發(fā)的人工智能招聘系統(tǒng)在對(duì)大量求職簡(jiǎn)歷進(jìn)行篩選時(shí)，對(duì)包含“女性”等詞的簡(jiǎn)歷進(jìn)行降權(quán)處理，人為降低了女性求職成功的概率（王鳳枝，2018）。[22]一項(xiàng)研究表明，美國(guó)警方的人臉?lè)缸镒R(shí)別系統(tǒng)會(huì)認(rèn)定黑人犯罪概率更高，這與美國(guó)嚴(yán)重的種族歧視密切相關(guān)（趙挪亞，2019）。[23]與社會(huì)文化同構(gòu)的智能算法，會(huì)延續(xù)和擴(kuò)大現(xiàn)實(shí)社會(huì)存在的偏見(jiàn)，進(jìn)而導(dǎo)致歧視性后果；這些后果又成為新數(shù)據(jù)再次被人工智能捕捉學(xué)習(xí)，由此形成社會(huì)偏見(jiàn)的惡性循環(huán)與固化，加劇社會(huì)現(xiàn)實(shí)中的不平等。

2.技術(shù)自主發(fā)展對(duì)政策規(guī)劃的破壞效應(yīng)

人工智能系統(tǒng)日益顯現(xiàn)出“高度自主”的特性，繼續(xù)發(fā)展下去有可能出現(xiàn)脫離人類(lèi)規(guī)劃和控制的“技術(shù)利維坦”②“利維坦”(Leviathan)是《圣經(jīng)·舊約》中的海上巨獸。霍布斯認(rèn)為，國(guó)家就像一個(gè)“利維坦”，人們對(duì)強(qiáng)大的國(guó)家提供的“和平與安全”保障極為依賴(lài)，但又時(shí)刻防范國(guó)家濫用公權(quán)力侵害公民權(quán)利。以此類(lèi)推，”技術(shù)利維坦“是指原本為滿(mǎn)足人類(lèi)需要而研發(fā)出的技術(shù)體系日益脫離人類(lèi)政治和社會(huì)系統(tǒng)的控制，成為制造人類(lèi)欲望、左右人類(lèi)意志、控制人類(lèi)行為甚至侵犯人類(lèi)基本權(quán)益的異化力量。，在資本增值逐利的促動(dòng)下“反噬”政策規(guī)劃。

一是技術(shù)自主發(fā)展對(duì)政策規(guī)劃的經(jīng)濟(jì)目標(biāo)的偏離。政策規(guī)劃希望借助人工智能的顛覆性力量賦能經(jīng)濟(jì)增長(zhǎng)，實(shí)現(xiàn)社會(huì)生產(chǎn)力的整體躍升；現(xiàn)實(shí)卻是隨著人工智能技術(shù)的大量推廣應(yīng)用帶來(lái)了越來(lái)越明顯的就業(yè)替代效應(yīng)。傳統(tǒng)的、固定場(chǎng)所和固定雇主的工作越來(lái)越少，短期的、臨時(shí)的、不固定場(chǎng)所的工作日益增多，勞動(dòng)關(guān)系變得越來(lái)越不穩(wěn)定，勞動(dòng)保障遭遇到新障礙。有實(shí)證研究指出，工業(yè)機(jī)器人滲透度每增加1%，企業(yè)勞動(dòng)力需求會(huì)下降0.18%，機(jī)器人應(yīng)用對(duì)不同技能勞動(dòng)力需求的影響存在差異，“就業(yè)極化”特征明顯（王永欽和董雯，2020）。[24]盡管長(zhǎng)期來(lái)看，人工智能推動(dòng)的產(chǎn)業(yè)自動(dòng)化和智能機(jī)械化可以解放人類(lèi)的勞動(dòng)，極大減輕勞動(dòng)強(qiáng)度，增加社會(huì)整體福利。但是，在特定的工作情境和勞動(dòng)力市場(chǎng)中，短期內(nèi)由人工智能普及帶來(lái)技術(shù)替代效應(yīng)與失業(yè)風(fēng)險(xiǎn)卻是政策規(guī)劃不得不面對(duì)的意外結(jié)果。

二是技術(shù)自主發(fā)展對(duì)政策規(guī)劃的社會(huì)建設(shè)目標(biāo)的扭曲。我國(guó)的政策規(guī)劃明確指出，通過(guò)在社會(huì)建設(shè)領(lǐng)域推廣使用人工智能技術(shù)，全面提升人民生活品質(zhì)；但現(xiàn)實(shí)的技術(shù)發(fā)展存在扭曲社會(huì)建設(shè)政策目標(biāo)的傾向。在當(dāng)今中國(guó)，不同階層、年齡、行業(yè)甚至性別的人群享受數(shù)字技術(shù)紅利的程度存在明顯差別。由于人工智能技術(shù)普遍缺乏“社會(huì)適應(yīng)性”考慮，給部分社會(huì)成員的生活帶來(lái)實(shí)質(zhì)性困擾，一些文化程度偏低、年齡偏大的人打不上出租車(chē)、掛不上醫(yī)院就診號(hào)，甚至在餐館點(diǎn)不了餐。原本期待的服務(wù)水平的提升與生活品質(zhì)的提高被扭曲成了數(shù)字鴻溝①所謂“數(shù)字鴻溝”是指，隨著數(shù)字化生存特征的增強(qiáng)，掌握并熟練運(yùn)用數(shù)字信息及技術(shù)的人與那些未曾掌握或不能熟練運(yùn)用數(shù)字信息及技術(shù)的人之間產(chǎn)生的巨大差距。的擴(kuò)大與加深，反而讓一部分社會(huì)成員因?yàn)榧夹g(shù)推廣而被隔離在社會(huì)生活之外。技術(shù)鴻溝的持續(xù)累積容易產(chǎn)生新的社會(huì)排斥，將部分社會(huì)成員排除在數(shù)字福利之外，這當(dāng)然有違政策規(guī)劃推進(jìn)社會(huì)建設(shè)的初衷。

三是技術(shù)自主發(fā)展對(duì)政策規(guī)劃的安全穩(wěn)定目標(biāo)的侵蝕。我國(guó)大力發(fā)展人工智能還有一個(gè)目的，那就是將人工智能應(yīng)用于日常社會(huì)治理中，有效防范和化解社會(huì)矛盾糾紛，增進(jìn)群體理解和社會(huì)團(tuán)結(jié)。現(xiàn)實(shí)的發(fā)展未必完全如此。各類(lèi)新聞網(wǎng)站或購(gòu)物平臺(tái)依賴(lài)掌控的海量用戶(hù)瀏覽使用等信息，通過(guò)人工智能數(shù)據(jù)挖掘，向用戶(hù)推送有迎合意味的信息，讓人沉浸在自我滿(mǎn)足中而不自知，久而久之，一些人群會(huì)出現(xiàn)固化自己喜好，甚至拒絕接受更不會(huì)相信與自己喜好不一致信息的“信息繭房”現(xiàn)象（桑斯坦，2008）。[25]生活在信息繭房里的人與外部世界的聯(lián)系將急劇減少，往往盲目自信，有狹隘心理，甚至滋生極端思想和過(guò)激行為?？梢钥隙ǎ⒃诖髷?shù)據(jù)和人工智能算法分析基礎(chǔ)上的信息“投喂”，最終會(huì)導(dǎo)致社會(huì)紐帶的撕裂和社會(huì)黏性的喪失。

（三）“政策—資本”的交互及風(fēng)險(xiǎn)

“政策—資本”的交互風(fēng)險(xiǎn)主要發(fā)生在國(guó)家戰(zhàn)略的落地階段，是地方政策本身或與產(chǎn)業(yè)、企業(yè)及其背后的資本關(guān)系在定位、互動(dòng)和回應(yīng)等方面的失策、失當(dāng)和失誤所誘發(fā)的風(fēng)險(xiǎn)。大體可分為兩類(lèi)：對(duì)區(qū)域經(jīng)濟(jì)—社會(huì)發(fā)展的干擾和破壞以及對(duì)企業(yè)、行業(yè)和產(chǎn)業(yè)造成的危害。

1.地方“經(jīng)濟(jì)—社會(huì)”發(fā)展層面的風(fēng)險(xiǎn)

其一，地方政策鼓勵(lì)與資本無(wú)序擴(kuò)張下的交互風(fēng)險(xiǎn)。由于“發(fā)展錦標(biāo)賽”等體制性原因，為了吸引外部投資，地方政府通常開(kāi)出攀比性?xún)?yōu)惠條件，讓資本的議價(jià)能力和話(huà)語(yǔ)權(quán)相對(duì)提高。面對(duì)人工智能投資熱潮，資本尤其是占有市場(chǎng)優(yōu)勢(shì)的金融資本開(kāi)始了新一輪針對(duì)人工智能產(chǎn)業(yè)的“跑馬圈地”運(yùn)動(dòng)。隨著投資沖動(dòng)的加劇，此類(lèi)項(xiàng)目占用的地方經(jīng)濟(jì)社會(huì)資源越來(lái)越多，對(duì)地方經(jīng)濟(jì)結(jié)構(gòu)的影響也越來(lái)越深刻。但人工智能產(chǎn)業(yè)作為新興技術(shù)的商業(yè)模式目前尚不成熟，難以在短期內(nèi)形成產(chǎn)業(yè)集群，無(wú)論是市場(chǎng)規(guī)模還是產(chǎn)品投資回報(bào)都存在較大的不確定性。一旦地方政府著力打造的人工智能投資項(xiàng)目出現(xiàn)失敗或者效益不佳的情況，往往會(huì)拖累地方經(jīng)濟(jì)增長(zhǎng)，甚至給財(cái)政帶來(lái)沉重的“包袱”。

其二，地方發(fā)展經(jīng)濟(jì)的路徑依賴(lài)與地方保護(hù)主義作用下的風(fēng)險(xiǎn)。具體表現(xiàn)為：（1）重復(fù)建設(shè)與產(chǎn)能過(guò)剩。由于一些地方政府沒(méi)有從根本上轉(zhuǎn)變經(jīng)濟(jì)增長(zhǎng)模式，沒(méi)有認(rèn)清人工智能技術(shù)和產(chǎn)業(yè)的特性，更沒(méi)有深入研判其對(duì)整個(gè)經(jīng)濟(jì)社會(huì)“創(chuàng)造性破壞效應(yīng)”①熊彼特較早地論述了創(chuàng)新及其創(chuàng)造性破壞效應(yīng)的概念（熊彼特，2020）。[26]他認(rèn)為，創(chuàng)新是一種生產(chǎn)函數(shù)的轉(zhuǎn)變，意味著生產(chǎn)要素和生產(chǎn)條件的重新組合，這些新組合引入到生產(chǎn)體系使得技術(shù)系統(tǒng)發(fā)生變革，讓企業(yè)獲得利潤(rùn)或超額利潤(rùn)。在這一過(guò)程中，新的生產(chǎn)要素組合實(shí)現(xiàn)了對(duì)原有生產(chǎn)體系的“創(chuàng)造性破壞”，形成了一種新的生產(chǎn)能力。經(jīng)濟(jì)結(jié)構(gòu)的革命性變化就是不斷破壞舊結(jié)構(gòu)、創(chuàng)造新結(jié)構(gòu)的過(guò)程。，而是出于常規(guī)政策慣性扶持人工智能產(chǎn)業(yè)落地。地方政府大多沿用以往“投資+引資”的擴(kuò)張模式，在吸引資本投資類(lèi)型、產(chǎn)業(yè)結(jié)構(gòu)、企業(yè)屬性上都顯現(xiàn)出趨同化特征，過(guò)度投資、重復(fù)建設(shè)乃至產(chǎn)能過(guò)剩等弊病大概率會(huì)在人工智能發(fā)展道路上重現(xiàn)。（2）政策對(duì)投資擴(kuò)張的路徑依賴(lài)又會(huì)帶來(lái)地方保護(hù)主義盛行，影響智能產(chǎn)業(yè)升級(jí)質(zhì)量。一些地方出臺(tái)政策時(shí)毫不掩飾對(duì)本地企業(yè)的偏愛(ài)，通過(guò)一些市場(chǎng)準(zhǔn)入條件給予本地資本和企業(yè)以?xún)?yōu)先機(jī)會(huì)。像北京、廣東、浙江、江蘇等科技強(qiáng)省自身就是百度、騰訊、阿里、京東這類(lèi)巨型互聯(lián)網(wǎng)平臺(tái)科技公司總部或研發(fā)基地的駐地，這些公司又與紅杉資本、IDG資本等知名投資機(jī)構(gòu)利益關(guān)系密切。于是，各地發(fā)展人工智能的實(shí)施方案皆重點(diǎn)打造依托龍頭企業(yè)技術(shù)的研發(fā)平臺(tái)和產(chǎn)業(yè)集群，力圖在區(qū)域競(jìng)爭(zhēng)中占得先機(jī)。但是，政策偏好容易形成對(duì)其他投資者和企業(yè)不利的排他性產(chǎn)業(yè)環(huán)境，客觀上或?qū)⒁种朴蛲馄髽I(yè)投資積極性和行業(yè)創(chuàng)新力，最終會(huì)影響到地方產(chǎn)業(yè)轉(zhuǎn)型升級(jí)的質(zhì)量。

其三，政策過(guò)熱與資本擴(kuò)張帶來(lái)的連鎖風(fēng)險(xiǎn)。地方政策過(guò)熱和資本無(wú)序擴(kuò)張可能打亂國(guó)家發(fā)展規(guī)劃，給地方或區(qū)域經(jīng)濟(jì)社會(huì)帶來(lái)不利后果，嚴(yán)重時(shí)會(huì)引發(fā)連鎖危機(jī)反應(yīng)。例如，目前各地有關(guān)人工智能的產(chǎn)業(yè)布局的應(yīng)用導(dǎo)向明顯，基礎(chǔ)理論和基礎(chǔ)技術(shù)研嚴(yán)重不足。基礎(chǔ)研究經(jīng)費(fèi)投入比重不高、激勵(lì)機(jī)制不健全、成果長(zhǎng)周期評(píng)價(jià)缺乏等制約人工智能基礎(chǔ)理論創(chuàng)新與技術(shù)研發(fā)，很容易在關(guān)鍵戰(zhàn)略機(jī)遇期錯(cuò)失良機(jī)，導(dǎo)致地方短視和部門(mén)利益替代國(guó)家長(zhǎng)遠(yuǎn)和戰(zhàn)略需求。國(guó)家戰(zhàn)略在地方被部分替代，又讓資本可以持續(xù)投資一些短平快項(xiàng)目。比如，各類(lèi)智能安防企業(yè)的業(yè)務(wù)量近兩年快速增長(zhǎng)，這類(lèi)二級(jí)市場(chǎng)的繁榮背后卻存在對(duì)個(gè)人隱私保護(hù)嚴(yán)重缺失的風(fēng)險(xiǎn)。公民個(gè)人信息的數(shù)據(jù)化、商業(yè)化已經(jīng)給用戶(hù)帶來(lái)了非常嚴(yán)重的人身安全和財(cái)產(chǎn)損失問(wèn)題，引發(fā)社會(huì)擔(dān)憂(yōu)，動(dòng)搖著人工智能政策落地的社會(huì)信任基礎(chǔ)。

2.人工智能產(chǎn)業(yè)和企業(yè)層面的風(fēng)險(xiǎn)

一是政策過(guò)度保護(hù)下的資本擴(kuò)張容易催生“虛假創(chuàng)新”。地方政策過(guò)度保護(hù)和有選擇的企業(yè)準(zhǔn)入行為，有可能讓資本因風(fēng)險(xiǎn)厭惡觸發(fā)的投資謹(jǐn)慎和由此帶來(lái)的創(chuàng)新篩選與淘汰機(jī)制失靈，進(jìn)而滋生“為投資而投資”的虛假創(chuàng)新。一方面，國(guó)內(nèi)一些人工智能企業(yè)出于獲得政府補(bǔ)貼稅收優(yōu)惠、獲得資本市場(chǎng)準(zhǔn)入資格等自利考慮，多用“國(guó)內(nèi)首款”“打破國(guó)外壟斷”“全球領(lǐng)先”等噱頭來(lái)宣傳自己的人工智能產(chǎn)品，但其中不少實(shí)質(zhì)上還停留在“產(chǎn)品服務(wù)理念的宣傳”“概念炒作”的初級(jí)階段，缺少核心技術(shù)專(zhuān)利，更沒(méi)有顛覆性創(chuàng)新產(chǎn)品投入商用。另一方面，政策系統(tǒng)也缺乏針對(duì)人工智能基礎(chǔ)創(chuàng)新、應(yīng)用成果創(chuàng)新評(píng)價(jià)與鑒定的國(guó)家標(biāo)準(zhǔn)或行業(yè)標(biāo)準(zhǔn)，對(duì)上述虛假創(chuàng)新行為缺少必要的剛性約束、有效識(shí)別和懲罰機(jī)制，導(dǎo)致虛假創(chuàng)新現(xiàn)象蔓延，影響到整個(gè)產(chǎn)業(yè)創(chuàng)新驅(qū)動(dòng)質(zhì)量的提升。

二是政策保護(hù)與資本熱捧容易形成行業(yè)壟斷。由于人工智能發(fā)展存在高技術(shù)壁壘，發(fā)展人工智能產(chǎn)業(yè)，需要政策的持續(xù)支持和大量資本的長(zhǎng)期投入作為基礎(chǔ)，并在技術(shù)人才和市場(chǎng)認(rèn)可的不間斷支撐下，才有可能換來(lái)未來(lái)產(chǎn)業(yè)規(guī)模和效益的增加。即便如此，也不能完全排除部分人工智能技術(shù)研發(fā)和商用失敗，給投資帶來(lái)極大的不確定性。這對(duì)企業(yè)和投資機(jī)構(gòu)的抗風(fēng)險(xiǎn)能力要求較高。真正愿意又有能力響應(yīng)政策號(hào)召，加入人工智能領(lǐng)域直接參與投資、基礎(chǔ)研究和開(kāi)發(fā)應(yīng)用的企業(yè)的范圍有限，能長(zhǎng)期堅(jiān)持持續(xù)運(yùn)營(yíng)的科技企業(yè)則更少。20世紀(jì)90年代以來(lái)的互聯(lián)網(wǎng)經(jīng)濟(jì)的發(fā)展經(jīng)驗(yàn)也告訴人們，高新技術(shù)行業(yè)的發(fā)展在政策與資本共同作用下很容易走向行業(yè)兼并和壟斷形態(tài)，影響到技術(shù)進(jìn)步和經(jīng)濟(jì)效率的提升，最終消費(fèi)者的權(quán)益也將受到損害。

三是政策推動(dòng)下的資本過(guò)熱容易引發(fā)劇烈的市場(chǎng)波動(dòng)，損傷實(shí)體經(jīng)濟(jì)。當(dāng)前，真正有較高市場(chǎng)價(jià)值的智能產(chǎn)品或智能服務(wù)在生產(chǎn)、生活和管理領(lǐng)域的應(yīng)用范圍依然有限，市場(chǎng)的認(rèn)可度和接受度并不高。市場(chǎng)吸納能力不足有可能演化成系統(tǒng)性市場(chǎng)風(fēng)險(xiǎn)，這將損害投資者利益，也影響地方產(chǎn)業(yè)結(jié)構(gòu)調(diào)整的成效。一旦資本做出“投資避險(xiǎn)”決定，大規(guī)模的撤資會(huì)帶來(lái)產(chǎn)業(yè)資金緊張等流動(dòng)性風(fēng)險(xiǎn)。中國(guó)信息通信研究院的研究報(bào)告指出，2019—2020年資本市場(chǎng)對(duì)人工智能投資熱度明顯下降，全球這兩年新增人工智能企業(yè)數(shù)量明顯下降，且投融資的輪次后移趨勢(shì)不斷擴(kuò)大，曾獲大筆融資的知名創(chuàng)新企業(yè)由于收益低于預(yù)期、虛假宣傳等原因退出產(chǎn)業(yè)舞臺(tái)（中國(guó)信息通信研究院，2021）。[15]地方政府為避免出現(xiàn)更嚴(yán)重的經(jīng)濟(jì)與社會(huì)后果，又不得不做出收縮性政策調(diào)整，這會(huì)導(dǎo)致前期“轟轟烈烈”后期“冷冷清清”的政策起伏和市場(chǎng)波動(dòng)，給人工智能行業(yè)及相關(guān)實(shí)體經(jīng)濟(jì)帶來(lái)更大的風(fēng)險(xiǎn)甚至是實(shí)質(zhì)性危害。

三、人工智能發(fā)展驅(qū)動(dòng)與風(fēng)險(xiǎn)生成的整合框架

對(duì)于技術(shù)創(chuàng)新的動(dòng)力與源泉一直以來(lái)都存在兩種彼此分立的觀點(diǎn)：熊彼特學(xué)派認(rèn)為新技術(shù)沿著“慣例”以適應(yīng)環(huán)境要求的方向不斷更新，技術(shù)發(fā)展遵循著“創(chuàng)新—選擇—擴(kuò)散”路徑不斷推動(dòng)著經(jīng)濟(jì)社會(huì)的產(chǎn)業(yè)化和集成化（熊彼特，2020；納爾遜和溫特，1997）[26-27]；以諾斯為代表的制度學(xué)派則堅(jiān)持認(rèn)為，是制度等外部環(huán)境因素推動(dòng)著技術(shù)的進(jìn)步，制度安排的合理性決定著技術(shù)創(chuàng)新的成?。ㄖZ斯，1994；Raven，2005）[28-29]。也有研究者探討過(guò)技術(shù)創(chuàng)新與風(fēng)險(xiǎn)之間的關(guān)系，但多是闡釋營(yíng)商環(huán)境、政策環(huán)境、金融結(jié)構(gòu)等宏觀因素以及技術(shù)研發(fā)水平、企業(yè)財(cái)務(wù)狀況、企業(yè)運(yùn)營(yíng)管理等微觀因素對(duì)技術(shù)創(chuàng)新的影響機(jī)制與阻礙程度等主題（Antikainen和Ualkokari，2016；Bhattacharya等，2017）[30-31]；在人文社科領(lǐng)域，研究者對(duì)科學(xué)技術(shù)的巨大進(jìn)步及其社會(huì)影響的反思更具洞見(jiàn)性。薩頓曾斷言，就建設(shè)性而論，科技的精神是最強(qiáng)的力量；就破壞性而論，它也是最強(qiáng)的力量（薩頓，2007）[32]。這些研究鮮有從發(fā)展本身來(lái)探討技術(shù)演化中的風(fēng)險(xiǎn)，更沒(méi)有從發(fā)展與風(fēng)險(xiǎn)的互嵌視角來(lái)闡釋二者的復(fù)雜作用機(jī)制及影響。

事實(shí)上，發(fā)展與風(fēng)險(xiǎn)是事物演進(jìn)過(guò)程中的一體兩面。推動(dòng)發(fā)展的力量可能同時(shí)也蘊(yùn)含著破壞甚至毀滅的反作用力。人工智能的發(fā)展不是哪一種力量單獨(dú)作用的結(jié)果，技術(shù)內(nèi)在進(jìn)化的驅(qū)動(dòng)、資本投入的增值沖動(dòng)和政策規(guī)劃的推動(dòng)又在“技術(shù)—社會(huì)”體系中相互交織，產(chǎn)生復(fù)雜的、新的合力，激發(fā)出更為強(qiáng)大的“連鎖—增強(qiáng)”效應(yīng)，共同促進(jìn)人工智能的飛速發(fā)展和風(fēng)險(xiǎn)積聚。技術(shù)固有缺陷和安全漏洞產(chǎn)生的內(nèi)生性風(fēng)險(xiǎn)，隨著資本的追捧和政策的推動(dòng)而不斷外溢，被放大到更廣闊的經(jīng)濟(jì)、社會(huì)領(lǐng)域，產(chǎn)生更為深遠(yuǎn)的影響。本文將上述要素及其運(yùn)作邏輯進(jìn)行組合，構(gòu)建一個(gè)分析人工智能發(fā)展及其風(fēng)險(xiǎn)的整合性框架（見(jiàn)圖1）。其中，發(fā)展的動(dòng)力鏈條沿著“政策—資本—技術(shù)—政策”的方向不斷深入，從宏觀政策目標(biāo)導(dǎo)向到資本增值推動(dòng)，再到技術(shù)加速進(jìn)化，從而進(jìn)一步強(qiáng)化政策系統(tǒng)的調(diào)節(jié)作用，開(kāi)始新一輪創(chuàng)新驅(qū)動(dòng)的發(fā)展。與此相反，風(fēng)險(xiǎn)的傳導(dǎo)鏈條沿著“技術(shù)—資本—政策—技術(shù)”的方向不斷外溢，從微觀技術(shù)內(nèi)生性安全漏洞到中觀產(chǎn)品服務(wù)的技術(shù)濫用與市場(chǎng)擴(kuò)張，再到宏觀政策目標(biāo)的偏移與經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)的放大，最終政策—社會(huì)系統(tǒng)不得不做出響應(yīng)，影響到人工智能技術(shù)的應(yīng)用與推廣，嚴(yán)重時(shí)或?qū)⑻崆敖Y(jié)束技術(shù)的發(fā)展周期。

圖1 人工智能發(fā)展與風(fēng)險(xiǎn)生成邏輯示意圖

圖1 中，三角系統(tǒng)外層（順時(shí)針?lè)较颍┦侨斯ぶ悄馨l(fā)展的核心動(dòng)力要素及作用形式。從各自功能屬性的形態(tài)看，技術(shù)的進(jìn)化是人工智能發(fā)展的內(nèi)驅(qū)力量，而資本和政策的推動(dòng)則是外生力量。幾百年來(lái)文明發(fā)展歷程已經(jīng)將這三種力量進(jìn)行過(guò)多次融合。在現(xiàn)代社會(huì)，它們的地位、相互關(guān)系及其作用形式越來(lái)越明確、固定，且在不同的制度環(huán)境和文化背景中，存在著一定的差異。從目前中國(guó)人工智能發(fā)展的動(dòng)力路徑來(lái)分析，政策作為主導(dǎo)力量，不僅為技術(shù)提供發(fā)展所需的環(huán)境支持，必要時(shí)還會(huì)直接介入，通過(guò)資助研發(fā)和直接投資的形式推動(dòng)技術(shù)進(jìn)步，促進(jìn)技術(shù)與資本間的創(chuàng)新融合。換言之，政策的導(dǎo)向性功能對(duì)于人工智能這類(lèi)通用性強(qiáng)且極具顛覆性的技術(shù)體系的發(fā)展來(lái)說(shuō)，是決定性的力量，它決定著技術(shù)發(fā)展方向、應(yīng)用前景和產(chǎn)業(yè)化水平。同時(shí)，政策也為資本投資確定領(lǐng)域和重點(diǎn)方向，為資本市場(chǎng)化設(shè)定運(yùn)作范圍和條件，通過(guò)市場(chǎng)準(zhǔn)入的方式引導(dǎo)優(yōu)質(zhì)資本流向國(guó)家社會(huì)亟須的技術(shù)領(lǐng)域。政策通常會(huì)為資本投入人工智能技術(shù)提供財(cái)政金融支持，以對(duì)沖資本因風(fēng)險(xiǎn)厭惡帶來(lái)的過(guò)分謹(jǐn)慎和短視行為帶來(lái)的不利后果，以此鼓勵(lì)資本進(jìn)行風(fēng)險(xiǎn)投資，從而為技術(shù)的研發(fā)、應(yīng)用和推廣尋找穩(wěn)定的、持續(xù)的資金來(lái)源。除此之外，政策還會(huì)投資教育等公共服務(wù)體系，加大對(duì)人工智能技術(shù)人才的培育，儲(chǔ)備并持續(xù)提供技術(shù)發(fā)展所需的人力資源。

當(dāng)然，市場(chǎng)經(jīng)濟(jì)環(huán)境下，政策推動(dòng)技術(shù)發(fā)展的路徑更多的是通過(guò)資本運(yùn)作和市場(chǎng)競(jìng)爭(zhēng)的形式進(jìn)行，國(guó)家與地方的人工智能政策規(guī)劃確立的發(fā)展目標(biāo)就是市場(chǎng)努力的方向。對(duì)于資本來(lái)說(shuō)，政策提供的優(yōu)惠和扶持是相對(duì)稀缺的資源，享受政策紅利的同時(shí)需要企業(yè)有較高技術(shù)附加值的產(chǎn)品或者服務(wù)以贏得市場(chǎng)的青睞。競(jìng)爭(zhēng)邏輯是市場(chǎng)的核心機(jī)制，而擁有更多關(guān)鍵技術(shù)專(zhuān)利及適銷(xiāo)對(duì)路的產(chǎn)品和服務(wù)則是資本贏得競(jìng)爭(zhēng)的制勝法寶。在這一過(guò)程，資本通過(guò)市場(chǎng)占有率的擴(kuò)大完成了自身價(jià)值的增長(zhǎng)。同時(shí)，由于這些資本（企業(yè)）讓政策目標(biāo)得以落實(shí)，政策將會(huì)更加支持那些在激烈市場(chǎng)競(jìng)爭(zhēng)中取得優(yōu)勢(shì)地位的資本（企業(yè)）的擴(kuò)張和發(fā)展。獲得政策扶持的資本（企業(yè)）生產(chǎn)經(jīng)營(yíng)成本進(jìn)一步降低，基礎(chǔ)研究的研發(fā)資金更加充足，這會(huì)為技術(shù)的加速成熟奠定堅(jiān)實(shí)的基礎(chǔ)。人工智能六十多年的發(fā)展歷史經(jīng)歷了多次發(fā)展高峰和低谷，最終走向成熟，有了應(yīng)用推廣的商業(yè)價(jià)值，很大程度上要?dú)w功于技術(shù)的不斷改進(jìn)，歸功于未曾中斷的研發(fā)資金的投入。而人工智能技術(shù)的進(jìn)步提供了巨大應(yīng)用前景，又進(jìn)一步增強(qiáng)了資本投資回報(bào)的信心。于是，更多的投入換來(lái)了更完善的技術(shù)，讓人工智能在通用技術(shù)的道路上加速前進(jìn)，從而引發(fā)技術(shù)體系的鏈?zhǔn)酵黄?，不斷?shí)現(xiàn)著政策設(shè)定的推動(dòng)經(jīng)濟(jì)社會(huì)各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升的發(fā)展目標(biāo)。在此基礎(chǔ)上，政策也必將更加支持人工智能的發(fā)展，開(kāi)啟“政策—資本—技術(shù)—政策”這一核心動(dòng)力發(fā)展鏈條的新一輪良性循環(huán)。

圖1 中，核心三角循環(huán)的內(nèi)環(huán)（逆時(shí)針?lè)较颍础凹夹g(shù)—資本—政策—技術(shù)”鏈條則代表的是與發(fā)展相伴的風(fēng)險(xiǎn)生成及外溢效應(yīng)。人工智能風(fēng)險(xiǎn)包括內(nèi)生性技術(shù)風(fēng)險(xiǎn)和外生性社會(huì)風(fēng)險(xiǎn)兩大類(lèi)，二者緊密相關(guān)。與技術(shù)發(fā)展關(guān)系密切的社會(huì)系統(tǒng)會(huì)成為技術(shù)風(fēng)險(xiǎn)外溢的承受主體，同時(shí)也是將這些技術(shù)風(fēng)險(xiǎn)放大并擴(kuò)散開(kāi)來(lái)的中介。技術(shù)風(fēng)險(xiǎn)與資本（及其背后的市場(chǎng)與經(jīng)濟(jì)系統(tǒng)）和政策（及其背后的政府與政治系統(tǒng)）之間發(fā)生交互作用，生成更為復(fù)雜的風(fēng)險(xiǎn)，一旦防范化解不及時(shí)不得當(dāng)，很容易產(chǎn)生新的超出技術(shù)體系之外的其他危險(xiǎn)后果。在這一風(fēng)險(xiǎn)生成與放大鏈條之中，技術(shù)進(jìn)化過(guò)程中的“固有問(wèn)題”可以稱(chēng)之為人工智能風(fēng)險(xiǎn)的源頭。也就是說(shuō)，這些風(fēng)險(xiǎn)是內(nèi)嵌于技術(shù)進(jìn)步之中的，與之相伴而生。所謂技術(shù)風(fēng)險(xiǎn)大多數(shù)是給技術(shù)的穩(wěn)定性、安全性和實(shí)用性帶來(lái)負(fù)面影響的潛在或現(xiàn)實(shí)的威脅。對(duì)于這些棘手問(wèn)題的攻克或部分解決，是技術(shù)進(jìn)步的表現(xiàn)；固有技術(shù)難題得不到解決或沒(méi)有妥善解決都會(huì)給技術(shù)應(yīng)用留下風(fēng)險(xiǎn)與隱患。而且，舊問(wèn)題的解決還會(huì)帶來(lái)一些新問(wèn)題，甚至產(chǎn)生新風(fēng)險(xiǎn)。新舊問(wèn)題疊加，既是技術(shù)不斷進(jìn)步的驅(qū)動(dòng)力，也成為各類(lèi)風(fēng)險(xiǎn)的源頭。

當(dāng)今人工智能技術(shù)的計(jì)算能力和算法精度都呈幾何級(jí)數(shù)增長(zhǎng)，但這并不意味著該項(xiàng)技術(shù)已經(jīng)盡善盡美，有待攻克的技術(shù)難題俯拾皆是。技術(shù)領(lǐng)域竭力攻克的難題目前主要集中在提高AI技術(shù)“可用性”上，提升算法精度、應(yīng)用識(shí)別準(zhǔn)確度，提高技術(shù)的便利性、可及性，甚至降低技術(shù)的功耗等?！翱捎谩笔羌夹g(shù)研發(fā)應(yīng)用的基礎(chǔ)，也是資本主要關(guān)注的事項(xiàng)。因此，資本投資的重點(diǎn)領(lǐng)域有兩個(gè)：一是從原理上解決上述可用性難題的基礎(chǔ)研究領(lǐng)域，二是人工智能的應(yīng)用領(lǐng)域。不過(guò)，具有較高的實(shí)用價(jià)值只是人工智能技術(shù)特性之一，穩(wěn)定性和安全性并不能被實(shí)用性替代，更不應(yīng)該被實(shí)用性掩蓋。令人感到不安的是，資本逐利增值沖動(dòng)很多時(shí)候以技術(shù)專(zhuān)利盡快轉(zhuǎn)化為產(chǎn)品或服務(wù)為階段性目標(biāo)，進(jìn)而通過(guò)擴(kuò)大市場(chǎng)份額來(lái)實(shí)現(xiàn)利潤(rùn)最大化的終極目的。為此，技術(shù)及其衍生出的產(chǎn)品和服務(wù)的可用性的優(yōu)先級(jí)別高于其他如可知、可控、可靠等特性要求。類(lèi)似人工智能這類(lèi)新興通用技術(shù)產(chǎn)品和服務(wù)一旦在可用與其他安全性要求上出現(xiàn)失衡，就很容易引發(fā)風(fēng)險(xiǎn)的實(shí)體化。例如，一些技術(shù)廠商通過(guò)App、人臉識(shí)別設(shè)備等感知軟硬件過(guò)度采集用戶(hù)個(gè)人隱私的行為愈發(fā)嚴(yán)重，用戶(hù)對(duì)人工智能及其應(yīng)用的“控制力”幾乎為零，而基于人工智能系統(tǒng)運(yùn)行的各種智能終端的運(yùn)作機(jī)制、智能決策結(jié)果的可解釋性，已經(jīng)復(fù)雜到連技術(shù)工程人員自己都無(wú)法完全說(shuō)得清楚、講得明白，使用和接受人工智能應(yīng)用的用戶(hù)更是不明就里。當(dāng)資本和廠商對(duì)于自己因可用性增加而獲利感到沾沾自喜的時(shí)候，可知性和可控性的降低卻引發(fā)了人們對(duì)人工智能產(chǎn)品服務(wù)安全性的憂(yōu)慮。社會(huì)輿論開(kāi)始質(zhì)疑人工智能系統(tǒng)的可靠性和可信度，人工智能的社會(huì)接受水平存在不斷下降的危險(xiǎn)。進(jìn)一步講，技術(shù)固有的風(fēng)險(xiǎn)被資本“貪欲”遮蓋、隱藏或忽略掉，通過(guò)技術(shù)應(yīng)用推廣外溢到市場(chǎng)和日常生活場(chǎng)域，無(wú)論是帶給用戶(hù)權(quán)益的實(shí)質(zhì)侵害還是由此帶來(lái)的“風(fēng)險(xiǎn)想象”都會(huì)強(qiáng)化人們對(duì)于人工智能“未知風(fēng)險(xiǎn)”強(qiáng)烈擔(dān)憂(yōu)，任其發(fā)展下去，最終將動(dòng)搖該項(xiàng)技術(shù)落地的社會(huì)信任基礎(chǔ)。這當(dāng)然是決策部門(mén)不愿意看到的風(fēng)險(xiǎn)情境和危險(xiǎn)后果。如果事態(tài)演變到此種境地，政策必將做出調(diào)整，由原來(lái)的事后監(jiān)管（甚至帶有放任態(tài)度的自由發(fā)展）迅速地轉(zhuǎn)換到“事前事中的強(qiáng)監(jiān)管”狀態(tài)，連帶著可能會(huì)出現(xiàn)基礎(chǔ)研究投入減少、審批收緊、產(chǎn)業(yè)政策優(yōu)惠力度縮減等連鎖反應(yīng)。相應(yīng)的，市場(chǎng)將再次對(duì)政策導(dǎo)向做出反應(yīng)，股市的人工智能及其相關(guān)科創(chuàng)板塊可能發(fā)生股價(jià)大跌事件，資本市場(chǎng)降溫，技術(shù)研發(fā)和產(chǎn)品開(kāi)發(fā)中斷。這一推斷并非危言聳聽(tīng)，畢竟人工智能發(fā)展史已經(jīng)表明，“政策緊縮”與“資本寒冬”極易觸發(fā)“技術(shù)低谷”。始于技術(shù)固有缺陷的這一系列風(fēng)險(xiǎn)外溢與放大，最后將反噬技術(shù)本身。

該框架最外層的三個(gè)六邊形展示的是人工智能“發(fā)展—風(fēng)險(xiǎn)”復(fù)合進(jìn)程所產(chǎn)生的嚴(yán)重風(fēng)險(xiǎn)后果。這些結(jié)果的形成過(guò)程在前文中已經(jīng)做了交代，在此不再贅述，僅對(duì)風(fēng)險(xiǎn)后果進(jìn)行簡(jiǎn)單的類(lèi)型學(xué)歸納。根據(jù)風(fēng)險(xiǎn)后果的來(lái)源屬性和影響程度，可以將人工智能發(fā)展的風(fēng)險(xiǎn)分為四大類(lèi)：第一類(lèi)稱(chēng)為“內(nèi)生—直接”型風(fēng)險(xiǎn)，包括技術(shù)風(fēng)險(xiǎn)自我封閉、技術(shù)倫理失守和研發(fā)基礎(chǔ)不牢靠等風(fēng)險(xiǎn)后果。它們都產(chǎn)生于技術(shù)系統(tǒng)內(nèi)部，帶來(lái)的影響也主要表現(xiàn)為系統(tǒng)漏洞、系統(tǒng)內(nèi)不穩(wěn)定或系統(tǒng)崩潰。第二類(lèi)稱(chēng)為“內(nèi)生—間接”型風(fēng)險(xiǎn)，包括算法操控、技術(shù)濫用與侵權(quán)、虛假創(chuàng)新和技術(shù)利維坦等形式，同樣來(lái)自技術(shù)系統(tǒng)內(nèi)部（或與技術(shù)密切相關(guān)的要素部門(mén)），但帶來(lái)的威脅和危害超出技術(shù)系統(tǒng)邊界，對(duì)產(chǎn)業(yè)、行業(yè)和用戶(hù)乃至更廣泛的經(jīng)濟(jì)社會(huì)場(chǎng)域產(chǎn)生連帶性的損害。第三類(lèi)稱(chēng)為“外在—直接”型風(fēng)險(xiǎn)，包括勞資風(fēng)險(xiǎn)（技術(shù)性失業(yè)）、監(jiān)管失衡、社會(huì)極化、數(shù)字鴻溝和社會(huì)不平等加劇等形式，這些風(fēng)險(xiǎn)后果形成的主因來(lái)自技術(shù)系統(tǒng)之外的政策因素或社會(huì)性因素，帶來(lái)的消極影響直接能被人工智能技術(shù)接受主體感知到，這類(lèi)風(fēng)險(xiǎn)后果與多數(shù)人切實(shí)利益直接關(guān)聯(lián)，人們對(duì)此普遍比較敏感在意。第四類(lèi)稱(chēng)為“外在—間接”型風(fēng)險(xiǎn)，包括重復(fù)建設(shè)與資源浪費(fèi)、地方財(cái)政負(fù)擔(dān)、行業(yè)壟斷、市場(chǎng)波動(dòng)和其他連鎖風(fēng)險(xiǎn)等形式，這些風(fēng)險(xiǎn)大多是由于技術(shù)風(fēng)險(xiǎn)外溢或技術(shù)風(fēng)險(xiǎn)與其他風(fēng)險(xiǎn)交互作用后形成的放大、增強(qiáng)的消極后果。相對(duì)于前三類(lèi)風(fēng)險(xiǎn)而言，此類(lèi)風(fēng)險(xiǎn)形式影響范圍更大、形成時(shí)間更長(zhǎng)、后果的顯現(xiàn)也更緩慢，普通人的感受沒(méi)有那么強(qiáng)烈，但是，它們一旦出現(xiàn)就會(huì)給地方產(chǎn)業(yè)結(jié)構(gòu)和社會(huì)穩(wěn)定帶來(lái)難以估量的沖擊，危害性極大，這是人工智能發(fā)展進(jìn)程中必須高度重視并做好防范化解的重大風(fēng)險(xiǎn)。

當(dāng)然，從方法論的角度看，理論框架的成熟與否主要取決于該理論框架對(duì)現(xiàn)實(shí)的解釋與預(yù)測(cè)能力（童星和張海波，2010）[33]。在一個(gè)框架成熟之前，解釋模型的社會(huì)性、綜合性和本土化特征也是判斷其有價(jià)值的重要指標(biāo)。從社會(huì)性角度看，本文提出的分析框架從發(fā)展和風(fēng)險(xiǎn)這類(lèi)社會(huì)科學(xué)的基本范疇出發(fā)，將人工智能技術(shù)發(fā)展及其風(fēng)險(xiǎn)問(wèn)題放在“技術(shù)—社會(huì)”系統(tǒng)中闡釋?zhuān)隽艘话慊墓こ碳夹g(shù)風(fēng)險(xiǎn)分析范圍；從綜合性考察，本框架借鑒了工程技術(shù)、經(jīng)濟(jì)發(fā)展、政治政策和社會(huì)風(fēng)險(xiǎn)評(píng)價(jià)等多學(xué)科領(lǐng)域的知識(shí)視角，將其整合在一起，構(gòu)成一個(gè)相對(duì)閉環(huán)的邏輯演繹框架，力圖接近事實(shí)并還原其“結(jié)構(gòu)與機(jī)制”的原貌，滿(mǎn)足科技決策與風(fēng)險(xiǎn)管理的要求；從本土化上講，人工智能的發(fā)展與風(fēng)險(xiǎn)問(wèn)題是一個(gè)世界性議題，中國(guó)情境離不開(kāi)世界大環(huán)境，但一定要具有中國(guó)特色，我們的國(guó)情決定著本理論分析框架一定是立足于國(guó)內(nèi)實(shí)際的理論解釋工具，研究的首要目標(biāo)是為國(guó)內(nèi)的科技政策和風(fēng)險(xiǎn)治理提供理論支撐和工具選擇，本框架從論據(jù)的選取和論點(diǎn)的得出上都以此為界限。僅從學(xué)理上看，本文或許只是提出了一個(gè)問(wèn)題并展示了一個(gè)相對(duì)完整的邏輯思路，雖是根據(jù)現(xiàn)實(shí)觀察和理論推導(dǎo)而來(lái)，但對(duì)于像人工智能這類(lèi)新興技術(shù)來(lái)說(shuō)，其未來(lái)的發(fā)展趨勢(shì)和風(fēng)險(xiǎn)后果都還遠(yuǎn)未清晰地呈現(xiàn)出來(lái)，現(xiàn)有的分析自然存在疏漏和不確定性，而且復(fù)雜技術(shù)—社會(huì)系統(tǒng)之間的交互作用和影響也并非一個(gè)簡(jiǎn)化的理論框架模型所能全部涵蓋和盡述的，這些都是本框架的先天缺陷。不過(guò)，這并不意味著嘗試性的理論分析沒(méi)有價(jià)值，畢竟歷史和經(jīng)驗(yàn)、現(xiàn)實(shí)和未來(lái)之間總是存在著某種聯(lián)系，分析和揭示這些或明或暗的聯(lián)結(jié)是學(xué)術(shù)研究的使命，更是對(duì)即將到來(lái)的數(shù)字社會(huì)時(shí)代巨大變遷及影響的前瞻性回應(yīng)與必要反思。

四、結(jié)語(yǔ)

黨的十九屆五中全會(huì)決議中提出，要堅(jiān)持總體國(guó)家安全觀，統(tǒng)籌發(fā)展和安全，把安全發(fā)展貫穿國(guó)家發(fā)展各領(lǐng)域和全過(guò)程，防范和化解影響我國(guó)現(xiàn)代化進(jìn)程的各種風(fēng)險(xiǎn)（中共中央，2020）[34]。這是發(fā)展中國(guó)特色社會(huì)主義現(xiàn)代化各項(xiàng)事業(yè)的行動(dòng)指南。當(dāng)前，大數(shù)據(jù)、人工智能等新興技術(shù)正在加速中國(guó)向數(shù)字化社會(huì)邁進(jìn)。數(shù)字社會(huì)可以被看作是工業(yè)信息化社會(huì)的高級(jí)階段，同樣具備現(xiàn)代社會(huì)發(fā)展進(jìn)程中普遍帶有的高度不確定性特征。從這個(gè)角度理解，人工智能發(fā)展中風(fēng)險(xiǎn)本質(zhì)上仍屬于科技理性的負(fù)面后果，它是工業(yè)社會(huì)發(fā)展到信息化和智能化社會(huì)階段的“產(chǎn)品”，源自現(xiàn)代性的自我危害（童星，2018）。[35]既然是現(xiàn)代社會(huì)發(fā)展中的內(nèi)生性風(fēng)險(xiǎn)，那么從發(fā)展內(nèi)部探究風(fēng)險(xiǎn)的形成邏輯，尋求在促進(jìn)發(fā)展的同時(shí)最大限度地減少風(fēng)險(xiǎn)的生成及其帶來(lái)的危害，將是決策機(jī)構(gòu)在面對(duì)人工智能這類(lèi)極具通用性和顛覆性技術(shù)系統(tǒng)時(shí)必須采取的一種應(yīng)對(duì)方式。落實(shí)總體國(guó)家安全觀，處理好新興技術(shù)發(fā)展和安全風(fēng)險(xiǎn)之間的復(fù)雜關(guān)系，必須多做些前瞻性思考，在推動(dòng)和約束之間做出合理的平衡，避免政策過(guò)度、投資過(guò)熱帶來(lái)的技術(shù)風(fēng)險(xiǎn)越界。在頂層設(shè)計(jì)方面，政府、市場(chǎng)和社會(huì)都更需要盡力做到理念上的前瞻、對(duì)策上的敏捷和規(guī)制上的審慎。一旦意識(shí)到人工智能的風(fēng)險(xiǎn)與其發(fā)展隨行，承認(rèn)風(fēng)險(xiǎn)、分析理解風(fēng)險(xiǎn)、防范化解風(fēng)險(xiǎn)，將風(fēng)險(xiǎn)限定在一定影響范圍和可接受的程度之內(nèi)，將是今后相當(dāng)長(zhǎng)一個(gè)時(shí)期需要堅(jiān)持的治理方向與策略思路。