AI治理，中國(guó)該如何積極有為(觀察家)

方興東

“人工智能”（AI）在時(shí)下的中國(guó)乃至整個(gè)世界，已經(jīng)成為最熱的詞匯之一。人工智能越來(lái)越多地應(yīng)用，標(biāo)志著互聯(lián)網(wǎng)革命真正進(jìn)入深水區(qū)，將給整個(gè)人類社會(huì)發(fā)展帶來(lái)深刻的革命。最近，AI治理成為全球最大的熱點(diǎn)問(wèn)題。

對(duì)AI應(yīng)用的擔(dān)憂是什么

從2016年世界圍棋冠軍李世石大戰(zhàn)阿爾法狗，引爆這一輪AI熱潮開始，人們對(duì)AI的應(yīng)用充滿了各種美好的遐想和熱切的期望，為什么突然之間全球各方對(duì)AI治理面臨的挑戰(zhàn)都表達(dá)了強(qiáng)烈的危機(jī)意識(shí)？

人工智能研究迄今已經(jīng)70多年，這一次升溫也是歷史上的第三次浪潮。這一次浪潮是因?yàn)榕cPC互聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)因緣際會(huì)地融合一起，產(chǎn)生了“核聚變”。今天，全球網(wǎng)民已經(jīng)超過(guò)40多億，并陸續(xù)發(fā)展出一批千億、甚至萬(wàn)億級(jí)美元市值的科技巨頭，它們的平臺(tái)直接掌控著十億級(jí)用戶的數(shù)據(jù)，有著近水樓臺(tái)的AI應(yīng)用場(chǎng)景和商業(yè)潛力，紛紛重金投入AI研發(fā)。所以，這一輪AI熱潮將很快進(jìn)入暴風(fēng)驟雨般的大規(guī)模應(yīng)用部署階段，直接影響每個(gè)人的切身利益，甚至引發(fā)世界各國(guó)的AI競(jìng)賽。

的確，AI技術(shù)的發(fā)展給我們的生活帶來(lái)了非常大的便利，也給政府的管理帶來(lái)了新的變革和突破。比如，不久前福建弒母案的兇手就是因?yàn)闄C(jī)場(chǎng)的臉部圖像識(shí)別系統(tǒng)升級(jí)后捕捉到他，最終落入法網(wǎng)。包括過(guò)去中國(guó)一直缺失的個(gè)人信用社會(huì)系統(tǒng)，一旦建立起來(lái)也會(huì)大大方便社會(huì)的管理。

但是，在人工智能應(yīng)用大規(guī)模展開的過(guò)程中，我們也不得不面臨一個(gè)巨大的挑戰(zhàn)：我們對(duì)AI應(yīng)用可能帶來(lái)對(duì)隱私保護(hù)、社會(huì)倫理、就業(yè)等領(lǐng)域的重大影響，迄今仍缺乏全面了解，尤其是缺失全球性的AI治理機(jī)制。

歐盟委員會(huì)于今年4月初發(fā)布了正式版的人工智能道德準(zhǔn)則：《可信賴AI的倫理準(zhǔn)則》。這份文件針對(duì)AI應(yīng)用可能產(chǎn)生數(shù)據(jù)濫用、隱私侵犯、歧視對(duì)待等，提出了四項(xiàng)倫理準(zhǔn)則：尊重人的自主性、預(yù)防傷害、公平性和可解釋性。

中國(guó)欠缺在哪些方面

AI治理指的是一整套圍繞AI發(fā)展與應(yīng)用的倫理、規(guī)范、政策、制度和法律等體系。AI領(lǐng)域的投資、創(chuàng)業(yè)和應(yīng)用，也是中國(guó)當(dāng)下最大的熱點(diǎn)之一，更是中國(guó)高科技有可能取得領(lǐng)先優(yōu)勢(shì)的領(lǐng)域之一。但是，我們對(duì)于AI治理的重視卻遠(yuǎn)沒(méi)有提高到相應(yīng)的程度。雖然社會(huì)上也有不少呼吁和行動(dòng)，但是，我們依然嚴(yán)重低估了這場(chǎng)熱潮可能帶來(lái)的影響和沖擊，嚴(yán)重低估了后續(xù)問(wèn)題的復(fù)雜性和嚴(yán)峻性。

而且，因?yàn)槿狈γ鞔_的治理機(jī)制，開始引起國(guó)際社會(huì)一些質(zhì)疑。雖然其中有不少誤解和曲解，但是，有一套真正符合國(guó)際規(guī)范的制度體系，是有效緩解人們的擔(dān)憂、有力回應(yīng)這些誤解的基本前提。

2019年是中國(guó)互聯(lián)網(wǎng)25周年，過(guò)去我們成功的最大經(jīng)驗(yàn)之一就是“先發(fā)展后治理”。先允許“摸著石頭過(guò)河”，等到問(wèn)題出現(xiàn)，或者積累到一定程度，再進(jìn)行專項(xiàng)治理，并建立規(guī)范。但是，在這一次人工智能發(fā)展上，卻不能再簡(jiǎn)單重復(fù)上述“經(jīng)驗(yàn)”。

互聯(lián)網(wǎng)相關(guān)的治理體系主要包括法治、共治和自治等三大層面。這三道防線層層把守，是確保一個(gè)新興行業(yè)健康、順利發(fā)展的關(guān)鍵。這一次人工智能應(yīng)用對(duì)整個(gè)經(jīng)濟(jì)和社會(huì)的發(fā)展影響巨大，尤其是基于個(gè)人信息和數(shù)據(jù)的各種商業(yè)與政府應(yīng)用。但是，迄今我國(guó)個(gè)人信息保護(hù)完善的法律體系依然缺失，還在摸索和建立之中，相關(guān)法律法規(guī)對(duì)于AI治理的支撐體系遠(yuǎn)未完善。同時(shí)，拼命搶先發(fā)展的企業(yè)們，迄今沒(méi)有形成有著足夠包容性與代表性的行業(yè)協(xié)會(huì)和組織，沒(méi)有建立起富有成效的行業(yè)基本準(zhǔn)則、規(guī)范和自律機(jī)制。尤其是沒(méi)有出現(xiàn)領(lǐng)行業(yè)之先的領(lǐng)導(dǎo)企業(yè)和富有號(hào)召力的倡導(dǎo)者，以真正富有前瞻性的理念和建設(shè)性的最佳實(shí)踐，帶領(lǐng)行業(yè)走向良好的共治和自治。相反，有些企業(yè)恰恰是目前個(gè)人數(shù)據(jù)濫用的重災(zāi)區(qū)。

技術(shù)領(lǐng)先，治理亦應(yīng)積極

2018年10月31日，習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。那么，在AI治理方面，中國(guó)應(yīng)該如何積極有為？

首先，我們?cè)谧⒅匕l(fā)展的同時(shí)，需要進(jìn)一步加大對(duì)AI治理的重視程度，將AI治理作為國(guó)家制度建設(shè)的重中之重。人工智能領(lǐng)域是中國(guó)促進(jìn)經(jīng)濟(jì)、社會(huì)發(fā)展，實(shí)現(xiàn)高科技全球崛起的重要突破口之一，我們?cè)贏I治理方面要從一開始就具備全球視野，在制度建設(shè)上積極與國(guó)際接軌。積極參與國(guó)際組織的治理倡議和規(guī)范建設(shè)。

其次，政府部門需要調(diào)整“先發(fā)展后治理”的方式，這一次需要一邊抓發(fā)展，一邊抓治理。確定合適的主管部門，積極有為，切實(shí)督促行業(yè)在倫理規(guī)范、算法透明等方面落到實(shí)處，確立行之有效的紅線和底線。因?yàn)楹芏嗳斯ぶ悄軕?yīng)用直接觸及巨大的公共利益，必須走出“黑箱操作”模式，提升項(xiàng)目的公共性。

第三，在體系建設(shè)有現(xiàn)實(shí)難度的情況下，先抓好主要矛盾，解決核心問(wèn)題。個(gè)人信息保護(hù)制度滯后，我們應(yīng)該把壞事變成好事，利用后發(fā)優(yōu)勢(shì)，站在新的人工智能發(fā)展趨勢(shì)的基礎(chǔ)上，構(gòu)建更富有前瞻性的個(gè)人信息保護(hù)專項(xiàng)立法。同時(shí)建立 快速響應(yīng)的社會(huì)監(jiān)督和懲戒機(jī)制，加快促進(jìn)行業(yè)組織的建立，加強(qiáng)專家學(xué)者和社會(huì)人士等第三方力量的作用，尤其需要更多引入國(guó)際專家學(xué)者，形成有效的多利益相關(guān)方治理機(jī)制。

最后，我們過(guò)去積累了不少互聯(lián)網(wǎng)治理疑難問(wèn)題，比如平臺(tái)的個(gè)人數(shù)據(jù)過(guò)度收集和濫用問(wèn)題、算法透明性和第三方監(jiān)督制度的落實(shí)、搜索引擎的公正性和中立性問(wèn)題、反壟斷法在互聯(lián)網(wǎng)領(lǐng)域的威懾力等，在人工智能應(yīng)用全面實(shí)施之際，可以及時(shí)補(bǔ)課，避免問(wèn)題與后果的進(jìn)一步放大和惡化。

無(wú)疑，人工智能發(fā)展是中國(guó)面臨的重大歷史性機(jī)遇，但是我們也面臨著與過(guò)去互聯(lián)網(wǎng)發(fā)展不一樣的局勢(shì)和挑戰(zhàn)。我們不但要在技術(shù)和應(yīng)用方面敢于領(lǐng)先，更要在AI治理的制度建設(shè)方面成為全球的重要力量，為全球人工智能發(fā)展提供更多的公共產(chǎn)品，提升中國(guó)貢獻(xiàn)?！?/p>

（作者是浙江傳媒學(xué)院互聯(lián)網(wǎng)與社會(huì)研究院院長(zhǎng)，全球互聯(lián)網(wǎng)口述歷史【OHI】發(fā)起人）