王亦菲 韓凱峰

(中國信息通信研究院政策與經(jīng)濟研究所，北京 100191)

0 引言

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動性技術(shù)，正在重塑生產(chǎn)方式、優(yōu)化產(chǎn)業(yè)結(jié)構(gòu)、提升生產(chǎn)效率、賦能千行百業(yè)，推動經(jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。但人工智能在為人類生產(chǎn)生活帶來諸多便利的同時，也在觸發(fā)如泄露個人隱私、沖擊就業(yè)格局、危害公共安全等風(fēng)險問題，給社會治理帶來全新挑戰(zhàn)。因此，人工智能治理這一概念應(yīng)運而生，推動構(gòu)建全球人工智能治理體系正在成為各方共同訴求。

1 人工智能帶來數(shù)字治理新挑戰(zhàn)

1.1 人工智能引發(fā)經(jīng)濟社會多方面挑戰(zhàn)

當(dāng)前，以深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控為特征的新一代人工智能技術(shù)持續(xù)創(chuàng)新突破，在促進科技創(chuàng)新、培育新興產(chǎn)業(yè)、改造升級傳統(tǒng)產(chǎn)業(yè)、加快實體經(jīng)濟轉(zhuǎn)型等方面的作用日益凸顯[1]。但“每個硬幣都有正反面”，人工智能技術(shù)在迅速賦能經(jīng)濟社會發(fā)展的同時，也引發(fā)安全、社會、法治等不同層面的風(fēng)險挑戰(zhàn)[2]。究其根本原因，在于人工智能所產(chǎn)生的技術(shù)異化導(dǎo)致治理盲區(qū)出現(xiàn)、算法歧視產(chǎn)生、責(zé)任主體模糊等治理困境[3]。

一是引發(fā)安全風(fēng)險，技術(shù)不可控等導(dǎo)致侵犯隱私、數(shù)據(jù)濫用等事件發(fā)生。人工智能技術(shù)極易被濫用，導(dǎo)致虛假信息頻發(fā)、不良信息泛濫，加大數(shù)字內(nèi)容治理難度。例如，某些應(yīng)用軟件利用深度偽造技術(shù)能夠?qū)崿F(xiàn)圖像、音視頻的生成或修改(如AI換臉)，達到不良信息內(nèi)容的“以假亂真”，甚至抹黑政治人物，嚴重影響網(wǎng)絡(luò)空間秩序。另一方面，利用人工智能技術(shù)在數(shù)據(jù)收集與分析時可能會挖掘出用戶個人敏感信息并加以利用，導(dǎo)致用戶隱私泄露。例如，某些售樓部在未告知消費者的前提下，利用人臉識別技術(shù)對消費者進行比對以防止“飛單”，嚴重侵害消費者權(quán)益。

二是引發(fā)社會風(fēng)險，就業(yè)替代性等導(dǎo)致貧富差距加大、社會不公平性加深。有觀點認為，人工智能作為先進生產(chǎn)力之一，將替代簡單、重復(fù)、流程化的工作崗位，導(dǎo)致結(jié)構(gòu)性失業(yè)等問題，甚至有悲觀者認為人工智能將會在人類社會中產(chǎn)生一批史無前例的“無用階層”。據(jù)麥肯錫預(yù)測，到2030年機器人將取代8億人的工作崗位。同時，由于人工智能將影響不同行業(yè)企業(yè)、不同崗位的分配關(guān)系，使社會財富聚集在少數(shù)技術(shù)領(lǐng)先的行業(yè)企業(yè)，導(dǎo)致收入分配不均衡，使技術(shù)能力以及受教育程度較低的人群將在新一輪的社會資源分配中處于劣勢地位。

三是引發(fā)法治風(fēng)險，技術(shù)自主性等導(dǎo)致責(zé)任主體不明、沖擊現(xiàn)有法律體系。由于當(dāng)前的人工智能技術(shù)具備一定程度的自主學(xué)習(xí)與決策能力，并且其某些行為存在不可解釋性，同時現(xiàn)行法律法規(guī)尚未明確界定人工智能的設(shè)計、制造、消費、使用等環(huán)節(jié)的各方主體責(zé)任與義務(wù)，導(dǎo)致法律責(zé)任認定和劃分難度大增。例如，當(dāng)自動駕駛汽車出現(xiàn)決策錯誤導(dǎo)致人員傷亡時、當(dāng)智能醫(yī)療助理給出錯誤的醫(yī)療建議導(dǎo)致患者病情加重時，如何界定主體責(zé)任等核心問題尚未解決。

1.2 多重因素增加人工智能治理難度

數(shù)據(jù)治理[4]、內(nèi)容治理等具有治理主客體明確、治理范圍清晰等特點，人工智能由于其算法的不透明、難解釋以及技術(shù)的跨界傳播性、外溢性強，導(dǎo)致其比一般的數(shù)字治理范圍更廣、難度更大[5]。

從內(nèi)部因素看，算法黑箱性、數(shù)據(jù)依賴性等導(dǎo)致人工智能決策過程難預(yù)測、決策結(jié)果難控制。一方面，人工智能算法的決策依賴于海量的數(shù)據(jù)輸入，但數(shù)據(jù)本質(zhì)上是社會價值觀的縮影與映射，極易包含一些社會偏見。若未能對數(shù)據(jù)質(zhì)量進行有效把控，人工智能算法模型便很可能習(xí)得數(shù)據(jù)中的偏見謬誤，并將其反映到訓(xùn)練結(jié)果中。另一方面，當(dāng)前深度學(xué)習(xí)、強化學(xué)習(xí)等算法模型就像一個“黑箱”，輸入數(shù)據(jù)和輸出結(jié)果之間存在著人們難以洞悉解釋的“隱層”，使用戶甚至開發(fā)者都難以明晰其因果關(guān)系。智能算法的不透明、自適應(yīng)、自學(xué)習(xí)等特性，導(dǎo)致其極易偏離人類預(yù)設(shè)的行為目標(biāo)。

從外部因素看，傳統(tǒng)治理結(jié)構(gòu)的不適應(yīng)、治理方法的難起效、治理范圍的局限性等難以滿足人工智能治理需求[6]。人工智能的發(fā)展創(chuàng)新對技術(shù)治理的專業(yè)化、智能化等水平都提出了全新要求，因此傳統(tǒng)的技術(shù)治理方式方法將很難適用于人工智能治理。由于人工智能具備一定的自主學(xué)習(xí)及決策能力，其行為結(jié)果不能完全歸因于背后的程序開發(fā)者或者數(shù)據(jù)提供者，這將導(dǎo)致責(zé)任主體的判定模糊。此外，人工智能的應(yīng)用普及將引發(fā)結(jié)構(gòu)性失業(yè)、數(shù)字鴻溝加劇、社會不公平現(xiàn)象增多等全新社會問題。傳統(tǒng)治理尚未覆蓋以上問題領(lǐng)域，需要構(gòu)建全新的技術(shù)及社會治理體系。

2 全球各國加快推動人工智能治理進程

2.1 人工智能國際治理體系正在加速構(gòu)建

當(dāng)前全球人工智能治理還處于初期探索階段，正從倫理原則、倡議共識向可信評估、操作指南、政策法規(guī)等落地實踐逐步深入，加快構(gòu)建人工智能國際治理框架體系。

美國、歐盟、英國、日本等主要國家及地區(qū)已經(jīng)將倫理治理等納入人工智能戰(zhàn)略中，強調(diào)推動人工智能安全、健康發(fā)展。美國將人工智能治理作為《國家人工智能研究和發(fā)展戰(zhàn)略計劃》八大戰(zhàn)略之一；歐盟致力于引領(lǐng)全球人工智能治理，在其發(fā)布的《可信人工智能倫理指南》《歐盟人工智能白皮書》等戰(zhàn)略文件中均強調(diào)構(gòu)建“可信人工智能生態(tài)系統(tǒng)”的重要性；英國在其《產(chǎn)業(yè)戰(zhàn)略：建設(shè)適應(yīng)未來的英國》中，強調(diào)要在數(shù)據(jù)及人工智能安全方面保持領(lǐng)先；日本內(nèi)閣于2018年年底發(fā)布《以人類為中心的人工智能社會原則》，強調(diào)將重視人工智能帶來的負面社會影響，積極構(gòu)建能夠使人工智能有效且安全應(yīng)用的“AI-Ready社會”。

G20、ITU、OECD、ISO、IEEE等國際組織機構(gòu)正積極推動人工智能倫理原則、倡議、標(biāo)準制定。2019年，G20通過《G20人工智能的原則》，倡導(dǎo)以人類為中心、以負責(zé)任的態(tài)度開發(fā)人工智能；OECD發(fā)布《負責(zé)任地管理可信任的人工智能原則》，提出人工智能應(yīng)遵循的5項倫理原則；聯(lián)合國教科文組織于2019年發(fā)布《人工智能倫理問題初步研究》報告，針對人工智能可能引發(fā)的社會問題提出了若干建議；ISO/IEC、IEEE等標(biāo)準化組織機構(gòu)正在制定人工智能技術(shù)及產(chǎn)品相關(guān)標(biāo)準。

產(chǎn)業(yè)界、學(xué)術(shù)界等積極探索實踐人工智能技術(shù)治理路徑。谷歌、微軟、百度、曠視、騰訊等科技企業(yè)紛紛成立人工智能治理專門機構(gòu)，通過發(fā)布倫理原則、制定內(nèi)部規(guī)范、研發(fā)技術(shù)工具等舉措，形成有效解決相關(guān)具體問題的治理體系；英國阿蘭圖靈研究所于2019年發(fā)布《理解人工智能倫理及安全》報告，提出構(gòu)建負責(zé)任人工智能系統(tǒng)的可行性方案；2020年6月，清華大學(xué)成立人工智能國際治理研究院，面向人工智能國際治理重大理論問題及政策需求展開研究，努力構(gòu)建公正、合理的人工智能國際治理體系。

2.2 全球主要國家人工智能治理重點各異

2.2.1 美國高度重視人工智能對民眾就業(yè)以及國家安全的影響

2018年，美國發(fā)布《人工智能就業(yè)法案》，該法案提出應(yīng)營造終身學(xué)習(xí)和技能培訓(xùn)環(huán)境，以應(yīng)對人工智能對就業(yè)帶來的挑戰(zhàn)。與此同時，美國高度重視人工智能倫理對國家安全的影響，設(shè)立人工智能國家安全委員會，委員會將考察人工智能技術(shù)在軍事應(yīng)用中的風(fēng)險問題，以及在國家安全和國防領(lǐng)域的倫理道德問題，并制定公開訓(xùn)練數(shù)據(jù)標(biāo)準和推動公開訓(xùn)練數(shù)據(jù)共享等。

2.2.2 歐盟將維護人工智能倫理價值觀上升至歐洲整體戰(zhàn)略層面

歐盟高度重視建立人工智能倫理道德和法律框架，以確保人工智能技術(shù)朝著有益于個人和社會的方向發(fā)展。2019年4月，歐盟發(fā)布《人工智能倫理準則》，提出建設(shè)以人為本的人工智能，列出了可信賴的人工智能系統(tǒng)應(yīng)滿足的7個關(guān)鍵要求[7]。為加強對人工智能發(fā)展的監(jiān)管力度，歐盟委員會于2020年2月19日發(fā)布《歐盟人工智能白皮書》，其中提出將針對可信賴人工智能建立新的監(jiān)管框架，建立涵蓋事前、事中、事后各個環(huán)節(jié)的全面監(jiān)管機制，在確保各種風(fēng)險和潛在損害最小化的同時，避免過度監(jiān)管對產(chǎn)業(yè)創(chuàng)新發(fā)展的阻礙。

2.2.3 法國通過專家研討、學(xué)術(shù)辯論等方式深化對AI倫理問題的認識

法國國家信息技術(shù)和自由委員會在2017年舉行了涉及3000人的45次AI學(xué)術(shù)辯論活動，并于2017年12月推出主題為《人類如何保持優(yōu)勢——算法和人工智能引發(fā)的道德問題》的報告，強調(diào)了“將人工智能應(yīng)用于人類服務(wù)”的兩個基本原則，即“忠誠原則”(意味著算法和AI系統(tǒng)應(yīng)該忠實于用戶)和“持續(xù)關(guān)注和警惕的原則”(意味著參與算法鏈的所有利益相關(guān)者需要處于對可能無法預(yù)料的后果的警惕狀態(tài))。

2.2.4 德國、韓國等高度重視自動駕駛政策法規(guī)制定

2017年8月，德國聯(lián)邦交通與數(shù)字基礎(chǔ)設(shè)施部推出全球首套《自動駕駛倫理準則》，規(guī)定了自動駕駛汽車的行為方式。韓國國土交通部于2020年12月發(fā)布《自動駕駛車輛安全運行準則》，包括倫理準則、網(wǎng)絡(luò)安全準則、生產(chǎn)與安全準則三大部分。其中，倫理準則以確保生命安全為核心，要求自動駕駛車輛在設(shè)計和生產(chǎn)時遵循“生命重于財產(chǎn)”“無法避免事故時應(yīng)盡量減輕人員傷亡”等原則。

2.3 我國穩(wěn)步推進人工智能治理進程

我國高度重視人工智能規(guī)范有序發(fā)展，近年來在各方共同努力下，我國人工智能治理穩(wěn)步推進，發(fā)展環(huán)境持續(xù)優(yōu)化。一方面，提出明確的人工智能治理目標(biāo)。在國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中，明確提出人工智能治理“三步走”戰(zhàn)略目標(biāo)，為我國系統(tǒng)構(gòu)建人工智能治理體系提供了方向指引；2019年6月，發(fā)布《新一代人工智能治理原則》，提出八項治理原則以發(fā)展負責(zé)可信的人工智能。另一方面，積極探索人工智能治理實踐方案的落地。2019年8月，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟發(fā)布《人工智能行業(yè)自律公約》，旨在引導(dǎo)和規(guī)范行業(yè)從業(yè)者行為；積極推進在ITU、ISO/IEC等框架下的國際標(biāo)準制定工作以及國內(nèi)行業(yè)標(biāo)準立項制定；陸續(xù)啟動數(shù)據(jù)、平臺以及車聯(lián)網(wǎng)、智能醫(yī)療、個人信息保護等人工智能相關(guān)規(guī)范立法工作，如2020年7月，全國人大常委會第二十次會議審議了《數(shù)據(jù)安全法(草案)》并公開征求意見。

3 構(gòu)建持續(xù)發(fā)展的人工智能治理體系

人工智能治理是一項復(fù)雜的系統(tǒng)性工程，既需要秉持科技造福人類、安全與發(fā)展兼顧的治理目標(biāo)，平衡好創(chuàng)新發(fā)展與有效治理的關(guān)系，還需要提出切實有效的治理舉措，根據(jù)實際需求及反饋動態(tài)調(diào)整、持續(xù)優(yōu)化治理路徑及策略。

3.1 打造政府、市場、公眾等多方參與、協(xié)同共治的治理模式

人工智能治理的重要特征之一是治理主體的多元化、治理手段的多樣化，其依賴于包括政府、企業(yè)等在內(nèi)的多利益攸關(guān)方的參與合作，各司其職、各盡其能，以適當(dāng)?shù)慕巧?、最佳的手段協(xié)同共治[8]。國家政府在治理中發(fā)揮著領(lǐng)導(dǎo)性作用，通過設(shè)置專門機構(gòu)、發(fā)布戰(zhàn)略政策、制定法律法規(guī)等來執(zhí)行落實治理規(guī)則；行業(yè)組織是治理的重要推動者，通過制定技術(shù)標(biāo)準、頒布行業(yè)準則等方式推動人工智能規(guī)范發(fā)展；高校及研究機構(gòu)致力于推進人工智能治理及倫理研究，為社會提供基礎(chǔ)性、公益性服務(wù)；科技企業(yè)及開發(fā)者是踐行行業(yè)自律自治的中堅力量，通過制定企業(yè)倫理原則、研發(fā)技術(shù)工具等，有力推動治理的落地實踐；公眾(包括獨立學(xué)者)是治理過程中的重要參與者，擁有對其監(jiān)督、意見反饋等權(quán)利。

3.2 綜合運用倫理引導(dǎo)、技術(shù)應(yīng)對、規(guī)范立法等治理手段

人工智能治理應(yīng)建立在對人工智能的價值觀思考的基礎(chǔ)上，通過制定倫理原則、設(shè)計技術(shù)標(biāo)準、開發(fā)技術(shù)工具、確立法律法規(guī)等手段舉措，從而有效應(yīng)對人工智能所帶來的風(fēng)險挑戰(zhàn)[9]。

一是強化倫理引導(dǎo)。相對于立法的反應(yīng)滯后性，倫理引導(dǎo)與約束可以先行預(yù)設(shè)，能夠較為及時地反映出變化的社會關(guān)系，如牛津大學(xué)、清華大學(xué)等高校學(xué)者從學(xué)術(shù)視角討論AI倫理及治理問題。

二是設(shè)計標(biāo)準規(guī)范。人工智能技術(shù)及行業(yè)標(biāo)準體系建設(shè)工作對人工智能產(chǎn)業(yè)發(fā)展具有基礎(chǔ)性、支撐性、引領(lǐng)性作用，是推動產(chǎn)業(yè)創(chuàng)新發(fā)展的關(guān)鍵抓手，目前歐盟、美國、日本等國家和地區(qū)均高度重視大力推進人工智能標(biāo)準化進程。

三是研發(fā)技術(shù)工具。智能化數(shù)字技術(shù)本身也作為一項精準、高效的技術(shù)治理工具，正在被嘗試用來解決人工智能所帶來的風(fēng)險問題?？萍季揞^企業(yè)正在積極開發(fā)運用數(shù)據(jù)篩選、算法設(shè)計、模型優(yōu)化等技術(shù)工具，著力解決諸如隱私泄露、算法偏見、非法內(nèi)容審核等治理問題。例如，華為利用“差分隱私”“數(shù)據(jù)過濾”等技術(shù)，應(yīng)用于算法訓(xùn)練等數(shù)據(jù)使用過程，確保AI應(yīng)用的安全可控。

四是制定法律法規(guī)。人工智能所帶來的責(zé)任歸屬界定、隱私泄露等問題不斷挑戰(zhàn)現(xiàn)行法律法規(guī)底線，需要考慮采取包容審慎、靈活彈性的應(yīng)對方式，既要避免草率立法阻礙人工智能創(chuàng)新發(fā)展，也要適時制定適應(yīng)技術(shù)發(fā)展的法律法規(guī)。

3.3 構(gòu)建覆蓋全面、反饋及時的治理效果評價機制

針對人工智能技術(shù)更迭快、創(chuàng)新發(fā)展迅速的特點，治理手段及治理體系機制等也需要對新趨勢、新問題進行及時響應(yīng)、動態(tài)優(yōu)化、持續(xù)完善，實現(xiàn)更為敏捷的治理。為此，可適當(dāng)引入治理效果評價及反饋等機制，以準確掌握最新治理情況、及時發(fā)現(xiàn)問題，以制定更有效的應(yīng)對策略。例如，對于倫理原則，可評估其可操作性、社會接受度等；對于技術(shù)工具，可對其安全性、成熟度、穩(wěn)健性、有效性等進行評價；對于技術(shù)標(biāo)準規(guī)范，可評價其全面性、合理性等；對于法律法規(guī)，可評價其社會滿意度、是否監(jiān)督問責(zé)等。

4 持續(xù)完善我國人工智能治理體系

面向未來，我國應(yīng)準確把握新一代人工智能發(fā)展特點規(guī)律，加強倫理及治理體系理論研究，探索構(gòu)建符合中國國情的人工智能治理框架，營造健康可持續(xù)的產(chǎn)業(yè)發(fā)展環(huán)境[10]。

4.1 加大政策支撐力度，持續(xù)優(yōu)化治理環(huán)境

一方面，推動自動駕駛、智能醫(yī)療、生物信息識別、智能制造等人工智能重點領(lǐng)域規(guī)則制定，加快完善數(shù)據(jù)相關(guān)立法工作[11]，加強對智能算法以及新型智能產(chǎn)品服務(wù)的風(fēng)險監(jiān)測[12]，構(gòu)建結(jié)構(gòu)合理的人工智能責(zé)任劃分體系，探索有效可行的人工智能監(jiān)管路徑；另一方面，建立和暢通人工智能產(chǎn)品的投訴舉報等監(jiān)督機制，鼓勵第三方機構(gòu)依托標(biāo)準開展評測，形成標(biāo)準制定、產(chǎn)業(yè)宣貫、測試評估的聯(lián)動推進策略，開展面向公眾的人工智能公共倫理教育。

4.2 深化治理規(guī)則研究，提升治理能力

一是加大對通用人工智能階段人機共生社會關(guān)系等前瞻性倫理問題研究的投入，加強人工智能基礎(chǔ)理論、可解釋算法、可信人工智能評估測試等技術(shù)研究，打造具備一定國際影響力的治理專業(yè)組織機構(gòu)；二是依托企業(yè)、高校、產(chǎn)業(yè)聯(lián)盟等機構(gòu)，推動人工智能倫理及行業(yè)自律原則的實施落地；三是持續(xù)完善人工智能標(biāo)準體系，進一步提升算法治理、數(shù)據(jù)治理、平臺治理等數(shù)字治理能力，持續(xù)完善適宜人工智能發(fā)展的法律法規(guī)環(huán)境。

4.3 深化國際交流合作，參與全球治理議題

一是積極參與全球人工智能治理交流對話，推動國際標(biāo)準化組織討論和制定全球人工智能倫理規(guī)則及標(biāo)準，鼓勵國內(nèi)外企業(yè)及相關(guān)機構(gòu)加強AI國際標(biāo)準化合作，持續(xù)提升算法規(guī)則、數(shù)據(jù)使用、安全保障等方面的治理能力；二是在人工智能領(lǐng)域建設(shè)包容性強的國際治理交流平臺，與全球各國共同研究、討論、采納各方面好的意見建議，形成國際治理規(guī)范共識；三是在G20、ITU等多邊合作機制下，分享治理經(jīng)驗與實踐，共同探索合乎人類發(fā)展需要的人工智能治理模式

5 結(jié)束語

未來，人工智能將會滲透到人類社會的方方面面，并帶來巨大的社會效益，但隨之衍生的倫理風(fēng)險也不可忽視。因此，妥善應(yīng)對人工智能帶來的安全威脅、隱私泄露、算法歧視等問題，推動構(gòu)建系統(tǒng)完善、適宜我國國情的人工智能治理體系，消除人們對人工智能未來發(fā)展的擔(dān)憂，為人工智能營造規(guī)范、有序、可持續(xù)的發(fā)展環(huán)境。