江豐光 熊博龍 張超
摘要:在人工智能發(fā)展的熱潮下,全球各個國家均針對人工智能的發(fā)展方向和應(yīng)用場景進行了高屋建瓴的政策規(guī)劃。政策規(guī)劃的重要旨趣在于作為“風(fēng)向標(biāo)”引導(dǎo)投資、研究與實踐的方向,使之更加聚焦和深入,并為研究與實踐提供強有力的政策支撐。美國于2016 年首次發(fā)布并于2019 年更新的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》表明美國政府對人工智能在全球未來競爭中戰(zhàn)略作用的研判。中國緊跟國際步伐,于2017 年發(fā)布《新一代人工智能發(fā)展規(guī)劃》并提出“三步走”戰(zhàn)略,后在研究和實踐層面陸續(xù)推出《新一代人工智能發(fā)展白皮書(2017 版)》和《人工智能標(biāo)準(zhǔn)化白皮書(2018 版)》。這兩份白皮書與美國的兩份《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》在人工智能研發(fā)基礎(chǔ)、研發(fā)領(lǐng)域以及應(yīng)用領(lǐng)域三個方面具有可比性,并體現(xiàn)出各自的特色。反思中美人工智能戰(zhàn)略規(guī)劃的差異,可以為我國人工智能未來發(fā)展提供鏡鑒。鑒于當(dāng)前我國在新一代人工智能發(fā)展規(guī)劃中對人才和核心技術(shù)規(guī)劃和部署的重視,以及在人工智能倫理研究和實踐方面仍存在提升空間,未來我國應(yīng)從人工智能倫理體系、倫理準(zhǔn)則和倫理風(fēng)險等方面完善人工智能倫理、法律和道德建設(shè),持續(xù)加強人工智能人才培養(yǎng)和核心技術(shù)的研發(fā),并且加強企業(yè)與研究機構(gòu)的協(xié)同合作。
關(guān)鍵詞:人工智能;發(fā)展戰(zhàn)略;政策報告;中美比較
中圖分類號:G434? ?文獻標(biāo)識碼:A? ? 文章編號:1009-5195(2020)01-0003-09? doi10.3969/j.issn.1009-5195.2020.01.001
作者簡介:江豐光,博士,特聘教授,博士生導(dǎo)師,上海師范大學(xué)教育學(xué)院教育技術(shù)系(上海 200234);客座科學(xué)家,美國麻省理工學(xué)院(美國波士頓 02139)。熊博龍,碩士,美國理海大學(xué)工業(yè)系統(tǒng)工程(美國伯利恒 18015)。張超,博士,講師,上海師范大學(xué)教育學(xué)院教育技術(shù)系(上海 200234)。
人工智能(AI)作為一種變革性技術(shù),是現(xiàn)代工業(yè)發(fā)展的產(chǎn)物,具有推動產(chǎn)業(yè)革新,提升經(jīng)濟效益和促進社會發(fā)展的巨大潛力。目前,人工智能已經(jīng)整合了包括新型算法、云計算、物聯(lián)網(wǎng)、大數(shù)據(jù)、新材料等在內(nèi)的一系列前沿技術(shù),并且其技術(shù)融合的圖譜仍在迅速拓展(苗逢春,2019)。經(jīng)過60多年的演進,特別是在移動互聯(lián)網(wǎng)、大數(shù)據(jù)、傳感網(wǎng)、超級計算、腦科學(xué)等新理論與新技術(shù)的共同驅(qū)動下,人工智能呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控等新特征,對經(jīng)濟社會發(fā)展的影響也日漸深入(歐陽鵬等,2019)。在促進國家發(fā)展方面,人工智能可以輻射到包括增加經(jīng)濟繁榮,改善教育機會和生活質(zhì)量,以及加強國家和國土安全等領(lǐng)域。由于這些潛在的利益,近年來各個國家一直都在持續(xù)不斷地投資于人工智能的相關(guān)研究與應(yīng)用。然而,正如政府所關(guān)注的任何一種重要技術(shù)一樣,在指導(dǎo)人工智能研發(fā)的總體方向時,不僅需要考慮巨大的機遇和回報,還需要著眼相關(guān)因素之間的相互作用,例如人工智能在消費產(chǎn)品與服務(wù)、健康、教育和公共基礎(chǔ)設(shè)施中的迅速使用,都將塑造人們對規(guī)范制定和發(fā)展的看法(Gill,2019),而對這些作用關(guān)系的把握可通過國別比較研究快速地得以借鑒。本文試圖以中美兩國政府及機構(gòu)組織發(fā)布的人工智能發(fā)展報告為基礎(chǔ),解讀并比較中美兩國在人工智能發(fā)展戰(zhàn)略走向的異同,以期為我國人工智能相關(guān)研究提供參考。
一、報告文件出臺的政策背景
20世紀50年代,人工智能在美國達特茅斯會議上被正式提出,并作為一個新興的研究領(lǐng)域被確定。直至本世紀初,人工智能一直按照科學(xué)技術(shù)的一般規(guī)律在發(fā)展和演進。迄今為止,人工智能的技術(shù)發(fā)展經(jīng)歷了三個階段,即初期以計算能力為主導(dǎo)的計算智能階段,中期以專家系統(tǒng)和人工神經(jīng)網(wǎng)絡(luò)為主導(dǎo)的感知智能階段,上世紀90年代以來以深度學(xué)習(xí)為主導(dǎo)的認知智能階段(高婷婷等,2019)。直到近十多年,這一領(lǐng)域才具備了大規(guī)模產(chǎn)業(yè)化及應(yīng)用所需的技術(shù)基礎(chǔ),出現(xiàn)了更快速的處理器、更廣闊的存儲空間、更豐富的數(shù)據(jù)集和更智能的算法(中國信息通信研究院等,2019)。因此,從技術(shù)本身的發(fā)展規(guī)律來看,已經(jīng)到了亟需制訂技術(shù)標(biāo)準(zhǔn),規(guī)范技術(shù)倫理,推動技術(shù)縱深發(fā)展,從而占領(lǐng)科技制高點的時刻??梢哉f這構(gòu)成了中美兩國人工智能發(fā)展報告出臺的技術(shù)背景。
隨著技術(shù)溢出效應(yīng)的顯著增強,近十年來人工智能已從學(xué)術(shù)牽引式發(fā)展迅速轉(zhuǎn)變?yōu)樾枨鬆恳桨l(fā)展(中國電子學(xué)會,2017),并逐漸演變?yōu)樾乱惠啴a(chǎn)業(yè)變革的核心力量。全球人工智能產(chǎn)業(yè)日趨成熟,進入加速發(fā)展階段。在人工智能日益融入實體經(jīng)濟這一趨勢引領(lǐng)下,美國著眼于人工智能對經(jīng)濟增長的刺激和推動效應(yīng),中國則聚焦于經(jīng)濟轉(zhuǎn)型升級。盡管側(cè)重點不同,但中美兩國都希望以人工智能作為提振經(jīng)濟和促進產(chǎn)業(yè)發(fā)展的核心驅(qū)動力,在此愿景下對產(chǎn)業(yè)未來發(fā)展提出針對性的建議,構(gòu)成了報告出臺的經(jīng)濟及產(chǎn)業(yè)背景。
從國家戰(zhàn)略角度分析,二戰(zhàn)后美國歷屆政府都強調(diào)要保持其在高科技領(lǐng)域的領(lǐng)導(dǎo)地位,中國則在某些領(lǐng)域具有后發(fā)優(yōu)勢并逐漸逼近甚至反超美國,這在人工智能方面體現(xiàn)得尤其明顯。面對中國等新興經(jīng)濟體在人工智能領(lǐng)域創(chuàng)新突破與交叉運用的發(fā)展態(tài)勢給美國的國際領(lǐng)先地位帶來的嚴峻挑戰(zhàn),美國政府意識到亟需重新引領(lǐng)人工智能發(fā)展前沿,確保美國在人工智能的創(chuàng)造和使用中占有領(lǐng)導(dǎo)地位(蔣鑫等,2019),于是從2016年開始相繼發(fā)布國家戰(zhàn)略報告,以前所未有的姿態(tài)對人工智能發(fā)展提出了全面系統(tǒng)的指導(dǎo)意見。與此同時,近兩年我國政府相繼發(fā)布了《新一代人工智能發(fā)展白皮書(2017版)》和《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》等綱領(lǐng)性文件,同樣從國家高度系統(tǒng)規(guī)劃人工智能發(fā)展方向,進行戰(zhàn)略布局,以期走在人工智能領(lǐng)域的世界前沿。
二、美國國家人工智能發(fā)展戰(zhàn)略
美國《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》第一版于2016年由奧巴馬政府發(fā)布,特朗普政府于2019年對該人工智能發(fā)展戰(zhàn)略進行了補充和更新,并重申了該戰(zhàn)略規(guī)劃的重要價值。總體上,2016年的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》報告包含前言、7項研究與發(fā)展戰(zhàn)略、未來建議三部分,所提出的7項發(fā)展戰(zhàn)略涉及:人工智能相關(guān)投資,人機協(xié)作開發(fā),人工智能倫理、法律和社會影響,健康可信的人工智能系統(tǒng),公共數(shù)據(jù)集,人工智能評估標(biāo)準(zhǔn),人工智能相關(guān)研發(fā)人員需求。2019年 的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》報告包含前言與8項研究與發(fā)展戰(zhàn)略。新版報告對2016年報告中提及的7項發(fā)展戰(zhàn)略進行了全面更新,并增加了第8項公私伙伴關(guān)系戰(zhàn)略(見表1)??傮w而言,兩個版本的人工智能戰(zhàn)略規(guī)劃報告彰顯出來的最大價值體現(xiàn)在兩個方面:一是8項戰(zhàn)略涉及的關(guān)鍵領(lǐng)域包括哪些內(nèi)容,二是戰(zhàn)略內(nèi)容更新和擴充背后展現(xiàn)出怎樣的演進趨勢。筆者將圍繞這兩個方面對美國人工智能戰(zhàn)略報告進行重點解讀。
1.美國國家人工智能發(fā)展的八大關(guān)鍵戰(zhàn)略
2016年5月3日,在時任總統(tǒng)奧巴馬的倡導(dǎo)下,美國政府宣布成立新的機器學(xué)習(xí)和人工智能小組委員會。同年6月,美國國家科學(xué)技術(shù)委員會(NSTC)下屬的網(wǎng)絡(luò)和信息技術(shù)研究與發(fā)展委員會(NITRD)制定了《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》,以確定人工智能研發(fā)的戰(zhàn)略發(fā)展重點,尤其關(guān)注行業(yè)難以解決的領(lǐng)域(National Science and Technology Council,2016)。
2019年2月,現(xiàn)任美國總統(tǒng)特朗普簽署了一份行政命令,啟動國家級AI戰(zhàn)略——“美國AI計劃”(The American AI Initiative),旨在促進美國AI發(fā)展,爭奪全球領(lǐng)導(dǎo)權(quán)(White House Office of Science and Technology Policy,2019)。2019年6月,美國政府對2016年發(fā)布的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》進行了更新。新報告對2016年確定的7個重點領(lǐng)域進行了重新表述和升級,除此之外還新增了擴大公私合作以加速人工智能發(fā)展這一戰(zhàn)略(National Science and Technology Council,2019)。
對表1中的八大戰(zhàn)略解讀如下:戰(zhàn)略一表明,美國在持續(xù)加強對人工智能研究的投資,以加強和鞏固美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。除了在人工智能軟件領(lǐng)域外,未來美國還將著重發(fā)展與人工智能相關(guān)的硬件設(shè)備,以增強其綜合實力。戰(zhàn)略二表明,人機協(xié)作是美國人工智能發(fā)展的重點方向,他們將在人工智能機器人的安全性、人工智能新算法和機器人交互界面三個方面同時開展新的研究項目。戰(zhàn)略三表明,由人工智能發(fā)展所引起的倫理道德等社會問題將受到重視,美國將通過建立完善的人工智能體系來規(guī)范人工智能技術(shù)的應(yīng)用場景。戰(zhàn)略四表明,如何保障個人隱私將是政府和研究機構(gòu)所需要考慮的重要議題。美國將從人工智能的智能系統(tǒng)入手,加強其安全性建設(shè),以確保數(shù)據(jù)的安全性和系統(tǒng)的可解釋性。戰(zhàn)略五表明,如何擴大數(shù)據(jù)的共享和開放程度將受到重視,共享公共數(shù)據(jù)集能夠推進人工智能的發(fā)展,同時開放更多的公共訓(xùn)練集數(shù)據(jù),可以促進不同行業(yè)領(lǐng)域人工智能的研發(fā)。戰(zhàn)略六表明,人工智能標(biāo)準(zhǔn)的制定將受到重視,只有制定合理的標(biāo)準(zhǔn),才能開發(fā)應(yīng)用于不同場景的人工智能工具并增強其實用性。戰(zhàn)略七表明,對人工智能研發(fā)人才的需求將急劇上升,美國政府將通過加大對人工智能研發(fā)項目的支持來培養(yǎng)大批人工智能研發(fā)人才。戰(zhàn)略八表明,人工智能的產(chǎn)學(xué)研和市場化將受到日益重視,政府將鼓勵企業(yè)和研究機構(gòu)以項目為導(dǎo)向共同研發(fā)人工智能相關(guān)產(chǎn)品,推動人工智能項目的市場化,加快研發(fā)速度并提升產(chǎn)品質(zhì)量。
2.美國人工智能研究與發(fā)展戰(zhàn)略的演進
對比2016年和2019年美國國家人工智能戰(zhàn)略報告,我們可以發(fā)現(xiàn)美國人工智能研究與發(fā)展戰(zhàn)略的演進方向。
在2019年的報告中,美國政府已經(jīng)意識到加強公私合作對于人工智能研發(fā)的重要性,一些聯(lián)邦機構(gòu)也正在努力推動這方面的工作。新戰(zhàn)略計劃將有力促進政府各機構(gòu)和包括產(chǎn)業(yè)界、學(xué)術(shù)界、非盈利組織在內(nèi)的私營部門共享資源,進一步推動美國人工智能研發(fā)(苗逢春,2019)。此外,該戰(zhàn)略也體現(xiàn)出國際合作對于推進人工智能發(fā)展的重要性,即美國在與盟國積極合作的同時也在保護人工智能研發(fā)企業(yè)免受戰(zhàn)略競爭對手和敵對國家的影響。
除人工智能發(fā)展戰(zhàn)略外,2016年和2019年美國的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》報告還從人工智能的研發(fā)基礎(chǔ)、研發(fā)領(lǐng)域和應(yīng)用領(lǐng)域三個方面綜合分析了人工智能的發(fā)展方向。在人工智能研發(fā)領(lǐng)域,2016年和2019年的重點一致,主要關(guān)注人機交互、自然語言處理、人工智能視覺識別、大數(shù)據(jù)分析等方面。在人工智能應(yīng)用領(lǐng)域,2019年報告中新增國防應(yīng)用領(lǐng)域,明確提出政府、軍隊和其他負責(zé)網(wǎng)絡(luò)防御的政府組織需要處理大量的數(shù)據(jù),以便做出明確的決策(Leenen et al.,2019)。同時提出,在處理這些重要且敏感的數(shù)據(jù)時,政府需要采用先進的人工智能技術(shù)來保護國家安全。國防部首席信息官Dana Deasy 在白宮的人工智能戰(zhàn)略會議上指出:“美國保持人工智能的領(lǐng)導(dǎo)地位至關(guān)重要,它不僅可以增加美國的繁榮,還可以增強美國國家安全?!保–ronk,2019)
除了加強人工智能在國防方面的應(yīng)用外,美國政府也日益注重人工智能在醫(yī)療保健和醫(yī)學(xué)方面的應(yīng)用。2019年的報告中提出應(yīng)該開放公共醫(yī)療保健相關(guān)數(shù)據(jù)集。圖像識別、新藥研發(fā)等領(lǐng)域都需要大量的醫(yī)療數(shù)據(jù)進行模型訓(xùn)練,增加共享數(shù)據(jù)集能夠滿足各種人工智能應(yīng)用的需求。另外,也有學(xué)者指出,人工智能的進步吸引了大量研究人員和從業(yè)者涌入這一行業(yè),并為在公共部門使用AI開辟了廣泛的有益機會(Wirtz et al.,2019)。
三、中國國家人工智能發(fā)展戰(zhàn)略
2017年,國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》,提出了面向2030年的我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點任務(wù)和保障措施,目標(biāo)是構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢,加快建設(shè)創(chuàng)新型國家和世界科技強國(中華人民共和國中央人民政府,2017)。該規(guī)劃是我國在人工智能領(lǐng)域發(fā)布的第一個涉及系統(tǒng)戰(zhàn)略部署的文件,從政府層面來對人工智能的發(fā)展進行整體部署,是我國人工智能發(fā)展中的重要里程碑。按照此規(guī)劃,我國人工智能發(fā)展戰(zhàn)略目標(biāo)分為三步走。“三步走”戰(zhàn)略為我國人工智能發(fā)展提供了重要的政策指導(dǎo)。與此同時,為了推進該戰(zhàn)略的實施,國家標(biāo)準(zhǔn)化管理委員會批準(zhǔn)成立了國家人工智能標(biāo)準(zhǔn)化總體組和專家咨詢組,負責(zé)我國人工智能標(biāo)準(zhǔn)化體系研制,并對外發(fā)布各種重要的研究報告。有鑒于此,筆者將從我國人工智能發(fā)展“三步走”戰(zhàn)略的政策層面和標(biāo)準(zhǔn)化體系研制的研究層面對我國人工智能發(fā)展戰(zhàn)略進行深入解讀。
1.中國國家人工智能發(fā)展規(guī)劃“三步走”戰(zhàn)略
“三步走”戰(zhàn)略是我國人工智能發(fā)展與研究的重要政策指引?!叭阶摺睉?zhàn)略的核心要義如下:
第一步,到2020年我國人工智能總體技術(shù)和應(yīng)用能夠與世界先進水平同步,人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟增長點,人工智能技術(shù)應(yīng)用成為改善民生的新途徑,有力支撐我國進入創(chuàng)新型國家行列和實現(xiàn)全面建成小康社會的奮斗目標(biāo)。具體包括三點:一是新一代人工智能理論和技術(shù)取得重要進展;二是人工智能產(chǎn)業(yè)競爭力進入國際第一方陣;三是人工智能發(fā)展環(huán)境進一步優(yōu)化,在重點領(lǐng)域全面展開創(chuàng)新應(yīng)用,聚集起一批高水平的人才隊伍和創(chuàng)新團隊,部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立。
第二步,到2025年我國人工智能基礎(chǔ)理論實現(xiàn)重大突破,部分技術(shù)與應(yīng)用達到世界領(lǐng)先水平,人工智能成為帶動我國產(chǎn)業(yè)升級和經(jīng)濟轉(zhuǎn)型的主要動力,智能社會建設(shè)取得積極進展。具體包括三點:一是新一代人工智能理論與技術(shù)體系初步建立;二是人工智能產(chǎn)業(yè)進入全球價值鏈高端;三是初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,增強人工智能安全評估和管控能力。
第三步,到2030年我國人工智能理論、技術(shù)與應(yīng)用總體達到世界領(lǐng)先水平,成為世界主要人工智能創(chuàng)新中心,智能經(jīng)濟、智能社會取得明顯成效,為躋身創(chuàng)新型國家前列和經(jīng)濟強國奠定重要基礎(chǔ)。具體包括三點:一是形成較為成熟的新一代人工智能理論與技術(shù)體系;二是人工智能產(chǎn)業(yè)競爭力達到國際領(lǐng)先水平;三是形成一批全球領(lǐng)先的人工智能科技創(chuàng)新和人才培養(yǎng)基地,建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。
整體來說,我國把人工智能的發(fā)展置于重要位置,根據(jù)科技發(fā)展的前沿趨勢,努力推動人工智能的戰(zhàn)略部署;并從人工智能基礎(chǔ)、政策法規(guī)、倫理道德、安全性等各個方面進行積極探索,形成具有世界影響力的產(chǎn)業(yè)鏈?!缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》主要針對人才和核心技術(shù)兩個方面做了專門的規(guī)劃和部署。只有培養(yǎng)高端的科技人才,把握核心技術(shù),中國的人工智能才能達到世界領(lǐng)先水平。
2.中國人工智能標(biāo)準(zhǔn)化戰(zhàn)略白皮書
在推進人工智能的研究與實踐層面,我國重點開展了人工智能的標(biāo)準(zhǔn)化研究。只有標(biāo)準(zhǔn)先行,才能從總體上規(guī)范和推進人工智能實踐,尤其是指導(dǎo)人工智能產(chǎn)學(xué)研用一體化深入發(fā)展。在人工智能標(biāo)準(zhǔn)研制方面,國家標(biāo)準(zhǔn)化管理委員會批準(zhǔn)成立的國家人工智能標(biāo)準(zhǔn)化總體組和專家咨詢組專門負責(zé)此項工作。總體組承擔(dān)統(tǒng)籌協(xié)調(diào)、規(guī)劃布局的角色,負責(zé)開展人工智能國際國內(nèi)標(biāo)準(zhǔn)化工作,擬定我國人工智能標(biāo)準(zhǔn)化規(guī)劃、體系和政策措施。專家咨詢組由國內(nèi)人工智能領(lǐng)域知名專家學(xué)者組成,負責(zé)為總體組提供我國人工智能標(biāo)準(zhǔn)化規(guī)劃、體系和政策措施等方面的咨詢,對人工智能領(lǐng)域國際國內(nèi)標(biāo)準(zhǔn)研制、試點、應(yīng)用實施、標(biāo)準(zhǔn)傳導(dǎo)機制建立等提出意見建議,并對國家人工智能標(biāo)準(zhǔn)化總體組的工作進行指導(dǎo)。高規(guī)格的專家隊伍保障了我國人工智能各項標(biāo)準(zhǔn)研制的權(quán)威性和科學(xué)性。
從人工智能國家戰(zhàn)略向人工智能標(biāo)準(zhǔn)化戰(zhàn)略的邁進,也凸顯了我國人工智能戰(zhàn)略的演進重點。從這一層意義來看,我國人工智能標(biāo)準(zhǔn)化戰(zhàn)略成果更能代表我國人工智能戰(zhàn)略的實質(zhì)內(nèi)容。而且近兩年我國陸續(xù)發(fā)布了《新一代人工智能發(fā)展白皮書(2017版)》和《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》,這兩個白皮書在架構(gòu)和內(nèi)容上既體現(xiàn)了一致性,也體現(xiàn)了遞進性和延伸性,因此可以較好地作為分析我國人工智能發(fā)展戰(zhàn)略的重要且可借鑒的藍本。
總體來看,《新一代人工智能發(fā)展白皮書(2017版)》詳細介紹了我國新一代人工智能的發(fā)展特征、技術(shù)框架以及不同產(chǎn)業(yè)應(yīng)用領(lǐng)域,更加明確了新一代人工智能發(fā)展的主要方向,以及研究新一代人工智能的技術(shù)框架。而《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》則是在《新一代人工智能發(fā)展白皮書(2017版)》的基礎(chǔ)上,更加強調(diào)與業(yè)界分享人工智能領(lǐng)域的研究成果和實踐經(jīng)驗,呼吁社會各界共同加強人工智能領(lǐng)域的技術(shù)研究、產(chǎn)業(yè)投入、標(biāo)準(zhǔn)建設(shè)與服務(wù)應(yīng)用,共同推動人工智能及其產(chǎn)業(yè)發(fā)展(中國電子技術(shù)標(biāo)準(zhǔn)化研究院,2018)?!度斯ぶ悄軜?biāo)準(zhǔn)化白皮書(2018版)》包括6個章節(jié),分別從人工智能概述、人工智能發(fā)展現(xiàn)狀及趨勢、人工智能產(chǎn)業(yè)現(xiàn)狀及趨勢、安全、倫理、隱私問題等方面綜合分析了我國人工智能的發(fā)展?fàn)顩r,以此作為能夠適應(yīng)和引導(dǎo)我國人工智能產(chǎn)業(yè)發(fā)展的標(biāo)準(zhǔn)體系?!度斯ぶ悄軜?biāo)準(zhǔn)化白皮書(2018版)》規(guī)定,我國的人工智能標(biāo)準(zhǔn)體系結(jié)構(gòu)由基礎(chǔ)標(biāo)準(zhǔn)、平臺/支撐標(biāo)準(zhǔn)、關(guān)鍵技術(shù)標(biāo)準(zhǔn)、產(chǎn)品及服務(wù)標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)、安全/倫理標(biāo)準(zhǔn)6部分組成(中國電子技術(shù)標(biāo)準(zhǔn)化研究院,2018)。
另外,與《新一代人工智能發(fā)展白皮書(2017版)》相比,《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》更加關(guān)注人工智能的安全、倫理、隱私問題以及相關(guān)法律條文和標(biāo)準(zhǔn)化文件的制定。通過制定相關(guān)的法律法規(guī)和標(biāo)準(zhǔn)化文件,社會公眾才能信任人工智能技術(shù)對人類安全和相關(guān)利益的承諾和保障,進而推動社會的發(fā)展。
四、中美人工智能發(fā)展戰(zhàn)略比較分析
基于上述分析,筆者將以美國的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃(2016版)》和《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃(2019版)》,以及中國的《新一代人工智能發(fā)展白皮書(2017版)》和《中國人工智能標(biāo)準(zhǔn)化白皮書(2018版)》4份有分量的人工智能發(fā)展報告為分析藍本,重點從人工智能的研發(fā)基礎(chǔ)、研發(fā)領(lǐng)域和應(yīng)用領(lǐng)域三個方面進行比較分析,以期揭示中美人工智能發(fā)展戰(zhàn)略的差異和特色,并尋求我國人工智能未來發(fā)展的突破口。
1.中美人工智能研發(fā)基礎(chǔ)比較
如表2所示,中美兩國的4份報告在研發(fā)基礎(chǔ)方面具有很高的重合性,兩國均重視人工作智能在安全性、數(shù)據(jù)庫和環(huán)境、標(biāo)準(zhǔn)及工作力方面的基礎(chǔ)性研發(fā)投入。有所差異的是,2016年和2019年美國的報告均注重人工智能對倫理、法律和社會造成的影響,而2017年《中國新一代人工智能發(fā)展白皮書》中的戰(zhàn)略規(guī)劃更注重人工智能在各種科技中的應(yīng)用,雖有提及重視人工智能對社會造成的影響,但是對于倫理和法律相關(guān)領(lǐng)域的關(guān)注度不夠。近兩年來,我國開始逐漸重視對人工智能倫理的研究和實踐。例如,中國人工智能學(xué)會于2018年開始組建人工智能倫理專委會,另外在上海舉辦的2019年全球人工智能技術(shù)大會上,專門設(shè)立了“全球視野下的人工智能倫理”論壇,在國際上首次提出人工智能倫理體系規(guī)劃問題。目前我國在人工智能倫理的研究和實踐方面仍處于早期階段,未來應(yīng)從人工智能倫理體系、倫理準(zhǔn)則和倫理風(fēng)險等方面完善人工智能倫理、法律和道德等方面的建設(shè)。
2.中美人工智能研發(fā)領(lǐng)域比較
如表3所示,雖然中美人工智能研發(fā)領(lǐng)域大致相同,但是我國的兩份白皮書均未涉及人體增強(Human Augmentation)相關(guān)領(lǐng)域,這方面的研究有待加強。同一時期美國在這一領(lǐng)域的研發(fā)走在了前面。例如,2018年麻省理工學(xué)院媒體實驗室與美國電氣和電子工程師協(xié)會(IEEE)攜手成立 “全球擴展智能理事會”(the Global Council on Extended Intelligence),希望把“增強智能”(Augmented Intelligence)的概念傳播到全世界(MIT Media Lab,2018)。此外,從研發(fā)機構(gòu)來看,美國人工智能發(fā)展和研究主要是社會和政府導(dǎo)向,從研究機構(gòu)走向市場。而我國的人工智能發(fā)展是商業(yè)和政府導(dǎo)向,更多的是企業(yè)內(nèi)部人工智能研發(fā)部門主導(dǎo)。因此,有學(xué)者認為我國應(yīng)加強高校等研究機構(gòu)在人工智能發(fā)展中的基礎(chǔ)性作用,構(gòu)建人工智能學(xué)術(shù)生態(tài)以支撐人工智能科技產(chǎn)業(yè)發(fā)展(劉剛,2019)。與此同時,我國應(yīng)逐步形成政府戰(zhàn)略引領(lǐng)、市場需求牽引和政產(chǎn)學(xué)研協(xié)同的創(chuàng)新推動機制,這是決定人工智能科技產(chǎn)業(yè)區(qū)域發(fā)展和形成競爭格局的關(guān)鍵(中國新一代人工智能發(fā)展戰(zhàn)略研究院,2019)。
3.中美人工智能應(yīng)用領(lǐng)域比較
如表4所示,中美兩國的人工智能應(yīng)用領(lǐng)域非常寬廣,涉及政治軍事、生產(chǎn)制造、法律金融、安全交通及社會生活的各個方面,具有很多相似和重疊之處。美國企業(yè)憑借領(lǐng)先的技術(shù)優(yōu)勢展開全產(chǎn)業(yè)鏈布局,人工智能產(chǎn)業(yè)近年來不斷突破新的極限,在深度和廣度上都得到良好發(fā)展。雖然在報告中沒有明確指出智能搜索的應(yīng)用,但是Google等搜索引擎早已投入大量資源發(fā)展與智能搜索相關(guān)的研究并加以應(yīng)用。在多元化應(yīng)用環(huán)境驅(qū)動下,我國應(yīng)注重加強政府服務(wù)、法律等相關(guān)領(lǐng)域內(nèi)人工智能的應(yīng)用。
從《中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報告(2019)》中的數(shù)據(jù)(圖2)可以看出,國內(nèi)人工智能相關(guān)企業(yè)根據(jù)現(xiàn)實國情和具體市場需求,研發(fā)側(cè)重于企業(yè)技術(shù)集成與方案、關(guān)鍵技術(shù)研發(fā)和應(yīng)用平臺、智能機器人等領(lǐng)域。同時,與社會生活關(guān)聯(lián)度較大的智能城市、智能政務(wù)、智能物流、智能交通、智能家具、智能教育等領(lǐng)域的人工智能應(yīng)用,則明顯比例偏低,因此需要產(chǎn)業(yè)界投入更多關(guān)注。此外,我國新媒體行業(yè)的蓬勃發(fā)展使得越來越多的人工智能技術(shù)得以運用到該領(lǐng)域,而美國人工智能在這一領(lǐng)域的運用并沒有中國廣泛。
綜上,從人工智能的研發(fā)基礎(chǔ)來看,中國越來越注重人工智能對倫理、法律等方面的社會影響,積極發(fā)揮人工智能對發(fā)展和諧社會的正面效應(yīng)。從人工智能的研發(fā)領(lǐng)域來看,中國已經(jīng)覆蓋到各個重點領(lǐng)域,未來也將繼續(xù)注重人工智能在人體增強等方面的研發(fā)和運用,從而與美國形成全面競爭。從人工智能的應(yīng)用領(lǐng)域來看,中國人工智能在各個行業(yè)均有應(yīng)用,未來如果能進一步加強其在社會生活領(lǐng)域中的作用,則能在為國民的衣食住行帶來便捷的同時,產(chǎn)生可觀的社會和經(jīng)濟效益。
五、我國人工智能前瞻
對比有關(guān)中美人工智能的重要報告,可以看出,我國的人工智能研究與實踐在廣度上和美國基本旗鼓相當(dāng),在深度上相較于美國還存在一定的差距,然而我國正在持續(xù)加強人工智能領(lǐng)域的研究、投資和建設(shè),使這一差距不斷縮小。在戰(zhàn)略計劃取得初步成效的基礎(chǔ)上,未來我國應(yīng)采取前瞻性舉措,把握人工智能戰(zhàn)略發(fā)展的重點方向并給予穩(wěn)定的政策支持,以期實現(xiàn)重大戰(zhàn)略突破。
1.戰(zhàn)略成效初步顯現(xiàn)
在國家戰(zhàn)略引領(lǐng)下,我國人工智能基礎(chǔ)及應(yīng)用領(lǐng)域多年來累積的成果正在逐步顯現(xiàn),尤其從學(xué)術(shù)研究、知識產(chǎn)權(quán)和企業(yè)發(fā)展三方面的數(shù)據(jù)中可窺一斑。
其一,學(xué)術(shù)研究方面,中國學(xué)者撰寫的人工智能高被引論文正在穩(wěn)步增加,這個比例在2018年達到峰值26.5%,接近美國29%的水平,并且美國的占比仍在下降。而且,中國學(xué)者AI論文的平均引用率一直在穩(wěn)步上升,并且高于世界平均水平(OMeara,2019)。
其二,知識產(chǎn)權(quán)方面,據(jù)胡潤研究院統(tǒng)計,中國已經(jīng)逐漸成為計算機視覺、自然語言處理、機器學(xué)習(xí)專利申請的主要來源國。截至2018年,中國企業(yè)在這三個領(lǐng)域的專利申請總量均居世界第一。2019年底,中國人工智能專利總量已經(jīng)是世界第一,美國的申請數(shù)量略低于中國位列第二,日本位列第三(胡潤百富,2019)。
其三,企業(yè)發(fā)展方面,截至2019年2月28日,中國共有745家人工智能企業(yè),大約占世界人工智能企業(yè)總數(shù)的21.67%,僅次于排名第一的美國(劉剛,2019)。同時,鑒于中國三大科技巨頭騰訊、百度和阿里巴巴的人工智能專業(yè)知識仍在不斷增長,中國計劃到2020年擁有全球領(lǐng)先的人工智能公司的目標(biāo)也可實現(xiàn)。盡管這些公司與谷歌、微軟等美國公司還有差距,但也已經(jīng)算是世界領(lǐng)先的AI公司(OMeara,2019)。另外,據(jù)全球知名創(chuàng)投研究機構(gòu)CB Insights的評選,中國有6家公司入選2019全球AI百強創(chuàng)業(yè)公司榜單。此外,該榜單還遴選出全球11家AI獨角獸公司,其中5家公司來自中國,占據(jù)了幾乎一半的份額(CB Insights,2019)。
2.未來戰(zhàn)略突破點
綜合分析中美4份人工智能戰(zhàn)略報告,可以看出,這一領(lǐng)域的競爭實質(zhì)上是綜合國力的競爭。未來我國要實現(xiàn)人工智能發(fā)展的彎道超車,應(yīng)當(dāng)在戰(zhàn)略部署上注重前瞻性和系統(tǒng)性,重點在核心技術(shù)、人才培養(yǎng)、倫理法律三個領(lǐng)域率先突破。
核心技術(shù)。核心技術(shù)是人工智能戰(zhàn)略發(fā)展的基石。不掌握核心技術(shù),一個國家在這個領(lǐng)域的可持續(xù)發(fā)展就無從談起。關(guān)鍵時刻遭遇外方斷供卡脖子的事件,近年來在我國信息技術(shù)相關(guān)領(lǐng)域并不鮮見。我國一方面應(yīng)繼續(xù)在計算機視覺、語音識別、自然語言處理、智能機器人與智慧安防等傳統(tǒng)優(yōu)勢技術(shù)方向上持續(xù)投入,確保領(lǐng)先地位;另一方面則須在人體增強技術(shù)、機器學(xué)習(xí)、人工智能硬件等當(dāng)前和未來人工智能的前沿技術(shù)方向上增加投入,進行專項研發(fā)和攻堅,先期保障在核心技術(shù)上不受制于人,后期逐漸達到世界一流水平并引領(lǐng)技術(shù)發(fā)展。
人才培養(yǎng)。人才培養(yǎng)是人工智能戰(zhàn)略發(fā)展的關(guān)鍵。要發(fā)展一流的人工智能,首先要有一流的人工智能人才儲備。截至2017年底,中國擁有18200名人工智能相關(guān)科學(xué)家和工程師,人才數(shù)量排名世界第二,僅次于美國的29000人。但在人才質(zhì)量方面,中國僅排名世界第6(OMeara,2019)。由此可以看出,我國近年來在人工智能人才培養(yǎng)方面不遺余力的努力已初見成效,人工智能的科研和從業(yè)人數(shù)已達到相當(dāng)規(guī)模,未來關(guān)鍵的著眼點則是如何穩(wěn)步提升人才培養(yǎng)的質(zhì)量。這一方面需要大學(xué)等相關(guān)科研機構(gòu)鍛造人工智能優(yōu)勢學(xué)科,發(fā)揮其作為人才培養(yǎng)和輸送基地的功能,另一方面也需要相關(guān)企業(yè)以薪資、發(fā)展機會、人性化的工作制度等吸引國內(nèi)外的優(yōu)秀人才加入這一領(lǐng)域。
倫理法律。倫理法律是人工智能戰(zhàn)略發(fā)展的保障。任何技術(shù)的發(fā)展如果離開倫理法律的規(guī)范和制約,則往往有誤入歧途的危險,甚至陷入道德困境并產(chǎn)生嚴重的后果。人工智能領(lǐng)域更是如此。因為目前人工智能幾乎涉及并深入到人類生產(chǎn)生活的各個方面。從前面的分析中可以看出,我國在人工智能倫理法律方面仍處于初期發(fā)展階段,與美國存在一定差距。雖然近幾年我國已經(jīng)加強了人工智能倫理和法律方面的探索和實踐,但在基礎(chǔ)理論研究、倫理規(guī)范制訂和實施,以及專門立法方面仍顯薄弱,今后應(yīng)著重在這幾方面尋求突破,為我國人工智能的健康、良性發(fā)展保駕護航。
3.未來重點支持舉措
為達成上述重點方向的戰(zhàn)略突破,需要政府提供包括政策、資金、人才、技術(shù)等一系列支持,并系統(tǒng)協(xié)調(diào)高等院校、科研機構(gòu)、行業(yè)企業(yè)發(fā)揮各自優(yōu)勢,通力合作,聯(lián)合攻關(guān),方可取得預(yù)期成效。
核心技術(shù)方面,我國政府已意識到原創(chuàng)孵化、創(chuàng)新培植的重要性,最近一年來在人工智能領(lǐng)域加強了投入力度,實施了多項舉措。2018年11月14日,北京智源人工智能研究院在科技部和北京市委市政府的指導(dǎo)和支持下,依托北京大學(xué)、清華大學(xué)、中國科學(xué)院等科研機構(gòu)和百度、小米、字節(jié)跳動等企業(yè)共同推動成立。該研究院將對人工智能的關(guān)鍵領(lǐng)域進行原創(chuàng)性探索和研發(fā)。北京市科委在兩年內(nèi)將給予研究院共計3.4億元的資金支持(經(jīng)濟參考網(wǎng),2019)。2019年8月29日,科技部發(fā)布《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引》,計劃在2023年之前布局建設(shè)20個左右的人工智能試驗區(qū)。試驗區(qū)是依托地方開展人工智能技術(shù)示范、政策試驗和社會實驗,在推動人工智能創(chuàng)新發(fā)展方面先行先試、發(fā)揮引領(lǐng)帶動作用的區(qū)域(中華人民共和國科學(xué)技術(shù)部,2019a)。隨后科技部于10月18日發(fā)函,繼北京和上海之后,支持合肥、杭州、深圳、天津建設(shè)國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)。
人才培養(yǎng)方面,教育部指導(dǎo)高校進行人工智能專業(yè)建設(shè)的計劃正在積極展開。2018年4月,教育部印發(fā)了《高等學(xué)校人工智能創(chuàng)新行動計劃》的通知,就完善人工智能領(lǐng)域人才培養(yǎng)體系出臺了一系列政策,并進行系統(tǒng)布局,主要包括加快人工智能領(lǐng)域?qū)W科建設(shè)、專業(yè)建設(shè)、人才培養(yǎng)和構(gòu)建人工智能多層次教育體系四個重要方向(中華人民共和國教育部,2018)。2019年,人工智能專業(yè)被教育部列入新增審批本科專業(yè)名單,上海交通大學(xué)等35所高校獲首批建設(shè)資格(中華人民共和國教育部,2019)。
倫理法律方面,我國近年來不斷加強人工智能倫理道德和相關(guān)法律的研究與實踐,對該領(lǐng)域內(nèi)日益浮現(xiàn)的倫理道德問題和法律糾紛進行政策呼應(yīng),并將此部分內(nèi)容呈現(xiàn)于《中國人工智能標(biāo)準(zhǔn)化白皮書(2018版)》中。2019年,我國國家戰(zhàn)略邁向了更高層次的協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系,推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展的目標(biāo)。6月17日,科技部下屬的國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》,提出了人工智能治理的框架和行動指南,強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等8項治理原則(中華人民共和國科學(xué)技術(shù)部,2019b)。這8項原則和經(jīng)濟合作與發(fā)展組織(OECD)于2019年5月投票通過的首部人工智能的政府間政策指導(dǎo)方針是一致的,該指導(dǎo)方針的目標(biāo)是確保人工智能的系統(tǒng)設(shè)計符合公正、安全、公平和值得信賴的國際標(biāo)準(zhǔn)(OECD,2019)。
在未來數(shù)十年里,人工智能有可能極大地改變?nèi)祟惿鐣Y(jié)構(gòu)和生存方式。我國應(yīng)繼續(xù)重點發(fā)展人工智能,積極尋求核心技術(shù)、人才培養(yǎng)、倫理法律三大領(lǐng)域的前瞻突破,占領(lǐng)人工智能的戰(zhàn)略制高點。同時,期待我國能夠引領(lǐng)人工智能在全球范圍的發(fā)展,為人類進步做出更大的貢獻。
參考文獻:
[1]高婷婷,郭炯(2019). 人工智能教育應(yīng)用研究綜述[J]. 現(xiàn)代教育技術(shù),(1):11-17.
[2]胡潤百富(2019). 2019中國人工智能產(chǎn)業(yè)知識產(chǎn)權(quán)發(fā)展白皮書[R]. 上海.
[3]蔣鑫,洪明(2019). 從“NSTC規(guī)劃”到“CSIS規(guī)劃”:美國人工智能賦能教育的顛覆與創(chuàng)新[J].中國遠程教育,(7):27-37.
[4]經(jīng)濟參考網(wǎng)(2019). 北京智源人工智能研究院啟動“智源學(xué)者計劃”[EB/OL]. [2019-12-08]. http://www.jjckb.cn/2019-04/17/c_137985104.htm.
[5]劉剛(2019). 中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報告[R]. 天津:第三屆世界智能大會.
[6]苗逢春(2019). 引領(lǐng)人工智能時代的教育躍遷: 2019年北京國際人工智能與教育大會綜述[J]. 電化教育研究,(8):5-14.
[7]歐陽鵬,胡弼成(2019). 人工智能時代教育管理的變革研究[J]. 大學(xué)教育科學(xué),(1):82-88.
[8]中國電子技術(shù)標(biāo)準(zhǔn)化研究院(2018). 人工智能標(biāo)準(zhǔn)化白皮書(2018版)[C]. 北京:2018人工智能標(biāo)準(zhǔn)化論壇.
[9]中國電子學(xué)會(2017). 新一代人工智能發(fā)展白皮書(2017版)[R]. 北京.
[10]中國新一代人工智能發(fā)展戰(zhàn)略研究院(2019). 中國新一代人工智能科技產(chǎn)業(yè)區(qū)域競爭力評價指數(shù)(2019)[R]. 天津:第三屆世界智能大會.
[11]中國信息通信研究院,中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(2019). 全球人工智能戰(zhàn)略與政策觀察(2019)[R]. 北京.
[12]中華人民共和國教育部(2018). 教育部關(guān)于印發(fā)《高等學(xué)校人工智能創(chuàng)新行動計劃》的通知[EB/OL]. [2019-10-08]. http://www.moe.gov.cn/srcsite/A16/s7062/201804/t20180410_332722.html.
[13]中華人民共和國教育部(2019). 教育部關(guān)于公布2018年度普通高等學(xué)校本科專業(yè)備案和審批結(jié)果的通知[EB/OL]. [2019-11-08]. http://www.moe.gov.cn/srcsite/A08/moe_1034/s4930/
201903/t20190329_376012.html.
[14]中華人民共和國科學(xué)技術(shù)部(2019a). 科技部關(guān)于印發(fā)《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引》的通知[EB/OL]. [2019-12-08]. http://www.most.gov.cn/mostinfo/xinxifenlei/fgzc/gfxwj/gfxwj2019/201909/t20190905_148663.htm.
[15]中華人民共和國科學(xué)技術(shù)部(2019b). 發(fā)展負責(zé)任的人工智能:我國新一代人工智能治理原則發(fā)布[EB/OL]. [2019-12-08]. http://www.most.gov.cn/kjbgz/201906/t20190617_147107.htm.
[16]中華人民共和國中央人民政府(2017). 國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[EB/OL]. [2019-11-23]. http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.
[17]CB Insights (2019). AI 100: The Artificial Intelligence Startups Redefining Industries[EB/OL]. [2019-12-08]. https://www.cbinsights.com/research/artificial-intelligence-top-startups.
[18]Cronk, T. M. (2019). DOD Unveils Its Artificial Intelligence Strategy[EB/OL]. [2019-11-23]. https://www.defense.gov/Explore/News/Article/Article/1755942/dod-unveils-its-artificial-intelligence-strategy.
[19]Gill, A. S. (2019). Artificial Intelligence and International Security: The Long View[J]. Ethics and International Affairs,33(2):169-179.
[20]Leenen, L., & Meyer, T. (2019). Artificial Intelligence and Big Data Analytics in Support of Cyber Defense, Developments in Information Security and Cybernetic Wars[M]. Hershey, PA: IGI Global: 42-63.
[21]MIT Media Lab (2018). Council on Extended Intelligence[EB/OL]. [2019-11-23]. https://www.media.mit.edu/projects/council-on-extended-intelligence/overview.
[22]National Science and Technology Council (2016). The National Artificial Intelligence Research and Development Strategic Plan[R]. Washington, D.C.
[23]National Science and Technology Council (2019). The National Artificial Intelligence Research and Development Strategic Plan: 2019 update[R]. Washington, D.C.
[24]OMeara, S. (2019). Chinas Ambitious Quest to Lead the World in AI by 2030[J]. Nature,572: 427-428.
[25]OECD (2019). OECD Principles on AI [EB/OL]. [2019-12-08]. https://www.oecd.org/going-digital/ai/principles/.
[26]White House Office of Science and Technology Policy
(OSTP) (2019). Accelerating Americas Leadership in Artificial Intelligence[EB/OL]. [2019-12-08]. https://www.whitehouse.gov/articles/accelerating-americas-leadership-in-artificial-intelligence/.
[27]Wirtz, B. W., Weyerer, J. C., & Geyer, C. (2019). Artificial Intelligence and the Public Sector: Applications and Challenges[J]. International Journal of Public Administration, 42(7):596-615.
收稿日期 2019-12-12 責(zé)任編輯 劉選