2020年全球人工智能發(fā)展相關風險分析

人工智能是一種理論、方法、技術和應用系統(tǒng)，它使用數(shù)字計算機或由數(shù)字計算機控制的機器來模擬和擴展人類智能，從而感知環(huán)境，獲取知識并利用知識獲得最佳結果。 隨著人工智能技術現(xiàn)在正得到越來越多的應用，其風險也越來越受到人們的關注。

一、人工智能發(fā)展相關風險分析

（一）警惕人工智能等新興技術帶來的系統(tǒng)性安全風險。世界經(jīng)濟論壇官方網(wǎng)站曾發(fā)布《未來系列：網(wǎng)絡安全、新興技術和系統(tǒng)風險》報告，稱第一代基于人工智能（AI）的網(wǎng)絡攻擊工具已經(jīng)出現(xiàn)，并且越來越多的證據(jù)表明攻擊者正在使用AI。深度偽造已被用來制造新的網(wǎng)絡攻擊載體，語音模擬軟件已經(jīng)被用于大型網(wǎng)絡盜竊中。

（三）警惕西方國家主導人工智能相關國際規(guī)范制定中的話語權。美國政府在制定人工智能發(fā)展戰(zhàn)略時，一直把中國當作首要的比較和防范對象，把中國在人工智能領域里的競爭視為爭奪世界領導權的戰(zhàn)略競爭，嚴密關注中國在發(fā)展人工智能方面的動向，竭力防止中國獲得人工智能領域的領先地位。歐盟委員會近期也宣布啟動人工智能道德準則的試行階段，盡管歐盟在人工智能投資和尖端研究上無法與中美比肩，但希望借助其在AI道德準則上的優(yōu)勢，構建AI全球監(jiān)管框架。

（四）警惕我國人工智能產(chǎn)業(yè)應用和技術突破可能受阻。全球高校人工智能學術聯(lián)盟秘書處上海蓋亞人工智能中心理事長王延峰認為，無論應用層，還是在核心技術層，中國人工智能發(fā)展都處于國際第一梯隊。但我們的基礎研究確實較弱，主要是“一軟一硬”兩個方面。硬件在通用GPU方面，有很大的短板，特別是現(xiàn)在華為海思被美國打壓。軟件方面主要是開源開放平臺。目前，中國尚未形成自主可控、具有國際影響力的人工智能開源開放平臺。

（五）警惕人工智能的軍事化和實戰(zhàn)化應用。近年來，伴隨著人工智能第三次發(fā)展浪潮的來臨，軍事領域的人工智能應用也迎來了大發(fā)展階段，而這又尤其體現(xiàn)在人工智能武器的研制與應用方面。《電子政務》稱，就目前的發(fā)展現(xiàn)狀而言，人工智能在海軍、陸軍、空軍以及網(wǎng)絡攻擊等相關軍事領域都已經(jīng)有所應用。在新形勢新背景下，各國圍繞人工智能的激烈競爭已然開始。具體到人工智能武器而言，以此為核心的新一輪軍備競賽同樣正在悄然發(fā)生。

（六）人工智能的發(fā)展將進一步加劇個人隱私泄露的風險。中科院院士、清華大學人工智能研究院院長張鈸表示，目前大數(shù)據(jù)等領域還欠缺一定安全性，而人工智能理應更好的保護用戶隱私。但是隨著技術的發(fā)展應用，由此引起的數(shù)據(jù)偽造、算法瓶頸、隱私安全、倫理困境等問題也日益凸顯，人工智能亟需發(fā)展出安全、可信、可靠與可擴展的第三代人工智能技術。

二、相關建議

（一）加快數(shù)據(jù)的開放和大力整合，實現(xiàn)數(shù)據(jù)準確與有效聯(lián)通，防范安全風險。中國機器人網(wǎng)稱，在規(guī)范數(shù)據(jù)使用、保護隱私等前提下，借助區(qū)塊鏈等技術，建設數(shù)據(jù)中臺，匯聚多種來源數(shù)據(jù)，形成統(tǒng)一標準和體系。在此基礎上，根據(jù)用戶的各種需求， 快速響應，及時提供可視化、智能化、便捷化的數(shù)據(jù)服務方案。一是完善細化法律法規(guī)，保護數(shù)據(jù)安全。二是使用“聯(lián)邦學習”策略，保護數(shù)據(jù)安全。三是借助大數(shù)據(jù)和人工智能等技術，保障網(wǎng)絡安全。此外，加強政府、科研院所、企業(yè)和行業(yè)等各方緊密合作，共建有利于網(wǎng)絡安全的大生態(tài)。

（二）構建人工智能治理的全球協(xié)調(diào)機制。騰訊網(wǎng)稱，在自我保護與相互協(xié)作之間尋求平衡的“數(shù)字主權”需求可能會破壞多邊主義并轉(zhuǎn)變?yōu)榧夹g民族主義，進而可能導致國際治理機制復合體功能失調(diào)，破壞地方和區(qū)域治理，削弱其作用或有效性。因此，只有在全球范圍內(nèi)進行全面協(xié)調(diào)，才能有效應對、化解未來的威脅與失衡狀態(tài)。需要建立正式的磋商機制，將利益攸關方入其中，推動官方政策的討論。公共磋商機制應當推動實現(xiàn)包容性協(xié)調(diào)進程、促進自組織和治理網(wǎng)絡發(fā)展、并幫助適應治理的多層次、多學科和多中心環(huán)境。

（三）我國要在人工智能領域取得應有的話語權，就必須在人工智能基礎理論和前沿技術方面加強引領性原創(chuàng)科學研究并率先取得重大突破。中國電子網(wǎng)稱，相對于歐美國家，我國人工智能研究起步晚，又長期處于低門檻，具有國際影響力的人才稀缺，掌握“撒手锏”技術的高水平人才更十分匱乏，尚需建設完備的人工智能人才體系。高端技術必須與產(chǎn)業(yè)對接，形成龐大的應用市場，人工智能必須與產(chǎn)業(yè)緊密融合。這意味著需要抓緊助推人工智能應用場景的落地，爭取基礎數(shù)據(jù)和平臺技術的突破，搭建好與傳統(tǒng)行業(yè)生態(tài)有效銜接的橋梁。

（四）要在基礎研究的“一軟一硬”兩方面要加大力度發(fā)展。全球高校人工智能學術聯(lián)盟秘書處上海蓋亞人工智能中心理事長王延峰認為，只有形成生態(tài)，我們自己生產(chǎn)的東西才能運用到整個產(chǎn)業(yè)鏈。所以，基礎研究的“一軟一硬”兩方面要加大力度發(fā)展。美國斷供其實也在倒逼我們發(fā)展。還是要把自己生產(chǎn)的產(chǎn)品用起來，形成生態(tài)后迭代升級。

（五）積極配置資源參與人工智能軍事化發(fā)展，推動武器領域具有約束性的國際法律條約。就人工智能武器風險規(guī)制而言，中國尚未出臺專門的相關政策，而是表現(xiàn)在《新一代人工智能發(fā)展規(guī)劃》中，針對一般性人工智能的發(fā)展，提出了建設倫理規(guī)范和政策法規(guī)的總要求。因此建議：第一，應積極配置資源參與人工智能武器的全球治理工作，推動國際安全治理體系的進一步完善。第二，應積極推進政府間合作協(xié)議的簽訂，以推動建立人工智能武器領域具有約束性的、多種形式的法律條約。第三，恰當、適時地推進致命性人工智能武器的軍備控制。

（六）我國需要建立系統(tǒng)的個人信息數(shù)據(jù)保護機制，整合民法、刑法等規(guī)范，為個人信息安全保駕護航。百家號“眷誠法務”稱，首先，需要明確個人信息權。應該區(qū)分個人信息被使用的知情權、更改權、刪除權等，明確人工智能收集個人信息的界限，讓個人信息成為一個有價值、受保護的權利。其次，要為人工智能領域收集個人數(shù)據(jù)建立科學的原則。科學的原則主要體現(xiàn)在收集個人信息的合法、必要、正當性上。最后，對于人工智能的領域內(nèi)的個人信息安全，應該制定專門的法律，明確侵權的救濟方式。

作者簡介：

張弛，女，漢族，江蘇江陰，1979年10月出生，碩士學位，工程師。。研究方向：網(wǎng)絡輿情傳播規(guī)律;網(wǎng)絡空間治理;互聯(lián)網(wǎng)領域前沿科技研究。