倫　一　中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心副主任

1　引言

自上世紀(jì)50年代人工智能概念誕生以來(lái)，全球人工智能發(fā)展經(jīng)歷了數(shù)次浪潮。本次浪潮由大數(shù)據(jù)、機(jī)器學(xué)習(xí)、高速網(wǎng)絡(luò)、資本市場(chǎng)等多重因素共同推動(dòng)，呈現(xiàn)出跨界融合、人機(jī)協(xié)同、自主操控等新特征。作為一項(xiàng)新技術(shù)，人工智能固然能夠顯著提升社會(huì)生產(chǎn)力、為用戶提供更多便利，但與此同時(shí)也帶來(lái)了一系列的社會(huì)問(wèn)題需要解決，如結(jié)構(gòu)性失業(yè)、個(gè)人隱私泄露、法律沖突等等。因此，需要前瞻性探索和構(gòu)建人工智能治理體系，對(duì)人工智能產(chǎn)業(yè)的健康發(fā)展形成有力支撐和保障。

2　從互聯(lián)網(wǎng)治理到人工智能治理

從技術(shù)領(lǐng)域看，互聯(lián)網(wǎng)領(lǐng)域最先采用了“治理”的概念。1998年，全球范圍互聯(lián)網(wǎng)關(guān)鍵基礎(chǔ)資源的管理者ICANN與美國(guó)商務(wù)部簽訂諒解備忘錄，由ICANN協(xié)調(diào)和管理互聯(lián)網(wǎng)數(shù)字分配機(jī)構(gòu)IANA服務(wù)，實(shí)現(xiàn)對(duì)全球互聯(lián)網(wǎng)號(hào)碼資源的分配和根區(qū)管理。2005年，聯(lián)合國(guó)互聯(lián)網(wǎng)治理工作組（WGIG）提出互聯(lián)網(wǎng)治理的內(nèi)涵，即“政府、私營(yíng)部門(mén)和民間社會(huì)，根據(jù)各自的作用，制定和實(shí)施的，旨在規(guī)范互聯(lián)網(wǎng)發(fā)展和運(yùn)用的共同原則、規(guī)范、規(guī)則、決策程序和方案?！?/p>

與互聯(lián)網(wǎng)相比，人工智能除了有滲透性強(qiáng)的共性特征，還具有數(shù)據(jù)量大、難以預(yù)測(cè)、難以控制的特點(diǎn)。一方面，人工智能依賴(lài)的核心技術(shù)是以深度學(xué)習(xí)為代表的機(jī)器算法，其產(chǎn)品和技術(shù)具備飛速的學(xué)習(xí)能力，谷歌研發(fā)的圍棋程序AlphaGo僅在1年時(shí)間內(nèi)就擊敗了人類(lèi)所有頂級(jí)高手。另一方面，人工智能本身具有“黑箱化”的特征，機(jī)器通過(guò)自動(dòng)運(yùn)算輸出結(jié)果，數(shù)據(jù)訓(xùn)練可能產(chǎn)生新的機(jī)器學(xué)習(xí)算法，導(dǎo)致產(chǎn)品和服務(wù)做出的決策難以預(yù)測(cè)和控制?？傮w來(lái)看，人工智能面臨比互聯(lián)網(wǎng)更多的未知因素，可能對(duì)監(jiān)管機(jī)構(gòu)、法律、倫理等均帶來(lái)影響。

3　國(guó)內(nèi)外人工智能治理相關(guān)探索

考慮到人工智能的特性和對(duì)治理體系帶來(lái)的影響，美國(guó)、歐盟、英國(guó)、日本等發(fā)達(dá)國(guó)家在戰(zhàn)略層面加快部署。美國(guó)在人工智能頂層戰(zhàn)略中考慮人工智能治理的應(yīng)對(duì)策略。2016年，白宮連續(xù)發(fā)布3份白皮書(shū)（《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》、《為人工智能的未來(lái)做好準(zhǔn)備》、《人工智能、自動(dòng)化與經(jīng)濟(jì)》），從制度、細(xì)則、社會(huì)等方面提出應(yīng)對(duì)人工智能變革的策略。英國(guó)格外注重人工智能對(duì)倫理、法律等問(wèn)題帶來(lái)的挑戰(zhàn)。2016年，英國(guó)下議院的科學(xué)和技術(shù)委員會(huì)發(fā)布了一份關(guān)于人工智能和機(jī)器人技術(shù)的報(bào)告，闡述了人工智能的發(fā)展與監(jiān)管帶來(lái)的潛在的倫理道德與法律挑戰(zhàn)；英國(guó)政府發(fā)布《人工智能：未來(lái)決策制定的機(jī)遇和影響》報(bào)告，闡述了人工智能的未來(lái)發(fā)展對(duì)英國(guó)社會(huì)和政府的影響。聯(lián)合國(guó)呼吁世界各國(guó)采用全新視角看待人工智能系統(tǒng)未來(lái)的監(jiān)管問(wèn)題。2015年，聯(lián)合國(guó)教科文組織與世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)（COMEST）聯(lián)合發(fā)布報(bào)告，重點(diǎn)討論了自動(dòng)化機(jī)器人使用所帶來(lái)的挑戰(zhàn)、機(jī)械倫理學(xué)、新的責(zé)任分擔(dān)機(jī)制以及決策可追溯的重要性，建議各國(guó)監(jiān)管者必須考慮科技發(fā)展的社會(huì)性限制因素，進(jìn)一步完善治理措施。我國(guó)也已在頂層戰(zhàn)略中專(zhuān)門(mén)強(qiáng)調(diào)了建設(shè)人工智能治理體系的重要性。2017年7月，國(guó)務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，在戰(zhàn)略目標(biāo)中對(duì)法律和倫理體系建設(shè)提出了“三步走”的目標(biāo)，明確了自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng)域應(yīng)作為立法完善的關(guān)鍵領(lǐng)域。

除了政府在政策和立法層面加快人工智能倫理和法律規(guī)則的構(gòu)建外，人工智能企業(yè)、標(biāo)準(zhǔn)化組織、研究機(jī)構(gòu)等也從產(chǎn)業(yè)發(fā)展的角度提出了人工智能治理規(guī)則構(gòu)建的思路。2017年1月，在加利福尼亞州舉辦的阿西洛馬人工智能會(huì)議上，知名物理學(xué)家史蒂芬·霍金、特斯拉CEO埃隆·馬斯克及近千名人工智能和機(jī)器人領(lǐng)域?qū)＜衣?lián)合簽署了阿西洛馬人工智能23條原則，呼吁全世界在發(fā)展人工智能的同時(shí)嚴(yán)格遵守這些原則，共同保障人類(lèi)未來(lái)的利益和安全。電氣和電子工程師協(xié)會(huì)（IEEE）則主要聚焦人工智能領(lǐng)域倫理道德標(biāo)準(zhǔn)的研究，于2017年12月發(fā)布了第2版“人工智能設(shè)計(jì)的倫理準(zhǔn)則”白皮書(shū)，其目的就是為了從標(biāo)準(zhǔn)化角度出發(fā)對(duì)倫理問(wèn)題進(jìn)行設(shè)計(jì)，使人工智能系統(tǒng)以人為本，服務(wù)于人類(lèi)價(jià)值和倫理準(zhǔn)則。目前，在IEEE的倡導(dǎo)下，成立了面向所有人開(kāi)放的IEEE P7000?標(biāo)準(zhǔn)工作組，下設(shè)數(shù)據(jù)隱私處理、算法偏見(jiàn)處理等10個(gè)具體研究組，推動(dòng)倫理問(wèn)題轉(zhuǎn)化為技術(shù)標(biāo)準(zhǔn)。

當(dāng)前各國(guó)除了關(guān)注更加宏觀的人工智能治理問(wèn)題，對(duì)具體應(yīng)用領(lǐng)域規(guī)則制定的關(guān)注程度也日益提升，在交通和金融領(lǐng)域尤為突出。

3.1　自動(dòng)駕駛

自動(dòng)駕駛是人工智能應(yīng)用最早落地的領(lǐng)域之一，產(chǎn)業(yè)發(fā)展基礎(chǔ)相對(duì)成熟，目前全球自動(dòng)駕駛立法正在不斷推進(jìn)，包括聯(lián)合國(guó)、美國(guó)、德國(guó)、英國(guó)等在內(nèi)的國(guó)際組織和國(guó)家正在積極修訂原有法規(guī)或制定新的法律政策，為自動(dòng)駕駛技術(shù)的部署清除法律障礙，取得了積極進(jìn)展。

聯(lián)合國(guó)《維也納道路交通公約》一項(xiàng)有關(guān)車(chē)輛自動(dòng)駕駛技術(shù)的修正案于2016年3月23日正式生效。這項(xiàng)修正案明確規(guī)定，在全面符合聯(lián)合國(guó)車(chē)輛管理?xiàng)l例或者駕駛員可以選擇關(guān)閉該技術(shù)的情況下，將駕駛車(chē)輛的職責(zé)交給自動(dòng)駕駛技術(shù)可以被應(yīng)用到交通運(yùn)輸當(dāng)中。

美國(guó)建立聯(lián)邦與州協(xié)同的監(jiān)管模式。在州層面，推動(dòng)自動(dòng)駕駛測(cè)試法案出臺(tái)，明確測(cè)試條件、要求、范圍等，目前已有22個(gè)州頒布實(shí)施了46份涉及自動(dòng)駕駛的法案和行政命令；在聯(lián)邦層面，2016年9月頒布《聯(lián)邦自動(dòng)駕駛汽車(chē)政策》，進(jìn)一步明確各州訂立自動(dòng)駕駛法案的要求，以及聯(lián)邦與州監(jiān)管的分工；2017年7月，美國(guó)眾議院通過(guò)《自動(dòng)駕駛法案》，旨在發(fā)揮聯(lián)邦職能，通過(guò)鼓勵(lì)自動(dòng)駕駛汽車(chē)的測(cè)試和研發(fā)以確保車(chē)輛安全；同年9月，NHTSA又發(fā)布了最新的《聯(lián)邦自動(dòng)駕駛系統(tǒng)指南：安全愿景2.0》，強(qiáng)調(diào)自動(dòng)駕駛的安全性和消費(fèi)者教育。該指南將作為最新版本取代FAVP，以更靈活的方法來(lái)推進(jìn)自動(dòng)駕駛汽車(chē)安全技術(shù)的創(chuàng)新發(fā)展。

德國(guó)政府于2015年已允許在連接慕尼黑和柏林的A9高速公路上開(kāi)展自動(dòng)駕駛汽車(chē)測(cè)試項(xiàng)目。立法機(jī)構(gòu)2016年對(duì)《德國(guó)道路交通條例》所規(guī)定的“駕駛員在車(chē)輛行駛過(guò)程中全程保持警惕”、“駕駛員的手不能離開(kāi)方向盤(pán)”等條文啟動(dòng)立法修正。2017年5月，德國(guó)通過(guò)自動(dòng)駕駛汽車(chē)法案，為自動(dòng)駕駛汽車(chē)路上測(cè)試掃清了障礙，其規(guī)定：第一，司機(jī)必須始終坐在方向盤(pán)后，以便在自動(dòng)駕駛汽車(chē)請(qǐng)求時(shí)進(jìn)行控制；第二，允許路上測(cè)試，司機(jī)可不參與駕駛行為（意即可以上網(wǎng)、發(fā)郵件等）；第三，安裝“黑匣子”，記錄駕駛活動(dòng)；第四，明確司機(jī)和制造商的責(zé)任分配，即，司機(jī)參與駕駛的，依其注意義務(wù)和過(guò)錯(cuò)承擔(dān)責(zé)任，否則制造商承擔(dān)責(zé)任。

我國(guó)也已開(kāi)啟自動(dòng)駕駛測(cè)試規(guī)定的立法進(jìn)程。自2017年年底開(kāi)始，北京、上海、重慶、深圳等地率先開(kāi)啟自動(dòng)駕駛路測(cè)立法。2018年4月，工信部、公安部、交通運(yùn)輸部聯(lián)合發(fā)布了《智能網(wǎng)聯(lián)汽車(chē)道路測(cè)試管理規(guī)范（試行）》，從國(guó)家層面再次對(duì)自動(dòng)駕駛汽車(chē)的道路測(cè)試指明了方向。從最新發(fā)布的規(guī)定來(lái)看，進(jìn)一步明確了我國(guó)自動(dòng)駕駛汽車(chē)的技術(shù)路線為“智能網(wǎng)聯(lián)汽車(chē)”，對(duì)測(cè)試主體、測(cè)試駕駛?cè)撕蜏y(cè)試車(chē)輛分別設(shè)置門(mén)檻，規(guī)定了測(cè)試申請(qǐng)及審核程序，以及交通違法和事故處理的方式等內(nèi)容。國(guó)家層面規(guī)定的出臺(tái)，意味著自動(dòng)駕駛汽車(chē)所面臨的一部分治理問(wèn)題得到了解決，同時(shí)也為后續(xù)其他省市出臺(tái)路測(cè)規(guī)定提供了重要參考。

3.2　智能投資顧問(wèn)

智能投資顧問(wèn)（以下簡(jiǎn)稱(chēng)“智能投顧”）是人工智能技術(shù)與金融服務(wù)深度結(jié)合的產(chǎn)物。該服務(wù)模式誕生于2008年，自2011年開(kāi)始在美國(guó)等市場(chǎng)發(fā)展速度顯著加快。目前，國(guó)內(nèi)外理論和實(shí)務(wù)界對(duì)于智能投顧尚未形成權(quán)威和統(tǒng)一定義，在業(yè)務(wù)邊界和范圍上各國(guó)的實(shí)踐選擇也不盡相同。

從業(yè)務(wù)定義來(lái)看，美國(guó)證券交易委員會(huì)（SEC）和證券業(yè)自律監(jiān)管組織美國(guó)金融業(yè)監(jiān)管局（FINRA）定義較為寬泛，將智能投顧業(yè)務(wù)類(lèi)型界定為“通過(guò)移動(dòng)設(shè)備或個(gè)人電腦，獲取廣泛的自動(dòng)化投資工具，包括個(gè)人財(cái)務(wù)規(guī)劃工具（如在線計(jì)算器）、投資組合選擇或資產(chǎn)優(yōu)化服務(wù)（如特定賬戶的配置建議服務(wù)）、線上投資管理程序（如進(jìn)行投資組合篩選和管理的智能投顧）等?！睔W洲三大金融監(jiān)管機(jī)構(gòu)——?dú)W洲銀行業(yè)管理局（EBA）、歐洲證券及市場(chǎng)管理局（ESMA）、歐洲保險(xiǎn)與職業(yè)年金管理局（EIOPA）認(rèn)為在證券市場(chǎng)中發(fā)展較為成熟的智能投顧是指“在投資顧問(wèn)業(yè)務(wù)中應(yīng)用的自動(dòng)化工具，由投資者提供個(gè)人信息，自動(dòng)化工具結(jié)合客戶信息，通過(guò)算法為客戶提供金融工具的交易建議?！卑拇罄麃喿C券與投資委員會(huì)（ASIC）則在第255號(hào)監(jiān)管指引中采用“數(shù)字建議”（Digital Advice）一詞指代智能投顧所提供的服務(wù)，包括普遍性和個(gè)性化（結(jié)合某個(gè)客戶具體的投資目標(biāo)、財(cái)務(wù)狀況和實(shí)際需求）建議，既涵蓋范圍較為狹窄的資產(chǎn)組合設(shè)計(jì)，也包括綜合全面的財(cái)務(wù)管理計(jì)劃。我國(guó)目前也對(duì)該項(xiàng)業(yè)務(wù)進(jìn)行定義，如人民銀行、證監(jiān)會(huì)等五部委于2018年3月發(fā)布的《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》指出，智能投顧屬于“金融機(jī)構(gòu)運(yùn)用人工智能技術(shù)、采用機(jī)器人投資顧問(wèn)開(kāi)展的資產(chǎn)管理業(yè)務(wù)”。由此可見(jiàn)，各國(guó)對(duì)于智能投顧的定義方式并不一致，既包括了為用戶提供投資建議的助手型工具，也包括了幫助用戶實(shí)現(xiàn)全自動(dòng)化財(cái)務(wù)投資的理財(cái)工具。

國(guó)外監(jiān)管機(jī)構(gòu)已經(jīng)開(kāi)始了對(duì)于智能投顧的監(jiān)管探索。美國(guó)、英國(guó)、日本、香港等國(guó)家和地區(qū)將現(xiàn)有的監(jiān)管規(guī)則直接適用于智能投顧業(yè)務(wù)模式的監(jiān)管；法國(guó)、荷蘭、新加坡等國(guó)正在評(píng)估是否需要專(zhuān)門(mén)針對(duì)智能投顧制定補(bǔ)充性規(guī)則或保障性措施；而加拿大、澳大利亞、中國(guó)等已經(jīng)針對(duì)智能投顧出臺(tái)專(zhuān)門(mén)指引或規(guī)范性文件。例如，五部委發(fā)布的《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》對(duì)于該項(xiàng)業(yè)務(wù)還是采取了較為謹(jǐn)慎的管理思路，要求經(jīng)營(yíng)該項(xiàng)業(yè)務(wù)應(yīng)當(dāng)經(jīng)金融監(jiān)督管理部門(mén)的許可，取得相應(yīng)的投資顧問(wèn)資質(zhì)，充分披露信息，報(bào)備智能投顧模型的主要參數(shù)以及資產(chǎn)配置的主要邏輯。

4　人工智能治理應(yīng)考慮的重點(diǎn)要素

結(jié)合國(guó)內(nèi)外治理規(guī)則的動(dòng)態(tài)，以及人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的特點(diǎn)，筆者認(rèn)為人工智能治理需要著重考慮以下問(wèn)題：

一是業(yè)務(wù)準(zhǔn)入和形態(tài)界定問(wèn)題。人工智能涉及業(yè)務(wù)范圍廣泛，應(yīng)用形態(tài)演進(jìn)迅速，特定行業(yè)管理部門(mén)需要準(zhǔn)確界定人工智能產(chǎn)品或服務(wù)范疇，確定監(jiān)管對(duì)象和監(jiān)管重點(diǎn)。以自動(dòng)駕駛汽車(chē)為例，其主要技術(shù)路線包括了“智能化”和“網(wǎng)聯(lián)化”兩種，前者更加強(qiáng)調(diào)單車(chē)的智能，而后者需要人、車(chē)、路、云等多個(gè)要素共同推進(jìn)。采用智能化路線的自動(dòng)駕駛汽車(chē)可能只需要考慮汽車(chē)本身的準(zhǔn)入問(wèn)題，采用網(wǎng)聯(lián)化路線的自動(dòng)駕駛汽車(chē)還要考慮車(chē)輛通信標(biāo)準(zhǔn)的制定、數(shù)據(jù)傳輸安全、道路基礎(chǔ)設(shè)施的完善等問(wèn)題，兩種技術(shù)路線雖然都可實(shí)現(xiàn)自動(dòng)駕駛功能，但準(zhǔn)入的要求和后續(xù)監(jiān)管難度大不相同。簡(jiǎn)而言之，人工智能是一個(gè)大的概念，在此之下有無(wú)數(shù)的技術(shù)和應(yīng)用分支，可能涉及不同的治理規(guī)則，對(duì)于政策制定者來(lái)說(shuō)是一個(gè)很大的挑戰(zhàn)。

二是人工智能算法公平性問(wèn)題。算法本質(zhì)上是“以數(shù)學(xué)方式或者計(jì)算機(jī)代碼表達(dá)的意見(jiàn)”，人工智能系統(tǒng)的設(shè)計(jì)者、開(kāi)發(fā)者可能在設(shè)計(jì)階段將人類(lèi)的偏見(jiàn)嵌入算法系統(tǒng)，系統(tǒng)本身也可能在交互過(guò)程中產(chǎn)生無(wú)意識(shí)的歧視行為。由于算法歧視具有難以預(yù)料的特點(diǎn)，使得識(shí)別問(wèn)題根源或解釋問(wèn)題的難度進(jìn)一步加大。例如，谷歌公司的數(shù)碼相冊(cè)軟件曾將深色皮膚的人群錯(cuò)誤標(biāo)記為大猩猩，顯示了科技錯(cuò)誤如何在無(wú)意之間轉(zhuǎn)變成傷害，進(jìn)而導(dǎo)致社會(huì)的不安與仇恨。關(guān)于解決方案，企業(yè)和政府都已經(jīng)進(jìn)行了相關(guān)探索。例如，在歐盟《一般數(shù)據(jù)保護(hù)條例》中，嚴(yán)格禁止對(duì)個(gè)人造成歧視的數(shù)據(jù)分析行為。微軟公司則認(rèn)為算法透明能夠提高公眾對(duì)于人工智能的信賴(lài)程度，承諾將提高自身算法透明度，滿足人類(lèi)理解和監(jiān)管的需求。

三是人工智能中的個(gè)人隱私保護(hù)問(wèn)題。人工智能的發(fā)展有賴(lài)于利用數(shù)據(jù)訓(xùn)練算法，在這個(gè)過(guò)程中需要收集、分析和使用大量的數(shù)據(jù)，而數(shù)據(jù)的收集和處理過(guò)程很大程度上是由機(jī)器自行完成的，用戶是毫不知情的。此外，人工智能產(chǎn)品和服務(wù)往往由多個(gè)主體共同參與提供，個(gè)人信息收集和使用的邊界并不明晰。對(duì)于醫(yī)療等敏感數(shù)據(jù)，這項(xiàng)風(fēng)險(xiǎn)更加突出。2017年7月，谷歌DeepMind公司曾和英國(guó)NHS醫(yī)療服務(wù)機(jī)構(gòu)聯(lián)合開(kāi)發(fā)一個(gè)名為Streams的智能手機(jī)應(yīng)用程序而共享數(shù)據(jù)，NHS并沒(méi)有向患者明確他們的醫(yī)療信息將被如何使用，也沒(méi)有詢(xún)問(wèn)患者是否同意DeepMind處理自己的醫(yī)療數(shù)據(jù)，它們之間的數(shù)據(jù)交易被英國(guó)信息專(zhuān)員辦公室ICO認(rèn)定為“沒(méi)有遵守?cái)?shù)據(jù)保護(hù)法案”。如何合法合規(guī)地收集和使用個(gè)人信息，成為智能應(yīng)用產(chǎn)業(yè)鏈上的每個(gè)主體要面對(duì)的重要問(wèn)題，需要各國(guó)進(jìn)一步制定規(guī)則予以規(guī)范。

四是人工智能責(zé)任劃分問(wèn)題。產(chǎn)品責(zé)任劃分的承擔(dān)問(wèn)題伴隨人工智能的發(fā)展而來(lái)，尤其是感知智能領(lǐng)域的產(chǎn)品責(zé)任問(wèn)題。從傳統(tǒng)法律責(zé)任理論來(lái)看，過(guò)錯(cuò)責(zé)任是法律責(zé)任中最普遍的形式，并且是占據(jù)主導(dǎo)地位的法律責(zé)任，傳統(tǒng)的侵權(quán)法中也是以過(guò)錯(cuò)責(zé)任為主要?dú)w責(zé)原則。當(dāng)高度自主、脫離人類(lèi)控制且獨(dú)立運(yùn)作的智能機(jī)器人造成人身或者財(cái)產(chǎn)損害，如何分配并承擔(dān)法律責(zé)任，成為當(dāng)前需要思考的重點(diǎn)問(wèn)題之一。2016年5月，美國(guó)佛羅里達(dá)州曾發(fā)生一起特斯拉汽車(chē)自動(dòng)駕駛模式的事故，車(chē)輛未能識(shí)別轉(zhuǎn)彎卡車(chē)，導(dǎo)致特斯拉轎車(chē)司機(jī)當(dāng)場(chǎng)死亡。2017年1月，美國(guó)國(guó)家公路交通安全管理局（NHTSA）發(fā)布調(diào)查報(bào)告，宣布特斯拉汽車(chē)為這起事故中的無(wú)過(guò)錯(cuò)方，原因是特斯拉汽車(chē)仍屬于自動(dòng)駕駛中的初級(jí)階段-“輔助駕駛”，受害者在駕駛過(guò)程中雙手離開(kāi)方向盤(pán)，明顯違背了車(chē)輛安全使用要求。這個(gè)案例反映出了人工智能產(chǎn)品責(zé)任認(rèn)定的復(fù)雜性，尤其是當(dāng)前以人類(lèi)行為者為中心的侵權(quán)責(zé)任和以產(chǎn)品生產(chǎn)者、銷(xiāo)售者為中心的產(chǎn)品責(zé)任，在應(yīng)對(duì)這一問(wèn)題時(shí)，侵權(quán)法、合同法等法律規(guī)則的不充足性和局限性將逐漸顯現(xiàn)出來(lái)，未來(lái)需要探索構(gòu)建結(jié)構(gòu)合理的責(zé)任體系。

5　關(guān)于人工智能治理問(wèn)題的初步思考

與互聯(lián)網(wǎng)技術(shù)帶來(lái)的治理問(wèn)題相比，人工智能技術(shù)范圍更廣，與其他領(lǐng)域融合的態(tài)勢(shì)也更強(qiáng)。人工智能治理問(wèn)題既包括了這項(xiàng)技術(shù)本身帶來(lái)的治理問(wèn)題，如算法的可解釋性、產(chǎn)品或服務(wù)的準(zhǔn)入等；也包括了這項(xiàng)技術(shù)與其他領(lǐng)域融合帶來(lái)的綜合性治理問(wèn)題，如安全風(fēng)險(xiǎn)、就業(yè)沖擊等。因此，很難以統(tǒng)一的治理框架來(lái)應(yīng)對(duì)所有遇到的問(wèn)題。在考慮人工智能所帶來(lái)的治理問(wèn)題時(shí)，應(yīng)把握好治理原則，確立底線思維和監(jiān)管紅線，同時(shí)賦予企業(yè)相應(yīng)的自主權(quán)，保證產(chǎn)業(yè)創(chuàng)新活力。具體而言，筆者提出以下四點(diǎn)建議：

一是理清政府、企業(yè)的權(quán)責(zé)邊界。法律是現(xiàn)實(shí)社會(huì)運(yùn)行的規(guī)則，而代碼則是網(wǎng)絡(luò)空間運(yùn)行的法則。在現(xiàn)有法律規(guī)則可以適用人工智能治理，或技術(shù)規(guī)則可以有效彌補(bǔ)法律規(guī)則缺失的情況下，監(jiān)管部門(mén)沒(méi)有必要針對(duì)每個(gè)新的問(wèn)題出臺(tái)一部新的規(guī)定，而應(yīng)該更好地發(fā)揮已有法律規(guī)定的作用，加強(qiáng)企業(yè)自律，考慮將部分技術(shù)規(guī)則上升為法律規(guī)定。

二是將處理好安全和發(fā)展的關(guān)系?，F(xiàn)階段人工智能發(fā)展仍處于初級(jí)階段，主要還是為了實(shí)現(xiàn)輔助功能，離不開(kāi)人類(lèi)的介入和控制，發(fā)展是當(dāng)前人工智能產(chǎn)業(yè)的“第一要?jiǎng)?wù)”；人工智能進(jìn)入高級(jí)階段后，其決策難以被預(yù)測(cè)和解釋?zhuān)绻麑?duì)其沒(méi)有有效的控制手段，將可能產(chǎn)生重大的公共危險(xiǎn)和對(duì)私人權(quán)利的侵犯，不僅應(yīng)該高度重視人工智能安全問(wèn)題，還可能需要對(duì)人工智能的“發(fā)展”進(jìn)行一些限制。

三是加強(qiáng)對(duì)經(jīng)濟(jì)社會(huì)影響的評(píng)估。對(duì)人工智能治理問(wèn)題的討論，不應(yīng)該是臆想和假設(shè)，需要建立在翔實(shí)的數(shù)據(jù)和案例基礎(chǔ)之上。例如，在處理人工智能帶來(lái)的就業(yè)問(wèn)題上，需要構(gòu)建覆蓋各個(gè)行業(yè)的、科學(xué)的評(píng)估和測(cè)算體系，為政府決策提供支撐。

四是處理好國(guó)內(nèi)立法與國(guó)際規(guī)則的關(guān)系。人工智能的發(fā)展在全球帶來(lái)的挑戰(zhàn)是同步的，也有賴(lài)于制定共同遵守的規(guī)則。因此，在國(guó)內(nèi)立法的同時(shí)更應(yīng)該跟蹤、參與和推動(dòng)國(guó)際規(guī)則的制定，以應(yīng)對(duì)人工智能對(duì)全人類(lèi)帶來(lái)的機(jī)遇和挑戰(zhàn)。