顏 可 陳 瀅 邱 楠

（重慶大學(xué)，重慶 400030）

隨著科技的發(fā)展，人類已進(jìn)入智能時(shí)代，人工智能儼然已成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，成為各國競爭的焦點(diǎn)。人工智能在移動(dòng)互聯(lián)網(wǎng)、深度學(xué)習(xí)、大數(shù)據(jù)、云計(jì)算、腦科學(xué)等新理論新技術(shù)的驅(qū)動(dòng)下，迅速發(fā)展，呈現(xiàn)出人機(jī)協(xié)同、跨界融合、深耕細(xì)分、群智開放、自主操控等新特征，對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、人類生產(chǎn)生活方式、國際政治經(jīng)濟(jì)格局等方面產(chǎn)生重大而深遠(yuǎn)的影響。同時(shí)，也帶來了各種“創(chuàng)造性破壞”、難題和挑戰(zhàn)，使得制度體系、運(yùn)行機(jī)制、規(guī)制方式和社會(huì)秩序等面臨著很大程度的“顛覆”，甚至“重建”，其引發(fā)的社會(huì)風(fēng)險(xiǎn)將給當(dāng)下的法律規(guī)則和法律秩序帶來一場前所未有的挑戰(zhàn)。要保證人工智能技術(shù)安全、可靠、可控的發(fā)展，從技術(shù)、倫理和法律三個(gè)路徑，進(jìn)行前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，構(gòu)建符合人工智能運(yùn)作基本邏輯的規(guī)制體系和國家新型治理體系，推進(jìn)國家治理體系和治理能力現(xiàn)代化，“不斷提升人民群眾的獲得感、幸福感和安全感”。

一、人工智能及其發(fā)展態(tài)勢(shì)

人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，目前學(xué)術(shù)界對(duì)人工智能尚無統(tǒng)一的定義，根據(jù)眾多學(xué)者的表述，可以理解為人工智能是計(jì)算機(jī)依據(jù)設(shè)定的學(xué)習(xí)策略，通過讀取海量的“大數(shù)據(jù)”，利用自然語言處理、圖像識(shí)別、音頻處理等技術(shù)，從中發(fā)現(xiàn)規(guī)律和聯(lián)系，實(shí)現(xiàn)預(yù)測(cè)和決策，生成多種解決方案。近十年來，人工智能的發(fā)展突飛猛進(jìn)，賽迪智庫的研究認(rèn)為人工智能從專用智能向通用智能發(fā)展、從人工智能向人機(jī)混合智能發(fā)展、從“人工+智能”向自主智能系統(tǒng)發(fā)展、人工智能將加速與其他學(xué)科領(lǐng)域交叉滲透，人工智能產(chǎn)業(yè)將蓬勃發(fā)展、欣欣向榮，將推動(dòng)人類進(jìn)入普惠型智能社會(huì)。人工智能與多學(xué)科領(lǐng)域和行業(yè)交叉滲透，催生了許多新興產(chǎn)業(yè)，深刻地改變著人類社會(huì)關(guān)系。

二、人工智能發(fā)展中的社會(huì)問題及風(fēng)險(xiǎn)

人工智能在帶給人類巨大進(jìn)步與福利的同時(shí)，也帶來了不可忽視的“倫理風(fēng)險(xiǎn)、極化風(fēng)險(xiǎn)、異化風(fēng)險(xiǎn)、規(guī)制風(fēng)險(xiǎn)和責(zé)任風(fēng)險(xiǎn)”。數(shù)據(jù)信息采集應(yīng)用可能侵犯公民隱私；醫(yī)療機(jī)器人的應(yīng)用可能引發(fā)新的醫(yī)療事故責(zé)任問題；護(hù)理、陪伴機(jī)器人等人機(jī)交互產(chǎn)品可能帶來情感依賴；人工智能的算法偏好可能加劇社會(huì)偏見或歧視；機(jī)器的深度學(xué)習(xí)，不受人性和道德約束的算法黑箱，可能作出威脅人倫的選擇；無人駕駛汽車緊急避險(xiǎn)等智能決策可能引發(fā)“道德悖論”；傳統(tǒng)的職業(yè)和崗位也正在被機(jī)器人所代替，引發(fā)失業(yè)潮。人工智能的發(fā)展已經(jīng)滲透到生活的方方面面，對(duì)人類的主體地位和交互模式、國家的民生事業(yè)與社會(huì)治理方式都產(chǎn)生了深遠(yuǎn)的影響。

人工智能發(fā)展過程中的風(fēng)險(xiǎn)主要體現(xiàn)在以下幾個(gè)方面：第一，大數(shù)據(jù)的“全體性”“混雜性”及“相關(guān)性”帶來了風(fēng)險(xiǎn)的不可預(yù)測(cè)性和全球性，追求數(shù)據(jù)的大而全，忽視了數(shù)據(jù)的相關(guān)性，可能導(dǎo)致推演結(jié)果的混亂；第二，算法的不可預(yù)見性也直接導(dǎo)致了風(fēng)險(xiǎn)的不確定性，導(dǎo)致風(fēng)險(xiǎn)失控。人工智能決策系統(tǒng)不受預(yù)置的價(jià)值觀念、經(jīng)驗(yàn)法則、道德法制等因素的制約，“算法黑箱”使得無法控制或預(yù)測(cè)指數(shù)級(jí)升級(jí)的人工智能的決策過程及決策結(jié)果，機(jī)器自主選擇的方案可能與人類“福祉”背道而馳，甚至帶來毀滅性結(jié)果；第三，人工智能研發(fā)的隱秘性和分散性加劇了風(fēng)險(xiǎn)集聚性，催生了風(fēng)險(xiǎn)的全球化。人工智能的研發(fā)只需一臺(tái)電腦或一部智能手機(jī)即可，隨著互聯(lián)網(wǎng)的發(fā)展，數(shù)據(jù)的跨境流動(dòng)將更為便利，物理上的隱秘性和分散性給政府監(jiān)管帶來了前所未有的難度。［1］

三、人工智能風(fēng)險(xiǎn)防控體系的建設(shè)

人工智能技術(shù)高歌猛進(jìn)，離不開法學(xué)理論的更新、具體法律制度的完善和法律倫理的同步發(fā)展。要預(yù)防AI帶來的危險(xiǎn)，并不僅僅是要制定新的法律，還要在法治中創(chuàng)新理念，拓展外延，將法律倫理上升為法律條文，遵循人工智能發(fā)展的規(guī)律，利用標(biāo)準(zhǔn)化的技術(shù)，對(duì)未來科技發(fā)展進(jìn)行具有前瞻性的布局，在立法、執(zhí)法、司法及社會(huì)治理的過程中，貫穿人工智能的決策方式和借助人工智能手段，促進(jìn)人工智能和法律法規(guī)的良性互動(dòng)。

第一，創(chuàng)建以技術(shù)標(biāo)準(zhǔn)法制化為基礎(chǔ)的風(fēng)險(xiǎn)防控機(jī)制。

我國應(yīng)及時(shí)制定與人工智能相關(guān)的基本技術(shù)標(biāo)準(zhǔn)，應(yīng)嚴(yán)格人工智能共享數(shù)據(jù)平臺(tái)、技術(shù)平臺(tái)及相關(guān)服務(wù)平臺(tái)的準(zhǔn)入和創(chuàng)建規(guī)則，構(gòu)建權(quán)威性的平臺(tái)，做好算法的開源與保護(hù)。將技術(shù)研究作為源頭進(jìn)行規(guī)制，進(jìn)而最大限度地對(duì)技術(shù)產(chǎn)生的負(fù)面效應(yīng)或副作用進(jìn)行預(yù)防。將安全評(píng)估和技術(shù)風(fēng)險(xiǎn)防范作為人工智能發(fā)展規(guī)范的重要內(nèi)容，尤其是要加強(qiáng)對(duì)算法的規(guī)制，實(shí)現(xiàn)算法透明性和可責(zé)性的統(tǒng)一。設(shè)置人工智能的禁區(qū)，對(duì)人工智能的研發(fā)、使用和傳播行為建立限制機(jī)制和禁止性行為準(zhǔn)則。

人工智能涉及知識(shí)面廣，我國應(yīng)組織政府人員，社會(huì)治理、計(jì)算機(jī)技術(shù)、法律等領(lǐng)域?qū)＜覍W(xué)者及產(chǎn)業(yè)界人士組成專家小組，參與編撰機(jī)器人憲章，將行業(yè)規(guī)范和行業(yè)標(biāo)準(zhǔn)上升為國家法律和技術(shù)準(zhǔn)則，規(guī)范人工智能的研發(fā)、生產(chǎn)和使用各環(huán)節(jié)的標(biāo)準(zhǔn)化流程。［2］

第二，建立以倫理為先導(dǎo)，倡導(dǎo)人類和諧發(fā)展的法律價(jià)值目標(biāo)。

就人工智能社會(huì)關(guān)系的調(diào)整而言，倫理道德規(guī)范能夠產(chǎn)生先導(dǎo)性的作用。這本質(zhì)上是法律規(guī)范自身的局限性導(dǎo)致的，法律規(guī)范是基于現(xiàn)實(shí)生活、基于人們的具體行為形成的，且立法過程繁瑣、耗時(shí)，因而相比社會(huì)發(fā)展速度來說，總是處于相對(duì)滯后境地；而倫理道德規(guī)范可以通過對(duì)人們思想的約束，實(shí)現(xiàn)先行和預(yù)設(shè)，進(jìn)而能夠?qū)σ炎兓蚩赡茏兓纳鐣?huì)關(guān)系及時(shí)作出反應(yīng)。

構(gòu)建人工智能倫理道德規(guī)范體系，主要包括：第一，要設(shè)計(jì)倫理道德規(guī)范框架，為機(jī)器人、人工智能產(chǎn)品的應(yīng)用預(yù)設(shè)道德準(zhǔn)則。人工智能不管發(fā)展到什么階段都應(yīng)將“為人類服務(wù)”作為初衷，將人類的安全、地位和權(quán)利放在首位。第二，要強(qiáng)化科技專家的社會(huì)責(zé)任，為人工智能研發(fā)、應(yīng)用提供道德指引。將透明性和可責(zé)性、可靠性和安全性引入設(shè)計(jì)理念中，強(qiáng)調(diào)開發(fā)者的社會(huì)責(zé)任，重點(diǎn)培育高水平人工智能創(chuàng)新人才和團(tuán)隊(duì)，提升科研人員和相關(guān)的從業(yè)人員的道德倫理水平。第三，全面提高全社會(huì)對(duì)人工智能的整體認(rèn)知和應(yīng)用水平。讓公民熟悉和掌握一些基本的人工智能知識(shí)和技術(shù)，以提高民眾的風(fēng)險(xiǎn)意識(shí)和對(duì)人工智能產(chǎn)品的控制能力，在道德倫理的框架下使用人工智能產(chǎn)品，并形成全社會(huì)對(duì)人工智能產(chǎn)品和技術(shù)發(fā)展的正向監(jiān)督。

第三，健全人工智能監(jiān)管體系和制度，建立社會(huì)風(fēng)險(xiǎn)分擔(dān)責(zé)任保障制度。

設(shè)立人工智能專門監(jiān)管機(jī)構(gòu)，賦予其強(qiáng)有力的監(jiān)管職責(zé)，確立政府與社會(huì)多方聯(lián)動(dòng)的人工智能監(jiān)管模式，建立協(xié)同共管，實(shí)現(xiàn)自律與他律、全方位多層次、動(dòng)態(tài)監(jiān)管與智能化監(jiān)管相結(jié)合的方式，加強(qiáng)市場準(zhǔn)入和退出機(jī)制建設(shè)，實(shí)施實(shí)質(zhì)審查、分類公示登記和強(qiáng)制召回制度，建立持續(xù)風(fēng)險(xiǎn)評(píng)估和抽查檢測(cè)制度，健全事前備案、事中授權(quán)、事后懲處等行為準(zhǔn)則，為人工智能技術(shù)的健康發(fā)展提供多方面的法律、制度保障。我國還應(yīng)該建立人工智能倫理委員會(huì)等機(jī)構(gòu)，專門負(fù)責(zé)人工智能的倫理監(jiān)管等問題，引入倫理審查機(jī)制，對(duì)人工智能的應(yīng)用開展跨領(lǐng)域的監(jiān)測(cè)與管理，以保證能夠全方位地促進(jìn)人工智能良好有序發(fā)展。［3］

人工智能的風(fēng)險(xiǎn)防不勝防，在責(zé)任難以劃分的情況下，我國還可以建立強(qiáng)制保險(xiǎn)制度與專項(xiàng)賠償基金制度，來分散和化解風(fēng)險(xiǎn)。要求為每一個(gè)進(jìn)入市場的人工智能產(chǎn)品購買強(qiáng)制保險(xiǎn)，設(shè)立強(qiáng)制保險(xiǎn)制度可以轉(zhuǎn)化個(gè)人責(zé)任為公共責(zé)任，維護(hù)公共安全，給社會(huì)公眾以基本保障，同時(shí)還可以有效削弱公眾對(duì)新技術(shù)可能造成不可預(yù)料危險(xiǎn)的恐慌，減少排斥心理，有利于產(chǎn)品的普及和發(fā)展。我們還可以考慮設(shè)立基金制度，建立專項(xiàng)賠償基金賬戶，資金來源可以包括專項(xiàng)稅收、政府補(bǔ)助、人工智能產(chǎn)品利潤、社會(huì)捐贈(zèng)等，從而保障未來侵權(quán)行為發(fā)生后的責(zé)任承擔(dān)問題。

四、結(jié)語

人工智能時(shí)代是機(jī)遇與挑戰(zhàn)共存的時(shí)代，我們應(yīng)該增強(qiáng)風(fēng)險(xiǎn)意識(shí)，應(yīng)該增強(qiáng)對(duì)人工智能技術(shù)發(fā)展的研判和預(yù)測(cè)，更好應(yīng)對(duì)人工智能技術(shù)可能導(dǎo)致的風(fēng)險(xiǎn)失控和倫理挑戰(zhàn)以及引發(fā)的社會(huì)問題，讓人工智能更好地為人類服務(wù)。我們要以處理好“善治”與“善智”的關(guān)系作為推進(jìn)人工智能社會(huì)建設(shè)的重要前提，以實(shí)現(xiàn)“負(fù)責(zé)任”的人工智能為發(fā)展目標(biāo)，我們相信通過各國政府、組織、產(chǎn)業(yè)界、社會(huì)公眾的協(xié)同努力，共同抑制風(fēng)險(xiǎn)，終將實(shí)現(xiàn)人類文明的繁榮發(fā)展。