楊博文?伊彤?江光華

摘? 要：人工智能、基因重組、干細(xì)胞移植等新興技術(shù)逐漸被應(yīng)用到經(jīng)濟(jì)社會(huì)的發(fā)展中。然而，新技術(shù)如同“雙刃劍”，可能引發(fā)道德倫理等問(wèn)題，因此需要加強(qiáng)對(duì)新興技術(shù)倫理治理的研究。文章聚焦人工智能，分析新興技術(shù)發(fā)展可能帶來(lái)的倫理挑戰(zhàn)及倫理治理存在的問(wèn)題，結(jié)合當(dāng)前國(guó)內(nèi)外人工智能倫理治理實(shí)踐，提出中國(guó)人工智能倫理治理的對(duì)策建議，以期促進(jìn)人工智能在發(fā)展中規(guī)范、在規(guī)范中發(fā)展。

關(guān)鍵詞：人工智能;倫理挑戰(zhàn);倫理治理

中圖分類(lèi)號(hào)：B82-057;TP18文獻(xiàn)標(biāo)識(shí)碼：A

Abstract：Artificial intelligence，gene recombination，stem cell transplantation and other emerging technologies are gradually applied to the development of economy and society.However，new technologies are like“double-edged sword”，which may lead to moral and ethical problems.Therefore，it is necessary to strengthen the research on ethical governance of emerging technologies.Taking artificial intelligence as an example，this paper focuses on artificial intelligence， analyzing the ethical challenges and problems that may be brought by the development of emerging technologies， and puts forward suggestions for ethical governance of artificial intelligence in China based on the current practice of ethical governance of artificial intelligence at home and abroad， so as to promote the standardization and development of artificial intelligence in the process of development.

Key words：Artificial intelligence;Ethical challenges; Ethical governance

現(xiàn)代科技發(fā)展具備的不確定性、高風(fēng)險(xiǎn)性等特點(diǎn)決定了科技倫理問(wèn)題的產(chǎn)生具有必然性。如果把科學(xué)技術(shù)視為一輛正在行駛的列車(chē)，科技倫理就是指引列車(chē)前行，用以保證科技研發(fā)與應(yīng)用的方向正確的路標(biāo)。對(duì)新興技術(shù)倫理的研究，一方面要對(duì)新技術(shù)的發(fā)展應(yīng)用予以規(guī)范，另一方面又要保護(hù)和促進(jìn)“負(fù)責(zé)任的研究”。筆者以人工智能技術(shù)的發(fā)展為例，研究新興技術(shù)倫理治理的對(duì)策。

一、人工智能發(fā)展帶來(lái)的倫理挑戰(zhàn)

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，不僅能替代人類(lèi)的體力勞動(dòng)，更幾乎可以完全替代人類(lèi)的腦力勞動(dòng)[1]。人工智能更像是智慧載體，它可以通過(guò)深度學(xué)習(xí)不斷進(jìn)化，它的顛覆性、復(fù)雜性以及社會(huì)關(guān)聯(lián)性等特性所引發(fā)的倫理挑戰(zhàn)和風(fēng)險(xiǎn)日趨凸顯，如何應(yīng)對(duì)人工智能等新技術(shù)引發(fā)的倫理挑戰(zhàn)已經(jīng)是相關(guān)研究人員所要面對(duì)的重要課題。

（一）存在性風(fēng)險(xiǎn)對(duì)人類(lèi)主體地位的挑戰(zhàn)

隨著信息技術(shù)、生物技術(shù)的發(fā)展，人機(jī)互動(dòng)、人機(jī)協(xié)同甚至人機(jī)一體都成為人工智能發(fā)展的趨勢(shì)。盡管現(xiàn)階段對(duì)人工智能技術(shù)的開(kāi)發(fā)、測(cè)試、應(yīng)用等都還在一個(gè)基本可控的倫理框架內(nèi)，但隨著人工智技術(shù)的能進(jìn)一步發(fā)展，當(dāng)具備無(wú)自主意識(shí)的人工智能做出超出科研人員預(yù)期的行為并產(chǎn)生相應(yīng)的倫理影響時(shí)，現(xiàn)有的倫理框架及人類(lèi)的思維本質(zhì)將因此面臨極大的挑戰(zhàn)。如果技術(shù)的發(fā)展推動(dòng)智能機(jī)器人越來(lái)越像人類(lèi)，這將會(huì)對(duì)目前社會(huì)的人際關(guān)系、家庭結(jié)構(gòu)產(chǎn)生重大影響，甚至顛覆人類(lèi)在人類(lèi)活動(dòng)中的主體地位。機(jī)器人是否應(yīng)享有人類(lèi)的基本權(quán)利？是否應(yīng)建立新的人機(jī)關(guān)系甚至人際關(guān)系的價(jià)值原則？人類(lèi)的唯一主體地位或?qū)⒁虼耸艿教魬?zhàn)[2]。隨著人工智能的強(qiáng)智能化發(fā)展，人類(lèi)有可能逐漸難以參與智能生產(chǎn)的過(guò)程，甚至最終成為智能機(jī)器的零件，人與機(jī)器的關(guān)系可能發(fā)生扭轉(zhuǎn)，人工智能由此引發(fā)對(duì)人類(lèi)傳統(tǒng)倫理道德判斷的顛覆，人類(lèi)將第一次真正面對(duì)存在性風(fēng)險(xiǎn)。

（二）數(shù)據(jù)泄露和信息泛濫帶來(lái)的挑戰(zhàn)

人工智能技術(shù)的基礎(chǔ)是基于海量數(shù)據(jù)的算法設(shè)計(jì)和深度學(xué)習(xí)，而數(shù)據(jù)的采集和使用若管理不到位會(huì)導(dǎo)致數(shù)據(jù)安全問(wèn)題。當(dāng)前互聯(lián)網(wǎng)應(yīng)用軟件采集的個(gè)人信息維度多樣，社交通信、移動(dòng)支付、網(wǎng)絡(luò)購(gòu)物、衛(wèi)星導(dǎo)航、智能手環(huán)等智能工具采集了用戶(hù)多方面的數(shù)據(jù)，將一個(gè)人的喜好、行蹤、受教育程度、職業(yè)、財(cái)富、健康等多種信息整合歸納，多維度的數(shù)據(jù)軌跡足以為個(gè)人畫(huà)像。這些信息如果被非法利用就會(huì)構(gòu)成對(duì)他人隱私權(quán)的侵犯。2019年8月，一款名為“ZAO”的AI換臉社交軟件在年輕人中流行開(kāi)來(lái)，用戶(hù)只需提供一張正面照就能將其他視頻中人物的臉換為自己的臉。但該軟件的用戶(hù)隱私協(xié)議沒(méi)有對(duì)用戶(hù)闡明數(shù)據(jù)泄露的風(fēng)險(xiǎn)，甚至認(rèn)為該軟件對(duì)使用者的肖像權(quán)具有“全球范圍內(nèi)免費(fèi)、不可撤、永久可轉(zhuǎn)授權(quán)”，而如果侵權(quán)了明星肖像，最后責(zé)任都在用戶(hù)。此外，當(dāng)前的監(jiān)控設(shè)備也因其便捷性被廣泛使用，商場(chǎng)、醫(yī)院、學(xué)校甚至快遞收取點(diǎn)都有監(jiān)控系統(tǒng)。這些設(shè)施在便利工作生活、輔助安全保障的同時(shí)，收集并存儲(chǔ)的信息并沒(méi)有被合理監(jiān)管，導(dǎo)致公民的個(gè)人隱私也存在隱患。

（三）權(quán)利與責(zé)任認(rèn)定問(wèn)題帶來(lái)的挑戰(zhàn)

人類(lèi)對(duì)人工智能的擔(dān)憂(yōu)之一，就是它的高度智能化系統(tǒng)如果被不正當(dāng)利用或者失控可能會(huì)對(duì)人類(lèi)社會(huì)產(chǎn)生威脅，隨之而來(lái)的必定是技術(shù)研究與應(yīng)用引發(fā)的責(zé)任歸屬問(wèn)題。目前已經(jīng)有一些醫(yī)院采用算法讀取患者影像，凡是機(jī)器判斷為陽(yáng)性的片子，醫(yī)生再通過(guò)人工診斷進(jìn)行復(fù)核，診斷出來(lái)是陰性的，醫(yī)生不再檢查。一旦因算法出錯(cuò)導(dǎo)致誤診，特別是出現(xiàn)假陰性誤診，誰(shuí)應(yīng)該簽字承擔(dān)責(zé)任？再如，隨著谷歌、特斯拉和Uber等智能無(wú)人駕駛致人死亡事件的相繼發(fā)生，關(guān)于機(jī)器和人誰(shuí)應(yīng)當(dāng)對(duì)此負(fù)責(zé)的倫理爭(zhēng)論愈演愈烈。麻省理工學(xué)院進(jìn)行的“道德機(jī)器”測(cè)試曾提出無(wú)人駕駛的倫理困境：通過(guò)模擬行駛中不常見(jiàn)的一些情景，大量采集公眾選擇的數(shù)據(jù)樣本，“訓(xùn)練”一輛無(wú)人駕駛汽車(chē)的人工智能系統(tǒng)對(duì)這些情景作出判斷。這些判斷是基于公眾的意見(jiàn)，簡(jiǎn)單來(lái)看是由公眾對(duì)這些情景進(jìn)行了判斷，這些判斷沒(méi)有正確答案，但形成了無(wú)人駕駛汽車(chē)行動(dòng)的依據(jù)，而由此產(chǎn)生的責(zé)任劃分則難以明確。因此，如果事先沒(méi)有適當(dāng)?shù)臋?quán)責(zé)劃分，容易導(dǎo)致人工智能產(chǎn)品脫離社會(huì)倫理、法律規(guī)范，其可能擾亂經(jīng)濟(jì)社會(huì)秩序，造成更大危害。

（四）人工智能的崗位替代帶來(lái)的挑戰(zhàn)

人工智能以其智能化、高效化，成為提高社會(huì)工作效率、提升經(jīng)濟(jì)效益的重要方式，實(shí)現(xiàn)對(duì)產(chǎn)業(yè)結(jié)構(gòu)和社會(huì)分工模式的重構(gòu)，有可能造成大量人員的結(jié)構(gòu)性失業(yè)，從而影響社會(huì)公平。當(dāng)前，許多領(lǐng)域的工作崗位已經(jīng)逐漸嘗試應(yīng)用人工智能技術(shù)。例如，制造大廠富士康在多個(gè)工廠和多條生產(chǎn)線(xiàn)已經(jīng)實(shí)現(xiàn)了自動(dòng)化，實(shí)現(xiàn)了24小時(shí)的無(wú)人工廠，僅在昆山工廠就減員6萬(wàn)人。麻省理工學(xué)院發(fā)布研究報(bào)告稱(chēng)，過(guò)去20年，美國(guó)有36萬(wàn)—67萬(wàn)工作崗位被機(jī)器人奪走，未來(lái)10年，還將有350萬(wàn)個(gè)崗位被人工智能替代[3]。雖然這并非人類(lèi)開(kāi)發(fā)者刻意為之，但是人工智能技術(shù)的應(yīng)用對(duì)人類(lèi)就業(yè)和財(cái)富分配觀念帶來(lái)的影響，對(duì)社會(huì)公平可能帶來(lái)的損害，都引發(fā)了潛在的倫理風(fēng)險(xiǎn)。

二、中國(guó)人工智能倫理治理的實(shí)踐探索

為促進(jìn)人工智能的健康發(fā)展，中國(guó)一直以來(lái)都很重視對(duì)人工智能的倫理、法律、社會(huì)影響等問(wèn)題的研究，積極研究制定相關(guān)政策法規(guī)，以全球化的視角推動(dòng)人工智能治理。但隨著人工智能技術(shù)的快速應(yīng)用與發(fā)展，與之匹配的倫理治理體系還未建立，相關(guān)政策還需不斷完善，科研人員的倫理自覺(jué)還有待提升，社會(huì)影響的應(yīng)對(duì)方式還需探索。

（一）主要進(jìn)展

1.建立人工智能治理委員會(huì)

為推進(jìn)人工智能發(fā)展，保持中國(guó)在人工智能等新技術(shù)革命中的后發(fā)優(yōu)勢(shì)，從2015年開(kāi)始，國(guó)家通過(guò)頂層設(shè)計(jì)，有力地保障了人工智能的快速發(fā)展。2019年，中國(guó)成立了由科學(xué)技術(shù)部、國(guó)家發(fā)展和改革委員會(huì)、工業(yè)和信息化部、中國(guó)科學(xué)院、中國(guó)工程院、中國(guó)共產(chǎn)黨中央軍事委員會(huì)科學(xué)技術(shù)委員會(huì)、中國(guó)科學(xué)技術(shù)協(xié)會(huì)等15個(gè)部門(mén)構(gòu)成的新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室，隨后成立了國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)，加強(qiáng)了對(duì)人工智能領(lǐng)域科技倫理的監(jiān)督。

2.發(fā)布相關(guān)治理原則和規(guī)范

《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》中提出，要形成我國(guó)人工智能法律法規(guī)、倫理規(guī)范和政策體系。國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書(shū)（2018版）》，從國(guó)家層面明確了中國(guó)人工智能為人類(lèi)服務(wù)原則和責(zé)任原則[4]。2019年6月，新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》。由于人工智能技術(shù)正處于快速發(fā)展期，過(guò)早地從法制角度進(jìn)行強(qiáng)制性約束可能會(huì)影響技術(shù)的發(fā)展和應(yīng)用[5]，因此這些政策僅是原則性意見(jiàn)或通知，尚無(wú)具體管理制度。中國(guó)人工智能學(xué)會(huì)倫理道德專(zhuān)業(yè)委員會(huì)正在計(jì)劃針對(duì)不同行業(yè)的人工智能設(shè)立和制定種種倫理規(guī)范，如智能駕駛規(guī)范、數(shù)據(jù)倫理規(guī)范、智慧醫(yī)療倫理規(guī)范、智能制造規(guī)范、助老機(jī)器人規(guī)范等[6]。

針對(duì)一些具體技術(shù)應(yīng)用領(lǐng)域，國(guó)家也出臺(tái)了相關(guān)管理規(guī)范。2019年11月底，國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確提出“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施，并將相關(guān)信息報(bào)網(wǎng)信、文化和旅游、廣播電視等部門(mén)備案”等規(guī)定，加強(qiáng)對(duì)數(shù)據(jù)隱私的管理。2018年4月，工業(yè)和信息化部、公安部和交通運(yùn)輸部等三部門(mén)發(fā)布了《智能網(wǎng)聯(lián)汽車(chē)道路測(cè)試管理規(guī)范（試行）》，對(duì)測(cè)試主體、測(cè)試駕駛?cè)?、交通違法和事故處理等內(nèi)容進(jìn)行了明確規(guī)定，各省、市級(jí)政府相關(guān)主管部門(mén)可以組織開(kāi)展智能網(wǎng)聯(lián)汽車(chē)道路測(cè)試工作。

3.推動(dòng)人工智能科研界建立共識(shí)

2019年5月25日，北京智源人工智能研究院正式成立了人工智能倫理與安全研究中心。北京智源人工智能研究院與北京大學(xué)、清華大學(xué)、中國(guó)科學(xué)院自動(dòng)化研究所、中國(guó)科學(xué)院計(jì)算技術(shù)研究所等單位共同發(fā)布了《人工智能北京共識(shí)》。該文件提出，在人工智能的研發(fā)、使用、治理等方面應(yīng)遵循有益于人類(lèi)命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。2020年9月14日，北京智源人工智能研究院發(fā)布了中國(guó)首個(gè)針對(duì)兒童的人工智能發(fā)展原則《面向兒童的人工智能北京共識(shí)》，作為《人工智能北京共識(shí)》針對(duì)兒童群體的實(shí)施細(xì)則，提出包括“以?xún)和癁橹行摹薄氨Ｗo(hù)兒童權(quán)利”“承擔(dān)責(zé)任”“多方治理”4大主題的19條細(xì)化原則。

（二）存在的問(wèn)題

1.人工智能倫理治理體系亟待建立

在人工智能領(lǐng)域，技術(shù)飛速發(fā)展，但與其相匹配的管理、運(yùn)行、保障、監(jiān)督機(jī)制仍顯滯后和發(fā)展緩慢，政府對(duì)人工智能倫理監(jiān)管的頂層設(shè)計(jì)尚處于起步階段。與人工智能類(lèi)似的大數(shù)據(jù)領(lǐng)域已基本完成制度建設(shè)，在全國(guó)形成了協(xié)同共治的大數(shù)據(jù)管理機(jī)制，各省、自治區(qū)、直轄市都設(shè)置了由中央統(tǒng)一領(lǐng)導(dǎo)的大數(shù)據(jù)政務(wù)服務(wù)管理局。而在人工智能領(lǐng)域，目前國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)正逐步探索構(gòu)建治理體系，政府對(duì)于技術(shù)倫理的治理仍處于探索階段，治理組織體系、監(jiān)管機(jī)制、治理方案等都還不夠成熟。

2.相關(guān)政策法規(guī)不健全

人工智能相關(guān)技術(shù)發(fā)展及迭代迅速，政府難以明確監(jiān)管對(duì)象和監(jiān)管范圍。且由于技術(shù)應(yīng)用分布廣泛，技術(shù)發(fā)展、產(chǎn)業(yè)發(fā)展、社會(huì)發(fā)展等各類(lèi)政策都可能涉及倫理問(wèn)題。目前，相應(yīng)的法律、道德規(guī)范尚未出臺(tái)，這導(dǎo)致倫理道德風(fēng)險(xiǎn)防范在人工智能一環(huán)的體制缺失[7]?，F(xiàn)有涉及人工智能的政策法規(guī)主要以原則性共識(shí)為主，隨著新技術(shù)的應(yīng)用，中國(guó)政府逐步在無(wú)人駕駛、數(shù)據(jù)隱私等方面制定了相應(yīng)規(guī)定以指導(dǎo)相關(guān)技術(shù)發(fā)展，但關(guān)于人工智能領(lǐng)域倫理治理的系統(tǒng)性政策法規(guī)體系尚未建立。

3.科研人員的科技倫理自覺(jué)有待提升

近年曝出的科技倫理熱點(diǎn)事件反映出中國(guó)存在科研人員在科研工作中不太重視科技倫理，對(duì)倫理知識(shí)掌握不足，缺少對(duì)新技術(shù)開(kāi)發(fā)應(yīng)用可能產(chǎn)生倫理問(wèn)題的實(shí)質(zhì)性探討，不能自覺(jué)用倫理道德規(guī)范科研工作等問(wèn)題。據(jù)中國(guó)科學(xué)技術(shù)協(xié)會(huì)2018年發(fā)布的一項(xiàng)有關(guān)科技工作者科技倫理的調(diào)查報(bào)告顯示，自認(rèn)為對(duì)科研誠(chéng)信之外的科技倫理規(guī)范了解較多的科技工作者僅占總體的5%。以人工智能技術(shù)的發(fā)展為例，如果缺乏對(duì)技術(shù)倫理的重視，缺少有效措施的推進(jìn)，不能讓倫理成為保障人工智能有序發(fā)展的規(guī)則，則有可能引發(fā)人工智能廣泛應(yīng)用帶來(lái)的負(fù)面效應(yīng)，發(fā)生嚴(yán)重的社會(huì)倫理事件。

4.缺乏有效的社會(huì)公眾溝通機(jī)制

隨著新技術(shù)的研發(fā)開(kāi)始觸及人類(lèi)自身能力的改變，并且影響人類(lèi)的社會(huì)生活，公眾的社會(huì)倫理意識(shí)正在覺(jué)醒。公眾出于樸素的社會(huì)倫理道德觀念會(huì)對(duì)新興技術(shù)產(chǎn)生懷疑和恐懼，甚至反對(duì)新技術(shù)的應(yīng)用。2020年9月，在加拿大安大略省北部的人行橫道上，波士頓動(dòng)力公司生產(chǎn)的機(jī)器狗在半夜肆無(wú)忌憚地亂跑，路人紛紛拍下視頻上傳到Twitter之后，眾多網(wǎng)友表示很擔(dān)心這種機(jī)器人會(huì)被用作不良用途。任何一項(xiàng)科學(xué)技術(shù)研究都不能獨(dú)立于社會(huì)監(jiān)督。2020年6月，IBM出于對(duì)種族歧視、隱私安全等敏感社會(huì)倫理問(wèn)題的考慮，宣布放棄人臉識(shí)別相關(guān)技術(shù)與產(chǎn)品，同時(shí)IBM也提出應(yīng)開(kāi)展全國(guó)性對(duì)話(huà)，討論美國(guó)執(zhí)法部門(mén)是否應(yīng)該和如何部署人臉識(shí)別技術(shù)。

三、人工智能倫理治理的國(guó)際經(jīng)驗(yàn)

人工智能正在深刻改變?nèi)祟?lèi)社會(huì)生活、改變世界，世界各國(guó)都非常重視對(duì)相關(guān)技術(shù)的倫理研究，探索科技倫理治理方式。歐洲各國(guó)重視科技倫理對(duì)技術(shù)開(kāi)發(fā)應(yīng)用的規(guī)范，積極發(fā)布相關(guān)倫理道德準(zhǔn)則;美國(guó)主要以企業(yè)自律自治為主，政府為相關(guān)研究機(jī)構(gòu)提供了較為寬松的環(huán)境。

（一）推動(dòng)形成全球化的人工智能倫理準(zhǔn)則

人工智能可能帶來(lái)的倫理挑戰(zhàn)是全球性的，是各國(guó)共同面臨的問(wèn)題，世界各國(guó)都需要負(fù)起責(zé)任。2019年5月，OECD成員國(guó)批準(zhǔn)了人工智能原則即《負(fù)責(zé)任地管理可信賴(lài)的AI的原則》，提出了包容性增長(zhǎng)、可持續(xù)發(fā)展和福祉、以人為本的價(jià)值和公平等倫理原則[8]。在此基礎(chǔ)上，2019年6月，G20通過(guò)了聯(lián)合聲明以及《G20人工智能原則》，這是第一個(gè)由各國(guó)政府簽署的人工智能原則，各國(guó)政府由此形成了基本共識(shí)，即研發(fā)或使用人工智能“應(yīng)該尊重法律、人權(quán)和民主價(jià)值觀”。

（二）制定法律法規(guī)引導(dǎo)和規(guī)范技術(shù)發(fā)展

各國(guó)通過(guò)研究制定與人工智能治理相關(guān)的法律法規(guī)，逐步對(duì)技術(shù)倫理進(jìn)行規(guī)范引導(dǎo)。例如，2016年美國(guó)在《為人工智能的未來(lái)做好準(zhǔn)備》中提出對(duì)人工智能技術(shù)的監(jiān)管原則和監(jiān)管重點(diǎn)等內(nèi)容，強(qiáng)調(diào)推動(dòng)技術(shù)創(chuàng)新、保持國(guó)家核心競(jìng)爭(zhēng)力是發(fā)展重點(diǎn)。英國(guó)一直重視科技倫理治理，在《人工智能：未來(lái)決策制定的機(jī)遇與影響》中，強(qiáng)調(diào)人工智能發(fā)展的法律和倫理風(fēng)險(xiǎn)，政府強(qiáng)調(diào)公民權(quán)利的保護(hù)，堅(jiān)持在技術(shù)無(wú)害的前提下開(kāi)發(fā)和應(yīng)用，并制定了企業(yè)問(wèn)責(zé)機(jī)制[9];2018年，發(fā)布《數(shù)字憲章》，提出要尊重并妥善使用個(gè)人數(shù)據(jù)，特別要保護(hù)兒童的線(xiàn)上安全、線(xiàn)下權(quán)利。歐盟2019年發(fā)布的《人工智能道德準(zhǔn)則》指出應(yīng)發(fā)展“可信賴(lài)AI”，提出了人類(lèi)監(jiān)督、隱私和數(shù)據(jù)管理等具體政策，可操作性較強(qiáng)。日本AI學(xué)會(huì)的倫理委員會(huì)在2016年發(fā)布人工智能研究人員應(yīng)該遵守的倫理指標(biāo)草案，引導(dǎo)和規(guī)范科研人員正確處理人工智能進(jìn)一步發(fā)展導(dǎo)致的倫理道德、安全問(wèn)題[10]。

（三）通過(guò)建立共識(shí)機(jī)制，加強(qiáng)科研界自律

美國(guó)在研究制定人工智能相關(guān)法案的同時(shí)，主要通過(guò)科研界自身的共識(shí)機(jī)制來(lái)加強(qiáng)對(duì)人工智能科技倫理的監(jiān)管。美國(guó)智庫(kù)未來(lái)生命研究院在2017年召開(kāi)的人工智能專(zhuān)題會(huì)議上提出了“阿西洛馬人工智能原則”，呼吁全世界發(fā)展人工智能時(shí)要確保AI有益于人類(lèi)社會(huì)的安全發(fā)展。電氣電子工程師協(xié)會(huì)（IEEE）2017年發(fā)布的《人工智能設(shè)計(jì)的倫理準(zhǔn)則（第二版）》，對(duì)價(jià)值嵌入、研究和設(shè)計(jì)等倫理事項(xiàng)提出了具體的建議，如提出當(dāng)前技術(shù)發(fā)展還不足以賦予人工智能法律地位。這些原則的提出是人工智能領(lǐng)域科研人員達(dá)成的共識(shí)，通過(guò)加強(qiáng)技術(shù)倫理的規(guī)范為后續(xù)標(biāo)準(zhǔn)制定等工作提供參考。

（四）實(shí)行企業(yè)自我約束的治理方式

美國(guó)人工智能技術(shù)全球領(lǐng)先，但是對(duì)人工智能相關(guān)的倫理治理謹(jǐn)慎立法和監(jiān)管，主要通過(guò)企業(yè)自我約束，探索對(duì)人工智能倫理挑戰(zhàn)的監(jiān)管。IBM、微軟、谷歌、亞馬遜等高科技公司發(fā)出倡議，提出確?！柏?fù)責(zé)任地使用AI”。這些具有代表性的大公司還發(fā)起成立各類(lèi)組織，研究人工智能發(fā)展應(yīng)用的治理手段。例如，由亞馬遜、微軟、臉書(shū)、谷歌DeepMind以及IBM聯(lián)合成立非營(yíng)利組織人工智能合作組織（The Partnership on AI，簡(jiǎn)稱(chēng)PAI），推進(jìn)公眾對(duì)人工智能技術(shù)的理解;領(lǐng)英聯(lián)合創(chuàng)始人Reid Hoffman與Omidyar Network 聯(lián)合成立人工智能倫理與治理基金，研究人工智能治理方法[10];谷歌公司成立“全球技術(shù)顧問(wèn)委員會(huì)”，請(qǐng)外部專(zhuān)家監(jiān)督公司在應(yīng)用人工智能等新技術(shù)時(shí)遵循倫理準(zhǔn)則的依從性。

四、對(duì)策建議

中國(guó)在人工智能領(lǐng)域已進(jìn)入領(lǐng)跑者行列，要發(fā)展負(fù)責(zé)任的人工智能，中國(guó)政府應(yīng)發(fā)揮更多的引導(dǎo)作用，在多個(gè)方面形成人工智能倫理治理機(jī)制，必須系統(tǒng)構(gòu)建人工智能倫理治理體系。加強(qiáng)對(duì)人工智能社會(huì)影響、倫理問(wèn)題等的研究，促進(jìn)多主體協(xié)同互動(dòng)，參與全球合作的人工智能倫理治理。