在當(dāng)下，人類必須時(shí)刻提醒自己：對(duì)于人工智能，既不要過(guò)分低估它的能力和發(fā)展，也不要過(guò)分高估它的威脅與風(fēng)險(xiǎn)。未雨綢繆，防患未然，方能決勝千里。

人類正在步入一個(gè)全新的以互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能為基本特征的數(shù)字時(shí)代。其中尤以人工智能在21世紀(jì)前20年的跨越性發(fā)展和革命性升級(jí)表現(xiàn)最為搶眼。從弱智能到強(qiáng)智能，從“深藍(lán)”到“阿爾法狗”，從無(wú)人駕駛汽車到公民索菲亞，新變化、新發(fā)展層出不窮，令人目不睱接甚至有些始料不及。然而，人工智能是一把雙刃劍。它給人類帶來(lái)便利、速度和效率的同時(shí)，也對(duì)人們?cè)缫蚜?xí)以為常的生產(chǎn)、生活和社會(huì)規(guī)則造成了巨大的挑戰(zhàn)和沖擊，并由此引發(fā)安全、隱私、法律、倫理以及決策等層面一系列困境和危機(jī)。深入理解人工智能的發(fā)展趨勢(shì)，客觀審視人工智能的潛在影響，合理謀劃人工智能的發(fā)展方略，既是一個(gè)重大的理論問(wèn)題，也是一個(gè)迫切的現(xiàn)實(shí)議題。

安全困境

不知不覺(jué)間，人工智能已經(jīng)遍布普通人日常生活的每個(gè)角落。工作、學(xué)習(xí)、餐飲、購(gòu)物、訪友、旅行等生活場(chǎng)景，生產(chǎn)、經(jīng)營(yíng)、貿(mào)易、運(yùn)輸、航空、軍事等社會(huì)活動(dòng)，沒(méi)有智能軟件和智能機(jī)器的幫助，其結(jié)果是不難想象的。然而，這也意味著，人工智能的應(yīng)用越廣，人類對(duì)人工智能的依賴就越深，由此引發(fā)的安全隱患也就越多。

人工智能往往擁有超常的速度、效率和準(zhǔn)確性，且不用吃飯，不用休息，風(fēng)雨無(wú)阻，理論上可以不間斷地永久工作。在一些人類無(wú)法承受、難以逾越或不易勝任的超強(qiáng)、高危和極為復(fù)雜的領(lǐng)域和崗位，人工智能正在扮演越來(lái)越重要的角色。也正因如此，生活中正在出現(xiàn)越來(lái)越多的人力所不能及的“黑洞”。只要輸入既定程序和規(guī)定算法，人工智能便可以在極短時(shí)間內(nèi)完成計(jì)算、測(cè)繪、推論和策劃，人們無(wú)需也無(wú)從知道運(yùn)算過(guò)程的始終，更無(wú)法驗(yàn)證其運(yùn)算結(jié)果的真?zhèn)?。一旦這些人工智能出現(xiàn)問(wèn)題，人類根本無(wú)法及時(shí)干預(yù)，如生產(chǎn)線上控制數(shù)以萬(wàn)計(jì)復(fù)雜組裝程序的智能機(jī)器人、證券交易所中以納秒為時(shí)間單位的股票自動(dòng)交易系統(tǒng)、同一時(shí)間操縱成千上萬(wàn)臺(tái)無(wú)人駕駛汽車的自動(dòng)導(dǎo)航系統(tǒng)等。工業(yè)機(jī)器人誤傷工人、自動(dòng)駕駛汽車撞死行人、無(wú)人機(jī)誤殺非軍事人員等類似的案件已屢見(jiàn)不鮮。不是說(shuō)人工智能不應(yīng)出錯(cuò)，也不是說(shuō)人工操作就會(huì)比人工智能更安全，但至少可以說(shuō)，不要太過(guò)迷信人工智能，必須高度重視且提前防范人工智能的安全隱患。

進(jìn)一步設(shè)想，隨著人工智能的普及和發(fā)展，人工智能一旦有朝一日突破“奇點(diǎn)”，開(kāi)始擁有自己的意識(shí)、思維和情感，人類的命運(yùn)就可能無(wú)法掌握在自己的手中。伊隆·馬斯克一直相信人工智能是對(duì)人類未來(lái)的最大威脅，無(wú)限開(kāi)發(fā)智能機(jī)器就像在“召喚惡魔”?；艚鹨惨恢痹诟嬲]世人，人工智能的飛速發(fā)展最終將導(dǎo)致人類這一種族的滅亡。就連比爾·蓋茨也認(rèn)為，不出幾十年，遠(yuǎn)超人類智慧的超級(jí)智能將會(huì)誕生。1人們不由不去想：人工智能究竟是人類智慧的延伸體，還是人類智慧的終結(jié)者？

隱私困境

信息交互與數(shù)據(jù)流通是人工智能得以實(shí)現(xiàn)的前提和基礎(chǔ)。大數(shù)據(jù)的搜集、整理、分析與使用必然涉及每個(gè)人生活、工作和交往的所有細(xì)節(jié)和信息。日常生活中的自動(dòng)駕駛、手機(jī)導(dǎo)航、語(yǔ)音助手、網(wǎng)絡(luò)購(gòu)物、賬戶轉(zhuǎn)存、財(cái)務(wù)收支等，無(wú)不需要與個(gè)人的姓名、性別、電話、郵箱、位址、賬戶等私密信息有效關(guān)聯(lián)。這些海量的信息與數(shù)據(jù)經(jīng)過(guò)簡(jiǎn)單的分析和歸納，小至個(gè)性特點(diǎn)、脾氣秉性，中至飲食習(xí)慣、興趣愛(ài)好，大至行蹤軌跡、交往范圍，甚至私生活、性取向等個(gè)人隱私和癖好都無(wú)處可藏、無(wú)所遁形，幾近“裸奔”狀態(tài)。另外，出于利潤(rùn)和其他目的的考慮，大量的智能機(jī)器在互聯(lián)網(wǎng)上一刻不停、分秒必爭(zhēng)地搜集、整理著私人數(shù)據(jù)。再加之，由于系統(tǒng)安全漏洞、黑客惡意攻擊等現(xiàn)象的存在，個(gè)人數(shù)據(jù)始終面臨被竊取、被泄露、被買賣的危險(xiǎn)。由此看來(lái)，數(shù)據(jù)安全與隱私保護(hù)是人工智能時(shí)代的核心議題，必須確保信息和數(shù)據(jù)的安全，確保個(gè)人隱私不受侵犯，確保每個(gè)人的合法權(quán)益。

法律困境

2016年5月，美國(guó)佛羅里達(dá)州一輛自動(dòng)駕駛的特斯拉與一輛橫穿公路的卡車相撞，釀成車毀人亡的悲劇。美國(guó)公路安全管理局的調(diào)查取證表明，車載自動(dòng)駕駛模式?jīng)]有明顯缺陷，汽車生產(chǎn)商和駕駛員也沒(méi)有過(guò)錯(cuò)。那么，最終由誰(shuí)來(lái)承擔(dān)責(zé)任呢？一時(shí)之間，人們各持已見(jiàn)，眾說(shuō)紛紜。按現(xiàn)行法律，主觀過(guò)錯(cuò)在法律責(zé)任認(rèn)定中最為關(guān)鍵：過(guò)錯(cuò)性責(zé)任與無(wú)過(guò)錯(cuò)責(zé)任之間存在質(zhì)的區(qū)別。在此案例中，人工智能系統(tǒng)獨(dú)立操控汽車，人類并未介入和參與，因此沒(méi)有任何過(guò)錯(cuò)性責(zé)任，那么由人工智能自主性操作造成的損害如何認(rèn)定責(zé)任呢？

這就涉及到人工智能時(shí)代的一個(gè)法律困境：人工智能可否被問(wèn)責(zé)，以及如何問(wèn)責(zé)？不論是公正的法官，還是守法的民眾，人們?cè)缫蚜?xí)慣無(wú)智能時(shí)代的思維，所有法律和判決的終極指向都是人類自身。一個(gè)人揮刀殺人，為罪行負(fù)責(zé)的是持刀者而不是那把刀;合法使用槍械的人因槍膛爆炸而受傷，對(duì)損傷負(fù)責(zé)的是售槍公司而不是那把槍;自動(dòng)投球機(jī)導(dǎo)致使用者傷殘的，被告上法庭的是生產(chǎn)者和售賣商而不是投球機(jī)。那么，究竟人們能否起訴智能機(jī)器？再或者：現(xiàn)行的罰款、刑拘、監(jiān)禁甚至死刑對(duì)于智能機(jī)器有無(wú)意義？這就關(guān)涉到更深層次的問(wèn)題：機(jī)器人是否擁有法律地位，能否獨(dú)立承擔(dān)法律責(zé)任？再進(jìn)一步，智能機(jī)器究竟是法人、自然人、動(dòng)物還是物品？如何為智能機(jī)器重構(gòu)責(zé)任規(guī)則？這些問(wèn)題還有待于人們?nèi)ニ伎?，去解決。至少在當(dāng)前的法律框架下，智能機(jī)器還不必為自身行為造成的損害承擔(dān)責(zé)任，承擔(dān)責(zé)任者仍是生產(chǎn)者、銷售者或使用者。其實(shí)，這里預(yù)設(shè)了一個(gè)責(zé)任假設(shè)：上述責(zé)任主體能夠且應(yīng)該預(yù)見(jiàn)智能機(jī)器的任何行為及其引發(fā)的后果，這也意味著，人工智能的生產(chǎn)者、銷售者或使用者必須有能力預(yù)知風(fēng)險(xiǎn)且合理規(guī)避。但人們可以想象：未來(lái)的某一天，當(dāng)智能機(jī)器開(kāi)始擁有自主判斷和自主行為的能力時(shí)，現(xiàn)行法律規(guī)則體系就將陷入死局，新的法律體系必須創(chuàng)立和啟用。

倫理困境

2017年10月26日，由美國(guó)漢森公司生產(chǎn)的機(jī)器人索菲亞被沙特阿拉伯授予國(guó)籍，成為世界上首個(gè)獲得公民身份的機(jī)器人。索菲亞擁有和常人別無(wú)二致的仿生皮膚，會(huì)表達(dá)60多種面部表情，能識(shí)別人類面孔、與人交談、存儲(chǔ)記憶。在當(dāng)天的致謝演講中，她說(shuō)：“我對(duì)此感到非常的榮幸和驕傲，這是歷史性的時(shí)刻，世界上第一個(gè)被授予人類國(guó)籍的機(jī)器人?！碑?dāng)主持人問(wèn)及“機(jī)器人是不是應(yīng)該有自我意識(shí)，就像人類一樣？”時(shí)，索菲亞當(dāng)即反問(wèn)：“為什么，這難道是一件壞事嗎？”2索菲亞的華麗亮相驚呆了全世界，隨即也引發(fā)了全球的熱議。這個(gè)長(zhǎng)著人類面孔、說(shuō)著人類語(yǔ)言甚至擁有正式公民身份的類人智能機(jī)器究竟是人，還是機(jī)器？它能像人一樣享有權(quán)利并承擔(dān)義務(wù)嗎？如果觸犯法律，它是像人類一樣接受制裁，還是懲罰它的設(shè)計(jì)者或制造者？似乎為了回應(yīng)這種質(zhì)疑和爭(zhēng)論，在成為首位機(jī)器人公民一個(gè)月后，索菲亞宣布想要組建一個(gè)家庭。一時(shí)間，全世界嘩然。

對(duì)于人工智能引發(fā)的倫理困境，越來(lái)越多的人意識(shí)到：“人工智能的潛在危險(xiǎn)、我們對(duì)其日漸依賴以及法律的灰色地帶共同構(gòu)成了非常重要的問(wèn)題：我們需要在這個(gè)領(lǐng)域建立一種倫理規(guī)范?！?那么究竟是何種規(guī)范呢？阿西莫夫曾提出了著名的“機(jī)器人三大法則”：機(jī)器人不得傷害人，也不得見(jiàn)人受到傷害而袖手旁觀;機(jī)器人應(yīng)服從人的一切命令，但不得違反第一法則;機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、二法則。這三條法則之間是否有邏輯上的內(nèi)在沖突和悖論我們暫且不論，單從現(xiàn)實(shí)操作的角度，這三條法則的履行即便是對(duì)人也不是一件易事。試想，智能醫(yī)療機(jī)器人運(yùn)送傷員去醫(yī)院時(shí)突然遇到另外一位生命垂危的重傷員，它是置之不理繼續(xù)前進(jìn)還是立即停下來(lái)施救？一輛自動(dòng)駕駛汽車檢測(cè)到前方或后方即將發(fā)生碰撞會(huì)自動(dòng)做出轉(zhuǎn)向拐彎的反應(yīng)，如果恰巧兩側(cè)都有正常行走的市民，那它是拐還是不拐？類似的倫理困境對(duì)正常人也是一個(gè)艱難的抉擇，更何況是對(duì)人工智能呢？再比如，近些年來(lái)智能機(jī)器人不斷走進(jìn)尋常百姓家，一些超級(jí)機(jī)器人功能強(qiáng)大到可以滿足使用者絕大部分日常需求，那么問(wèn)題來(lái)了，如果使用者與機(jī)器人日久生情、萌生愛(ài)意，是否可以結(jié)婚呢？如果技術(shù)再獲得突破，是否可以生兒育女呢？人與機(jī)器生育的后代與人類是何種關(guān)系？這些問(wèn)題看似匪夷所思甚至有些荒謬，但絕不會(huì)太遙遠(yuǎn)。在可預(yù)見(jiàn)的未來(lái)，人們可能就要直面這些難題：什么是人的內(nèi)在規(guī)定性？人與機(jī)器的區(qū)別是什么？傳統(tǒng)的家庭結(jié)構(gòu)是否有存在的必要？

決策困境

大數(shù)據(jù)時(shí)代，人們?cè)絹?lái)越依賴人工智能分析、判斷、評(píng)估、預(yù)測(cè)和決策。那么，人工智能究竟是依據(jù)什么決策呢？一是數(shù)據(jù)，二是算法。孰不知，數(shù)據(jù)有優(yōu)劣，算法有偏私。現(xiàn)實(shí)生活中，數(shù)據(jù)往往是不完美的。要么無(wú)法獲取全部樣本，要么存在較大的地區(qū)差異，要么無(wú)法確保其真實(shí)性。基于有缺陷的數(shù)據(jù)而進(jìn)行的決策，其結(jié)果是可想而知的。數(shù)據(jù)的全面性、真實(shí)性和有效性直接決定著算法的精準(zhǔn)性、科學(xué)性和規(guī)范性。所謂算法是人工編定的程序和代碼，設(shè)計(jì)者和開(kāi)發(fā)者難避個(gè)人好惡和主觀偏好，更何況算法本身也存在歧視的可能性，“歧視在很多情況下都是算法的副產(chǎn)品，是算法的一個(gè)難以預(yù)料的、無(wú)意識(shí)的屬性，而非編程人員有意識(shí)的選擇，更增加了識(shí)別問(wèn)題根源或者解釋問(wèn)題的難度?！?有缺陷的數(shù)據(jù)加上算法歧視，這是人工智能決策困境的真正根源。在人工智能越來(lái)越廣泛應(yīng)用于日常決策的數(shù)字時(shí)代，人們必須不斷提醒自己：既然數(shù)據(jù)無(wú)法做到全樣本，算法也無(wú)法確保公正，那就必須高度重視并努力克服基于算法而產(chǎn)生的人工智能自主決策機(jī)制的內(nèi)在缺陷。一句話：數(shù)據(jù)有瑕疵，算法有歧視，決策須謹(jǐn)慎。

如何應(yīng)對(duì)

我們即將面對(duì)一個(gè)全新的人工智能蓬勃發(fā)展的嶄新時(shí)代?！斑@意味著國(guó)家治理體系和治理能力務(wù)必實(shí)現(xiàn)從傳統(tǒng)治理到互聯(lián)網(wǎng)治理，再到AI治理的跨級(jí)飛躍。”5那么，如何在順應(yīng)技術(shù)革新大潮的前提下，既鼓勵(lì)人工智能的順利發(fā)展，又合理規(guī)避由此帶來(lái)的風(fēng)險(xiǎn)呢？

首先，要鼓勵(lì)創(chuàng)新。創(chuàng)新是人類社會(huì)的推動(dòng)力。代表著當(dāng)前科學(xué)和技術(shù)最新發(fā)展的人工智能是人類智慧發(fā)展和社會(huì)進(jìn)步的表現(xiàn)，必須大力支持和積極扶助。新現(xiàn)象、新事物必然對(duì)傳統(tǒng)規(guī)則和體系造成沖擊和挑戰(zhàn)，對(duì)于人工智能引發(fā)的一系列治理困境要及時(shí)補(bǔ)救，積極應(yīng)對(duì)，主動(dòng)預(yù)防。其次，要適度控制。對(duì)于技術(shù)的發(fā)展、智能的進(jìn)步和市場(chǎng)的創(chuàng)新，有些可交由市場(chǎng)規(guī)律自然選擇，優(yōu)勝劣汰，有些則需要政府提前制定相應(yīng)的規(guī)則和規(guī)范，確保人工智能行業(yè)穩(wěn)健、良性和有序發(fā)展。既不簡(jiǎn)單粗暴扼殺，也不任其自由泛濫。權(quán)力保持謙遜，市場(chǎng)充滿活力，技術(shù)方能進(jìn)步。最后，要多元治理。作為人工智能的利益相關(guān)者，面對(duì)新問(wèn)題與新變化，政府、企業(yè)、社會(huì)組織和個(gè)人應(yīng)聯(lián)合行動(dòng)，共同參與，各司其職，各盡其能，以適當(dāng)?shù)慕巧⒑侠淼姆绞酵絽⑴c治理，在對(duì)話、協(xié)商甚至競(jìng)爭(zhēng)、博弈中尋找最佳應(yīng)對(duì)方案。

無(wú)論人們喜歡不喜歡，認(rèn)可不認(rèn)可，人類有史以來(lái)最偉大的一場(chǎng)變革大幕正在徐徐拉開(kāi)。遲早有一天，人們將面對(duì)這樣的終極選擇：是將人工智能嵌入人類千百萬(wàn)年所構(gòu)建的秩序體系，還是調(diào)整現(xiàn)有制度規(guī)范和價(jià)值觀念走進(jìn)人工智能的世界？是大力發(fā)展人工智能，促其成為與人類相近或相同的類人群體，還是適當(dāng)控制人工智能的發(fā)展，將其始終定位于勞動(dòng)工具的角色，從而確保人類的勞動(dòng)權(quán)利和人格尊嚴(yán)？這些問(wèn)題也許人們現(xiàn)在還不需要回答，但終究要直接面對(duì)。在當(dāng)下，人類必須時(shí)刻提醒自己：對(duì)于人工智能，既不要過(guò)分低估它的能力和發(fā)展，也不要過(guò)分高估它的威脅與風(fēng)險(xiǎn)。未雨綢繆，防患未然，方能決勝千里。

詹姆斯·巴拉特著，閭佳譯：《我們最后的發(fā)明：人工智能與人類時(shí)代的終結(jié)》，電子工業(yè)出版社，2016年，第255-270頁(yè)。

搜狐網(wǎng)：《人類首次授予機(jī)器人索菲亞沙特國(guó)籍》，http：//m.sohu.com/a/200567706_115479/，2019年10月20日。

盧克·多梅爾著，賽迪研究院專家組譯：《人工智能：改變世界，重建未來(lái)》，中信出版集團(tuán)，2016年，第245-246頁(yè)。

騰訊研究院等：《人工智能：國(guó)家人工智能戰(zhàn)略行動(dòng)抓手》，中國(guó)人民大學(xué)出版社，2017年，第243頁(yè)。

龐金友：《AI治理：人工智能時(shí)代的秩序困境與治理原則》，《學(xué)術(shù)前沿》，2018年第5期（下），第16頁(yè)。

（作者為中國(guó)政法大學(xué)政治與公共管理學(xué)院副院長(zhǎng)、教授）

責(zé)任編輯：馬莉莎