人工智能的社會(huì)影響研究

錢燕娜 儲(chǔ)召鋒

（1.中國(guó)人民解放軍國(guó)防大學(xué)政治學(xué)院，上海 201602；2.國(guó)防科技術(shù)大學(xué)國(guó)際關(guān)系學(xué)院，南京 211599）

人工智能（Artificial Intelligence，簡(jiǎn)稱AI）技術(shù)的集成與演化，不僅通過(guò)促使人工智能技術(shù)從科學(xué)試驗(yàn)階段邁入商業(yè)應(yīng)用階段，促進(jìn)了生產(chǎn)力發(fā)展，而且通過(guò)重構(gòu)社會(huì)結(jié)構(gòu)、變革社會(huì)秩序，深刻影響著人們的價(jià)值觀念、認(rèn)知結(jié)構(gòu)與生活方式。但當(dāng)前社會(huì)結(jié)構(gòu)與社會(huì)秩序正處于分化重構(gòu)的深刻變革中，形成了諸多不穩(wěn)定因素，蘊(yùn)含著巨大的不確定性，使得人工智能技術(shù)的應(yīng)用存在大量潛藏的可能危機(jī)。因此，面對(duì)人工智能帶來(lái)的潛在風(fēng)險(xiǎn)，人類在確保美好生活品質(zhì)與技術(shù)創(chuàng)新的雙重追求下，對(duì)人工智能技術(shù)的應(yīng)用加以規(guī)制更加符合法律和倫理規(guī)范。

一、人工智能的起源、概念及發(fā)展

“人類對(duì)人工智能和智能機(jī)器的夢(mèng)想與追求，可以追溯到3000 年前?！保?］古代中國(guó)文獻(xiàn)對(duì)人工智能奴仆地位的描述，和同時(shí)期的西方文學(xué)是大體一致的［2］。但與西方國(guó)家側(cè)重關(guān)注于自動(dòng)化和機(jī)械化不同的是，我國(guó)在“萬(wàn)物有靈”思想影響下，在農(nóng)業(yè)文明和工業(yè)文明時(shí)期，對(duì)于人工智能的理解還僅停留在幻想或準(zhǔn)備階段，直到網(wǎng)絡(luò)文明時(shí)期，才將人工智能轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)。

（一）人工智能的起源

從古至今，人類對(duì)于人工智能的研究和應(yīng)用一直延續(xù)。我國(guó)古代的神話傳說(shuō)就描繪了一些擁有精湛技藝的工匠，他們可以創(chuàng)造擁有智慧和意志的人類，比如西周時(shí)代的偃師，將自己的技術(shù)獻(xiàn)給周穆王，以此來(lái)改變周穆王的生活。因此，國(guó)內(nèi)有學(xué)者認(rèn)為，世界上最古老的機(jī)器人，可以追溯到東漢時(shí)期張衡發(fā)明的指南車，它的誕生標(biāo)志著人類對(duì)人工智能研究和應(yīng)用的開(kāi)始［3］2。現(xiàn)代意義上的初期人工智能研究，發(fā)生于20 世紀(jì)30 年代末至50 年代，此階段出現(xiàn)了一系列科學(xué)進(jìn)展交匯的產(chǎn)物，尚未形成人工智能領(lǐng)域的專門研究，大體上可以分為早期的神經(jīng)學(xué)研究、游戲人工智能研究、圖靈測(cè)試以及符號(hào)推理研究4 個(gè)板塊。

在早期的神經(jīng)學(xué)研究中，諾伯特·維納（Norbert Wiener）在“控制論”中提出了電子網(wǎng)絡(luò)的可控性和穩(wěn)定性，而香農(nóng)（Claude Elwood Shannon，）則進(jìn)一步探索了數(shù)字信號(hào)的特性，并利用計(jì)算理論證明它們可以被用于各種不同的計(jì)算任務(wù)。圖靈（Alan Mathison Turing）也在此基礎(chǔ)上進(jìn)行了深入研究，以期更好地理解神經(jīng)系統(tǒng)的運(yùn)行機(jī)制。此外，沃爾特·皮茨（Walter Pitts）和沃倫·麥卡洛克（Warren McCulloch）提出利用人工神經(jīng)元網(wǎng)絡(luò)進(jìn)行簡(jiǎn)單邏輯運(yùn)算的機(jī)制，認(rèn)為神經(jīng)元活動(dòng)因果關(guān)系的不可逆性帶來(lái)了人類知識(shí)在時(shí)間和空間上的不確定性，其反映出的大腦的無(wú)知也恰是人的知識(shí)變得有用的抽象互補(bǔ)物。1950 年，圖靈在《計(jì)算機(jī)器與智能》一書中首次指出，只要一臺(tái)機(jī)器能夠通過(guò)電傳設(shè)備和人類進(jìn)行交流，而人們又不知道它的身份，就可以斷定它擁有智慧。因此，“圖靈測(cè)試”成為人工智能領(lǐng)域第一個(gè)重要的研究課題，也是“智能”的基礎(chǔ)。1951 年，克里斯托弗·斯特雷奇（Christopher Strachey）和迪特里希·普林茨（Dietrich Prinz）聯(lián)手，利用曼徹斯特大學(xué)的Ferranti Mark 1 機(jī)器，成功地開(kāi)發(fā)出一款全新的西洋跳棋程序，這標(biāo)志著人工智能技術(shù)在游戲領(lǐng)域的重大突破，為未來(lái)的科技發(fā)展奠定了堅(jiān)實(shí)的基礎(chǔ)。隨后，在20 世紀(jì)50 年代中期，數(shù)字計(jì)算機(jī)的興起又催生了一批研究符號(hào)推理的科學(xué)家。他們堅(jiān)信，機(jī)器不僅可以進(jìn)行數(shù)字計(jì)算，而且可以運(yùn)用符號(hào)推理，這種推理方式可能是人類思維的核心［4］130-170。隨著技術(shù)的發(fā)展，符號(hào)推理已成為開(kāi)發(fā)智能機(jī)器的一種重要方法。

人工智能研究領(lǐng)域的正式確立是在1956 年的達(dá)特茅斯會(huì)議上。這一會(huì)議由約翰·麥卡錫（John McCarthy）與香農(nóng)、內(nèi)森·羅徹斯特（Nathan Rochester）聯(lián)合組織發(fā)起。在此會(huì)議上，麥卡錫強(qiáng)調(diào)，“人工智能”一詞應(yīng)該被用于描述學(xué)習(xí)或智能的各個(gè)方面，以便機(jī)器能夠準(zhǔn)確地模擬它們［5］。馬文·李·明斯基（Marvin Lee Minsky）明確指出，人工智能的發(fā)展目標(biāo)應(yīng)該集中在7 個(gè)領(lǐng)域：一是自動(dòng)計(jì)算機(jī)，所謂“自動(dòng)”指的是可編程；二是編程語(yǔ)言；三是神經(jīng)網(wǎng)絡(luò)；四是計(jì)算規(guī)模的理論，可解釋為“計(jì)算復(fù)雜性”；五是自我改進(jìn)，可解釋為“自主學(xué)習(xí)”；六是抽象；七是隨機(jī)性和創(chuàng)見(jiàn)性。他認(rèn)為，人工智能可以通過(guò)自我學(xué)習(xí)和自我調(diào)整來(lái)實(shí)現(xiàn)自我改善，從而提高智能的性能和效率?！白灾鲗W(xué)習(xí)”提出了抽象性、隨機(jī)性和創(chuàng)造性的概念。1956 年的達(dá)特茅斯會(huì)議也因此被稱為人工智能的誕生，它為人工智能的發(fā)展提供了一個(gè)重要的起點(diǎn)。

（二）人工智能的概念

學(xué)界關(guān)于人工智能的定義一直存在不同觀點(diǎn)。在一些教材中，人工智能被定義為一種研究和設(shè)計(jì)智能主體（Intelligent Agent）的技術(shù)，用以提高人類的生活質(zhì)量和效率［6］。其中，智能主體可解釋為，能夠通過(guò)觀測(cè)周圍環(huán)境并作出行動(dòng)以達(dá)到目標(biāo)的系統(tǒng)［7］。我國(guó)的《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》（以下簡(jiǎn)稱《白皮書》）指出，人工智能是一種基于計(jì)算機(jī)科學(xué)的技術(shù)，旨在模仿、拓展和發(fā)揮人類的智慧，使我們能夠更加準(zhǔn)確、有效地識(shí)別周圍的環(huán)境，從而收集有價(jià)值的數(shù)據(jù)，并將其轉(zhuǎn)化為有效的解決方案［8］?！栋灼愤€指出，人工智能可以被劃分為弱人工智能和強(qiáng)人工智能，前者可以幫助用戶更好地掌握信息、提高效率，而后者需要用戶提供更多的支持，才能被更好地使用。隨著弱人工智能技術(shù)的飛速發(fā)展，其在語(yǔ)音識(shí)別、圖像處理、物體分割、機(jī)器翻譯等領(lǐng)域已經(jīng)達(dá)到甚至超過(guò)人類的能力。強(qiáng)人工智能技術(shù)雖然還處于初級(jí)階段，但也取得長(zhǎng)足進(jìn)展，已能夠?qū)W習(xí)人類的思考，擁有自主學(xué)習(xí)能力，能夠做出正確的決策，以及自我實(shí)現(xiàn)和自我控制。強(qiáng)人工智能是指真正能思維的智能機(jī)器，這樣的機(jī)器是有知覺(jué)和自我意識(shí)的，可分為“類人”（機(jī)器的思考和推理類似人的思維）與“非類人”（機(jī)器產(chǎn)生了和人完全不一樣的知覺(jué)和意識(shí)，使用和人完全不一樣的推理方式）兩大類。從一般意義上來(lái)說(shuō)，達(dá)到人類水平的、能夠自覺(jué)適應(yīng)并應(yīng)對(duì)外界環(huán)境挑戰(zhàn)的、具有自我意識(shí)的人工智能稱為“通用人工智能”“強(qiáng)人工智能”或“類人智能”。這種強(qiáng)大的人工智能，不僅引發(fā)了哲學(xué)層面的激烈討論，而且?guī)?lái)了技術(shù)層面的極大挑戰(zhàn)。當(dāng)前，強(qiáng)人工智能技術(shù)鮮有進(jìn)展，美國(guó)私營(yíng)部門的專家及國(guó)家科技委員會(huì)比較支持的觀點(diǎn)是，至少在未來(lái)幾十年內(nèi)這一技術(shù)難以實(shí)現(xiàn)［8］。

尼克·波斯特羅姆（Nick Bostrom）提出了“超級(jí)智能”概念，它指的是一種比最聰明的人腦更具創(chuàng)新性、通識(shí)性和社交技巧的機(jī)器。其目的是讓人們可以更好地理解和應(yīng)對(duì)復(fù)雜的社會(huì)環(huán)境，從而提高生活質(zhì)量。隨著技術(shù)的不斷發(fā)展，人工智能的計(jì)算和思考能力正在迅速提升，甚至可以達(dá)到“技術(shù)奇點(diǎn)”所描述的水平。人工智能的“技術(shù)奇點(diǎn)”實(shí)質(zhì)上形容的是電腦智能與人腦智能實(shí)現(xiàn)兼容的時(shí)刻。超人工智能時(shí)代能否到來(lái)，目前仍是個(gè)極具爭(zhēng)議的問(wèn)題。雷·庫(kù)茲韋爾（Ray Kurzweil）在其《奇點(diǎn)臨近》一書中預(yù)言，“奇點(diǎn)”時(shí)刻會(huì)在2045 年出現(xiàn)，屆時(shí)迎接人類的將是人工智能時(shí)代的降臨和人類文明的終結(jié)［9］72。但劉成林教授指出，雖然“技術(shù)奇點(diǎn)論”指出了人類文明的終結(jié)以及機(jī)器可能對(duì)人類造成的傷害和破壞，但這種想象仍然存在，而且這種想象的可能性仍然非常渺茫，即使這一時(shí)刻真的到來(lái)，也會(huì)在人類的可控范圍內(nèi)［9］143。

（三）人工智能的發(fā)展

自1956 年起，受智能算法、計(jì)算速度、存儲(chǔ)空間等多方面因素的制約與促進(jìn)，人工智能的發(fā)展歷經(jīng)多次高潮和低谷，大致可分為6 個(gè)發(fā)展階段：第一次繁榮期（1956—1976 年）、第一次低谷期（1976—1982 年）、第二次繁榮期（1982—1987 年）、第二次低谷期（1987—1997 年）、復(fù)蘇期（1997—2010 年）以及增長(zhǎng)爆發(fā)期（2010 年至今）。

1.第一次繁榮期（1956—1976 年）

1956 年，達(dá)特茅斯會(huì)議結(jié)束后即開(kāi)啟了人工智能的大發(fā)展時(shí)代，并持續(xù)到1976 年。這一階段成功開(kāi)發(fā)了計(jì)算機(jī)的程序功能，即能夠證明幾何定理，能夠通過(guò)自然語(yǔ)言解決代數(shù)應(yīng)用題、學(xué)習(xí)和使用英語(yǔ)等。為此，研究者們?cè)诖穗A段對(duì)人工智能的發(fā)展展現(xiàn)了極其樂(lè)觀的情緒，并紛紛預(yù)測(cè)“智能機(jī)器”將在20 年內(nèi)出現(xiàn)。在此階段，馬文·閔斯基（Marvin Minsky）就曾預(yù)測(cè)，在未來(lái)3 到8 年內(nèi)，將出現(xiàn)一臺(tái)擁有超越人類智能的機(jī)器［4］272；同時(shí)，包括美國(guó)國(guó)防高級(jí)研究計(jì)劃局在內(nèi)的各個(gè)政府機(jī)構(gòu)，均向人工智能研究領(lǐng)域投入大筆資金。

2.第一次低谷期（1976—1982 年）

直至20 世紀(jì)70 年代，一方面，隨著計(jì)算任務(wù)復(fù)雜性的增大，初始計(jì)算機(jī)有限的存儲(chǔ)能力與計(jì)算能力尚無(wú)法解決實(shí)際的人工智能問(wèn)題；另一方面，盡管關(guān)于符號(hào)推理的研究快速發(fā)展，但對(duì)于諸多實(shí)務(wù)仍然無(wú)法進(jìn)行形式化的表達(dá)?；诜?hào)推理建立的模型的局限性，以及人們此前對(duì)于人工智能發(fā)展過(guò)度樂(lè)觀的態(tài)度，導(dǎo)致該階段人工智能研究領(lǐng)域現(xiàn)實(shí)與預(yù)測(cè)的巨大落差。因此，政府機(jī)構(gòu)大量縮減甚至取消對(duì)人工智能研究領(lǐng)域的資助，人工智能研究進(jìn)入了第一次低谷期。

3.第二次繁榮期（1982—1987 年）

1982 年，人工智能進(jìn)入第二次發(fā)展高潮，“專家系統(tǒng)”等擁有邏輯規(guī)則推導(dǎo)、特定領(lǐng)域應(yīng)對(duì)以及解決復(fù)雜問(wèn)題的程序受到廣泛歡迎。在這一時(shí)期，約翰·霍普菲爾德（John Hopfield）通過(guò)研究發(fā)現(xiàn)，“Hopfield 網(wǎng)絡(luò)”可以以一種前所未有的方式學(xué)習(xí)、處理和分析數(shù)據(jù)［3］7。隨著第二次技術(shù)革命的到來(lái)，神經(jīng)網(wǎng)絡(luò)的研究也取得巨大進(jìn)步，決策樹(shù)模型和多層人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，讓人工智能的可視化效果得到顯著提升，并且打破了早期感知機(jī)的局限，為社會(huì)帶來(lái)巨大變革［8］。但好景不長(zhǎng)，這一時(shí)期只持續(xù)了短短5 年時(shí)間，人工智能領(lǐng)域的研究在1987 年再次陷入低谷期。

4.第二次低谷期（1987—1997 年）

類似于第一次低谷期，這一時(shí)期的“專家系統(tǒng)”不僅在知識(shí)能力、推理能力上存在諸多不足，而且維護(hù)費(fèi)用也居高不下，其實(shí)用性僅局限于個(gè)別特定情形。1987 年，“專家系統(tǒng)”熱潮迅速減退，隨著LISP 機(jī)市場(chǎng)的崩潰，美國(guó)政府取消了針對(duì)人工智能的預(yù)算，日本第五代計(jì)算機(jī)項(xiàng)目也不得不放棄。人工智能研究領(lǐng)域面臨著一系列的財(cái)政困境，進(jìn)入了一個(gè)漫長(zhǎng)而艱難的時(shí)期。

5.復(fù)蘇期（1997—2010 年）

1997 年，IBM 公司開(kāi)發(fā)的“深藍(lán)”（Deep Blue）戰(zhàn)勝了國(guó)際象棋世界冠軍卡斯帕羅夫（Garry Kasparov），這一事件開(kāi)啟了人工智能的新紀(jì)元。此后，深度學(xué)習(xí)日漸受到關(guān)注，并對(duì)后續(xù)人工智能的發(fā)展起到重要的助推作用。1997 年至2010 年間，人工智能發(fā)展迅速，除IBM 公司開(kāi)發(fā)了“深藍(lán)”外，日本索尼公司推出了犬型機(jī)器人愛(ài)寶（AIBO）、美國(guó)iRobot 公司推出了吸塵器機(jī)器人Roomba、美國(guó)微軟公司推出了微軟機(jī)器人技術(shù)工作室（Microsoft Robotics Studio），這些成果為人工智能的發(fā)展提供了重要的支持和強(qiáng)大的動(dòng)力。因此，這一時(shí)期，機(jī)器人模塊化、平臺(tái)統(tǒng)一化的趨勢(shì)日漸顯現(xiàn)，為后來(lái)人工智能的爆發(fā)式增長(zhǎng)埋下伏筆。

6.增長(zhǎng)爆發(fā)期（2010 年至今）

自2010 年起，人工智能進(jìn)入爆發(fā)式增長(zhǎng)階段，計(jì)算機(jī)運(yùn)算能力的增進(jìn)、機(jī)器學(xué)習(xí)算法能力的提高以及數(shù)據(jù)要素呈指數(shù)級(jí)增長(zhǎng)等因素是其快速發(fā)展的主要驅(qū)動(dòng)力。2012 年，谷歌大腦憑借其獨(dú)特的非監(jiān)督式深度學(xué)習(xí)技術(shù)，在不受任何外部干預(yù)的情況下，從海量的視頻數(shù)據(jù)中準(zhǔn)確地提取出一只貓的特征，成為當(dāng)時(shí)令人驚嘆的成就［8］。2014 年，機(jī)器人“旺寶”現(xiàn)身我國(guó)第116 屆廣交會(huì)會(huì)展中心熱情招呼訪客。2016 年，阿爾法圍棋（Alpha Go）在人機(jī)圍棋比賽中，以4 比1 的總分戰(zhàn)勝了當(dāng)時(shí)的圍棋世界冠軍李世石。2020 年，美國(guó)和歐盟均發(fā)布了《人工智能白皮書》，我國(guó)也將發(fā)展人工智能技術(shù)提升到國(guó)家戰(zhàn)略層面，并發(fā)布了《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和二〇三五年遠(yuǎn)景目標(biāo)的建議》。該建議指出，應(yīng)大力推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)與各行業(yè)的深度融合，加快先進(jìn)制造業(yè)集群的發(fā)展，實(shí)現(xiàn)智能經(jīng)濟(jì)及整個(gè)經(jīng)濟(jì)社會(huì)的可持續(xù)發(fā)展；同時(shí)，通過(guò)構(gòu)建一系列具有獨(dú)特性、互補(bǔ)優(yōu)勢(shì)、結(jié)構(gòu)完善的戰(zhàn)略性新興產(chǎn)業(yè)，推動(dòng)新技術(shù)、新產(chǎn)品、新業(yè)態(tài)、新模式的發(fā)展，實(shí)現(xiàn)經(jīng)濟(jì)的可持續(xù)增長(zhǎng)［10］。

二、人工智能對(duì)社會(huì)的影響

近年來(lái)，人工智能發(fā)展迅猛，已從一種抽象的概念變成可以實(shí)際應(yīng)用的技術(shù)，并在不斷深入的實(shí)踐中，成為新一輪科技革新的重要引擎，是社會(huì)經(jīng)濟(jì)發(fā)展的強(qiáng)大助推器，對(duì)我們的日常生活產(chǎn)生深遠(yuǎn)影響。《新一代人工智能白皮書（2020 年）—產(chǎn)業(yè)智能化升級(jí)》指出，新一代的人工智能正在深度融合各行各業(yè)，加快數(shù)據(jù)和知識(shí)的轉(zhuǎn)化，成為經(jīng)濟(jì)發(fā)展的關(guān)鍵因素，人機(jī)協(xié)同也已成為當(dāng)今社會(huì)的主流生產(chǎn)和服務(wù)模式；同時(shí)，通過(guò)人工智能的跨界融合，人類社會(huì)可以實(shí)現(xiàn)更大的發(fā)展，人機(jī)協(xié)同將創(chuàng)造和分享作為經(jīng)濟(jì)生態(tài)的核心，從而不斷推動(dòng)產(chǎn)業(yè)走向更高的價(jià)值鏈，促進(jìn)產(chǎn)業(yè)的智能化升級(jí)［11］。然而，人工智能的社會(huì)影響十分復(fù)雜，盡管有助于促進(jìn)經(jīng)濟(jì)發(fā)展、改善人們的生活質(zhì)量、為社會(huì)帶來(lái)更大的福祉，但也很可能造成安全、法律、道德、倫理等方面的漏洞以及敏感信息的泄露等問(wèn)題［12］。

（一）人工智能對(duì)社會(huì)的正面影響

時(shí)至今日，人工智能與人類社會(huì)的結(jié)合日趨緊密，其影響無(wú)處不在。迄今為止，科學(xué)技術(shù)的進(jìn)步大多是圍繞著人類感官進(jìn)行的，都服務(wù)于人類感官的延伸以及人類對(duì)自身衣食住行以及精神的需求。人工智能作為新興科學(xué)，也符合這一情況。在現(xiàn)階段，人工智能理所應(yīng)當(dāng)會(huì)使我們的生活更加舒適，為我們提供更加優(yōu)質(zhì)的物質(zhì)生活，具體來(lái)說(shuō)，其正面影響主要涉及以下兩個(gè)方面。

1.助推未來(lái)社會(huì)經(jīng)濟(jì)增長(zhǎng)

一方面，隨著技術(shù)的不斷進(jìn)步，人工智能已深入各行各業(yè)，成為經(jīng)濟(jì)結(jié)構(gòu)轉(zhuǎn)型升級(jí)的重要支撐。在金融領(lǐng)域，傳統(tǒng)金融機(jī)構(gòu)和科技公司正在努力通過(guò)人工智能改善服務(wù)架構(gòu)，提高服務(wù)效率，為長(zhǎng)尾客戶提供更加個(gè)性化的金融服務(wù)，并同時(shí)降低金融風(fēng)險(xiǎn)，滿足客戶的需求。在教育領(lǐng)域，人工智能已滲透整個(gè)教學(xué)流程，并給該領(lǐng)域帶來(lái)巨大變化。在政務(wù)服務(wù)領(lǐng)域，人工智能推動(dòng)數(shù)字政務(wù)建設(shè)，加速政府智能化變革。在交通運(yùn)輸領(lǐng)域，無(wú)人駕駛汽車技術(shù)的發(fā)展尤為亮眼，而更加安全、快捷的無(wú)人貨運(yùn)和物流等新興行業(yè)也在孕育衍生之中。在醫(yī)療行業(yè)領(lǐng)域，人工智能技術(shù)應(yīng)用已在醫(yī)療影像、臨床試驗(yàn)等方面全面鋪開(kāi)，目前，國(guó)內(nèi)許多三甲醫(yī)院已將醫(yī)學(xué)影像智能輔助平臺(tái)對(duì)接醫(yī)院的信息化系統(tǒng)，構(gòu)建標(biāo)準(zhǔn)化的人工智能產(chǎn)品市場(chǎng)準(zhǔn)入機(jī)制，進(jìn)一步加強(qiáng)醫(yī)療數(shù)據(jù)庫(kù)建設(shè)成為后期智慧醫(yī)療的重要建設(shè)方向。人工智能的快速發(fā)展使其成為一種前所未有的技術(shù)，它不僅推動(dòng)了技術(shù)革新和產(chǎn)業(yè)轉(zhuǎn)型，而且為社會(huì)經(jīng)濟(jì)的進(jìn)步做出了巨大貢獻(xiàn)。

2.改變?nèi)祟惿a(chǎn)生活和思維方式

人工智能正在改變我們的生活方式。從智能手機(jī)、汽車的GPS 導(dǎo)航到智能管家和電子醫(yī)療顧問(wèn)等，人工智能已滲透到我們生活的各個(gè)方面。人工智能GPS 導(dǎo)航的廣泛普及便利了人們的日常出行，成為交通運(yùn)輸業(yè)不可或缺的一部分；GPS 在天氣預(yù)報(bào)系統(tǒng)中的應(yīng)用，提高了天氣預(yù)報(bào)的準(zhǔn)確度，更便于人們預(yù)防自然災(zāi)害，避免生命與財(cái)產(chǎn)的損失；機(jī)器的智能化、引擎的自動(dòng)化促使人們工作效率的提高；人工智能算法驅(qū)動(dòng)個(gè)性化互動(dòng)體驗(yàn)在教育、服務(wù)等行業(yè)領(lǐng)域的場(chǎng)景化應(yīng)用，提高了消費(fèi)者的體驗(yàn)感及滿意度；人工智能在醫(yī)療保健治療等方面的應(yīng)用，提高了癌癥、潰瘍等難治病的治愈率，改善了神經(jīng)狀況等疑難雜癥的治療效果；人工智能技術(shù)與社交媒體的深度融合進(jìn)一步滿足了人們對(duì)社交產(chǎn)品和服務(wù)的需求；人工智能技術(shù)已成為智能手機(jī)和體感游戲機(jī)的重要組成部分，為社交和娛樂(lè)領(lǐng)域帶來(lái)巨大改變。

（二）人工智能對(duì)社會(huì)的負(fù)面影響

盡管人工智能技術(shù)的迅猛發(fā)展改變了人類的生產(chǎn)生活方式，但卻給社會(huì)帶來(lái)了安全、法治、倫理等方面的挑戰(zhàn)，使得社會(huì)秩序和公共管理體制面臨前所未有的考驗(yàn)。

1.人工智能引發(fā)的社會(huì)安全風(fēng)險(xiǎn)

首先，隨著人工智能技術(shù)的飛速發(fā)展，虛假和不良信息的泛濫越來(lái)越嚴(yán)重，數(shù)字內(nèi)容治理更為復(fù)雜。例如，一些應(yīng)用軟件可以利用人工智能技術(shù)實(shí)現(xiàn)面部的識(shí)別與編輯，從而進(jìn)行深度偽造，并以此傳播“以假亂真”的不良信息，嚴(yán)重破壞網(wǎng)絡(luò)空間的安全和秩序。其次，人工智能技術(shù)的更新迭代以海量的數(shù)據(jù)收集、識(shí)別、處理與學(xué)習(xí)為基礎(chǔ)，在數(shù)據(jù)收集與分析過(guò)程中極易涉及個(gè)人敏感信息，很可能導(dǎo)致用戶隱私的泄露，侵犯用戶隱私權(quán)。最后，盡管當(dāng)前人工智能具有一定程度的自主學(xué)習(xí)與決策能力，但技術(shù)上還未達(dá)到盡善盡美。人工智能技術(shù)的安全控制機(jī)制并不完善，系統(tǒng)故障、決策失誤等現(xiàn)象時(shí)有發(fā)生，甚至出現(xiàn)所謂的“機(jī)器人殺人”事件，加之人工智能武器的研發(fā)和應(yīng)用，人們已經(jīng)開(kāi)始為人類社會(huì)的安全乃至人類的命運(yùn)擔(dān)心。

2.人工智能引發(fā)的法治風(fēng)險(xiǎn)

2016 年，歐盟委員會(huì)法律事務(wù)委員會(huì)向歐盟委員會(huì)提交動(dòng)議，要求將最先進(jìn)的自動(dòng)化機(jī)器人的身份定義為“電子人”，這極大地改變了傳統(tǒng)的民事主體制度。2017 年，沙特阿拉伯正式宣布“索菲亞”獲得公民資格。2017 年，“小冰”智能機(jī)器人的原創(chuàng)詩(shī)集《陽(yáng)光失了玻璃窗》出版，有關(guān)其詩(shī)集版權(quán)的歸屬引發(fā)激烈討論。2018 年，美國(guó)發(fā)生首例無(wú)人駕駛汽車撞人致死事件，引發(fā)學(xué)術(shù)界與實(shí)務(wù)界對(duì)自動(dòng)駕駛系統(tǒng)因系統(tǒng)故障、決策失誤等原因引起的致人傷害或死亡的責(zé)任分配問(wèn)題的激辯。算法歧視也引起了廣泛關(guān)注，美國(guó)的COMPAS 累犯算法被視為最典型的人工智能算法偏見(jiàn)。人工智能的應(yīng)用場(chǎng)景已遍及各行業(yè)領(lǐng)域，但現(xiàn)行法律法規(guī)關(guān)于人工智能的設(shè)計(jì)、制造、消費(fèi)、使用等方面的立法尚不完善，相關(guān)主體的權(quán)利、義務(wù)及責(zé)任尚不明確。當(dāng)行為無(wú)法可依時(shí)，就會(huì)導(dǎo)致行為人無(wú)法對(duì)其行為進(jìn)行預(yù)見(jiàn)，法律的行為規(guī)范價(jià)值將無(wú)法實(shí)現(xiàn)。

3.人工智能引發(fā)的科技倫理風(fēng)險(xiǎn)

提及倫理問(wèn)題，人們首先想到的是“電車難題”和碰撞選擇，但倫理問(wèn)題不限于此。人工智能技術(shù)的大量應(yīng)用，在提高社會(huì)勞動(dòng)生產(chǎn)率的同時(shí)，也埋下了未來(lái)人類可能出現(xiàn)大規(guī)模結(jié)構(gòu)性失業(yè)的隱患。人機(jī)共生的科技倫理不僅涉及勞動(dòng)就業(yè)問(wèn)題，而且讓未來(lái)人工智能是否會(huì)毀滅人類成為值得關(guān)注的問(wèn)題。沙特阿拉伯授予公民身份的機(jī)器人“索菲亞”提出要結(jié)婚，就是人工智能帶來(lái)的科技倫理問(wèn)題，這需要從法律法規(guī)、道德倫理、社會(huì)管理等多個(gè)層面系統(tǒng)性地制訂解決方案。

三、人工智能產(chǎn)生的倫理問(wèn)題及其研究?jī)r(jià)值

人工智能發(fā)展到21 世紀(jì)，對(duì)現(xiàn)實(shí)社會(huì)的影響力與日俱增。但人工智能在給人們帶來(lái)全新生活體驗(yàn)的同時(shí)，也為人們帶來(lái)了人權(quán)、道德、責(zé)任以及代際等方面的倫理困境，而倫理制度的缺失、人類主體責(zé)任意識(shí)的淡薄以及人工智能技術(shù)發(fā)展的欠缺，則是產(chǎn)生這些倫理問(wèn)題的主要原因。

（一）人工智能倫理問(wèn)題的緣起

隨著新一輪科技革命的到來(lái)，人工智能已成為實(shí)體經(jīng)濟(jì)、社會(huì)生活的重要組成部分，它促使了各種新的產(chǎn)品和服務(wù)的誕生，徹底改變了傳統(tǒng)的經(jīng)濟(jì)結(jié)構(gòu)，促進(jìn)了經(jīng)濟(jì)的可持續(xù)發(fā)展，也讓我們的日常生活更加便捷，但在其帶來(lái)前所未有變革的同時(shí)，也給人類帶來(lái)許多挑戰(zhàn)。1978 年，日本廣島一家工廠發(fā)生了世界上第一宗所謂的“機(jī)器人殺人”事件；2016 年，Alpha Go 在人機(jī)圍棋比賽中戰(zhàn)勝了當(dāng)時(shí)圍棋世界冠軍李世石；2018 年，美國(guó)發(fā)生了首例無(wú)人駕駛汽車撞人致死事件。這些事件均引發(fā)了針對(duì)人工智能倫理問(wèn)題的激辯。凱西·奧尼爾（Kathy O’Neill）認(rèn)為，人工智能、大數(shù)據(jù)等新興技術(shù)的出現(xiàn)，導(dǎo)致了許多負(fù)面影響，比如偏見(jiàn)、歧視、不平等［13］。斯蒂芬·威廉·霍金（Stephen William Hawking）更是指出，完全的人工智能可能會(huì)給人類帶來(lái)毀滅性的后果［14］。埃隆·馬斯克（Elon Musk）認(rèn)為，雖然人工智能可以被視為一個(gè)邪惡的存在，但人類無(wú)法完全掌握它［15］。當(dāng)前，機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等算法技術(shù)的發(fā)展，讓機(jī)器可以通過(guò)自主學(xué)習(xí)獲得更高的自主性，從而有可能在許多方面取代人類的角色。隨著技術(shù)的不斷發(fā)展，未來(lái)的人工智能將會(huì)在各個(gè)領(lǐng)域取得比人類更加卓越的成就，它們將會(huì)提供更加高效、精確、科學(xué)的預(yù)測(cè)與決策。這不免引起人類的反思：以算法為基礎(chǔ)的人工智能決策能否確保結(jié)果公平；自動(dòng)駕駛汽車中的“電車難題”是否違反了倫理道德；致命性自主武器是否與國(guó)際人道主義相悖；當(dāng)人工智能技術(shù)發(fā)展到一定程度，并產(chǎn)生與人類相類似的情感抑或道德倫理觀時(shí)，人機(jī)關(guān)系應(yīng)當(dāng)如何定義；倫理學(xué)中人的地位是否會(huì)發(fā)生變化？這一系列問(wèn)題關(guān)乎人類社會(huì)的生存與發(fā)展，引起廣泛關(guān)注和討論。

（二）人工智能倫理問(wèn)題的研究?jī)r(jià)值

人工智能時(shí)代，日常生活倫理構(gòu)建的價(jià)值旨?xì)w依然是人的自由全面發(fā)展，其價(jià)值導(dǎo)向依然是社會(huì)主義道德，這是我國(guó)日常生活倫理構(gòu)建的根本價(jià)值方向。

1.人工智能倫理問(wèn)題研究與國(guó)家戰(zhàn)略規(guī)劃

2015 年，國(guó)務(wù)院頒布《關(guān)于積極推進(jìn)“互聯(lián)網(wǎng)+”行動(dòng)的指導(dǎo)意見(jiàn)》，把“互聯(lián)網(wǎng)+”人工智能作為第11 項(xiàng)重點(diǎn)任務(wù)。2016 年，人工智能被納入“十三五”規(guī)劃。2017 年，人工智能首次被納入《政府工作報(bào)告》。同年，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，以期解決當(dāng)前人工智能發(fā)展中的新問(wèn)題。人工智能的出現(xiàn)極大地改變了我們的日常生活，但它有可能重塑就業(yè)機(jī)會(huì)，也有可能破壞傳統(tǒng)的法律規(guī)范，侵害個(gè)人隱私，并且還有可能挑戰(zhàn)現(xiàn)有的國(guó)際秩序，這些都給政府運(yùn)作、經(jīng)濟(jì)發(fā)展、社會(huì)穩(wěn)定以及全球治理帶來(lái)重大挑戰(zhàn)。黨的十九大報(bào)告也著重提出，要大力發(fā)展制造業(yè)，促進(jìn)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能與實(shí)體經(jīng)濟(jì)的深度融合，以期達(dá)到構(gòu)建制造強(qiáng)國(guó)的目標(biāo)。這表明，政府正在大力支持和推動(dòng)人工智能的發(fā)展，并將其納入戰(zhàn)略規(guī)劃；同時(shí)，也把人工智能倫理問(wèn)題放在未來(lái)智能社會(huì)的核心位置，以期達(dá)到更好的發(fā)展效果。

2.人工智能倫理問(wèn)題研究與國(guó)際科技競(jìng)爭(zhēng)主導(dǎo)權(quán)

目前，各國(guó)都在積極推動(dòng)人工智能領(lǐng)域的立法并開(kāi)展相關(guān)研究，試圖在人工智能的革命浪潮到來(lái)之際搶占制定法律規(guī)則的先機(jī)，促使本國(guó)的法律規(guī)則能夠在國(guó)際社會(huì)享有話語(yǔ)權(quán)與主導(dǎo)權(quán)。2016年，美國(guó)國(guó)家科技委員會(huì)（NSTC）發(fā)布了《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》和《為人工智能的未來(lái)做好準(zhǔn)備》兩份重要文件來(lái)推動(dòng)人工智能的發(fā)展，并制定了7 項(xiàng)關(guān)鍵戰(zhàn)略，以確保人工智能的安全性，并保護(hù)公眾的隱私?！吧鐣?huì)影響戰(zhàn)略”旨在探索并確定人工智能在法律、倫理和社會(huì)領(lǐng)域的影響，“安全戰(zhàn)略”則著重于確保人工智能的安全性。2017 年，我國(guó)推出《新一代人工智能發(fā)展規(guī)劃》，把人工智能視為一項(xiàng)具有里程碑意義的國(guó)家戰(zhàn)略，旨在推動(dòng)國(guó)家經(jīng)濟(jì)社會(huì)發(fā)展，保障國(guó)家安全。2019 年，普京批準(zhǔn)了俄羅斯《2030 年前人工智能發(fā)展國(guó)家戰(zhàn)略》，提出推動(dòng)俄羅斯人工智能發(fā)展的重要思想，并制定了一系列有效的政策和行動(dòng)計(jì)劃，旨在推動(dòng)俄羅斯人工智能的發(fā)展。可見(jiàn)，大國(guó)紛紛加大對(duì)人工智能的投入，著力開(kāi)發(fā)R&D 核心技術(shù)、培養(yǎng)頂尖人才、制定標(biāo)準(zhǔn)規(guī)范。要想在新一輪國(guó)際科技競(jìng)爭(zhēng)中掌握主導(dǎo)權(quán)，技術(shù)研發(fā)與應(yīng)用無(wú)疑是最重要的，但也需要通過(guò)多學(xué)科交叉研究，評(píng)估人工智能的社會(huì)影響，確立人工智能的倫理規(guī)則，解決人工智能遇到的法律障礙，運(yùn)用政策與法律手段推動(dòng)人工智能的健康發(fā)展。

3.人工智能倫理問(wèn)題研究與新型社會(huì)風(fēng)險(xiǎn)的制度導(dǎo)向

2017 年，人工智能在圍棋大戰(zhàn)、德州撲克比賽等競(jìng)技中取得驚人成績(jī)，“索菲婭”更是被沙特政府授予公民身份，成為第一個(gè)獲得這一榮譽(yù)的機(jī)器人，并且其宣布要與人類結(jié)婚的事件，更是標(biāo)志著人工智能的發(fā)展邁入了一個(gè)新的里程碑。2017 年5 月，微軟發(fā)布了“小冰”原創(chuàng)詩(shī)集《陽(yáng)光失了玻璃窗》，這標(biāo)志著微軟開(kāi)始推動(dòng)機(jī)器人技術(shù)的發(fā)展，并且為人類帶來(lái)了前所未有的創(chuàng)新體驗(yàn)。2017 年，人工智能在合同分析大賽中完勝20 位美國(guó)頂級(jí)律師。科技的進(jìn)步為人類帶來(lái)新的福祉，但也帶來(lái)新的挑戰(zhàn)。機(jī)器人“殺人”“傷害”等惡性事件屢見(jiàn)不鮮。因此，為應(yīng)對(duì)人工智能所引發(fā)的新型社會(huì)風(fēng)險(xiǎn)，有必要從根源出發(fā)，研究人工智能的倫理問(wèn)題，為形成人工智能時(shí)代法律規(guī)范體系和風(fēng)險(xiǎn)控制機(jī)制提供導(dǎo)向。

（三）人工智能倫理問(wèn)題的主要研究議題

從全球范圍內(nèi)的角度來(lái)看，“以人為本”是人工智能倫理的核心，提升人類社會(huì)福祉是其最終目標(biāo)。當(dāng)前人工智能倫理問(wèn)題的討論議題主要包括5 個(gè)方面：隱私保護(hù)問(wèn)題、算法公平問(wèn)題、結(jié)構(gòu)性失業(yè)問(wèn)題、自主化系統(tǒng)問(wèn)題以及人機(jī)交互關(guān)系問(wèn)題。

1.隱私保護(hù)問(wèn)題

人工智能技術(shù)的更新迭代基于海量信息數(shù)據(jù)的收集、識(shí)別、處理與學(xué)習(xí)，由此會(huì)不可避免地涉及個(gè)人隱私保護(hù)這一重要倫理問(wèn)題。近年來(lái)，數(shù)據(jù)的重要性越發(fā)顯現(xiàn)，我國(guó)更是將其明確列為生產(chǎn)要素之一。然而，現(xiàn)實(shí)中，個(gè)人信息泄露情況頻繁發(fā)生，用戶隱私權(quán)頻遭侵犯，人工智能發(fā)展與用戶隱私保護(hù)之間的關(guān)系越加緊張。

早期，受限于技術(shù)，數(shù)據(jù)獲取成本高且回報(bào)低，個(gè)人信息泄露通常是以“點(diǎn)對(duì)點(diǎn)”的方式發(fā)生。隨著現(xiàn)代高新技術(shù)的發(fā)展，數(shù)據(jù)挖掘深度與廣度的加深，個(gè)人信息泄露、用戶隱私權(quán)被侵犯等事件大規(guī)模爆發(fā)。2018 年3 月17 日，美國(guó)《紐約時(shí)報(bào)》和英國(guó)《衛(wèi)報(bào)》同時(shí)發(fā)表文章《川普的顧問(wèn)是如何利用數(shù)以千萬(wàn)的Facebook 數(shù)據(jù)的》，揭露5 000 余萬(wàn)（最終確認(rèn)是8 700 萬(wàn)）Facebook 用戶數(shù)據(jù)被違法用于特朗普競(jìng)選的丑聞［16］。2019 年，英國(guó)廣播公司報(bào)道，IBM 公司涉嫌未經(jīng)用戶授權(quán)，從Flickr 等圖片分享平臺(tái)收集超過(guò)100 萬(wàn)張照片，用于人臉識(shí)別技術(shù)的開(kāi)發(fā)［17］。這一系列大規(guī)模侵犯?jìng)€(gè)人隱私事件的公開(kāi)，引起軒然大波。隱私權(quán)既是一項(xiàng)私法權(quán)利，也是一項(xiàng)基本人權(quán)，保障個(gè)人信息的隱私權(quán)，是人工智能時(shí)代維持文明與尊嚴(yán)的基本方式。2019 年，我國(guó)新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出在發(fā)展過(guò)程中，必須嚴(yán)格遵守相關(guān)法律法規(guī)，并對(duì)個(gè)人隱私進(jìn)行有效保護(hù)，以便每一位用戶都有機(jī)會(huì)獲得最佳的信息，從而實(shí)現(xiàn)安全、可靠的人工智能。如何在推進(jìn)人工智能應(yīng)用的過(guò)程中有效防范隱私權(quán)被侵犯的倫理風(fēng)險(xiǎn)，是人工智能時(shí)代亟待解決的問(wèn)題。

2.算法公平問(wèn)題

人工智能的飛速發(fā)展對(duì)現(xiàn)代社會(huì)結(jié)構(gòu)產(chǎn)生了深遠(yuǎn)影響，它在各個(gè)領(lǐng)域都發(fā)揮著重要作用，其模型和算法也被廣泛應(yīng)用于各種復(fù)雜的決策場(chǎng)景，如司法審判、醫(yī)療診斷、交通控制等，為社會(huì)發(fā)展提供了強(qiáng)大的支撐。算法是一種抽象的數(shù)學(xué)架構(gòu)，它可以通過(guò)技術(shù)和程序加以實(shí)現(xiàn)，并且可以根據(jù)特定任務(wù)的需求進(jìn)行配置，從而實(shí)現(xiàn)有效的結(jié)果。早期，人們普遍認(rèn)為算法可以提供準(zhǔn)確的結(jié)果，但其實(shí)它只能提供一個(gè)參考，并不能完全反映真實(shí)情況。佛瑞德·本南森（Fred Benenson）曾提出“數(shù)據(jù)清洗”的概念，即提倡通過(guò)算法、模型、機(jī)器學(xué)習(xí)等技術(shù)，改變和優(yōu)化人們的日常生活，從而使人們能夠真正理解和體驗(yàn)真實(shí)的世界；但同時(shí)，他也指出，不要因?yàn)槭褂脭?shù)學(xué)而忽視用數(shù)據(jù)構(gòu)建事物的內(nèi)在主觀性，算法和數(shù)據(jù)驅(qū)動(dòng)的產(chǎn)品始終反映的是設(shè)計(jì)人員的價(jià)值選擇［18］。事實(shí)上，算法公平問(wèn)題并非一個(gè)偽命題，由此衍生的算法歧視、大數(shù)據(jù)殺熟（價(jià)格歧視）等現(xiàn)象已層出不窮。例如，近年來(lái)，美團(tuán)、攜程等網(wǎng)絡(luò)平臺(tái)都曾被指出存在“殺熟會(huì)員”的情況；2016 年，谷歌被曝出其圖片軟件將非裔美國(guó)人的照片標(biāo)記為“大猩猩”等。算法倫理特別是機(jī)器學(xué)習(xí)的公平性問(wèn)題，已引起世界各國(guó)政府、社會(huì)和公眾的廣泛關(guān)注，各國(guó)政府、各國(guó)際組織及國(guó)內(nèi)外學(xué)者均以不同方式強(qiáng)調(diào)了算法的公平性問(wèn)題。

3.結(jié)構(gòu)性失業(yè)問(wèn)題

人工智能技術(shù)能夠通過(guò)實(shí)現(xiàn)自動(dòng)化提高社會(huì)生產(chǎn)力，帶來(lái)整體財(cái)富，但這也意味著相同生產(chǎn)率輸出所必需的勞動(dòng)力的減少。盡管這并不代表整體就業(yè)機(jī)會(huì)必然減少，因?yàn)樵谏鐣?huì)可用財(cái)富增加的同時(shí)，可以通過(guò)增加人們的消費(fèi)需求，抵消生產(chǎn)率的提高。但由于自動(dòng)化逐漸取代了人類勞動(dòng)力，勞動(dòng)力市場(chǎng)正不可避免地發(fā)生根本性轉(zhuǎn)變，已逐漸形成“工作兩極分化”的局勢(shì)，即高技能的技術(shù)工作需求旺盛且薪水高昂，低技能的服務(wù)工作需求旺盛但報(bào)酬不高，而工廠和辦公室的中等技能工作（大多數(shù)工作）由于相對(duì)可預(yù)測(cè)，則極有可能因?qū)崿F(xiàn)自動(dòng)化而受到擠壓，這就會(huì)引起所謂的結(jié)構(gòu)性失業(yè)問(wèn)題。結(jié)構(gòu)性失業(yè)問(wèn)題背后反映出來(lái)的是能否實(shí)現(xiàn)分配正義的倫理問(wèn)題。約翰·梅納德·凱恩斯（John Maynard Keynes）指出，當(dāng)前的失業(yè)現(xiàn)象正以前所未有的速度發(fā)展，被稱為“技術(shù)性失業(yè)”。有學(xué)者認(rèn)為，技術(shù)進(jìn)步帶來(lái)的失業(yè)壓力并不是可怕的，反而是一種推動(dòng)產(chǎn)業(yè)升級(jí)的重要?jiǎng)恿ΓS著新技術(shù)的出現(xiàn)，它不僅給當(dāng)前的就業(yè)帶來(lái)了挑戰(zhàn)，而且為未來(lái)的就業(yè)創(chuàng)造了機(jī)會(huì)［19］。但需要反思的是，創(chuàng)造新的就業(yè)機(jī)會(huì)的步伐能否跟上就業(yè)機(jī)會(huì)被破壞的速度；基于自由市場(chǎng)力量形成的新的就業(yè)機(jī)會(huì)是否能夠?qū)崿F(xiàn)分配正義？

4.自主化系統(tǒng)問(wèn)題

自主化系統(tǒng)問(wèn)題，是近年來(lái)國(guó)內(nèi)外學(xué)者關(guān)注的人工智能倫理方面的焦點(diǎn)問(wèn)題之一。在對(duì)“自主”的概念進(jìn)行哲學(xué)辯論的過(guò)程中，“自主”是責(zé)任和人格的基礎(chǔ)這一解釋得到較廣泛認(rèn)可。有學(xué)者認(rèn)為，責(zé)任意味著“自主”，但“自主”并非必然產(chǎn)生責(zé)任［20］。也就是說(shuō)，自主化系統(tǒng)可在一定程度上具備技術(shù)自主權(quán)，且不會(huì)產(chǎn)生法律責(zé)任問(wèn)題。人工智能的自主性與技術(shù)的發(fā)展是相對(duì)而言的，即便在人類的控制下，人工智能在一定程度上仍具有自主性，這不免令人反思“誰(shuí)控制，誰(shuí)負(fù)責(zé)”這一傳統(tǒng)結(jié)論在自主化系統(tǒng)中的正確性。目前，自主化系統(tǒng)涉及的倫理問(wèn)題集中在致命性自主武器與自動(dòng)駕駛汽車這兩類人工智能應(yīng)用中。

關(guān)于致命性自主武器的倫理問(wèn)題，2014 年，聯(lián)合國(guó)已對(duì)此展開(kāi)討論，并在相關(guān)會(huì)議上對(duì)致命性自主武器的發(fā)展和危害表示擔(dān)憂。2015 年，瑞士日內(nèi)瓦的一次非正式專家會(huì)議也對(duì)是否應(yīng)當(dāng)限制致命性自主武器系統(tǒng)的發(fā)展展開(kāi)過(guò)激烈討論。2018 年，全球2 400 位學(xué)者共同簽署了《禁止致命性自主武器宣言》，強(qiáng)調(diào)人類的生命權(quán)不容許任何機(jī)器濫用，因?yàn)闄C(jī)器有可能在沒(méi)有任何人類干預(yù)的情況下，自由選擇攻擊目標(biāo)，而這樣的做法完全違背了道義，也破壞了人類的安全和尊嚴(yán)，這種情況對(duì)全球安全構(gòu)成巨大的挑戰(zhàn)［21］。總的來(lái)說(shuō)，從倫理學(xué)的角度審視，倘若致命性自主武器運(yùn)用于戰(zhàn)爭(zhēng)中，極易出現(xiàn)違背國(guó)際人道主義的情況，且會(huì)引發(fā)機(jī)器人武器是否應(yīng)該承擔(dān)責(zé)任以及如何認(rèn)定責(zé)任等一系列問(wèn)題。

有關(guān)自動(dòng)駕駛汽車的倫理問(wèn)題，學(xué)界主要討論的是關(guān)于倫理學(xué)領(lǐng)域中的“電車難題”。盡管在長(zhǎng)期的討論中電車難題出現(xiàn)了一些變化或延展，但討論的內(nèi)容大致都是如下情景，即一個(gè)電車軌道上被綁了多人，其備用軌道上被綁了1 人，有一輛失控的電車飛速駛來(lái)，你身邊正好有一個(gè)搖桿，你可以通過(guò)推動(dòng)搖桿來(lái)讓電車駛?cè)雮溆密壍?，殺死? 人，救下多人，又或者你可以什么也不做，殺死多人，救下1 人，請(qǐng)問(wèn)你會(huì)如何抉擇？有學(xué)者立足于“平均人類標(biāo)準(zhǔn)”，將電車難題的形成階段納入觀察和評(píng)判，認(rèn)為無(wú)論自動(dòng)駕駛汽車抑或人類在電車難題的困境下，均無(wú)法得出顯而易見(jiàn)的答案，故而應(yīng)當(dāng)權(quán)衡基礎(chǔ)性價(jià)值，以細(xì)化和擴(kuò)寬現(xiàn)行法律框架的方式，破解自動(dòng)駕駛汽車面臨的電車難題困境［22］。電車難題實(shí)質(zhì)上是一種思想實(shí)驗(yàn)，它人為地假設(shè)開(kāi)發(fā)者具有完善的知識(shí)，并將選擇限定在了少數(shù)、單獨(dú)且一次性的情形下［23］。可見(jiàn)，自動(dòng)駕駛汽車面臨的電車難題困境本質(zhì)上是道德哲學(xué)中的價(jià)值沖突問(wèn)題，盡管理論界與實(shí)務(wù)界已有諸多論述，但如何從根源上解決這一價(jià)值沖突仍未達(dá)成共識(shí)，尚待進(jìn)一步探討。

5.人機(jī)交互關(guān)系問(wèn)題

人機(jī)交互是一個(gè)復(fù)雜的學(xué)科，它涉及到系統(tǒng)與用戶之間的互動(dòng)，以及不同利益關(guān)系所帶來(lái)的道德挑戰(zhàn)，它不僅涉及技術(shù)問(wèn)題，更涉及社會(huì)問(wèn)題。在人工智能快速發(fā)展推動(dòng)各種基于人工智能的應(yīng)用落地的同時(shí)，人機(jī)交互關(guān)系又產(chǎn)生了新的問(wèn)題，主要體現(xiàn)在以下兩個(gè)方面。一是現(xiàn)代倫理規(guī)范是否能夠接納人類與類人機(jī)器人產(chǎn)生情感依戀的問(wèn)題。這一問(wèn)題在護(hù)理機(jī)器人中體現(xiàn)得尤為明顯。目前，護(hù)理機(jī)器人的技術(shù)水平已經(jīng)達(dá)到一定高度，但此種非人性化的護(hù)理方式引起了社會(huì)的擔(dān)憂。誠(chéng)然，一個(gè)老齡化的社會(huì)需要機(jī)器人的輔助，但不可忽視的是，有護(hù)理需求的人類除了追求生活的便利外，也有情感的需要。當(dāng)老年人將其情感需求附著于護(hù)理機(jī)器人上，這是否為現(xiàn)代倫理規(guī)范所接納？而現(xiàn)實(shí)生活中也已出現(xiàn)人類對(duì)機(jī)器人產(chǎn)生了類似夫妻、父母、子女等情感的例子。二是隨著技術(shù)瓶頸的突破，人類將面臨新的挑戰(zhàn)，是建立一種友好的人機(jī)關(guān)系，還是被困于一種試圖操縱人類的“天網(wǎng)”，如何在人工智能時(shí)代與機(jī)器和諧共處，如何警惕并防范人工智能對(duì)人類的威脅等問(wèn)題考驗(yàn)著人類的智慧。人機(jī)交互關(guān)系所引發(fā)的倫理問(wèn)題，已成為當(dāng)前人工智能時(shí)代下亟待解決的命題，更是人類生存與發(fā)展的倫理基石。

四、結(jié)語(yǔ)

人工智能毫無(wú)疑問(wèn)會(huì)給人類的生活帶來(lái)巨大改變，為保證人工智能產(chǎn)業(yè)健康、可持續(xù)發(fā)展，使其成果惠及民眾，有必要全面、系統(tǒng)地研究和預(yù)測(cè)人工智能對(duì)人類社會(huì)的影響。一方面，要大力推動(dòng)人工智能技術(shù)的發(fā)展和應(yīng)用；另一方面，要加強(qiáng)前瞻性防范和約束性引導(dǎo)，確保其發(fā)展安全可控。應(yīng)完善人工智能技術(shù)及相關(guān)立法，優(yōu)化管理并促進(jìn)機(jī)制構(gòu)建，營(yíng)造人工智能創(chuàng)新發(fā)展的良好環(huán)境，開(kāi)創(chuàng)人機(jī)合作且融合的新時(shí)代。我們每一個(gè)人都應(yīng)該重視人工智能所帶來(lái)的改變，并不斷進(jìn)行思考，這樣才能有效減少人工智能帶來(lái)的社會(huì)風(fēng)險(xiǎn)，從而共同推動(dòng)人工智能的良性發(fā)展。