張珍 吳文娟 夏紹培 趙康 程燕

摘 要：人工智能技術(shù)研究開(kāi)始于20世紀(jì)50年代中期，距今已有60年的發(fā)展歷程，對(duì)人類生產(chǎn)生活產(chǎn)生了重大而深遠(yuǎn)的影響。但是，隨著人工智能技術(shù)發(fā)展的逐步深入，很多問(wèn)題暴露出來(lái)。由于人類對(duì)技術(shù)過(guò)于依賴，“技術(shù)異化”現(xiàn)象日益嚴(yán)重，技術(shù)的發(fā)展給人類生活帶來(lái)了負(fù)面的影響。因此，本文試圖從技術(shù)層面、人類自身層面、道德法律層面作出分析，為解決人工智能技術(shù)發(fā)展面臨的困境提供新思路，使人工智能技術(shù)更好地造福人類。

關(guān)鍵詞：人工智能；異化；規(guī)范；生態(tài)文明觀

中圖分類號(hào)：TP18

文獻(xiàn)標(biāo)識(shí)碼：A

一、人工智能技術(shù)的發(fā)展及其影響

人工智能技術(shù)研究開(kāi)始于20世紀(jì)50年代中期，距今僅有60年的發(fā)展歷程，但是其迅猛的發(fā)展速度，廣泛的研究領(lǐng)域以及對(duì)人類產(chǎn)生的深遠(yuǎn)影響等令人驚嘆。調(diào)查顯示，77.45%的人認(rèn)為現(xiàn)實(shí)生活中人工智能技術(shù)的影響較大，并且86.27%的人認(rèn)為人工智能技術(shù)的發(fā)展對(duì)人類的影響利大于弊；認(rèn)為人工智能技術(shù)對(duì)人類生活影響很小且弊大于利的人權(quán)占很小一部分。人工智能技術(shù)的發(fā)展和應(yīng)用直接關(guān)系到人類社會(huì)生活，并且發(fā)揮著重要的作用。人工智能技術(shù)的發(fā)展方向和領(lǐng)域等由人類掌控著，所以人類應(yīng)該盡可能地把人工智能技術(shù)的弊處降到最低以便更好地為人類造福。2016年3月份，圍棋人工智能AlphaGo與韓國(guó)棋手李世乭對(duì)弈，最終比分4∶1，人類慘敗。4月份，中國(guó)科學(xué)技術(shù)大學(xué)正式發(fā)布了一款名為“佳佳”的機(jī)器人，據(jù)了解，機(jī)器人“佳佳”初步具備了人機(jī)對(duì)話理解、面部微表情、口型及軀體動(dòng)作匹配、大范圍動(dòng)態(tài)環(huán)境自主定位導(dǎo)航和云服務(wù)等功能。而在這次正式亮相之前，“佳佳”就擔(dān)綱主持了2016“首屆全球華人機(jī)器人春晚”和“誰(shuí)是棋王”半決賽。人工智能技術(shù)確實(shí)給人類帶來(lái)了諸多的便利，給人類生產(chǎn)生活帶來(lái)便利；但是，人工智能技術(shù)的快速發(fā)展超乎人類的預(yù)測(cè)，引起了人類的恐慌和擔(dān)憂。百度CEO李彥宏稱，人工智能是“披著羊皮的狼”。毋庸置疑，科學(xué)技術(shù)是一把雙刃劍，當(dāng)人類醉心于科學(xué)技術(shù)所帶來(lái)的福利中時(shí)，更應(yīng)當(dāng)注意其帶來(lái)的負(fù)面作用。人類發(fā)明和創(chuàng)造科學(xué)技術(shù)最終是為了造福人類，而非受到科技的異化。

隨著科技的發(fā)展，人工智能技術(shù)越來(lái)越成熟，在此整體趨勢(shì)之下，不同的人群對(duì)人工智能技術(shù)的不斷成熟與應(yīng)用有著不同的看法。調(diào)查結(jié)果顯示，在關(guān)于機(jī)器人會(huì)不會(huì)擁有人類的思維甚至超過(guò)人類的問(wèn)題方面，27.45%的人認(rèn)為機(jī)器人會(huì)擁有人類的思維和超過(guò)人類；而56.86%的人認(rèn)為機(jī)器人不會(huì)擁有人類的思維和超過(guò)人類，小部分人對(duì)此不是很清楚。由于受到人工智能技術(shù)迅猛發(fā)展的沖擊，如機(jī)器人保姆、AlphaGo圍棋等智能產(chǎn)品對(duì)人類發(fā)展帶來(lái)的威脅，一部分人仍然對(duì)人工智能技術(shù)的發(fā)展擔(dān)憂甚至認(rèn)為終有一天機(jī)器人將代替人類、征服人類、控制人類。但是，大部分的人在機(jī)器人是否能夠超過(guò)人類方面，保持樂(lè)觀積極的態(tài)度，認(rèn)為機(jī)器人永遠(yuǎn)不會(huì)擁有人類的思維并且超越人類，因?yàn)槿祟愂羌夹g(shù)的主導(dǎo)者，人類掌握著技術(shù)的發(fā)展方向，技術(shù)終究是為了人類服務(wù)。這一看法肯定了人類的無(wú)止境的創(chuàng)新，然而，在人類醉心于技術(shù)創(chuàng)新的同時(shí)，應(yīng)意識(shí)到某些創(chuàng)新確實(shí)超出了人類的預(yù)料，如AlphaGo與李世乭圍棋人機(jī)大戰(zhàn)就是人類在技術(shù)面前失敗的慘痛教訓(xùn)。因此，面對(duì)科技對(duì)人類的異化，人類要時(shí)刻保持警惕，適時(shí)地總結(jié)“技術(shù)異化”的緣由和解決對(duì)策。

二、人工智能技術(shù)發(fā)展面臨的問(wèn)題及其原因

隨著技術(shù)的革新，人工智能技術(shù)的應(yīng)用越來(lái)越廣泛，與人們的日常生活聯(lián)系也愈加密切。從智能手機(jī)的普及到自動(dòng)駕駛汽車的研制成功，再到生產(chǎn)、建設(shè)、醫(yī)療等領(lǐng)域人工智能技術(shù)的應(yīng)用，都表明了人工智能技術(shù)正悄無(wú)聲息地改變著我們生活方式。誠(chéng)然，人工智能技術(shù)使我們的生活更加豐富多彩，給我們帶來(lái)了極大便利，但與此同時(shí)，人工智能技術(shù)也給社會(huì)帶來(lái)了一系列不可忽視的問(wèn)題：人工智能技術(shù)在社會(huì)生產(chǎn)領(lǐng)域的應(yīng)用對(duì)勞動(dòng)市場(chǎng)造成沖擊；人工智能系統(tǒng)在收集、統(tǒng)計(jì)用戶數(shù)據(jù)過(guò)程中個(gè)人隱私及信息安全方面的隱患；人類對(duì)人工智能產(chǎn)品的依賴引發(fā)的身心健康問(wèn)題；人工智能引起的責(zé)任認(rèn)定問(wèn)題等。斯蒂芬·霍金在接受BBC采訪時(shí)表示，“制造能夠思考的機(jī)器無(wú)疑是對(duì)人類自身存在的巨大威脅。當(dāng)人工智能發(fā)展完全，就是人類的末日?！北硎就瑯訐?dān)憂的還有特斯拉的創(chuàng)始人馬斯克，他曾直言，“借助人工智能，我們將召喚出惡魔。在所有的故事里出現(xiàn)的拿著五芒星和圣水的家伙都確信他能夠控制住惡魔，但事實(shí)上根本不行?！辈豢煞裾J(rèn)，人工智能技術(shù)是把雙刃劍，有利亦有弊，爭(zhēng)議從來(lái)就沒(méi)有停止過(guò)，而最不容忽視的莫過(guò)于人工智能技術(shù)引發(fā)的一系列倫理困境，關(guān)于人工智能的倫理問(wèn)題成了重中之重。

調(diào)查發(fā)現(xiàn)，47.55%的人認(rèn)為人工智能所引發(fā)的倫理問(wèn)題是因?yàn)槿诵缘乃伎?，占比較大；而22.55%的人認(rèn)為是由于人們價(jià)值觀念的改變；29.9%的人認(rèn)為是利益分化與失衡以及一些其他的原因?qū)е碌摹Ｓ纱丝梢钥闯鰧?dǎo)致人工智能倫理困境的原因是多方面的。主要總結(jié)為以下幾個(gè)方面。

第一，從技術(shù)層面來(lái)看，人工智能技術(shù)在現(xiàn)階段仍然有很大的局限性。人工智能是對(duì)人腦的模仿，但人腦和機(jī)器還是存在本質(zhì)區(qū)別的，人腦勝于人工智能的地方，就是具有邏輯思維、概念的抽象、辯證思維和形象思維。人工智能雖能進(jìn)行大量的模仿，但由于不具備形象思維和邏輯思維，僅能放大人的悟性活動(dòng)中的演繹方法，不可能真正具有智能，這決定了機(jī)器不能進(jìn)行學(xué)習(xí)、思維、創(chuàng)造。此外，智能機(jī)器人也不具備情感智能，它們根本無(wú)法去判斷自己行為的對(duì)錯(cuò)，也無(wú)法自動(dòng)停止自己的某項(xiàng)行為，所以如果人工智能技術(shù)一旦被不法分子利用，后果不堪設(shè)想?？梢?jiàn)，由于人工智能自身技術(shù)上的局限性導(dǎo)致的倫理問(wèn)題已經(jīng)影響到其未來(lái)發(fā)展。

第二，從規(guī)制層面來(lái)看，倫理規(guī)制的缺失和監(jiān)督管理制度的不完善是導(dǎo)致倫理問(wèn)題產(chǎn)生的重要原因?？萍嫉陌l(fā)展目標(biāo)是為人類謀求幸福，但我們必須認(rèn)識(shí)到，無(wú)論是在科技的應(yīng)用還是發(fā)展過(guò)程中總是存在一些難以控制的因素，倘若沒(méi)有相應(yīng)的倫理原則和倫理規(guī)制加以約束，后果難以想象。在目前人工智能領(lǐng)域，缺乏一套成體系的關(guān)于人工智能技術(shù)產(chǎn)品的從設(shè)計(jì)、研究、驗(yàn)收到投入使用的監(jiān)督管理方案，也沒(méi)有一個(gè)國(guó)際公認(rèn)的權(quán)威性的規(guī)范及引導(dǎo)人工智能技術(shù)的發(fā)展及運(yùn)用的組織或機(jī)構(gòu)?，F(xiàn)有的監(jiān)督體制遠(yuǎn)遠(yuǎn)滯后于人工智能技術(shù)的發(fā)展速度，無(wú)法匹配技術(shù)發(fā)展的需要。缺乏相關(guān)監(jiān)管制度的約束，人工智能技術(shù)就不可避免會(huì)被濫用，從而危害社會(huì)。

第三，從社會(huì)層面來(lái)看，公眾對(duì)人工智能技術(shù)的誤解也是原因之一。人工智能作為一門(mén)發(fā)展迅猛的新興學(xué)科，屬于人類研究領(lǐng)域的前沿。公眾對(duì)人工智能技術(shù)的了解十分有限，調(diào)查顯示，對(duì)人工智能技術(shù)只是了解水平較低的人較多，占62.75%，以致部分人在對(duì)人工智能技術(shù)沒(méi)有真實(shí)了解的情況下，在接觸到人工智能技術(shù)的負(fù)面新聞后就夸大其詞，人云亦云，最終導(dǎo)致群眾的恐慌心理，從而使得更多不了解人工智能技術(shù)的人開(kāi)始害怕甚至排斥人工智能技術(shù)。我們必須清楚，人工智能是人腦的產(chǎn)物，雖然機(jī)器在某些領(lǐng)域會(huì)戰(zhàn)勝人，但它們不具備主觀能動(dòng)性和創(chuàng)造思維，也不具備面對(duì)未知環(huán)境的反應(yīng)能力，綜合能力上，人工智能是無(wú)法超越人腦智能的。在李世乭對(duì)弈AlphaGo的曠世之戰(zhàn)中，盡管人工智能贏了棋，但人類贏得了未來(lái)。

三、人工智能技術(shù)的發(fā)展轉(zhuǎn)向

人工智能技術(shù)的發(fā)展已經(jīng)深入到人類社會(huì)生活的方方面面，其最終發(fā)展目標(biāo)是為人類服務(wù)。但是，科學(xué)技術(shù)是把雙刃劍，它在造福人類的同時(shí)，不可避免地會(huì)給人類帶來(lái)災(zāi)難，因此，人類應(yīng)該趨利避害，使人工智能和科學(xué)技術(shù)最大化地為人類服務(wù)。這就要求人類必須從主客體兩個(gè)角度出發(fā)，為人工智能技術(shù)的健康發(fā)展找出路。

1.技術(shù)層面

（1）加強(qiáng)各個(gè)國(guó)家人工智能的對(duì)話交流與合作。人工智能自20世紀(jì)50年代被提出以來(lái)，尤其是近六十年來(lái)發(fā)展迅速，取得了許多豐碩的成果。如Deep Blue在國(guó)際象棋中擊敗了Garry Kasparov； Watson 戰(zhàn)勝了Jeopardy的常勝冠軍；AlphaGo 打敗了頂尖圍棋棋手李世乭。從表面上看，人工智能取得了很大的進(jìn)步，但深究這些人工智能戰(zhàn)勝人類的案例，我們發(fā)現(xiàn)這些成功都是有限的，這些機(jī)器人的智能范圍狹窄。造成這一現(xiàn)象的很大一部分原因就在于國(guó)際間人工智能技術(shù)的對(duì)話交流與合作還不夠積極，所以加強(qiáng)各個(gè)國(guó)家人工智能的對(duì)話和交流迫在眉睫，同時(shí)也勢(shì)在必行。

（2）跨學(xué)科交流，擺脫單一學(xué)科的局限性。從事人工智能這項(xiàng)工作的人必須懂得計(jì)算機(jī)知識(shí)、心理學(xué)和哲學(xué)。歷史的經(jīng)驗(yàn)告訴我們，一項(xiàng)科學(xué)要想走得長(zhǎng)遠(yuǎn)就必須有正確的意識(shí)形態(tài)領(lǐng)域的指導(dǎo)思想的介入。在人工智能這項(xiàng)技術(shù)中，有些科學(xué)家們可能只關(guān)注經(jīng)濟(jì)利益而沒(méi)有引進(jìn)相應(yīng)的倫理評(píng)價(jià)體系，最終使得技術(shù)預(yù)測(cè)不到位，沒(méi)有哲學(xué)的介入，等真正出現(xiàn)問(wèn)題時(shí)就晚了。所以要加強(qiáng)科學(xué)家與哲學(xué)家的溝通交流，令科學(xué)家能更多地思考倫理問(wèn)題，提高哲學(xué)素養(yǎng)，在人工智能技術(shù)中融入更多的哲學(xué)思想，保證人工智能技術(shù)能朝著正確、健康方向發(fā)展。

（3）人工智能技術(shù)的發(fā)展，要與生態(tài)文明觀相結(jié)合。在人工智能技術(shù)發(fā)展中，要注入更多的生態(tài)思想，這關(guān)系人民福祉、關(guān)乎民族未來(lái)的長(zhǎng)遠(yuǎn)大計(jì)。在人工智能發(fā)展中，若是產(chǎn)生資源過(guò)度消耗、環(huán)境破壞、生態(tài)污染等全球性的環(huán)境問(wèn)題時(shí)，人類必須制止并進(jìn)行調(diào)整。人工智能技術(shù)要想發(fā)展得更好，前景更加明亮，前途更為平坦，就必須保持與生態(tài)文明觀一致，與人類自身利益一致，為人類造福。

2.人類自身層面

（1）增強(qiáng)科學(xué)家道德責(zé)任感?？茖W(xué)技術(shù)本身并沒(méi)有善惡性，而研發(fā)的科學(xué)家或是使用者有善惡性。人工智能將向何處發(fā)展，往往與研發(fā)人工智能的科學(xué)家息息相關(guān)?？茖W(xué)家應(yīng)打破“個(gè)體化原理”，要融入社會(huì)中去，關(guān)注社會(huì)道德倫理問(wèn)題，承擔(dān)起道德責(zé)任，為自己、他人、社會(huì)負(fù)責(zé)，多去思考自己研發(fā)的技術(shù)可能帶來(lái)的后果，并盡可能去避免，多多進(jìn)行思考，嚴(yán)格履行科學(xué)家的道德責(zé)任。

（2）提高公眾文化素養(yǎng)。調(diào)查發(fā)現(xiàn)，對(duì)人工智能技術(shù)了解水平較低的人較多，占62.75%；而非常了解的人較少，占4.41%；另外，對(duì)人工智能技術(shù)了解的人占21.08%，不了解的人占11.76%。由此可以看出，大部分的人對(duì)人工智能技術(shù)都能有所了解，但都不是很深入，而且仍有部分人對(duì)人工智能技術(shù)絲毫不了解，所以，人工智能技術(shù)對(duì)于個(gè)體的影響是比較微小的，其發(fā)展還沒(méi)有深入到個(gè)人的日常生活中。特別是在一些關(guān)于人工智能的科幻電影的渲染，可能使那些對(duì)于人工智能技術(shù)并不了解或是一知半解的人產(chǎn)生偏見(jiàn)。在日常生活中，人工智能給人類帶來(lái)了極大的便利。通過(guò)提高公眾的文化素養(yǎng)，使公眾正確認(rèn)識(shí)人工智能技術(shù)，將是緩解甚至是解決人工智能技術(shù)某些倫理問(wèn)題的重要途徑之一。

（3）加大監(jiān)督力度。人類需要通過(guò)建立一個(gè)完善的監(jiān)督系統(tǒng)引導(dǎo)人工智能技術(shù)的發(fā)展。對(duì)于每項(xiàng)新的人工智能技術(shù)產(chǎn)品從產(chǎn)生到使用的各個(gè)環(huán)節(jié)，都要做好監(jiān)督工作，以此來(lái)減少人工智能技術(shù)的負(fù)面影響，緩解甚至減少人工智能技術(shù)的倫理問(wèn)題。

3.道德法律層面

（1）通過(guò)立法規(guī)范人工智能技術(shù)的發(fā)展。調(diào)查發(fā)現(xiàn)，90.69%的人認(rèn)為有必要對(duì)人工智能技術(shù)所引發(fā)的科技倫理問(wèn)題實(shí)行法治，由此可以看出，要想保證科技的良好健康發(fā)展，必須要建立健全相關(guān)法律條例。然而我國(guó)在這一方面的法律還存在很大的漏洞，相關(guān)法律條文滯后于人工智能的發(fā)展，并未頒布一套完整的關(guān)于人工智能的法律體系。沒(méi)有規(guī)矩不成方圓，在人工智能領(lǐng)域亦是如此。我們都無(wú)法預(yù)測(cè)將來(lái)人工智能將發(fā)展到何種地步，這時(shí)就需要人類預(yù)先加以適當(dāng)?shù)南拗疲梅煞ㄒ?guī)加以正確引導(dǎo)，使其朝安全、為人類造福的方向發(fā)展。

（2）構(gòu)建人工智能技術(shù)倫理準(zhǔn)則并確立最高發(fā)展原則。要構(gòu)建以為人類造福為最終目的的倫理準(zhǔn)則。人工智能技術(shù)的倫理問(wèn)題已經(jīng)給人類造成了很多負(fù)面影響，而要防止其帶來(lái)更多負(fù)面影響，構(gòu)建合適的人工智能技術(shù)倫理準(zhǔn)則勢(shì)在必行。

此外，要確立以人為本的最高發(fā)展原則 。一切科學(xué)技術(shù)的發(fā)展都應(yīng)把人的發(fā)展作為出發(fā)點(diǎn)。人工智能的發(fā)展也是如此，要將以人為本、為人類服務(wù)為出發(fā)點(diǎn)，并作為最高發(fā)展原則。

四、結(jié)語(yǔ)

科學(xué)技術(shù)是把雙刃劍，人類只有消除人工智能技術(shù)的潛在威脅，發(fā)揮人工智能技術(shù)最大化效用，避免倫理困境重演，才能實(shí)現(xiàn)人機(jī)交互的良性發(fā)展，實(shí)現(xiàn)人工智能與人類的良性互動(dòng)。

參考文獻(xiàn)：

[1]王文杰，葉世偉.人工智能原理與應(yīng)用[M].北京：人民郵電出版社，2004.

[2]甘紹平.人權(quán)倫理學(xué)[M].北京：中國(guó)發(fā)展出版社，2009.

[3]楊懷中.現(xiàn)代科技倫理學(xué)概論：高科技倫理研究[M].武漢：湖北人民出版社，2004.

[4]王志良.人工情感[M].北京：機(jī)械工業(yè)出版社，2009.

[5]鄒 蕾，張先鋒.人工智能及其發(fā)展應(yīng)用[J].信息網(wǎng)絡(luò)安全，2012（2）.

[6]王 毅.基于仿人機(jī)器人的人機(jī)交互與合作研究[D].北京：北京科技大學(xué)，2015.

[7]田金萍.人工智能發(fā)展綜述[J].科技廣場(chǎng)，2007（1）.

[8]郝勇勝.對(duì)人工智能研究的哲學(xué)反思[D].太原：太原科技大學(xué)，2012.

[9]龔 園.關(guān)于人工智能的哲學(xué)思考[D].武漢：武漢科技大學(xué)，2010.

[10]王洪勝.試析環(huán)境倫理的困境[J].長(zhǎng)春工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2009（4）.

[11]劉泉寶，劉永青.關(guān)于人工智能的哲學(xué)思考[J].計(jì)算機(jī)科學(xué)，1995（2）.