摘要：科技進(jìn)步是推動(dòng)社會(huì)變革的動(dòng)力源，人工智能作為計(jì)算機(jī)領(lǐng)域的新興產(chǎn)物伴隨著深入的研究和發(fā)展，其逐步應(yīng)用滲入到生活中的各個(gè)領(lǐng)域并發(fā)揮著重要作用，但同時(shí)也受到社會(huì)各界的關(guān)注和探討。不可否認(rèn)的是人工智能為我們的生活提供了極大的便利，但科技永遠(yuǎn)是一把雙刃劍，我們在享受人工智能帶來改變的同時(shí)也應(yīng)該著眼于其本身存在的諸多風(fēng)險(xiǎn)，考慮其將會(huì)引發(fā)的新風(fēng)險(xiǎn)以及社會(huì)倫理問題。本文將對人工智能技術(shù)進(jìn)行簡要概述并將對其風(fēng)險(xiǎn)進(jìn)行分析，也會(huì)對其引發(fā)的倫理問題進(jìn)行闡述，提出可行性建議。

關(guān)鍵詞：人工智能;風(fēng)險(xiǎn)規(guī)避;倫理問題;透明性

一、引言

自20世紀(jì)50年代圖靈提出“圖靈測試”以來，人工智能技術(shù)相關(guān)研究取得了不菲的成果。隨著人工智能和相關(guān)產(chǎn)業(yè)的發(fā)展，其產(chǎn)品正與日俱增迅速地融入人們?nèi)粘５纳a(chǎn)生活中，并推動(dòng)著社會(huì)逐漸智能化的變革。毋庸置疑的是我們充分享受了其帶來的便利，但更無法忽略的是人工智能技術(shù)帶來的風(fēng)險(xiǎn)和倫理問題。只有進(jìn)一步了解人工智能技術(shù)的風(fēng)險(xiǎn)和可能出現(xiàn)的倫理問題，才能促進(jìn)其健康發(fā)展，最終達(dá)到“科技向善”的目的。

二、人工智能的相關(guān)概述

（一）概念

人工智能（Artificial Intelligence）是計(jì)算機(jī)科學(xué)的一個(gè)分支，其核心是利用計(jì)算機(jī)系列理論和相關(guān)技術(shù)，引導(dǎo)計(jì)算機(jī)可以模仿人類智慧，從思維模式到行為對外界作出反應(yīng)，并完成一系列的機(jī)器人性化操作。而人工智能作為一門極具挑戰(zhàn)性的綜合性學(xué)科覆蓋了計(jì)算機(jī)科學(xué)與技術(shù)、心理學(xué)、哲學(xué)等人類重要學(xué)科，研究領(lǐng)域拓展極其廣闊包含機(jī)器人、圖像識別、語言識別、機(jī)器學(xué)習(xí)等等。學(xué)界通常將其分類為弱人工智能、強(qiáng)人工智能與超人工智能。弱人工智能是指只是通過系統(tǒng)能夠完成一定的指令，智能產(chǎn)品本身不具備自我意識。強(qiáng)人工智能是指具有自我意志、情感，能夠擁有像人類一樣的學(xué)習(xí)能力、價(jià)值觀體系，能夠自主進(jìn)行決策。超人工智能是指在智力、學(xué)習(xí)能力和行動(dòng)能力都超越人類，這多出現(xiàn)在科幻片中，但也引起人們一定程度上的擔(dān)憂[1]。

（二）特點(diǎn)

人工智能需要通過嚴(yán)密的實(shí)驗(yàn)進(jìn)行研究，其最鮮明的特點(diǎn)在于能夠充分融到人們的生產(chǎn)生活中。人工智能的優(yōu)勢首先在于高效率，通過大數(shù)據(jù)和云計(jì)算等高新技術(shù)的加持，它能夠從檢索、收集到運(yùn)算、分析，高效地處理數(shù)據(jù)得出結(jié)論。另一方面還體現(xiàn)在能夠快速利用數(shù)據(jù)產(chǎn)生的結(jié)果，模仿人類思維后行動(dòng)，這種先進(jìn)的仿生計(jì)算成果能夠有效地解決相應(yīng)的問題。其次人工智能具有極高的便捷性，它的運(yùn)行不受時(shí)間空間的限制和環(huán)境的影響，其主要原因在于能夠模仿人類，實(shí)現(xiàn)低級別的感知和行動(dòng)能力。最后，人工智能具有雙面性的特點(diǎn)，一方面人工智能正引領(lǐng)著人們向智能社會(huì)邁進(jìn)，另一方面人工智能技術(shù)的發(fā)展還未成熟，而當(dāng)前開發(fā)的弱人工智能并不能完全代表人工智能的盡頭，而強(qiáng)人工智能的開發(fā)所承擔(dān)的風(fēng)險(xiǎn)只會(huì)更大。

三、人工智能的風(fēng)險(xiǎn)分析

（一）風(fēng)險(xiǎn)思考的現(xiàn)實(shí)性

現(xiàn)階段人們更多的是在享受人工智能給我們生活帶來的便利，而對于負(fù)面影響的了解少之又少。如研發(fā)不透明的黑箱操作，從“虛擬化”到研發(fā)過程中的“黑箱效應(yīng)”環(huán)境使得其在一定程度上易脫離監(jiān)管從而引發(fā)失控。其次算法的主觀性和部分偏差也是人工智能誘發(fā)風(fēng)險(xiǎn)的主要來源，如谷歌公司推出的智能曾識別黑人為大猩猩，微軟推出的智能聊天機(jī)器人模仿少女行為后出現(xiàn)了種族主義等偏見現(xiàn)象。而行業(yè)的失業(yè)問題成為人們風(fēng)口浪尖上的話題，工廠的自動(dòng)化流水線生產(chǎn)，無人超市和無人酒店的出現(xiàn)，餐飲行業(yè)的機(jī)器人送菜服務(wù)等對于勞動(dòng)力的需求量正在減少，而面臨著失業(yè)的工作者又應(yīng)該何去何從？從現(xiàn)實(shí)意義上來看，我們應(yīng)該思考潛在的風(fēng)險(xiǎn)，分析社會(huì)所承擔(dān)的相關(guān)責(zé)任，提出切合實(shí)際的應(yīng)對措施，更好地促進(jìn)人工智能產(chǎn)業(yè)綠色發(fā)展。

（二）具體風(fēng)險(xiǎn)狀況

1.透明性

透明性是現(xiàn)代社會(huì)成功的關(guān)鍵要素，無論是在政治、商業(yè)和職業(yè)領(lǐng)域，還是在社會(huì)、文化與宗教生活中均是如此[2]。現(xiàn)今弱人工智能尚未能完全獨(dú)立，而人工智能涉及技術(shù)的專業(yè)性、復(fù)雜性使得人工智能具有不透明性的特點(diǎn)，其通常被稱為“黑匣子”，主要體現(xiàn)在消費(fèi)者對于人工智能的決策和行為的背后命令不甚了解。對于使用者來講，它們對于充滿未知性產(chǎn)品的信任程度較低，用戶并不知道在使用過程中收集了多少數(shù)據(jù)又傳輸?shù)搅四睦?，是否發(fā)揮了人工智能應(yīng)該能達(dá)到的作用。也正因?yàn)槿绱耍?dāng)人工智能產(chǎn)品的一些行為出現(xiàn)嚴(yán)重問題時(shí)，其責(zé)任的歸屬已然成為嚴(yán)重問題，無論是人為還是錯(cuò)誤指令，對產(chǎn)品不了解的使用者來講都將處于十分弱勢的位置，而這樣的問題逐漸演化為倫理問題。

2.技術(shù)失控

人們對人工智能發(fā)生技術(shù)失控的擔(dān)憂遠(yuǎn)超于人類的其他技術(shù)。雖然人工智能的發(fā)展曾經(jīng)歷過低谷，但隨著云計(jì)算、大數(shù)據(jù)等技術(shù)的飛速發(fā)展，人工智能的研究實(shí)現(xiàn)了突破。1997 年 ，IBM 的“深藍(lán)”在國際象棋比賽中，戰(zhàn)勝了人類象棋冠軍加里·卡斯帕羅夫，再到后來Alphago的不斷進(jìn)化，人工智能闖入大眾視野，沖擊著人們的認(rèn)知。人工智能的發(fā)展建立在不斷地模仿再到對抗上最后逐漸形成自我學(xué)習(xí)模式。而以強(qiáng)力法和訓(xùn)練法為代表的智能成果其不斷進(jìn)步的思維發(fā)展到一定程度可能會(huì)跟上人類的腳步，而敏捷的對抗性思維也可能不會(huì)及時(shí)被控制，造成嚴(yán)重系統(tǒng)事故，導(dǎo)致難以控制的場面出現(xiàn)，而智能意志也有可能演化成一個(gè)與人類相沖突的意志，甚至?xí)霈F(xiàn)所謂的奇點(diǎn)。

3.監(jiān)管約束

人工智能逐漸融入人們的日常生活，但在如何監(jiān)管和約束中存在著極大的風(fēng)險(xiǎn)隱患。從開發(fā)到使用，似乎還未出現(xiàn)明確的規(guī)章制度去監(jiān)管產(chǎn)業(yè)的發(fā)展，也沒有法明確律條文約束人工智能。直到現(xiàn)在人們很難去給人工智能產(chǎn)品下一個(gè)明確的定義，也無法讓人工智能作為承擔(dān)責(zé)任的主體。且公眾監(jiān)督作為社會(huì)治理的有效辦法在機(jī)器人身上似乎很難實(shí)現(xiàn)，而在現(xiàn)實(shí)中對于人工智能行為的規(guī)范顯然并沒有很大的突破，因此監(jiān)管約束風(fēng)險(xiǎn)仍然是發(fā)展過程中還未逾越的鴻溝。

4.依賴性

長期以來，人們的目標(biāo)是將人工智能發(fā)展到等同于人類的程度，能夠自我學(xué)習(xí)和思考，而如今人工智能的新功能不斷增加，使得人們對其的依賴感越來越強(qiáng)。小到智能音箱、掃地機(jī)器人、智能空調(diào)，大到餐館的上菜機(jī)器人、工廠的自動(dòng)化生產(chǎn)流水線、智能識別系統(tǒng)都能看到人工智能的影子，而有些產(chǎn)品已經(jīng)成為生活中不可或缺的一部分，如智能支付幾乎已經(jīng)遍布到社會(huì)中的各行各業(yè)。再而人類的許多發(fā)明創(chuàng)造來自一些意想不到的啟發(fā)、各種機(jī)緣巧合、以及對生活的觀察，而人們對于智能的依賴在一定程度上會(huì)影響思考，甚至人工智能的自我學(xué)習(xí)和思考能力發(fā)展到一定程度，在一些領(lǐng)域的趨勢預(yù)測能力要?jiǎng)龠^人類的預(yù)測。而對于空口無憑，人們更容易去相信精確的數(shù)據(jù)計(jì)算和匯總分析，人類如果想與智能形成共生關(guān)系，首先要解決依賴性問題，更要讓自己的認(rèn)知達(dá)到更高水平，保證物種的獨(dú)特性。

四、人工智能面臨的倫理問題

對于人類而言，智慧是存在的核心，目前的人類文明，皆是人類智慧的產(chǎn)物。人工智能研究的初衷是使機(jī)器勝任一些通常需要人類智慧才能完成的復(fù)雜工作，但新技術(shù)應(yīng)用產(chǎn)生了系列嚴(yán)重的負(fù)面效應(yīng)。首先是人工智能技術(shù)的非正當(dāng)使用違背了社會(huì)公認(rèn)的倫理道德，由于透明性的問題，人們無從得知技術(shù)是不是誤用還是濫用，尤其使涉及用戶隱私、數(shù)據(jù)安全等問題引起了較大反響。同時(shí)人工智能面臨著人機(jī)交互失敗的問題，決策者對于系統(tǒng)反饋的認(rèn)知能力不同，人工智能對于緊急情況下規(guī)則和道德之間的取舍，使得面臨突發(fā)事件的處理并未能夠像人類一樣靈活。其次人們更擔(dān)心的是，人工智能沖擊了傳統(tǒng)產(chǎn)業(yè)對于勞動(dòng)力和生產(chǎn)力的要求，工作崗位總體上的大量減少，人類現(xiàn)有對于發(fā)展趨勢的分析預(yù)測不僅嚴(yán)重不足，而且預(yù)測方法也不適應(yīng)新形勢的需要[3]，這些問題都將會(huì)對社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)影響。而具有人思維的機(jī)器出現(xiàn)的倫理和道德上的問題，從責(zé)任主體角度來講，是機(jī)器的開發(fā)者負(fù)責(zé)還是操作者負(fù)責(zé)，其次人工智能是否具有道德地位又該如何去界定，這些都將成為新的倫理風(fēng)險(xiǎn)。

五、應(yīng)對風(fēng)險(xiǎn)和問題的措施

雖然人工智能的發(fā)展面臨著諸多風(fēng)險(xiǎn)與倫理問題，但現(xiàn)如今其發(fā)展并未完全成熟，而人工智能對人類思維的模擬只會(huì)走向更精密化，對于人類社會(huì)的發(fā)展來說既是機(jī)遇也是挑戰(zhàn)。應(yīng)對風(fēng)險(xiǎn)和問題首先要以人類為中心，人工智能的研發(fā)、使用更應(yīng)該致力于提高人類幸福生活指數(shù)。雖然人工智能地出現(xiàn)在一定程度上沖擊了人類的自我權(quán)力意識，但人工智能的使用不能夠侵害基本人權(quán)，人類應(yīng)該自我判斷如何使用人工智能并對其帶來的后果和責(zé)任進(jìn)行明確的規(guī)定。更要聚焦責(zé)任主體，建立健全對人工智能的追溯和問責(zé)制度，從根源上解決人與人、人與機(jī)器人之間產(chǎn)生的各種矛盾沖突。其次發(fā)展人工智能需要有正確的價(jià)值觀和設(shè)計(jì)原則，目前發(fā)展中出現(xiàn)的各種問題造成了人類對于人工智能的不信任最直接的原因是源于對價(jià)值觀上的道德衡量和透明性原則的堅(jiān)持，而為了能更好處理兩者之間的關(guān)系就需要秉持正確的科技觀引領(lǐng)人工智能技術(shù)向“善”發(fā)展，通過深度學(xué)習(xí)使其能夠形成一定的社會(huì)道德觀念和判斷力，從而更好地促進(jìn)人類社會(huì)對人工智能的接納。最后要控制應(yīng)用場景，現(xiàn)在的弱人工智能局限性很大，能夠掌握的技能很單一，但也不能夠把尚未成熟的智能技術(shù)投入生產(chǎn)生活中，要通過反復(fù)的模擬和測試 ，最大限度地填補(bǔ)漏洞，避免出現(xiàn)大面積的技術(shù)失控。最后要加強(qiáng)交流溝通，人工智能研發(fā)過程中的保密性極易誘發(fā)壟斷現(xiàn)象，要想減少類似事件發(fā)生的概率就應(yīng)該堅(jiān)持公平正義原則，抓住機(jī)遇合作共贏，更應(yīng)該制定相關(guān)法律法規(guī)抵制各種層面上的壟斷，防止數(shù)字鴻溝等惡劣現(xiàn)象的發(fā)生。

六、結(jié)束語

雖然在科技發(fā)展的道路上會(huì)有著大大小小的絆腳石，但智能社會(huì)正逐步地向我們走來，而先決條件在于人類能夠?qū)θ斯ぶ悄芟到y(tǒng)建立信任。人類應(yīng)該對自己創(chuàng)造的科技產(chǎn)物有著理性的認(rèn)知，不僅要承認(rèn)其存在的必要性，也不能夸大其詞似的盲目發(fā)展。對于大眾媒體而言，需要引導(dǎo)公眾全方面認(rèn)識到人工智能的兩面性，要更多地關(guān)注人工智能的安全可靠性，同時(shí)也要維護(hù)公眾的知情權(quán)等合法權(quán)利。而負(fù)責(zé)相關(guān)產(chǎn)業(yè)的科技工作者也有義務(wù)向公眾普及人工智能的相關(guān)知識，也要對于可透明和不可透明的部分進(jìn)行相關(guān)解釋，既能夠消除公眾對于智能技術(shù)產(chǎn)生的疑慮，也能夠促進(jìn)公眾對智能技術(shù)的接受程度，逐漸將智能趨勢這種社會(huì)文化慢慢浸入到人們的心里。最重要的是，要想實(shí)現(xiàn)人工智能技術(shù)的綠色發(fā)展，就要在技術(shù)層面上強(qiáng)化開發(fā)者的理論學(xué)習(xí)和職業(yè)素養(yǎng)盡可能地解決實(shí)際問題，在源頭上降低和規(guī)避風(fēng)險(xiǎn);在道德層面上要提升公民的整體倫理道德素養(yǎng)，不斷強(qiáng)化人的權(quán)力意識，保證人的主體地位。在社會(huì)層面上，要以寬廣的胸襟和包容的態(tài)度接納新事物的產(chǎn)生，要以辯證的目光去看待新技術(shù)的發(fā)展。人工智能是人類智慧的一部分，是為人類而服務(wù)的，但人類作為人工智能的源頭也應(yīng)該以一名良師的角度出發(fā)引導(dǎo)智能的有序發(fā)展，促使人工智能與人類社會(huì)深度融合，從而更好地造福人類。

作者單位：李沂修? ? 貴州師范大學(xué)國際教育學(xué)院

參? 考? 文? 獻(xiàn)

[1]蔡思欣.人工智能發(fā)展帶來的倫理困境及對策探究[J].機(jī)器人產(chǎn)業(yè)，2021（05）：86-93.

[2]杜嚴(yán)勇.論人工智能系統(tǒng)的透明性[J/OL].科學(xué)學(xué)研究：1-11[2022-02-06].

[3]陳小平.人工智能：技術(shù)條件、風(fēng)險(xiǎn)分析和創(chuàng)新模式升級[J].科學(xué)與社會(huì)，2021，11（02）：1-14.