王 鋒

內(nèi)容提要 作為一種顛覆性技術(shù)，人工智能正在向社會(huì)各領(lǐng)域滲透并且應(yīng)用于社會(huì)治理過(guò)程中，由此引發(fā)整個(gè)社會(huì)治理體系的調(diào)整。人工智能既前所未有地強(qiáng)化道德，又使道德面臨重大挑戰(zhàn)，引發(fā)道德風(fēng)險(xiǎn)。一方面，面對(duì)人工智能所引發(fā)的道德風(fēng)險(xiǎn)，我們要調(diào)整對(duì)道德的認(rèn)知，明確我們需要什么樣的道德，需要誰(shuí)的道德；另一方面，面對(duì)人工智能應(yīng)用過(guò)程的不可逆性，我們要設(shè)定禁止性規(guī)則和限制性規(guī)則來(lái)防止人工智能的道德風(fēng)險(xiǎn)，盡可能地把道德風(fēng)險(xiǎn)降到最低。

作為一種顛覆性技術(shù)，人工智能日益成熟并被廣泛應(yīng)用于社會(huì)治理過(guò)程中，必然引發(fā)整個(gè)社會(huì)規(guī)范體系的調(diào)整，這當(dāng)然包括道德本身的調(diào)整。人工智能前所未有地強(qiáng)化了道德，這種強(qiáng)化就體現(xiàn)在社會(huì)變成一個(gè)全息空間，從根本上杜絕了不道德行為產(chǎn)生的可能。同時(shí)，人工智能又使道德面臨虛無(wú)化的困境。道德不是完全理性的，道德行為的激發(fā)需要情感的作用，而人工智能所造就的虛擬空間使情感面臨無(wú)所依托的困境。這就需要我們未雨綢繆，為人工智能的發(fā)展及應(yīng)用設(shè)定限制，從而有效降低人工智能的道德風(fēng)險(xiǎn)。

一、人工智能對(duì)道德的強(qiáng)化

就人工智能對(duì)道德的強(qiáng)化來(lái)說(shuō)，我們以道德中的他律為例進(jìn)行分析。我們知道，道德主要依靠他律和自律發(fā)揮作用；即使是自律，也離不開他律的優(yōu)先性。這就是說(shuō)，只有在他律性機(jī)制發(fā)揮作用的條件下，自律才能起作用。在這個(gè)意義上，他律更具有根本性和基礎(chǔ)性。他律指通過(guò)社會(huì)輿論、習(xí)慣、傳統(tǒng)等因素產(chǎn)生外在壓力，從而使人們遵從道德規(guī)范。而這種他律形式要發(fā)揮作用，其前提在于對(duì)一個(gè)人行為的詳盡掌握。問(wèn)題在于，傳統(tǒng)社會(huì)，甚至工業(yè)社會(huì)，對(duì)人們行為的了解始終是有限的。完全理性理論設(shè)定人可以掌握他人的所有信息，這樣，在完全理性的基礎(chǔ)上做出的決策才更精確。在道德問(wèn)題上同樣如此，我們期待他人遵從道德，其前提就在于對(duì)他人行為信息的全面掌握。然而，在道德問(wèn)題上事實(shí)上的有限理性，即我們面對(duì)的始終是不完全信息，為他人不講道德留下了空間。以撒謊為例，按照康德的說(shuō)法，不撒謊是一條道德律令，是全社會(huì)都應(yīng)當(dāng)普遍遵守的。這是因?yàn)?，無(wú)論從社會(huì)還是從個(gè)人來(lái)看，撒謊的危害是顯而易見的。但是，我們并不能準(zhǔn)確判斷一個(gè)人是否撒謊，甚至在某種情況下，一個(gè)人的撒謊會(huì)成為習(xí)慣。我們對(duì)此深惡痛絕，卻又毫無(wú)辦法。原因在于，我們對(duì)他人撒謊行為的信息掌握得并不完全，從而很難有效杜絕或減少這種行為的發(fā)生。

他律性機(jī)制要有效發(fā)揮作用，離不開行為信息的收集、行為信息的傳播，以及在此基礎(chǔ)上對(duì)行為的及時(shí)獎(jiǎng)懲和由此帶來(lái)的行為的可重復(fù)性。也就是說(shuō)，在一個(gè)社會(huì)中，無(wú)論是自律性機(jī)制還是他律性機(jī)制要有效發(fā)揮作用，都必須產(chǎn)生讓人們行為可重復(fù)的結(jié)果。如果在生活中通過(guò)一次性交往就可以帶來(lái)利益的最大化，人們就可能傾向于不講道德，但如果交往是可重復(fù)性的，那么在一個(gè)組織中，對(duì)相互行為預(yù)期的了解決定了人們必須講道德。我們都非常懷念傳統(tǒng)社會(huì)的道德風(fēng)尚，認(rèn)為那時(shí)人們的道德習(xí)慣和道德風(fēng)氣良好，而感嘆于今天的世風(fēng)日下。其實(shí)，在傳統(tǒng)社會(huì)中，人們遵守道德，固然有自律性的原因，即部分人把道德生活作為一種追求，但更多情況下是因?yàn)閭鹘y(tǒng)社會(huì)的社會(huì)結(jié)構(gòu)塑造出了使人們不得不講道德的社會(huì)環(huán)境。傳統(tǒng)社會(huì)的這種他律性約束機(jī)制雖然與我們今天以法律形式表現(xiàn)出來(lái)的制度形式有明顯區(qū)別，但也構(gòu)成了人們追求道德的制度性環(huán)境。

傳統(tǒng)社會(huì)是個(gè)封閉的共同體，人們對(duì)彼此知根知底，因此可以很方便地收集彼此的行為信息。在傳統(tǒng)社會(huì)里，閑聊既是一種收集他人行為信息的方式，又是一種傳播信息的方式，關(guān)于他人行為及品德的信息在閑聊中得到及時(shí)傳播。同時(shí)，共同體內(nèi)部對(duì)不遵守道德的懲罰也是非常嚴(yán)厲的。將某人驅(qū)逐出其賴以生存的共同體，是最嚴(yán)厲的懲罰之一。傳統(tǒng)社會(huì)的極端封閉性意味著個(gè)體離開他賴以生存的共同體無(wú)異于自取滅亡。傳統(tǒng)社會(huì)本身的封閉性和共同體內(nèi)部不強(qiáng)的流動(dòng)性，使得在傳統(tǒng)社會(huì)中人們非常熟悉其交往對(duì)象。對(duì)于一個(gè)人會(huì)做出什么樣的行為，其人品如何，大家都非常了解。在這樣的由熟人構(gòu)成的共同體中，人們之間的交往是熟人之間的重復(fù)性交往，這樣的交往形式?jīng)Q定了道德成為交往可持續(xù)性的前提條件?！霸馕吨粋€(gè)固定之所，一個(gè)恒久的家。在一個(gè)野蠻、饑餓且危險(xiǎn)的世界里，家，即便是一個(gè)簡(jiǎn)陋的小屋，卻是最終的避難所。它扎根于土地，一代一代地傳下去?！盵1]阿爾文·托夫勒：《未來(lái)的沖擊》，黃明堅(jiān)譯，中信出版集團(tuán)股份有限公司2018年版，第77頁(yè)。共同體本身的封閉性決定了內(nèi)部流動(dòng)性不強(qiáng)，人們世代居住于同一個(gè)地方，這樣的社會(huì)結(jié)構(gòu)決定了共同體本身就是一個(gè)很強(qiáng)的他律性機(jī)制。也就是說(shuō)，在這樣一個(gè)封閉的共同體中的重復(fù)性交往，決定了人們不得不講道德，道德成為一個(gè)人在共同體內(nèi)部交往的通行證。

工業(yè)社會(huì)也面臨如何讓他律性機(jī)制發(fā)揮作用的問(wèn)題。在工業(yè)社會(huì)中，他律性機(jī)制發(fā)揮作用也離不開對(duì)行為信息的收集、傳播和獎(jiǎng)懲這三個(gè)方面的因素。第一，在工業(yè)社會(huì)中，信息的收集，無(wú)法僅僅依靠個(gè)人，而是不得不由專門組織來(lái)進(jìn)行。例如，通過(guò)信用公司、銀行等組織來(lái)收集人們的行為信息。第二，在工業(yè)社會(huì)中，信息傳播不僅依靠報(bào)紙、電視等現(xiàn)代傳媒，而且依靠專門的信用公司等組織。第三，在工業(yè)社會(huì)中，獎(jiǎng)懲機(jī)制離不開法院等組織。但是，法院等組織只能解決違法犯罪問(wèn)題，對(duì)于道德問(wèn)題，工業(yè)社會(huì)仍然需要通過(guò)輿論和道德的力量部分地解決?？墒牵?yàn)闊o(wú)法徹底解決交往過(guò)程中的信息不對(duì)稱問(wèn)題，道德在工業(yè)社會(huì)并沒(méi)有得到有效推行，并且它在解決部分道德問(wèn)題的同時(shí)制造了更多的道德問(wèn)題。工業(yè)社會(huì)在解決道德問(wèn)題時(shí)所面對(duì)的最大難題是，如果要全面收集社會(huì)成員的信息，其成本將難以為繼。同時(shí)，雖然現(xiàn)代社會(huì)有報(bào)紙、電視等現(xiàn)代傳媒和鐵路、飛機(jī)等現(xiàn)代交通方式，但個(gè)體完全可以利用地理空間等的分割，逃離過(guò)去的生活，去另一個(gè)地方重新開始生活。這意味著“人們可以從頭開始，不僅是經(jīng)濟(jì)上，更重要的是在他人關(guān)于自己的評(píng)價(jià)上重新開始”[1]維克多·舍恩伯格：《刪除：大數(shù)據(jù)取舍之道》，袁杰譯，浙江人民出版社2013年版，第127頁(yè)。。這之所以可能，很大程度上是因?yàn)樯鐣?huì)并不能掌握所有成員的所有信息；即使有這樣的信息，其也是割裂的。也就是說(shuō)，工業(yè)社會(huì)的技術(shù)發(fā)展并沒(méi)有完全超越地理空間的限制，這就為人們的一次性行為留下了足夠的空間。雖然工業(yè)社會(huì)也需要重復(fù)性的交往關(guān)系，并且不斷拓展這種可重復(fù)的交往關(guān)系，但其并沒(méi)有從根本上解決交往行為本身存在的信息不完全性和不對(duì)稱性。從決策角度來(lái)看，工業(yè)社會(huì)的最大問(wèn)題就是，空間距離的拓展使得交往對(duì)象的行為信息始終處于不完全和不對(duì)稱狀態(tài)。也就是說(shuō)，盡管工業(yè)社會(huì)通過(guò)法律等制度化方式來(lái)約束人們的行為，也通過(guò)報(bào)紙、電視等現(xiàn)代傳媒來(lái)傳播信息，但由于沒(méi)有從根本上解決信息不對(duì)稱和信息不完全性的難題，工業(yè)社會(huì)的他律性機(jī)制并不能有效發(fā)揮作用。這就使“德行有用”這一托克維爾式的設(shè)想并不能完全轉(zhuǎn)化為現(xiàn)實(shí)，盡管托克維爾的設(shè)想既不遠(yuǎn)大也不崇高。工業(yè)社會(huì)的制度性安排，既沒(méi)有完全消除不道德行為，也沒(méi)有消除犯罪。雖然韋伯等人曾致力于探索整齊劃一的現(xiàn)代科層制體系，期待利用普遍抽象的規(guī)則能實(shí)現(xiàn)社會(huì)的良序善治，但在技術(shù)還不夠發(fā)達(dá)的工業(yè)時(shí)代，治理者都不得不面對(duì)無(wú)法全面掌握行為者行為的難題。

然而，人工智能技術(shù)在社會(huì)治理中的廣泛應(yīng)用，有望徹底改變這一局面。“因?yàn)檎麄€(gè)社會(huì)日益數(shù)字化、網(wǎng)絡(luò)化、智能化，數(shù)據(jù)采集、存儲(chǔ)、處理、傳輸能力空前強(qiáng)大，人們的一舉一動(dòng)幾乎都處在‘聚光燈’之下，無(wú)所遁形。這種空前透明的社會(huì)環(huán)境，可以形成強(qiáng)大的道德輿論壓力，敦促人們主動(dòng)抑制不良動(dòng)機(jī)，自覺規(guī)范自己的言行。”[2]金東寒主編：《秩序的重構(gòu)：人工智能與人類社會(huì)》，上海大學(xué)出版社2017年版，第49頁(yè)。也就是說(shuō)，人工智能等新信息技術(shù)的廣泛應(yīng)用，重構(gòu)著人們的生活空間，把原來(lái)的物理空間重塑為一個(gè)全息空間。全息空間中廣泛分布的攝像頭等智能設(shè)備，時(shí)時(shí)刻刻收集著人們的行為信息。同時(shí)，借助于空間的智能化，這些行為信息又可以被非常迅速地傳播和處理。也就是說(shuō)，智能化空間消除了地理空間的阻隔，信息在不同地域可以實(shí)時(shí)共享。例如，由于智能技術(shù)的應(yīng)用，疫情防控相關(guān)部門就可以詳細(xì)掌握感染人群的行為軌跡，從而為有效防范疫情擴(kuò)散奠定了基礎(chǔ)，這在以前是不可想象的。同時(shí)，在掌握了詳細(xì)信息后，數(shù)字社會(huì)就可以對(duì)他人行為進(jìn)行及時(shí)有效的獎(jiǎng)懲。

在數(shù)字社會(huì)中，人們的交往范圍日益擴(kuò)大，數(shù)字社會(huì)不僅從熟人社會(huì)走向陌生人社會(huì)，而且日益成為一個(gè)匿名社會(huì)。社會(huì)交往范圍的擴(kuò)大和社會(huì)交往的普遍性，日益對(duì)交往主體之間的行為預(yù)期性提出要求。人工智能所塑造的社會(huì)空間日益成為一個(gè)全息空間，正在把這一要求變成現(xiàn)實(shí)。數(shù)字社會(huì)的全息空間發(fā)揮著類似于熟人社會(huì)共同體的功能。借助于智能機(jī)器，人們對(duì)彼此非常熟悉，對(duì)彼此的行為傾向也相互了解。我們非常懷念農(nóng)業(yè)社會(huì)中道德的美好，這種美好的道德離不開熟人共同體的他律性機(jī)制發(fā)揮有效作用。今天，數(shù)字社會(huì)創(chuàng)造的全息空間，消除了工業(yè)社會(huì)中因時(shí)空延伸而產(chǎn)生的信息不對(duì)稱問(wèn)題，從而為數(shù)字社會(huì)環(huán)境下他律性機(jī)制發(fā)揮作用創(chuàng)造了條件。

人工智能廣泛滲透于社會(huì)各領(lǐng)域，并沒(méi)有從根本上改變社會(huì)交往的普遍性要求，甚至在某種程度上，人工智能所塑造的智慧社會(huì)對(duì)普遍交往的要求比以往更為迫切。人工智能技術(shù)使人與人之間的聯(lián)系實(shí)在化了，并且以數(shù)據(jù)的形式呈現(xiàn)出來(lái)。由于有了這樣的技術(shù)支撐，智慧社會(huì)解決了工業(yè)社會(huì)因?yàn)榻煌秶鷶U(kuò)大而產(chǎn)生的信息不完全這一難題，也就是說(shuō)，智慧社會(huì)環(huán)境下人們交往的普遍性迫切要求全面了解行為者的信息，這種信息越完整，越能為決策奠定堅(jiān)實(shí)基礎(chǔ)。就此意義來(lái)說(shuō)，人工智能所塑造的智慧社會(huì)是一個(gè)全息空間，理論上可以提供交往活動(dòng)的所有信息，而整個(gè)社會(huì)的全面數(shù)字化、網(wǎng)絡(luò)化和智能化則提供了所需的技術(shù)基礎(chǔ)。在智慧社會(huì)中，通過(guò)人工智能掌握各方面的信息并通過(guò)有效的制度變革形成適應(yīng)新社會(huì)的他律性機(jī)制，就徹底解決了工業(yè)社會(huì)因?yàn)樾畔⒉怀浞侄鴮?dǎo)致的他律性機(jī)制效用不佳的問(wèn)題，從而在新的社會(huì)條件下讓人們?nèi)ブv道德。

可見，在智慧社會(huì)中，空間的智能化、全息化，可以形成強(qiáng)大的外在力量，使人們不得不考慮自身行為的道德性。雖然這種道德行為還是在外在壓力下做出的，離我們所期待的道德自覺還有距離，但是應(yīng)注意，我們對(duì)道德的期待一直是在他律與自律的共同作用下形成的。如果沒(méi)有強(qiáng)大的外在規(guī)范力量，而僅依靠個(gè)人自覺，那么道德從來(lái)都是不穩(wěn)定、不可持續(xù)的，甚至只是某些人的良好愿望。

二、人工智能對(duì)道德的挑戰(zhàn)

首先，人工智能所塑造的環(huán)境可能導(dǎo)致道德的虛無(wú)化。就道德本身來(lái)看，在情境中，尤其是在面對(duì)面的互動(dòng)中，道德才能被持續(xù)建構(gòu)?！盎蠲撁摰姆窍笳餍缘哪槻攀秦?zé)任的源泉，才是人與人之間直接溫暖的聯(lián)系。不直接在物理空間中與其他人見面，我們的倫常就松懈了。面對(duì)面的交流，人與肉體之情，支撐著長(zhǎng)期的溫情和忠誠(chéng)，一種以計(jì)算機(jī)為中介的社區(qū)所沒(méi)有測(cè)試過(guò)的義務(wù)感。計(jì)算機(jī)網(wǎng)絡(luò)提供了某種歸屬感。臉才是主要的界面，要比任何機(jī)器的中介都更為基本。肉眼是建立信任的鄰居的窗口。沒(méi)有人臉的直接經(jīng)驗(yàn)，倫常的知覺便縮減了，而粗魯卻進(jìn)來(lái)了?！盵1]邁克爾·海姆：《從界面到網(wǎng)絡(luò)空間：虛擬實(shí)在的形而上學(xué)》，金吾倫、劉鋼譯，上?？萍冀逃霭嫔?000年版，第105頁(yè)。“粗魯”不一定出現(xiàn)，但我們確實(shí)要注意，道德是實(shí)踐理性，道德是在人際關(guān)系中不斷得到強(qiáng)化的，道德需要現(xiàn)實(shí)生活的滋養(yǎng)。在這里，人際的互動(dòng)與交往更多是借助情感來(lái)進(jìn)行的，正是這樣的情感才維系了道德及道德感的存在。而人工智能所建構(gòu)起的虛擬空間還把人“轉(zhuǎn)化”為數(shù)字化存在。雖然借助現(xiàn)代技術(shù)可以實(shí)現(xiàn)虛擬實(shí)在，但這種虛擬實(shí)在不可能完全等同于現(xiàn)實(shí)的人的存在。在數(shù)字化生存中，由于沒(méi)有現(xiàn)實(shí)空間中的規(guī)范約束以及缺失現(xiàn)實(shí)的人際關(guān)系支撐，道德就會(huì)失去這種依托。

道德不僅是理性的，而且是情感性的。道德的情感性來(lái)自人本身。人不僅是理性的動(dòng)物，而且是情感性的動(dòng)物。理性主義認(rèn)為理性高于情感，甚至排斥情感，把人歸結(jié)為完全理性的存在。而事實(shí)上，道德行為的發(fā)生是基于情感而做出的，也就是說(shuō)，情感是道德行為的發(fā)動(dòng)者。孟子講的“惻隱之心”包含情感因素，這種情感促使一個(gè)人奮不顧身對(duì)他人施以援手，很難想象一個(gè)沒(méi)有同情心的人能夠做出可能危及自身生命的道德行動(dòng)。在這個(gè)意義上，境遇倫理學(xué)合理揭示了道德從來(lái)不是某種抽象的原則，道德是生活中的實(shí)踐理性，道德必須面對(duì)生活，道德本身存在于現(xiàn)實(shí)生活中。具體的生活場(chǎng)景能激發(fā)人的某種道德行為，這種特定的場(chǎng)景離不開人們情感的激發(fā)。

可是，人工智能塑造出來(lái)的社會(huì)把原來(lái)現(xiàn)實(shí)空間中的道德生活場(chǎng)景界面化了，界面可以復(fù)現(xiàn)甚至創(chuàng)造某種生活場(chǎng)景，但界面不等于生活，正如游戲不是生活，生活也不可能還原為游戲。由于失去了真實(shí)的生活場(chǎng)景，道德發(fā)生的情感因素也就失去了真實(shí)來(lái)源。沒(méi)有情感作為道德的誘發(fā)因素，沒(méi)有現(xiàn)實(shí)生活中人際關(guān)系的滋養(yǎng)，人的情感就失去了依托，道德也就面臨虛無(wú)化的困境。

其次，人工智能塑造的智慧社會(huì)的虛實(shí)融合，尤其是人的虛擬現(xiàn)實(shí)存在，會(huì)造成道德上的冷漠?！半娮由顚⒌谝晃坏纳眢w在場(chǎng)換成了遙在，在角色在場(chǎng)之間引進(jìn)了距離。的確，在有形體的生活中，我們經(jīng)常并不總是那么認(rèn)真對(duì)待我們的身份，我們經(jīng)常改變自己，穿不同的衣服、戴不同的面具、換不同的綽號(hào)等，但微電子學(xué)卻安裝了‘兩者可得兼’的錯(cuò)覺，在保持距離的同時(shí)也‘讓我們?cè)诰€’。在線的實(shí)存從本質(zhì)上說(shuō)是含混不清的。”[1]邁克爾·海姆：《從界面到網(wǎng)絡(luò)空間：虛擬實(shí)在的形而上學(xué)》，金吾倫、劉鋼譯，上?？萍冀逃霭嫔?000年版，第105頁(yè)。網(wǎng)絡(luò)空間并不是對(duì)現(xiàn)實(shí)空間的簡(jiǎn)單移植，網(wǎng)絡(luò)空間是相對(duì)自由的，其中既沒(méi)有現(xiàn)實(shí)空間的規(guī)范束縛，也沒(méi)有現(xiàn)實(shí)人倫的強(qiáng)力約束。對(duì)一個(gè)網(wǎng)絡(luò)社群來(lái)說(shuō)，社群參與者可以加入這個(gè)網(wǎng)絡(luò)，也可以退出這個(gè)網(wǎng)絡(luò)。沒(méi)有了現(xiàn)實(shí)空間日常人倫規(guī)范的約束，也就沒(méi)有了道德感存在的外在壓力，人的道德感可能因此減弱。

作為規(guī)范的道德不如法律那樣剛性，并且道德本身的維系離不開法律、習(xí)慣、傳統(tǒng)、輿論等外在力量的保證。規(guī)則是對(duì)人們行為的某種約束和限制。人們?cè)敢庾袷匾?guī)則，一個(gè)很重要的原因在于恐懼，即對(duì)違反某種規(guī)則的恐懼。例如，人們之所以遵守交通規(guī)則，很大程度上是因?yàn)閷?duì)違反交通規(guī)則的恐懼感。這種恐懼感或來(lái)自對(duì)生命安全的考慮，或來(lái)自對(duì)法律制裁、聲譽(yù)受損等的忌憚。雖然人們遵守規(guī)則的原因不盡于此，但由懲罰引發(fā)的恐懼感無(wú)疑是人們遵守規(guī)則的重要因素。

盡管越來(lái)越多的人意識(shí)到把網(wǎng)絡(luò)空間視為一個(gè)完全自由空間產(chǎn)生的不良后果，而不少國(guó)家試圖制定各種網(wǎng)絡(luò)規(guī)范來(lái)約束人們?cè)诰W(wǎng)絡(luò)空間中的行為，甚至也有人建議通過(guò)改變互聯(lián)網(wǎng)的技術(shù)架構(gòu)來(lái)約束人們?cè)诰W(wǎng)絡(luò)空間的行為；但網(wǎng)絡(luò)空間不同于現(xiàn)實(shí)空間，網(wǎng)絡(luò)空間的行為所具有的隱匿性使當(dāng)前的這些限制難以杜絕網(wǎng)絡(luò)空間的違法犯罪行為，更不用說(shuō)消除網(wǎng)絡(luò)空間的不道德行為了。更為重要的是，人工智能影響下的智慧社會(huì)規(guī)則已經(jīng)發(fā)生了根本變化，規(guī)則不再以我們熟悉的成文形式出現(xiàn)，而是以代碼的形式出現(xiàn)，由此帶來(lái)人們的行為規(guī)范以及對(duì)違法行為的懲罰方式的巨大變革，這就意味著工業(yè)社會(huì)中人們熟悉的規(guī)則正在逐漸失去作用，道德規(guī)范的效用正在逐漸消減。“機(jī)器人的表現(xiàn)一定是其內(nèi)置程序代碼的反映及放大。如果程序代碼規(guī)定要有所克制、立意良善，機(jī)器人的表現(xiàn)就會(huì)遠(yuǎn)遠(yuǎn)優(yōu)于一般人類士兵；然而，如果程序代碼規(guī)定要冷酷無(wú)情、趕盡殺絕，結(jié)果就會(huì)是一場(chǎng)災(zāi)難?！盵2]尤瓦爾·赫拉利：《今日簡(jiǎn)史》，林俊宏譯，中信出版集團(tuán)股份有限公司2018年版，第59頁(yè)。人類士兵會(huì)因殺戮而產(chǎn)生道德負(fù)罪感。這種道德負(fù)罪感是在近距離殺戮的殘酷場(chǎng)景中產(chǎn)生的，促使部分人類士兵不愿意殺人，并在某種程度上促使戰(zhàn)爭(zhēng)不斷走向和平。但是，軍用機(jī)器人、無(wú)人作戰(zhàn)飛機(jī)等智能化、自主武器的大量使用，可能會(huì)削弱人們道德上的負(fù)罪感，從而讓殺戮變得毫不顧及人性。“社會(huì)整體上會(huì)產(chǎn)生將生死攸關(guān)的決定委托給機(jī)器的傾向。如果沒(méi)有人承受戰(zhàn)爭(zhēng)的道德譴責(zé)，那么使用自主武器的社會(huì)將呈現(xiàn)出怎樣的圖景呢？”[3]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第327頁(yè)。如果把決定生死的權(quán)力交給算法，使殺人成為類似電腦游戲的界面操作，那么，殺戮將徹底忽略人性。

再次，更關(guān)鍵的地方在于，人工智能的發(fā)展會(huì)對(duì)人的本質(zhì)帶來(lái)挑戰(zhàn)，進(jìn)而影響道德本身。如果人的本質(zhì)被技術(shù)改寫，那么作為人為自己立法的道德必然會(huì)面臨巨大危機(jī)。然而，人已經(jīng)被技術(shù)化了，人不僅被技術(shù)包圍，而且本身也正在被技術(shù)化。一方面，隨著生物技術(shù)與人工智能技術(shù)的融合，人的自然身體正在被“修補(bǔ)”，人所獨(dú)具的創(chuàng)造性、情感、道德逐漸被賦予智能機(jī)器，人與智能機(jī)器從工具性關(guān)系日益走向人機(jī)融合，人與智能機(jī)器之間的邊界日益模糊[4]參見尤瓦爾·赫拉利：《今日簡(jiǎn)史》，林俊宏譯，中信出版集團(tuán)股份有限公司2018年版，第Ⅸ、52、203頁(yè)；尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史》，林俊宏譯，中信出版集團(tuán)股份有限公司2017年版，第339頁(yè)。。在這種情況下，人的本質(zhì)還能不能保持？例如，我們認(rèn)為，人存在的價(jià)值在于勞動(dòng)，正是勞動(dòng)把人與動(dòng)物區(qū)別開來(lái)。通過(guò)勞動(dòng)，人獲得其存在的價(jià)值，人的尊嚴(yán)得以維持?？墒?，人工智能的大規(guī)模應(yīng)用造就了大量的“無(wú)用階級(jí)”[5]尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史》，林俊宏譯，中信出版集團(tuán)股份有限公司2017年版，第286頁(yè)。，也就是說(shuō)，可能在不遠(yuǎn)的將來(lái)，大部分人不需要?jiǎng)趧?dòng)就可以過(guò)上體面的生活。如果整天無(wú)所事事，生活于虛幻與現(xiàn)實(shí)之間，那么，人存在的意義在哪里？他對(duì)社會(huì)的價(jià)值又體現(xiàn)在什么地方？“如果我們真的只是成了‘快樂(lè)生活’的‘食客’，存在的‘意義’又何在？真的還有能力追求自由、幸福生活嗎？”[1]高兆明：《“數(shù)據(jù)主義”的人文批判》，《江蘇社會(huì)科學(xué)》2018年第4期。如果勞動(dòng)價(jià)值被取消，我們?nèi)绾卧俣x人？當(dāng)智能機(jī)器越來(lái)越逼近人，不僅具有人的外形，而且越來(lái)越具有人的情感、邏輯、道德等能力，我們?cè)撛趺蠢斫馊?？?dāng)硅基人越來(lái)越逼近碳基人，我們是否要重新定義人本身？人還需要道德嗎？如果需要，那將是誰(shuí)的道德？尤其是，如果智能機(jī)器具有深度學(xué)習(xí)能力，甚至可以基于深度學(xué)習(xí)而制定規(guī)則，那會(huì)產(chǎn)生什么樣的后果？道德是人為自己立法，可是，當(dāng)人的主體性受到質(zhì)疑、挑戰(zhàn)甚至威脅的時(shí)候，道德還有存在的必要嗎？

三、化解人工智能引發(fā)的道德風(fēng)險(xiǎn)

顯然，人工智能既可能前所未有地強(qiáng)化道德的日常功用，又可能使道德面臨重大挑戰(zhàn)。面對(duì)人工智能的巨大沖擊，我們需要什么樣的道德？如前所述，隨著硅基人越來(lái)越逼近碳基人，甚至在某些方面擁有超過(guò)人類的能力，人的主體性面臨前所未有的挑戰(zhàn)。隨著智能機(jī)器越來(lái)越逼近人，直接挑戰(zhàn)人類的主體性，甚至可能出現(xiàn)智能機(jī)器支配人的局面。當(dāng)這種局面來(lái)臨的時(shí)候，作為規(guī)范的道德還有存在的必要嗎？也就是說(shuō)，當(dāng)人的主體性日益受到挑戰(zhàn)，甚至人自身可能被智能機(jī)器支配時(shí)，也許作為規(guī)范的道德需要被改寫。

這就涉及我們需要什么樣的道德，或者說(shuō)，智慧社會(huì)需要什么樣的道德的問(wèn)題。面對(duì)洶涌而來(lái)的人工智能浪潮，道德既有被強(qiáng)化的可能，又有被虛無(wú)化的可能。就其強(qiáng)化的一面來(lái)說(shuō)，借助人工智能技術(shù)所塑造的他律性機(jī)制確實(shí)使道德行為的發(fā)生環(huán)境發(fā)生了根本改變，全面數(shù)據(jù)化意味著人的一舉一動(dòng)都被記錄，這種記錄的詳細(xì)化程度會(huì)隨著社會(huì)的網(wǎng)絡(luò)化、智能化程度的提高而不斷提高，這意味著智慧社會(huì)以前的社會(huì)形態(tài)所面臨的信息不充分局面有望得到徹底改變。一個(gè)近似透明的社會(huì)本身就是一種強(qiáng)大的外在壓力，迫使人們注意自己的行為，注意自身行為的道德性。問(wèn)題在于，這會(huì)導(dǎo)致政府和數(shù)字企業(yè)掌握大量數(shù)據(jù)?！半S著這些技術(shù)日漸成熟，人們將無(wú)法在日常生活中擺脫監(jiān)控。監(jiān)控裝置將成為公共空間的一個(gè)組成部分，就像路燈一樣。從監(jiān)控個(gè)人行蹤這種簡(jiǎn)單功能，到監(jiān)控特殊時(shí)段的個(gè)人行為這種高端功能。”[2]勞倫斯·萊斯格：《代碼2.0：網(wǎng)絡(luò)空間中的法律》，李旭等譯，清華大學(xué)出版社2018年第2版，第223頁(yè)。如果社會(huì)的全面網(wǎng)絡(luò)化的后果是社會(huì)的全面監(jiān)控化，那么邊沁、?？滤枋龅摹皥A形監(jiān)獄”將成為現(xiàn)實(shí)。因社會(huì)全面監(jiān)控而產(chǎn)生的恐懼會(huì)在整個(gè)社會(huì)產(chǎn)生寒蟬效應(yīng)。假設(shè)這樣的社會(huì)確實(shí)能提高整個(gè)社會(huì)的道德水平，但這種道德是人們所期望的道德嗎？如果我們從人工智能獲得的便利以自由權(quán)利為代價(jià)，那么這種技術(shù)還是值得期待的嗎？

在智慧社會(huì)環(huán)境下，即使道德還是人的道德，道德發(fā)揮作用的方式也必然發(fā)生根本性改變。隨著社會(huì)的網(wǎng)絡(luò)化、智能化越來(lái)越顯著，社會(huì)日益被塑造成一個(gè)全息空間，一個(gè)與過(guò)去完全不同的社會(huì)類型就會(huì)出現(xiàn)。當(dāng)虛實(shí)融合、人機(jī)協(xié)同、算法主導(dǎo)成為智慧社會(huì)的基本圖景時(shí)，支撐這樣一個(gè)高度智能化、網(wǎng)絡(luò)化的社會(huì)運(yùn)行的關(guān)鍵因素是什么？有人說(shuō)是信息，有人說(shuō)是數(shù)據(jù)，有人說(shuō)是算法，這些說(shuō)法都沒(méi)有錯(cuò)。問(wèn)題是信息也好，數(shù)據(jù)也好，算法也好，這些不同的符號(hào)背后都有一個(gè)明確的指向。信息是有價(jià)值的數(shù)據(jù)，數(shù)據(jù)的處理甚至數(shù)據(jù)本身都不得不依靠算法。然而，無(wú)論是信息、數(shù)據(jù)，還是算法，都是以代碼的形式存在于計(jì)算機(jī)中的。就實(shí)質(zhì)來(lái)說(shuō)，它們都是基于代碼呈現(xiàn)出的不同具體形式。

對(duì)智慧社會(huì)來(lái)說(shuō)，人工智能等技術(shù)的全面滲透，意味著整個(gè)社會(huì)建立在數(shù)字化、智能化、網(wǎng)絡(luò)化的基礎(chǔ)上，意味著傳統(tǒng)社會(huì)治理方式必然讓位于數(shù)字化、智能化、網(wǎng)絡(luò)化治理方式。對(duì)智慧社會(huì)治理來(lái)說(shuō)，整個(gè)社會(huì)成為數(shù)字化空間，就意味著數(shù)據(jù)成為整個(gè)社會(huì)治理的基礎(chǔ)。當(dāng)我們不再依賴傳統(tǒng)的治理方式，而是依靠數(shù)據(jù)來(lái)進(jìn)行治理時(shí)，社會(huì)治理的方式顯然發(fā)生了根本改變。智慧社會(huì)已經(jīng)向我們呈現(xiàn)出社會(huì)數(shù)字化、個(gè)體數(shù)字化的圖景。隨著智能化設(shè)備越來(lái)越詳細(xì)、越來(lái)越精準(zhǔn)地分布于社會(huì)各個(gè)層面并且收集各種數(shù)據(jù)，社會(huì)數(shù)字化、個(gè)體數(shù)字化的趨勢(shì)也就越來(lái)越明顯。社會(huì)的全面數(shù)字化、智能化為社會(huì)的代碼化治理提供了前提條件。

基于代碼的治理，首先要解決的一個(gè)關(guān)鍵問(wèn)題是法律與道德能否代碼化。我們知道，代碼化的關(guān)鍵是可以形式化、程序化。從規(guī)則本身來(lái)說(shuō)，那些常規(guī)性事務(wù)，當(dāng)然可以實(shí)現(xiàn)程序化、編碼化，這就意味著“通過(guò)法律代碼化，把法律規(guī)則轉(zhuǎn)換成代碼，并以代碼來(lái)規(guī)制代碼，實(shí)現(xiàn)‘法律技術(shù)化’”，同時(shí)，“通過(guò)代碼法律化，把行業(yè)的代碼技術(shù)規(guī)則上升為法律化規(guī)則，實(shí)現(xiàn)‘技術(shù)法律化’”[1]馬長(zhǎng)山：《邁向數(shù)字社會(huì)的法律》，法律出版社2021年版，第185頁(yè)。。如果說(shuō)法律因其剛性色彩濃厚，在代碼化過(guò)程中所面臨的困難不太突出的話，那么實(shí)現(xiàn)道德的代碼化似乎面臨更大的困難。我們知道，道德是實(shí)踐理性。一方面，道德是情境性的。雖然康德把道德作為絕對(duì)命令來(lái)認(rèn)識(shí)，但道德從來(lái)都不如法律那樣剛性，道德生活也是人們現(xiàn)實(shí)生活的一部分。如何踐行道德取決于行動(dòng)者如何把握具體場(chǎng)景，如何考慮具體場(chǎng)景中的各種因素，以及怎樣激發(fā)行為者本身的道德感。從這個(gè)意義上來(lái)說(shuō)，與法律相比，道德面臨更多不可控和不可知的因素。另一方面，道德并不完全是理性的，道德情境的激發(fā)離不開情感因素。例如，當(dāng)遇到交通事故，看到血肉模糊的景象時(shí)，我們會(huì)不由自主地生發(fā)出救人的道德情感。這種情感的激發(fā)既不是靠命令，也不是靠理性，而多是因?yàn)樘囟ǖ那榫场５?，這種情感無(wú)法轉(zhuǎn)化為代碼，無(wú)法寫進(jìn)特定程序。盡管智能機(jī)器人可以模仿人的特定表情和情感，但它始終是模仿，而不可能擁有人類的自然情感，也不可能脫離程序在具體場(chǎng)景下自然呈現(xiàn)情感。

如果前文是對(duì)智慧社會(huì)中道德存在形式的暢想，那么迫在眉睫的問(wèn)題則是對(duì)人工智能引發(fā)的道德風(fēng)險(xiǎn)進(jìn)行評(píng)估。如前所述，人工智能的廣泛應(yīng)用，既前所未有地強(qiáng)化道德，又使道德面臨重大危機(jī)。因此，我們迫切需要評(píng)估人工智能技術(shù)本身和人工智能技術(shù)應(yīng)用過(guò)程中會(huì)產(chǎn)生的風(fēng)險(xiǎn)。人工智能的迭代升級(jí)速度非?？?，本身就充滿著高度不確定性，其廣泛應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)仍未可知。在這種情況下，我們迫切需要通過(guò)專業(yè)的倫理委員會(huì)來(lái)評(píng)估人工智能的風(fēng)險(xiǎn)，尤其是其潛在的道德風(fēng)險(xiǎn)。

在風(fēng)險(xiǎn)評(píng)估的基礎(chǔ)上，我們需要對(duì)人工智能的發(fā)展及應(yīng)用進(jìn)行約束。這需要根據(jù)風(fēng)險(xiǎn)的高低程度做出不同的約束。有些約束是禁止性的，即在某些領(lǐng)域和方面，是絕不允許進(jìn)行技術(shù)開發(fā)和應(yīng)用的，例如禁止克隆人；有些約束是限制性的，例如限制克隆器官——當(dāng)且僅當(dāng)克隆器官是為了醫(yī)學(xué)目的，為了搶救病人，才是被允許的。同樣，我們必須審慎評(píng)估人工智能發(fā)展引發(fā)的隱私、公平、算法歧視等問(wèn)題，尤其是針對(duì)人工智能技術(shù)與生物技術(shù)交叉融合可能引發(fā)的更為嚴(yán)重的倫理道德風(fēng)險(xiǎn)，我們要考慮施加限制性甚至禁止性的約束，而不能任其肆意發(fā)展。

人工智能、大數(shù)據(jù)、云計(jì)算等新信息技術(shù)正日益受到世界各國(guó)的關(guān)注，各個(gè)國(guó)家都從政策、資金等方面大力扶持其發(fā)展，但這些新技術(shù)的開發(fā)無(wú)一不是由資本推動(dòng)的，而資本的目的是獲利。從這個(gè)意義上來(lái)看，即使資本意識(shí)到新技術(shù)存在某種潛在的風(fēng)險(xiǎn)，包括道德風(fēng)險(xiǎn)，但基于利益的驅(qū)動(dòng)，資本仍然可能不顧風(fēng)險(xiǎn)地開發(fā)新技術(shù)。在這種情況下，政府作為最后一道底線，就必須在專家意見的基礎(chǔ)上為資本設(shè)定限制，從政策上把人工智能技術(shù)潛在的道德風(fēng)險(xiǎn)降到最低。