“機(jī)器倫理”思想的價(jià)值與局限性

于 雪，王 前

“機(jī)器倫理”思想的價(jià)值與局限性

于 雪，王 前

“機(jī)器倫理”是當(dāng)前道德哲學(xué)與人工智能領(lǐng)域交叉的研究方向，主要研究如何在智能機(jī)器中嵌入符合倫理原則的程序，使其能在面對(duì)道德困境時(shí)做出正確的判斷和選擇。機(jī)器倫理思想的發(fā)展具有內(nèi)在機(jī)制，一方面是由于道德行為對(duì)象發(fā)生了由“人”到“非人”的轉(zhuǎn)變，另一方面以機(jī)器為中介的人與人之間的道德關(guān)系由直接關(guān)系變?yōu)殚g接關(guān)系。機(jī)器倫理思想促進(jìn)了技術(shù)設(shè)計(jì)倫理由隱性向顯性的變化，引導(dǎo)技術(shù)產(chǎn)品“負(fù)責(zé)任”地為人類服務(wù)。同時(shí)，機(jī)器倫理思想存在著將道德行為數(shù)字化、道德行為主體模糊化以及信任機(jī)制不明確等局限性。

機(jī)器倫理；顯性倫理主體；人機(jī)同構(gòu)

“機(jī)器倫理”（Machine Ethics）是一個(gè)正在興起的研究領(lǐng)域，它關(guān)注于如何使機(jī)器具有倫理屬性。最早系統(tǒng)提出機(jī)器倫理這一概念的是美國(guó)學(xué)者M(jìn)ichael Anderson，Susan Leigh Anderson 和Chris Armen，他們于2004年發(fā)表了《走向機(jī)器倫理》（Towards Machine Ethics）一文。文中明確提出，“機(jī)器倫理關(guān)注于機(jī)器對(duì)于人類使用者和其他機(jī)器帶來(lái)的行為結(jié)果”。[1]Anderson等人認(rèn)為，過(guò)去對(duì)于技術(shù)與倫理問(wèn)題的思考大多關(guān)注于人類是否負(fù)責(zé)任地使用了技術(shù)，以及技術(shù)的使用對(duì)人類而言有哪些福祉或者弊端。然而，很少有人關(guān)心人類應(yīng)該如何負(fù)責(zé)任地對(duì)待機(jī)器。機(jī)器的智能化發(fā)展使得機(jī)器負(fù)載著越來(lái)越多的價(jià)值和責(zé)任。使機(jī)器具有倫理屬性，以幫助使用者做出倫理決策，或者發(fā)展一種具有倫理意向的自動(dòng)機(jī)器以實(shí)現(xiàn)情景判斷、案例分析和實(shí)時(shí)決策的功能，已經(jīng)成為當(dāng)前人工智能領(lǐng)域研究的重點(diǎn)。然而，在機(jī)器中嵌入倫理準(zhǔn)則或道德規(guī)范會(huì)帶來(lái)一系列問(wèn)題。要澄清這些問(wèn)題，必須深入探討機(jī)器倫理的本質(zhì)特征，了解其發(fā)展的內(nèi)在機(jī)制，明確其在技術(shù)倫理學(xué)發(fā)展過(guò)程中的重要價(jià)值，同時(shí)正視可能存在的局限性。

一、何謂“機(jī)器倫理”？

所謂“機(jī)器倫理”，指的是機(jī)器發(fā)展本身的倫理屬性以及機(jī)器使用中體現(xiàn)的倫理功能，尤為關(guān)注智能機(jī)器的相關(guān)問(wèn)題。機(jī)器倫理不同于技術(shù)倫理，因?yàn)榧夹g(shù)倫理是從普遍意義上研究技術(shù)帶來(lái)的倫理問(wèn)題，這里的技術(shù)既包括物質(zhì)形態(tài)的工具和機(jī)器，也包括知識(shí)形態(tài)的技術(shù)原理、技術(shù)標(biāo)準(zhǔn)、技術(shù)經(jīng)驗(yàn)等等。機(jī)器倫理也不同于信息倫理或計(jì)算機(jī)倫理，因?yàn)楹笳吒P(guān)注于信息技術(shù)或計(jì)算機(jī)技術(shù)使用過(guò)程中的倫理問(wèn)題，是一種外在于機(jī)器的倫理。而機(jī)器倫理則強(qiáng)調(diào)在機(jī)器中嵌入符合倫理原則的相關(guān)程序，使其能夠?yàn)槭褂谜咛峁﹤惱韼椭蛘呤箼C(jī)器自身做出倫理決策，這是一種內(nèi)在于機(jī)器的倫理。

作為一個(gè)新興領(lǐng)域，機(jī)器倫理研究首先需要回答哪些問(wèn)題涉及該領(lǐng)域。在這方面，James Moor提出了“廣義機(jī)器倫理”的觀念，而Michael Anderson和Susan Leigh Anderson提出了“狹義機(jī)器倫理”的觀念。Moor的“廣義機(jī)器倫理”觀念涵蓋了一切與機(jī)器相關(guān)的倫理行為。他根據(jù)倫理因素的涉入程度，定義了五種涉及機(jī)器倫理的倫理主體（ethical agent）[1]。第一種是標(biāo)準(zhǔn)主體（Normative A-gents），即任何一種可以執(zhí)行任務(wù)、完成工作的“技術(shù)主體”（technological agents）。該主體不涉及倫理問(wèn)題，是一種中性的技術(shù)，使用者決定了它的倫理屬性。第二種是有倫理影響的主體（Ethical Impact Agents），該主體不僅執(zhí)行既定任務(wù)，同時(shí)具有倫理影響，比如卡塔爾的部分地區(qū)在駱駝競(jìng)賽中用機(jī)器牧童代替了傳統(tǒng)的男孩，從而解放了他們。前兩種倫理主體是將倫理屬性歸于機(jī)器，是倫理外在于機(jī)器的表現(xiàn)。接下來(lái)的三種倫理主體則強(qiáng)調(diào)將倫理嵌入于機(jī)器中，是倫理內(nèi)在于機(jī)器的表現(xiàn)。第三種是隱性的倫理主體（Implicit Ethical Agents），即機(jī)器的行為隱含著倫理方面的考慮。這種倫理主體自身能夠潛在地表現(xiàn)倫理行為，是因?yàn)樵O(shè)計(jì)師能夠根據(jù)某些倫理原則來(lái)進(jìn)行設(shè)計(jì)，以避免不道德的結(jié)果。這與“道德物化”思想非常相似，即技術(shù)人工物中隱含了設(shè)計(jì)師的物化的道德，以使其表現(xiàn)出道德意向。第四種倫理主體是顯性的倫理主體（Explicit Ethical Agents）。這種意義上的機(jī)器能夠識(shí)別與倫理相關(guān)的信息，篩選出當(dāng)前情境中的可能行為，并且依據(jù)內(nèi)置于其中的倫理機(jī)制來(lái)評(píng)估這些可能的行為，從中計(jì)算并挑選出最優(yōu)的倫理抉擇。第五種是完全倫理主體（Full Ethical A-gents）或稱為自動(dòng)的倫理主體（Autonomous Ethi cal Agents），即能夠高度模擬人類思維與倫理意識(shí)，在特定情境中做出判斷與選擇。這類機(jī)器的運(yùn)行完全獨(dú)立于人，是一種高度智能的機(jī)器，目前只存在于科幻電影中。比如科幻電影《機(jī)械戰(zhàn)警》中的機(jī)器人戰(zhàn)士，能過(guò)自動(dòng)識(shí)別敵人并毫不猶豫地射擊。

Michael Anderson和Susan Leigh Anderson縮小了機(jī)器倫理的研究范圍，聚焦于Moor倫理主體中的顯性倫理主體，強(qiáng)調(diào)增加機(jī)器的倫理屬性。他們認(rèn)為，機(jī)器倫理是“給予機(jī)器以倫理原則或倫理程序從而使其在面臨倫理困境時(shí)能找到解決的方法，并且使它們以一種倫理上負(fù)責(zé)任地方式運(yùn)行，并給出自己的倫理決策”[2]（P1）。機(jī)器倫理的目標(biāo)是“創(chuàng)建一類能夠遵循一種正當(dāng)?shù)膫惱碓瓌t或者一套準(zhǔn)則的機(jī)器”[3]。當(dāng)這類機(jī)器面對(duì)由自身采取的行為帶來(lái)的可能結(jié)果時(shí)，它們可以在這個(gè)原則或者這些準(zhǔn)則的引導(dǎo)下做出決定。Andersons指出，當(dāng)前機(jī)器的智能化、自動(dòng)化發(fā)展趨勢(shì)，使得我們很愿意利用它們的功能以實(shí)現(xiàn)某些目的，特別是在極度危險(xiǎn)或者環(huán)境惡劣的情況下，機(jī)器的優(yōu)勢(shì)便凸現(xiàn)出來(lái)。人類對(duì)于機(jī)器的信任需要一個(gè)前提，即機(jī)器能夠“負(fù)責(zé)任”地完成這些工作，這就需要機(jī)器自身具有倫理屬性，能夠根據(jù)實(shí)際情況進(jìn)行判斷，并執(zhí)行“有道德的”（至少是不傷害人類的）操作。對(duì)于Andersons而言，顯性的倫理主體是機(jī)器倫理思想的核心，其側(cè)重于在智能機(jī)器中嵌入人工倫理系統(tǒng)或倫理程序，以實(shí)現(xiàn)機(jī)器的倫理建議及倫理決策功能。

目前，我國(guó)部分學(xué)者對(duì)“機(jī)器倫理”涉及的哲學(xué)問(wèn)題也有所反思。段偉文區(qū)分了機(jī)器倫理與機(jī)器人倫理，并指出機(jī)器人倫理強(qiáng)調(diào)的是人類在與沒(méi)有自主性的機(jī)器人互動(dòng)時(shí)所產(chǎn)生的責(zé)任以及應(yīng)遵循的倫理準(zhǔn)則。機(jī)器倫理則試圖賦予機(jī)器以道德行為意義并有可能發(fā)展成為道德能動(dòng)者，從而以符合倫理的行為與人類相處。[4]杜嚴(yán)勇等人不區(qū)分機(jī)器倫理與機(jī)器人倫理，指出機(jī)器倫理研究的主要目標(biāo)就是讓機(jī)器具有一定的道德判斷與行為能力。[5]本文將機(jī)器倫理研究作為不同于機(jī)器人倫理學(xué)的獨(dú)立領(lǐng)域，強(qiáng)調(diào)在機(jī)器中嵌入倫理程序或者道德原則，以實(shí)現(xiàn)智能機(jī)器的顯性道德作用，使其能夠在面臨道德困境時(shí)，基于當(dāng)前的實(shí)際情況“負(fù)責(zé)任地”為使用者提供道德幫助。這里側(cè)重于顯性的道德嵌入，而非隱性的道德意蘊(yùn)，可以視為價(jià)值敏感性設(shè)計(jì)、道德物化、技術(shù)中介理論等思想的進(jìn)一步發(fā)展和拓寬。

二、“機(jī)器倫理”的內(nèi)在機(jī)制

在機(jī)器內(nèi)部嵌入以倫理原則或倫理程序，是倫理學(xué)在智能機(jī)器時(shí)代發(fā)展的必然結(jié)果。道德行為對(duì)象的拓展以及倫理關(guān)系的轉(zhuǎn)變，為機(jī)器倫理思想的發(fā)展奠定了理論基礎(chǔ)，揭示了機(jī)器有必要嵌入倫理原則或倫理程序的內(nèi)在機(jī)制。

盡管倫理學(xué)以其多樣化的形態(tài)貫穿著人類發(fā)展的各個(gè)領(lǐng)域，但其本質(zhì)是關(guān)于主體性與主體間性的學(xué)問(wèn)。當(dāng)代信息倫理學(xué)家Luciano Floridi指出，“如果我們還原到最簡(jiǎn)單的邏輯結(jié)構(gòu)，任何一個(gè)行動(dòng)，無(wú)論其是否負(fù)載道德，都是能動(dòng)者（agent）與其對(duì)象（patient）的二元關(guān)系”[6]（P61）。在倫理學(xué)中，道德能動(dòng)者（moral agent）表示道德行為的發(fā)起者，而道德對(duì)象（moral patient）則表示道德行為的接受者。倫理學(xué)家長(zhǎng)久以來(lái)的爭(zhēng)論都圍繞著“誰(shuí)”或者“什么”可以成為道德能動(dòng)者和道德對(duì)象而展開。正如德里達(dá)所指出的，看上去毫不起眼的兩個(gè)詞——“誰(shuí)”（”Who”）和“什么”（”What”）——卻大不相同。[7]（P80）倫理學(xué)起源于對(duì)人類道德行為的理解，但在古代并非所有的人都被視為具有道德能動(dòng)性的道德主體——“誰(shuí)”。比如，在荷馬史詩(shī)《奧德賽》中，只有男性首領(lǐng)具有道德地位，而他的妻子、孩子、奴隸僅被視為他所擁有的“什么”。隨著社會(huì)的不斷發(fā)展與人類觀念的解放，整個(gè)人類作為道德主體的觀點(diǎn)被普遍接受，但嬰兒以及具有精神疾病的人依然被視為人類的道德對(duì)象。隨后發(fā)展起來(lái)的動(dòng)物倫理學(xué)、環(huán)境倫理學(xué)、生態(tài)倫理學(xué)等思想，正是基于人類道德對(duì)象的概念擴(kuò)展了倫理學(xué)的研究領(lǐng)域。以辛格、雷根為代表的動(dòng)物倫理學(xué)家主張將動(dòng)物權(quán)利納入倫理學(xué)的范疇。雷根明確地提出動(dòng)物應(yīng)當(dāng)被視為道德對(duì)象，“道德對(duì)象意味著它們不會(huì)做什么事情是對(duì)的，也不會(huì)做什么事情是錯(cuò)誤的”，“它們會(huì)帶來(lái)痛苦或者死亡，也應(yīng)當(dāng)被道德能動(dòng)者盡力阻止這種傷害”[8]（P17）。以羅爾斯頓為代表的生態(tài)倫理學(xué)或自然倫理學(xué)強(qiáng)調(diào)賦予自然、環(huán)境等非人類因素以一定的道德地位，人類保護(hù)自然不應(yīng)該僅是為了自身的生存，而應(yīng)將其視為具有一定道德意義的對(duì)象，吸納其為道德共同體的成員。如果再進(jìn)一步，那么不僅應(yīng)該將動(dòng)物、環(huán)境、自然等非人因素視為道德對(duì)象，而且應(yīng)該將技術(shù)人工物、技術(shù)系統(tǒng)等因素也視為應(yīng)當(dāng)考慮與關(guān)懷的道德對(duì)象。拉圖爾用“行動(dòng)者”的概念打破了人與非人因素之間的距離，使非人的“物”有可能成為道德對(duì)象。他指出，“我使用actor，agent或actant，并不對(duì)他們可能是誰(shuí)和他們有什么特征做任何假設(shè)，他們可以是任何東西”[9]（P252）。道德對(duì)象由人到動(dòng)物再到人工物的發(fā)展，為將機(jī)器納入道德能動(dòng)者和道德對(duì)象的機(jī)器倫理思想奠定了基礎(chǔ)。

在智能技術(shù)時(shí)代，人與人之間倫理關(guān)系的變化，也成為機(jī)器倫理思想產(chǎn)生的先決條件。在傳統(tǒng)倫理學(xué)中，人與人之間的倫理關(guān)系是無(wú)涉技術(shù)的。人與人之間的倫理關(guān)系和道德行為方式是雙向直接的，即人?人。作為道德行為主體和道德對(duì)象，“人”與“人”之間直接產(chǎn)生道德影響，其倫理價(jià)值體現(xiàn)在人類自身之中。傳統(tǒng)技術(shù)倫理學(xué)的興起，將技術(shù)的問(wèn)題引入到“人?人”的倫理模式中。但是，傳統(tǒng)技術(shù)倫理學(xué)所關(guān)注的人與技術(shù)之間的倫理問(wèn)題集中在如何評(píng)價(jià)技術(shù)對(duì)人類行為的影響，以及由此產(chǎn)生的倫理道德問(wèn)題。這種道德關(guān)系體現(xiàn)為“技術(shù)→（人?人）”，即技術(shù)影響了人與人之間的道德行為方式?，F(xiàn)代智能技術(shù)的迅猛發(fā)展，使其以內(nèi)嵌于人的身體或人類社會(huì)的方式重構(gòu)了人與人之間的道德關(guān)系。人與機(jī)器的相互嵌入式發(fā)展模式，產(chǎn)生了“人?機(jī)器?人”、“（人?機(jī)器）?人”或者“（人?機(jī)器）?（人?機(jī)器）”的道德關(guān)系。作為中介環(huán)節(jié)的機(jī)器，或者作為單獨(dú)的中介元素，架構(gòu)起道德行為主體與道德對(duì)象之間的橋梁；或者與作為道德行為主體的“人”耦合，共同面向道德對(duì)象；或者人與機(jī)器的耦合物作為道德行為主體，將另外的人與機(jī)器的耦合物作為道德對(duì)象。在這幾種情況中，機(jī)器都不是作為單純的外界因素“影響著”人與人之間的道德關(guān)系，而是直接“參與著”人與人之間的道德關(guān)系。當(dāng)代智能機(jī)器在人與人的倫理關(guān)系中是負(fù)載價(jià)值的，其自身的道德屬性決定了它在倫理學(xué)中的重要地位。機(jī)器倫理思想基于機(jī)器的自身的道德屬性，賦予其在道德行動(dòng)中作為行為主體或者道德對(duì)象的地位，是很有必要的。

三、“機(jī)器倫理”的當(dāng)代價(jià)值

機(jī)器倫理思想的出現(xiàn)絕非偶然，這是機(jī)器智能化發(fā)展與倫理學(xué)理論進(jìn)步的共同需求。它不僅在理論上推動(dòng)了設(shè)計(jì)倫理由隱性到顯性的轉(zhuǎn)變，而且對(duì)于引導(dǎo)機(jī)器的良性發(fā)展使其“負(fù)責(zé)任地”為人類服務(wù)具有現(xiàn)實(shí)意義。

機(jī)器倫理思想的理論價(jià)值在于促進(jìn)了技術(shù)倫理從隱性設(shè)計(jì)倫理到顯性設(shè)計(jì)倫理的轉(zhuǎn)變。在經(jīng)典技術(shù)哲學(xué)理論中，技術(shù)與倫理的關(guān)系呈現(xiàn)出一種外在主義的傾向，即倫理外于技術(shù)而存在。一項(xiàng)技術(shù)的道德屬性取決于使用者的使用方式，技術(shù)本身被視為價(jià)值中立的。這就導(dǎo)致了技術(shù)倫理的反思只能是一種邊緣性力量，而不能真正起到降低技術(shù)風(fēng)險(xiǎn)、改良社會(huì)技術(shù)結(jié)構(gòu)的作用。隨后，技術(shù)倫理開始了由“外在進(jìn)路”（externalist approach）向“內(nèi)在進(jìn)路”（internal approach）的轉(zhuǎn)變。技術(shù)倫理的內(nèi)在主義進(jìn)路是從技術(shù)設(shè)計(jì)出發(fā)，從“上游”解決技術(shù)帶來(lái)的倫理風(fēng)險(xiǎn)，試圖從根源上嵌入倫理屬性，從而使技術(shù)人工物實(shí)現(xiàn)社會(huì)發(fā)展中的道德功能。

隨著機(jī)器倫理思想的出現(xiàn)，技術(shù)倫理內(nèi)在主義進(jìn)路開始分化為隱性設(shè)計(jì)倫理與顯性設(shè)計(jì)倫理兩個(gè)方向。價(jià)值敏感性設(shè)計(jì)、道德物化、負(fù)責(zé)任創(chuàng)新等技術(shù)設(shè)計(jì)理論可以被歸納為隱性設(shè)計(jì)倫理思想，強(qiáng)調(diào)在技術(shù)設(shè)計(jì)中“含蓄地”滲入倫理道德屬性，以盡可能避免不道德行為的發(fā)生。以機(jī)器倫理思想為代表的顯性設(shè)計(jì)倫理思想旨在“明顯地”嵌入倫理原則，使機(jī)器成為道德行為的重要環(huán)節(jié)之一，以實(shí)現(xiàn)機(jī)器增強(qiáng)人的道德意識(shí)和倫理信念的目的。

具體看來(lái)，隱性技術(shù)倫理思想與顯性技術(shù)倫理思想有三個(gè)方面的區(qū)別。首先，隱性技術(shù)倫理思想強(qiáng)調(diào)道德意義，在技術(shù)設(shè)計(jì)環(huán)節(jié)考慮道德的重要性，將道德因素作為一個(gè)標(biāo)準(zhǔn)來(lái)規(guī)約設(shè)計(jì)師的設(shè)計(jì)行為。顯性技術(shù)倫理思想則強(qiáng)調(diào)道德準(zhǔn)則和人工倫理系統(tǒng)，在技術(shù)設(shè)計(jì)中明確地嵌入道德條件和倫理情景，不僅提升了設(shè)計(jì)師在產(chǎn)品設(shè)計(jì)過(guò)程中的倫理意識(shí)，同時(shí)也增強(qiáng)了使用者在道德抉擇中的道德敏感性。其次，以“后現(xiàn)象學(xué)技術(shù)哲學(xué)”為代表的隱性技術(shù)倫理思想體現(xiàn)為一種技術(shù)的解釋學(xué)傾向。技術(shù)哲學(xué)家通過(guò)對(duì)技術(shù)人工物的功能解讀，分析其中隱含的意向性，將道德屬性解釋為技術(shù)人工物的意向訴求，并將人與技術(shù)物作為共同的意向主體面向客觀世界。而顯性技術(shù)倫理思想是通過(guò)建構(gòu)可能的倫理情景，預(yù)想倫理難題，以“事前”的方式將道德屬性明確化，使機(jī)器作為架構(gòu)人與世界的道德橋梁。最后，隱性技術(shù)倫理思想適用于絕大部分的技術(shù)人工物，所有涉及人類意向行為的“物”都寓于道德理念。機(jī)器倫理思想則注重于具有自動(dòng)化特性的智能機(jī)器、計(jì)算系統(tǒng)等。正如Moor所言，隱性倫理行為體的出現(xiàn)說(shuō)明了倫理很重要，而顯性倫理行為的出現(xiàn)則說(shuō)明機(jī)器的智能發(fā)展更加需要倫理的約束。[10]

從現(xiàn)實(shí)意義上看，關(guān)注以機(jī)器倫理思想為代表的顯性設(shè)計(jì)倫理有助于增強(qiáng)人類的自主性，避免了由“被設(shè)計(jì)”帶來(lái)的道德合法性危機(jī)。隱性的設(shè)計(jì)倫理思想主要指的是在技術(shù)設(shè)計(jì)的過(guò)程中充分考慮倫理道德的因素，力求將道德屬性寓于技術(shù)人工物之中，從而使技術(shù)人工物變得有“道德”以改善使用者的行為。然而，滲入道德的技術(shù)人工物存在著合法性的危機(jī)，因?yàn)榈赖聺B入式的設(shè)計(jì)會(huì)使得使用者喪失自主選擇的權(quán)利，從而引起對(duì)人類自由意志的挑戰(zhàn)。伊德的技術(shù)中介理論認(rèn)為，技術(shù)本身負(fù)載著價(jià)值，技術(shù)和人類構(gòu)成了共同主體，一同面對(duì)這個(gè)世界。然而，這里需要追問(wèn)的是，技術(shù)所負(fù)載的價(jià)值是否應(yīng)當(dāng)是設(shè)計(jì)者的價(jià)值？設(shè)計(jì)者是否有權(quán)利將自己的道德意識(shí)“滲入”到技術(shù)人工物之中從而使使用者被動(dòng)地接受這種“道德屬性”？使用者若被動(dòng)地接受道德結(jié)果，他們的道德訴求則不會(huì)實(shí)現(xiàn)。機(jī)器倫理思想通過(guò)設(shè)計(jì)一種程序或者制造出具有某種倫理功能的機(jī)器來(lái)實(shí)踐倫理原則，能夠使得設(shè)計(jì)師在技術(shù)設(shè)計(jì)的過(guò)程中有意識(shí)地增強(qiáng)道德維度，同時(shí)盡量保證使用者按照自身的情境有選擇地接受道德輔助，從而避免了強(qiáng)制地植入道德要求帶來(lái)的問(wèn)題。

另外，從隱性設(shè)計(jì)倫理到顯性設(shè)計(jì)倫理的轉(zhuǎn)變有助于提升公眾的道德意識(shí)，使其真正領(lǐng)悟到技術(shù)產(chǎn)品中的道德意蘊(yùn)。隱性的設(shè)計(jì)倫理是含蓄的、潛在的，對(duì)人類行為的影響只具有暗示作用。雖然潛移默化地改善使用者行為，但更多的時(shí)候使用者在不知情的情況下就被“道德”了，自身并沒(méi)有意識(shí)到所謂的倫理困境。不僅如此，隱性道德的“助推”功能試圖通過(guò)在技術(shù)設(shè)計(jì)中采取適當(dāng)?shù)拇胧┐_保使用者的選擇是最佳的，這也涉及到是否可行的現(xiàn)實(shí)問(wèn)題，比如哪些技術(shù)人工物應(yīng)當(dāng)被道德化、被賦予道德意義的技術(shù)物是否滿足市場(chǎng)的需求、所謂“有道德的”技術(shù)人工物會(huì)不會(huì)在其他場(chǎng)合成為某種制約因素從而產(chǎn)生不可估量的后果等等。機(jī)器倫理思想通過(guò)一種直接的建議行為，使使用者在遇到困境時(shí)主動(dòng)求助于機(jī)器，利用機(jī)器的計(jì)算優(yōu)勢(shì)為自己獲取更多的信息，從而做出正確的決定。這不僅有助于設(shè)計(jì)者認(rèn)識(shí)技術(shù)中的道德屬性，也有助于使用者在實(shí)際的使用過(guò)程中察覺(jué)到自身所面臨的倫理困境，從而意識(shí)到技術(shù)中所蘊(yùn)含的道德意蘊(yùn)，并主動(dòng)利用技術(shù)為自己脫離道德困境提供幫助。

四、機(jī)器倫理思想的局限性

自機(jī)器倫理的概念被提出之后，質(zhì)疑的聲音就持續(xù)不斷。機(jī)器能有道德嗎？機(jī)器是否構(gòu)成道德行為主體？我們?nèi)绾蜗嘈艡C(jī)器能在未知的情境中做出正確的判斷？機(jī)器一旦被設(shè)置了道德程序，會(huì)不會(huì)因?yàn)槌绦蝈e(cuò)誤而出現(xiàn)不道德的行為呢？這些質(zhì)疑反映了機(jī)器倫理思想可能存在的問(wèn)題，一方面，通過(guò)程序計(jì)算出來(lái)的倫理原則是否可靠，引起了對(duì)于倫理學(xué)本身是否具有可靠性的爭(zhēng)議。另一方面，具有情景判斷和倫理決策能力的機(jī)器在道德共同體中處于什么位置，是應(yīng)將其看作是道德主體還是道德對(duì)象，引發(fā)了關(guān)于道德主體與道德對(duì)象的多重性爭(zhēng)議。此外，人機(jī)互動(dòng)過(guò)程中是否可以產(chǎn)生信任機(jī)制，也挑戰(zhàn)了倫理學(xué)中關(guān)于情感與道德的根本難題。

機(jī)器倫理思想的局限性之一是其本質(zhì)上是將人類的道德行為轉(zhuǎn)換為可以計(jì)算的數(shù)字，這是對(duì)倫理可計(jì)算性的一種認(rèn)可。計(jì)算主義者認(rèn)為，可以把人類心智理解為計(jì)算，是依據(jù)規(guī)則對(duì)形式結(jié)構(gòu)的加工，即從輸入到輸出的一種映射或函數(shù)[11]（P83），是一種符號(hào)轉(zhuǎn)換行為。在他們看來(lái)，人的思維與心智都是受規(guī)則控制的，因此可以用計(jì)算術(shù)語(yǔ)進(jìn)行解釋，也可以由計(jì)算機(jī)的純形式轉(zhuǎn)化的方式加以實(shí)現(xiàn)。按照計(jì)算主義的理解，作為人類心智活動(dòng)的主要環(huán)節(jié)，倫理反思也可以通過(guò)數(shù)值輸入與輸出的程序計(jì)算方式展現(xiàn)出來(lái)。賽爾對(duì)此提出了質(zhì)疑，他用“中文屋”論證了即使計(jì)算機(jī)可以對(duì)數(shù)值、文本等信息進(jìn)行符號(hào)化處理和轉(zhuǎn)換，但是它們并沒(méi)有真正理解這些信息，“迄今為止尚無(wú)任何理由認(rèn)為，我的理解與計(jì)算機(jī)程序，即與在由純形式說(shuō)明的元素上進(jìn)行的計(jì)算操作有什么關(guān)系。只要程序是根據(jù)在由純形式定義的元素上進(jìn)行的計(jì)算操作來(lái)定義的，這個(gè)例子就表明了，這些操作本身同理解沒(méi)有任何有意義的聯(lián)系”[12]（P96-97）。換言之，計(jì)算機(jī)可以計(jì)算表征倫理道德行為的數(shù)字與符號(hào)，但它們無(wú)法理解道德行為和道德意向。機(jī)器倫理思想通過(guò)將道德行為轉(zhuǎn)化為數(shù)字符號(hào)，用道義邏輯、認(rèn)知邏輯和行為邏輯等計(jì)算手段，論證了倫理行為的數(shù)字化和符號(hào)化。這一觀點(diǎn)忽視了人的主觀能動(dòng)性，容易引發(fā)人在本體論、認(rèn)識(shí)論和經(jīng)驗(yàn)論等層面的質(zhì)疑。

機(jī)器倫理思想的局限性之二是試圖發(fā)展機(jī)器成為道德行為主體，使其與人類道德行為主體具有同樣的地位，這一觀點(diǎn)會(huì)引起道德哲學(xué)中康德主義的反駁。根據(jù)Floridi提出的道德“標(biāo)準(zhǔn)立場(chǎng)”（Standard Position），能夠接受道德能動(dòng)者道德狀態(tài)的實(shí)體都可以被視為道德對(duì)象。機(jī)器作為道德關(guān)懷對(duì)象是行得通的。機(jī)器的智能化形態(tài)使其不再是冷冰冰的物件，而似乎有了“生命”，并且以“有機(jī)的”形式為我們展現(xiàn)著它們自身的功能以及與人類的交互作用。傳統(tǒng)意義上人完全控制機(jī)器或者機(jī)器完全取代人的極端看法有待更正，當(dāng)代社會(huì)中人與機(jī)器之間的互動(dòng)更加頻繁，彼此間的相互滲透、相互嵌入更加緊密。人不僅僅是機(jī)器的設(shè)計(jì)者、使用者，也是機(jī)器系統(tǒng)中某個(gè)環(huán)節(jié)的參與者。機(jī)器也不再僅僅是被設(shè)計(jì)、改造的對(duì)象，機(jī)器也在影響人、塑造人、改變?nèi)?。機(jī)器開始成為架構(gòu)在人與人、人與自然、人與社會(huì)之間的橋梁，它成為了一種倫理中介。機(jī)器承載著越來(lái)越多的責(zé)任，其機(jī)器自身的行為也應(yīng)當(dāng)被視為道德關(guān)懷對(duì)象進(jìn)而進(jìn)行倫理視角的考慮。如果不將機(jī)器納入倫理學(xué)的范疇，那么我們將要承擔(dān)更多的風(fēng)險(xiǎn)和對(duì)未知的恐懼。因此，將機(jī)器的運(yùn)行與發(fā)展看作道德關(guān)懷對(duì)象，關(guān)注于其中的運(yùn)行規(guī)律和有機(jī)聯(lián)系，能夠更好地展現(xiàn)機(jī)器的“向善”功能，并且可以規(guī)避技術(shù)風(fēng)險(xiǎn)。但是否可以簡(jiǎn)單地將機(jī)器看作是具有道德行為能力并且承擔(dān)道德責(zé)任的道德主體，卻值得反復(fù)討論?？档抡J(rèn)為，理性與自由意志是判定道德行為體的重要特征。只有具有理性和自由意志的“存在”才可以成為道德行為主體，“唯有一個(gè)理性存在者才具有按照對(duì)規(guī)律（法則）的表象，即按照原則去行動(dòng)的能力，或者說(shuō)他具有意志”[13]（P16）。在這種意義上，一些機(jī)器倫理思想家將智能機(jī)器視為道德行為主體是不充分的。

機(jī)器倫理的局限性之三是默認(rèn)了人與道德機(jī)器之間的信任機(jī)制。對(duì)信任問(wèn)題的研究主要集中在心理學(xué)、經(jīng)濟(jì)學(xué)和社會(huì)學(xué)領(lǐng)域。倫理學(xué)中強(qiáng)調(diào)信任所包含的自我的脆弱性和他人的善良意志，是信任者向被信任者發(fā)出的倫理訴求。根據(jù)格里曼的定義，“如果A信任B，那么在一段時(shí)間內(nèi)，A在事實(shí)或法律上把與自己的利益攸關(guān)的事物X托付于（或轉(zhuǎn)讓給）B的監(jiān)管或自由支配之下，或者使B處在擁有這些權(quán)力的情境之中；同時(shí)，A期待B能夠根據(jù)A的利益看管好X，且有適當(dāng)看管好X的必要能力，而不會(huì)做出損害A的利益的事情”[14]。換言之，機(jī)器倫理思想中對(duì)機(jī)器的信任意味著當(dāng)我們把自身道德訴求托付于機(jī)器的監(jiān)管或自由支配之下，使其擁有處理我們?cè)V求的能力，并期待機(jī)器能夠根據(jù)我們的利益處置相關(guān)的道德情境提出適當(dāng)?shù)慕ㄗh，并且不會(huì)傷害我們的利益。Tavani認(rèn)為，機(jī)器倫理領(lǐng)域內(nèi)的信任問(wèn)題與倫理主體的等級(jí)相關(guān)，對(duì)不同倫理行為主體的信任度是不一樣的。自主性（autonomy）、風(fēng)險(xiǎn)/自愿性（risk/vulnerability）與交互性（interactions）是考察人機(jī)信任度的主要因素。機(jī)器的自主性越高，人機(jī)信任關(guān)系越有可能，同時(shí)信任者的風(fēng)險(xiǎn)或者自愿程度也越高。而且交互方式越直接，信任者越傾向于信任被信任者。機(jī)器倫理思想的出發(fā)點(diǎn)是默認(rèn)人與機(jī)器之間的信任機(jī)制等同于人與人之間的信任機(jī)制，這種默認(rèn)是存在風(fēng)險(xiǎn)的?；诔绦蜻\(yùn)行的機(jī)器隨時(shí)存在著被入侵或者篡改的可能，對(duì)于機(jī)器的信任需要有“度”。機(jī)器倫理思想在這一方面仍存在著不足，需要進(jìn)一步發(fā)展。

五、結(jié) 語(yǔ)

機(jī)器倫理學(xué)是一個(gè)正在興起的研究領(lǐng)域，其最終目標(biāo)是要?jiǎng)?chuàng)建一種內(nèi)置倫理原則的智能機(jī)器，它有一定的思想價(jià)值，也存在著局限性。

機(jī)器倫理思想是否可以通過(guò)技術(shù)手段實(shí)現(xiàn)？目前存在著“自上而下”與“自下而上”兩種方式?！白陨隙隆钡膫惱斫?gòu)，“運(yùn)用道義邏輯將道義論的義務(wù)和規(guī)范轉(zhuǎn)換為邏輯演算，同時(shí)通過(guò)凈利益的計(jì)算實(shí)現(xiàn)功利的算計(jì)與權(quán)衡，使機(jī)器人能夠從一般的倫理原則出發(fā)對(duì)具體的行為作出倫理判斷”；“自下而上”的倫理建構(gòu)則“通過(guò)機(jī)器學(xué)習(xí)和復(fù)雜適應(yīng)系統(tǒng)的自組織發(fā)展與演化使機(jī)器人能夠從具體的倫理情境生成普遍的倫理原則，通過(guò)道德沖突中習(xí)得道德感知與倫理抉擇的能力，最終使機(jī)器人的人工倫理能力得以從一般的人工智能中涌現(xiàn)出來(lái)?！盵4]具體看來(lái)，將機(jī)器倫理付諸于實(shí)踐的應(yīng)用程序主要存在著“基于倫理原則”或者“基于案例”的兩種程序設(shè)計(jì)形式。前者以Michael Anderson設(shè)計(jì)的基于邊沁功利主義的“Jeremy”程序和基于羅斯（W.D.Ross）顯見(jiàn)義務(wù)（prima facie duties）的“W.D.”程序?yàn)榇?，后者?McLaren設(shè)計(jì)的“說(shuō)真話”（Truth-Teller）為代表。

更難以回答的是在機(jī)器中嵌入倫理原則是否是應(yīng)該的？也即機(jī)器倫理存在的合理性論證。對(duì)計(jì)算主義的駁斥可以看作反對(duì)機(jī)器倫理思想的主要理由，其核心觀點(diǎn)是人類的道德行為無(wú)法轉(zhuǎn)換成數(shù)值加以計(jì)算，機(jī)器不能承擔(dān)道德行為主體的角色做出道德判斷和倫理決策。然而，在機(jī)器中加入明確的倫理維度，使其具有倫理決策功能和社會(huì)幫輔功能是具有合理性的。除了考慮科技進(jìn)步帶來(lái)的未知風(fēng)險(xiǎn)外，機(jī)器倫理的出現(xiàn)也反映出人機(jī)同構(gòu)的哲學(xué)本質(zhì)。出于對(duì)人類道德功能的延展，嵌入倫理原則的機(jī)器可以被視為具有道德功能的存在物。但是我們應(yīng)當(dāng)慎重考慮機(jī)器中的道德屬性該以何為底線。嵌入倫理原則的機(jī)器可以通過(guò)一種直接的建議行為，使得使用者在遇到困境時(shí)主動(dòng)求助于機(jī)器，利用機(jī)器的計(jì)算優(yōu)勢(shì)為自己獲取更多的信息，從而幫助使用者做出正確的決定。但是它不能在真正意義上完全取代人類做出道德選擇。我們要善于利用倫理機(jī)器為人類社會(huì)的發(fā)展提供良性輔助，也要警惕倫理機(jī)器的“副作用”，不能使其成為作惡的手段。

[注 釋]

①將“ethical agents”翻譯為“倫理主體”，是參照了段偉文《機(jī)器人倫理的進(jìn)路及其內(nèi)涵》一文。根據(jù)該文，agent指能夠根據(jù)其意向主動(dòng)實(shí)施某種行動(dòng)的實(shí)體或主動(dòng)的行動(dòng)者，也可被譯為“能動(dòng)者”。另外，有關(guān)Moor的五種倫理主體的翻譯也參考該文。

[1]M.Anderson，S.Anderson，C.Armen，Towards Machine Ethics：Implementing Two Action-Based Ethical Theories[C].In M.Anderson，S.Anderson，C.Armen（Eds.），Machine Ethics：Papers from the AAAI Fall Symposium，Technical Report FS-05-06.Menlo Park，CA：AAAI Press，2005：1-7.

[2]M.Anderson，S.Anderson.Machine Ethics [M].Cambridge：Cambridge University Press，2011.

[3]M.Anderson，S.Anderson.Machine Ethics：Creating an Ethical Intelligent Agent[J].AI Magazine，2007（4）：15-26.

[4]段偉文.機(jī)器人倫理的進(jìn)路及其內(nèi)涵[J].科學(xué)與社會(huì)，2015（2）：35-45.

[5]杜嚴(yán)勇.機(jī)器倫理芻議[J].科學(xué)技術(shù)哲學(xué)研究，2016（1）：96-101.

[6]L.Floridi.The Ethics of Information[M].Oxford：Oxford University Press，2013.

[7]J.Derrida.Paper Machine[M].Stanford，CA：Stanford University Press，2005.

[8]T.Regan.The Case for Animal Rights[C].InS.J.Armstrong.TheAnimalEthicsReader.London：Routledge，2003.

[9]B.Latour.ThePasteurizationofFrence [M].Havard University Press，1988.

[10]J.Moor.The nature，Importance，and DifficultyofMachineEthics[J].IntelligentSystems.IEEE.2006，21（4）：18-21.

[11]高新民、付東鵬.意向性與人工智能[M].北京：中國(guó)社會(huì)科學(xué)出版社，2014.

[12]瑪格麗特·博登.人工智能哲學(xué)[M].上海：上海譯文出版社，2006.

[13]伊曼努爾·康德.道德的形而上學(xué)[M].苗力田譯.上海：上海人民出版社，2010.

[14]格里曼.權(quán)利、信任和風(fēng)險(xiǎn)：關(guān)于權(quán)力問(wèn)題缺失的一些反思[J].哲學(xué)分析，2011（6）：3-20.

于 雪，大連理工大學(xué)博士研究生；王 前，大連理工大學(xué)博士生導(dǎo)師。