蘇令銀 許夢怡

一、引言

自動駕駛汽車有望在未來的交通運輸系統(tǒng)中發(fā)揮關(guān)鍵作用。它們將產(chǎn)生全球性影響，改變社會以及道路和交通系統(tǒng)的安全。對于公共道路上的自動駕駛汽車的討論，技術(shù)視角只是其中一個方面。未來的自動駕駛汽車將不得不做出對人類來說在道德上難以做出的決定，而工業(yè)領(lǐng)域和學(xué)術(shù)研究尚未提供圓滿的解決方案。汽車制造商目前關(guān)注的焦點是將倫理準(zhǔn)則嵌入自動駕駛汽車的軟件中。

“電車難題(Trolley Problem)”是倫理學(xué)領(lǐng)域最為知名的思想實驗之一。最早是由哲學(xué)家菲利帕·福特(Philippa Foot)于1967年提出來的。菲利帕·福特在她的論文《墮胎問題和雙重效應(yīng)主義》中，首先清楚地闡述了當(dāng)我們將意圖和遠(yuǎn)見相結(jié)合時出現(xiàn)的哲學(xué)困境。在這篇論文中，福特提出了一個外科醫(yī)生的例子，她在對分娩中的母親進行手術(shù)時，必須在以下兩種試圖挽救她生命的方法之間做出選擇：一是進行子宮切除術(shù)，同時預(yù)見到一個額外的后果將是胎兒死亡；二是進行后期流產(chǎn)，直接結(jié)束胎兒的生命。經(jīng)典“電車難題”的大致內(nèi)容是：假設(shè)在一個電車軌道上綁了5個人，備用軌道上綁了1個人，有一輛失控的電車飛速駛來。而你身邊正好有一個搖桿，你可以推動搖桿來讓電車駛?cè)雮溆密壍?，殺死?個人，救下5個人；你也可以什么都不做，殺死5個人，救下1個人。此類倫理困境問題被稱為“電車難題”。現(xiàn)有的文獻中包含了許多具有這種基本結(jié)構(gòu)的變形案例。朱迪斯·賈維斯·湯姆森(Judith Jarvis Thomson)將這些變形案例統(tǒng)稱為“電車難題”(1)Thomson,J.J.，“Killing,letting die,and the trolley problem”，The Monist,1976，59(2)，pp.204-217.。在這些電車難題的早期討論之后，出現(xiàn)了一整套討論道德直覺、意圖和我們預(yù)見行為后果的能力之間關(guān)系的文獻。道德哲學(xué)的許多工作都旨在明確我們在這些情況下應(yīng)該做什么。在流行文化中也充分利用了這種困境。例如，蝙蝠俠在《黑暗騎士》(2008)中拯救公眾英雄哈維·丹特(Harvey Dent)和他的戀人瑞秋·道斯(Rachel Dawes)之間的悲劇選擇；柯克船長試圖成功完成沒有勝利的小林丸訓(xùn)練。在很多情況下，這些道德選擇架構(gòu)被作家用來梳理觀眾的道德直覺。

這些電車難題不僅僅出現(xiàn)在學(xué)術(shù)文獻和小說作品中。在自動化、大數(shù)據(jù)、人工智能時代，我們在現(xiàn)實世界中也不斷面臨著這些場景。自動駕駛汽車已經(jīng)出現(xiàn)，自動駕駛汽車已經(jīng)被證明可以成功地減少交通擁堵，降低交通事故率，甚至顯示出比人類駕駛員更強的導(dǎo)航效能(2)Chen,B.,Sun,D.,Zhou,J.,Wong,W.,&Ding,Z，“A future intelligent traffic system with mixed autonomous vehicles and human-driven vehicles”，Information Sciences,2020(529),pp.59-72.。自動駕駛汽車的早期使用也暴露了它們的一些弱點和根本缺陷，以及我們對它們維持有意義的控制的脆弱能力(3)Calvert,S.C.,Heikoop,D.D.,Mecacci,G.,&van Arem,B，“A human centric framework for the analysis of automated driving systems based on meaningful human control”，Theoretical Issues in Ergonomics Science,2020，21(4)，pp.478-506.。僅僅擔(dān)心電車難題中軌道分叉的日子早已一去不復(fù)返。在我們的社會技術(shù)世界中，技術(shù)產(chǎn)品已經(jīng)與我們的生活、組織、機構(gòu)和政策不可分割地聯(lián)系在一起，這造成了一個道德困境。如果自動駕駛汽車為了避免撞到亂穿馬路的行人而撞到墻上，導(dǎo)致司機死亡，那么誰應(yīng)該承擔(dān)道德責(zé)任呢？比如，當(dāng)一輛自動駕駛汽車駛進隧道時，一個人突然出現(xiàn)在道路上，碰撞不可避免，這就面臨著兩種選擇：要么是汽車輾過了那個人，撞死了他；要么是汽車突然轉(zhuǎn)向撞上了隧道的墻壁，導(dǎo)致車內(nèi)乘客的傷亡。此時這輛自動駕駛汽車應(yīng)該怎么做？兩種選擇情況可能看似相似，但卻會導(dǎo)致直覺上的沖突。究竟應(yīng)該如何理解這些相互矛盾的直覺？雖然電車事故的討論起源于電車難題，但近年來，在自動駕駛汽車事故中，涉及“電車難題”的討論卻面臨著一系列困境。這些問題很難回答。這表明在我們的社會技術(shù)領(lǐng)域，對電車難題及其進一步的更基本的結(jié)構(gòu)問題的思考是普遍存在的。鑒于我們對技術(shù)創(chuàng)造的控制力不斷減弱，更清楚地知道誰對它們的設(shè)計負(fù)責(zé)，以及它們是如何設(shè)計的就是至關(guān)重要的。

電車難題一直以來被廣泛認(rèn)為是自動駕駛汽車倫理問題的核心挑戰(zhàn)?？此萍兇饧僭O(shè)的兩難境地即將成為現(xiàn)實。不久之后，自動駕駛汽車可能必須決定其所造成的事故危害如何分擔(dān)、責(zé)任如何承擔(dān)等。因此，電車難題有了活生生的電車事故案例，以及大量出臺的政策文件和發(fā)表的研究文獻(4)Bonnefon JF,Shariff A,Rahwan I，“The social dilemma of autonomous vehicles”，Science,2016(352),pp.1573-1576；Fleetwood J，“Public health,ethics,and autonomous vehicles”，American J Public Health,2017(107),pp.532-537;Gogoll J,Müller JF，“Autonomous cars:in favor of a mandatory ethics setting”，Sci Eng Ethics,2017(23),pp.681-700;郭喨、唐興華：《“無人駕駛”的雙重悖論及其解決》，《中國社會科學(xué)報》2019年2月12日，“科學(xué)與人文”版;王前：《“電車難題”的“道德物化”解法》，《中國社會學(xué)報》2020年9月1日，第4版。。越來越多的學(xué)者對電車難題構(gòu)成自動駕駛汽車倫理準(zhǔn)則建構(gòu)之核心挑戰(zhàn)的觀點提出了反駁(5)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars:an applied trolley problem?”，Ethical Theory Moral Pract,2016(19),pp.1275-1289.。事實上，日常情境(如人行橫道或十字路口轉(zhuǎn)彎)下的自動駕駛才會引發(fā)更加重要的道德挑戰(zhàn)。首先，電車難題可以審查自動駕駛汽車的道德原則。其次，電車難題在審查自動駕駛汽車道德原則方面的作用是有限的。這里主要討論在建構(gòu)自動駕駛汽車倫理原則的過程中，電車難題面臨的四個困境，其中一些困境之前已經(jīng)有學(xué)者提出。這里討論的困境更普遍地針對日常情境下自動駕駛汽車電車難題提出，但在自動駕駛汽車倫理原則中尚未真正運用電車難題(6)Kagan S.,“Solving the trolley problem”，Rakowski E(ed)，The trolley problem mysteries，Oxford：Oxford University Press,2016.。再次，日常情境下自動駕駛汽車的實際道德選擇對倫理準(zhǔn)則的建構(gòu)更加具有相關(guān)性?？傊?，電車難題的情況雖然很重要，但根據(jù)自動駕駛汽車倫理探究的現(xiàn)狀，相對于日常情境而言，電車難題的重要性往往被過分夸大了。與電車難題不同，日常情境下的道德相關(guān)性很容易被忽視。

二、“電車難題”的合理性

電車難題是一種理想化的情況，在這種情況下，能動者必須在可能導(dǎo)致不可避免的事故傷害如何分配的兩種行為之間做出決定。具體來說，作為電車難題至少要滿足三個條件。首先，在電車難題情況下，碰撞是迫在眉睫和不可避免的(7)考慮到自動駕駛汽車的狀況，這里將討論限制在碰撞上，并根據(jù)對危害的分配來討論更普遍的倫理原則。。第二，能動者能夠選擇如何分配由于碰撞而產(chǎn)生的傷害。第三，實際決策情況是確定的，因此能動者可以在結(jié)果之間做出選擇。(8)尼霍姆等認(rèn)為在自動駕駛汽車面臨的現(xiàn)實中這三個假設(shè)都沒有得到滿足，因此電車難題的案例并非好的類比。

電車難題至少在四個方面是有價值的：它們可以用于電車事故討論；可以用于道德實驗范式；可以作為倫理教學(xué)工具；也可以用來揭示和說明社會倫理困境。具體分析如下：

首先，電車難題可以用于電車事故的討論。在電車難題中，人們會問自己在兩種或兩種以上看似相似的不同電車案例情況下如何決定。盡管案例之間在結(jié)構(gòu)上有某些相似之處，但個體往往會對“應(yīng)該如何決策”做出相反的直覺判斷。電車難題是系統(tǒng)地尋找一個原則來回答該如何解釋兩種情況下的道德差異問題。換句話說，電車難題是對多個電車事故情境中應(yīng)該如何對這些案例進行反思和相互對照，以揭示道德差異并告知人們必要的道德原則。最終的決策在道德上有什么不同？是應(yīng)該把人當(dāng)做目的從而拯救更多的人，還是應(yīng)該把一部分人當(dāng)作拯救另一部分人的手段來看待？通過這種對比方法，電車難題得到了非常廣泛的應(yīng)用，并導(dǎo)致了微妙而復(fù)雜的規(guī)范倫理的發(fā)展。

其次，電車難題可以用在道德實驗范式中。通過這種方式，電車難題被用來作為一種系統(tǒng)激發(fā)個體道德直覺的方式。受試者被問及在一個或多個電車難題中他們會做什么。當(dāng)在道德實驗范式中使用電車難題時，電車難題也是思想實驗。作為思想實驗，它可以幫助人們仔細(xì)考查一組相關(guān)的考慮事項(9)帕垂克·林(Patrik Lin)認(rèn)為，電車難題的目的是為了簡化問題，從而分離和研究某些變量。。所涉人員的年齡、身份以及具體情況是如何產(chǎn)生的等諸事實都被抽象出來了。但在道德實驗范式中使用電車難題與在電車事故中使用電車難題是不同的。例如，在一個道德實驗范式中，電車難題的實驗?zāi)康耐ǔ１徽J(rèn)為是存在分離性的，道德實驗范式旨在引出直覺并將其用作數(shù)據(jù)或證據(jù)，而不是反映案例之間的道德差異。相比之下，電車難題主要不是關(guān)于個別情況下的直覺，而是關(guān)于明顯相似情況下直覺的差異。當(dāng)在道德實驗范式中使用電車難題時，實驗者可以系統(tǒng)地大量收集人們對于電車難題中的直覺，以便更好地理解關(guān)于如何依賴于情境的變化而做出相對重要性的判斷。最值得注意的是，電車難題已被用于道德心理學(xué)的實驗范式(10)Greene JD,Cushman FA,Stewart LE,Lowenberg K,Nystrom LE,Cohen JD，“Pushing moral buttons:the interaction between personal force and intention in moral judgment”，Cognition，2009(111)，pp.364-371.。同樣，在討論自動駕駛汽車的倫理準(zhǔn)則時，電車難題被用作可分離的決策情境，要求個人對“應(yīng)該如何決策”做出直覺判斷。在這種情況下，道德機器研究也往往使用電車難題(11)http://moralmachine.mit.edu.。

再次，自動駕駛汽車中的電車難題是一種有效的倫理學(xué)教學(xué)手段。一方面，在倫理學(xué)教學(xué)中，電車難題思想實驗經(jīng)常被拿來應(yīng)用，原因在于它提出了一個悲劇性的選擇，向人們灌輸了一種道德緊迫感。因此，關(guān)于自動駕駛汽車倫理原則更廣泛的討論都從對電車難題的描述開始。另一方面，在倫理學(xué)教學(xué)實踐中，電車難題能夠很好地吸引學(xué)生，并激發(fā)他們開展思辨性的討論。此外，電車難題還有助于讓那些不具備相應(yīng)哲學(xué)背景的人參與到關(guān)于道德議題的對話中來?？傊辽僭谀承┨囟ǖ那闆r下電車難題成功地激發(fā)了人們對道德問題的深入思考。

最后，在自動駕駛汽車的背景下，電車難題揭示了一個重要的社會倫理困境。電車難題揭示了個人的道德觀和他的策略動機是如何沖突的。自動駕駛汽車的“電車難題”場景是，如果出現(xiàn)事故，汽車是優(yōu)先保護車?yán)锏某丝投蚕蛐腥?，還是優(yōu)先保護路上的行人而讓車?yán)锏某丝拖萑胛ｋU。這就離不開道德方面的考量。在現(xiàn)實生活中，很多人可能會像美劇《上載新生》里面的未婚夫一樣，對于把自動駕駛汽車模式從“優(yōu)先保護行人”切換到“優(yōu)先保護車內(nèi)乘客”沒有任何內(nèi)疚感。如果自動駕駛汽車基于合乎社會道德價值觀的決策(即利他性決策)而傾向于“優(yōu)先保護行人”，那么，大多數(shù)人就都會不愿意使用自動駕駛汽車，因為自動駕駛汽車做出的決定盡管符合他們道德上的認(rèn)同(即利他性決策)，但最終卻不傾向于保護車上的乘客(自己)。當(dāng)然，也許有的人更善良，讓自動駕駛汽車保持“優(yōu)先保護行人”的模式。無論選擇哪種模式，車內(nèi)的乘客都不難想象兩種模式的后果，對后果的想象可能促使人們選擇不同的模式。這就是一個社會倫理困境，因為它可能會阻礙自動駕駛汽車的技術(shù)轉(zhuǎn)型，并阻礙隨之而來的安全技術(shù)改進。在這種社會倫理困境下電車難題是有價值的，因為它揭示了一個重要的道德決策問題。

三、“電車難題”的現(xiàn)實困境

盡管電車難題有許多有用之處，它同樣存在令人擔(dān)憂的困境，提醒人們不要過度依賴電車難題來審查自動駕駛汽車的倫理準(zhǔn)則。首先，作為思想實驗，電車難題往往建立在相互矛盾的假設(shè)基礎(chǔ)上。其次，電車難題的思想實驗是與特定的倫理設(shè)計框架相銜接的。第三，電車難題往往最終會給出錯誤的抉擇。電車難題本質(zhì)上尋求的應(yīng)該是政治上的社會選擇，而實際給出的卻是道德上的個人抉擇。最后，電車難題作為一種收集人們直覺的方法，其有效性受到了質(zhì)疑。

不可否認(rèn)，有人可能會反對電車難題，認(rèn)為它不應(yīng)該做人類自認(rèn)都無法做到的事情。然而，電車難題最初是用來解決電車事故的，其方法已得到嚴(yán)格審查。相比之下，在自動駕駛汽車領(lǐng)域，電車難題有不同的方法論。它們似乎被用作一個模型來幫助審查相關(guān)的倫理挑戰(zhàn)。這里主要是對這個模型在自動駕駛汽車倫理原則建構(gòu)中的充分性進行討論，并不是說必須要拋棄這種模型。相反，在意識到該模型的局限性之后，我們應(yīng)該謹(jǐn)慎地運用該模型，并且只能在有限的范圍內(nèi)使用它，防止過度依賴這一模型進行自動駕駛汽車倫理原則的建構(gòu)。

(一)在前提假設(shè)上，電車難題存在基本假設(shè)的矛盾性

電車難題的基本假設(shè)可能相互矛盾。電車難題的基本假設(shè)可能是不一致的，這種不一致性是建立在語義而不是語法的一致性概念上。我們可以把這種語義上的一致性理解為可組合性。當(dāng)存在一種可能性時，這些基本假設(shè)是可組合的，我們就可以將其理解為一個可能的世界，其中每個假設(shè)都是正確的。而電車難題中的基本假設(shè)在語義上也許是不可組合的，因為它對可能性是有一定限制的。應(yīng)該承認(rèn)電車難題的基本假設(shè)是可組合的。也就是說，如果沒有對可能情況的限制，存在認(rèn)知上可能的電車難題的情況就會發(fā)生。相反，電車難題的情況在有限可能性(人們也稱之為技術(shù)可能性)意義下卻往往又是難以實現(xiàn)的。

電車難題中存在兩個必要假設(shè)。第一個假設(shè)是碰撞必須是迫在眉睫且不可避免的。第二個假設(shè)是處于這種情況下的行為人必須對不可避免的傷害分配作出選擇。簡言之，只有當(dāng)碰撞不可避免時才會是電車難題發(fā)生的情況，但無論如何有意義的選擇都是可能的。這些假設(shè)分別被稱為不可避免性和控制性。但在合理的約束條件下這兩個假設(shè)無法同時得到滿足。首先，在關(guān)于自動駕駛汽車的工程設(shè)計及其故障模式的假設(shè)下，如果兩個假設(shè)中一個是正確的，那么另一個似乎就是錯誤的。假設(shè)自動駕駛汽車的故障模式是彼此相關(guān)的，當(dāng)系統(tǒng)的一部分失效時，另一部分也可能失效，這可能就會面臨有意義的選擇。碰撞也可能是可以避免的或者是不可避免的，但是無法選擇如何分配傷害，因為車輛已經(jīng)失去控制。這兩個關(guān)于電車難題的基本假設(shè)之間似乎存在著內(nèi)在張力?？紤]電車情況之前會發(fā)生什么，其中一種選擇是車輛會遭遇完全的系統(tǒng)故障而導(dǎo)致碰撞不可避免。在這種情況下，碰撞可能是不可避免的，但同時自動駕駛汽車也不能做出有意義的選擇。這說明如果假定故障模式相關(guān)，控制和不可避免性這兩個假設(shè)是相互矛盾的。

當(dāng)然，在電車難題的情況下可能不會出現(xiàn)完全的系統(tǒng)故障。事實上系統(tǒng)故障模式似乎不可能完全相關(guān)。然而考慮到一些合理的狀況，人們對電車難題前后矛盾的擔(dān)憂依然存在。與其假設(shè)故障模式之間的相關(guān)性，不如假設(shè)車輛是完全正常的，并且行人意外地出現(xiàn)在車輛的路徑上。這一情況有兩個選項，可以把它們稱為低速和高速場景。在低速情況下，有足夠的時間進行有意義的選擇。假設(shè)碰撞是不可避免的，這樣一來控制和不可避免的假設(shè)都是正確的。然而，低速的情況并不是通常的電車行駛情況，不同的人所受到的傷害在具體情形上是有差異的。比如，如果行人被撞擊很可能會死亡，但當(dāng)車撞到墻上時車內(nèi)的乘客可能只是會受傷。與一般電車情況不同的是，這種情況會同時改變幾個因素，而不是幾乎所有因素都保持不變。這可能會削弱其作為電車情況的有效性。在高速行駛的情況下所造成的危害在物理上是平等的，這似乎是合理的。行人和車輛內(nèi)的乘客都將死于碰撞。這種情況將滿足碰撞不可避免的假設(shè)，但這種情況可能與控制假設(shè)不一致。導(dǎo)致車內(nèi)乘客死亡所需的速度可能很高，以至于沒有足夠的手段來避免碰撞，這再次表明在一個有意義選擇的假設(shè)與不可避免的碰撞之間存在著一種內(nèi)在的張力。

總之，通過假設(shè)故障模式的相關(guān)性或者通過考慮電車難題發(fā)生的合理方式，似乎在有意義的選擇和不可避免的碰撞之間存在一種張力，這實際上削弱了電車難題與自動駕駛汽車倫理原則建構(gòu)的相關(guān)性。如果論證是正確的，電車難題就很難代表可能發(fā)生的情況；對車輛的控制和不可避免的碰撞不能很好地同時進行，工程上的限制似乎沒有給電車本身留下多少空間。當(dāng)然，這種擔(dān)憂沒有影響電車難題的理論優(yōu)勢。人們將基本假設(shè)的一致性作為基于電車難題低頻率論證的改進版本來考慮是不夠合理的。(12)一些人反對電車難題，理由是它們很少見。即使引發(fā)電車事故的情況很少見，但從長遠(yuǎn)來看它們肯定會發(fā)生。不管這些情況是否真的發(fā)生，自動駕駛汽車仍然需要編程，以某種方式或選擇來為不可避免的碰撞做好準(zhǔn)備。

(二)在方法論上，電車難題框架設(shè)計導(dǎo)致倫理范圍的局限性

電車難題所能闡明的倫理范圍的限制是電車難題往往適用于特定的設(shè)計方法，而這導(dǎo)致了兩個限制。首先，不同設(shè)計方法之間的倫理差異并沒有被電車難題所闡明。其次，電車難題的審查可能與實際工程實踐相脫節(jié)，工程師們可能會采用與電車難題最相關(guān)的相反的方法。

電車難題采用的是自上而下的自動化決策或人工智能方法。這種方法類似于深思熟慮的、有意識的演繹決策過程。采用這種自上而下方法開發(fā)人工智能的目的是實現(xiàn)直接指導(dǎo)給定過程的原則。這種自上而下的設(shè)計方法與自下而上的方法形成了對比，自下而上的方法借助于學(xué)習(xí)行為(例如神經(jīng)網(wǎng)絡(luò))，它類似于相當(dāng)直觀和無意識的決策。在自下而上的過程中做出選擇的原因通常是難以理解和解釋的，因為選擇不是基于明確的決策規(guī)則或原則。因此，電車難題很自然地采用了自上而下的設(shè)計方法。這種自上而下的方法體現(xiàn)在電車難題中，就是其假設(shè)一個能動者通過利用一般原則而明確地做出決定。這種自上而下的方法具有某些受歡迎的特性。

當(dāng)然，采用自上而下的方法本身也會引發(fā)倫理問題。例如：考慮到在任何情況下、任何時候所有決策都是由自動駕駛汽車做出的，乘客是否應(yīng)該對這些決策有發(fā)言權(quán)呢？這些問題無法用電車難題的答案來解釋。然而，對于自動駕駛汽車在工程領(lǐng)域?qū)⒚媾R的大多數(shù)挑戰(zhàn)，都需要做出設(shè)計決策。這些決定可能會對自動駕駛汽車的性能和社會接受這項技術(shù)的程度產(chǎn)生嚴(yán)重影響。有些人甚至認(rèn)為，道德上最重要的決定……是在計劃階段，即當(dāng)決定如何對自動駕駛汽車進行編程時(13)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars: an applied trolley problem?”，Ethical Theory Moral Pract，2016(19),p.1280.。由于他們無法闡明設(shè)計問題，電車難題受到了嚴(yán)重的限制。這提醒人們，在調(diào)查自動駕駛汽車的道德問題時，不要只關(guān)注電車難題。此外，鑒于目前以神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法形式出現(xiàn)的自下而上方法在人工智能領(lǐng)域的突出地位，倫理方法與工程方法之間存在不可通約性的風(fēng)險。工程師可能會采用與電車難題最自然相關(guān)的方法相反的方法(14)盡管有這些限制，但電車事故的案例在這里還是發(fā)揮了倫理學(xué)教學(xué)的作用。。

(三)在本體論上，電車難題是道德問題而非政治問題

電車難題似乎導(dǎo)致了錯誤的解決方案。電車難題的解決方案包括行動的選擇和這種選擇的正當(dāng)性，這種選擇通常采用抽象規(guī)范理論的形式(15)因此，電車事故的處理方法與電車難題的方法有很大的不同，電車難題的目的是制定普遍的道德原則。。簡言之，電車難題被認(rèn)為是道德問題。但這在錯誤的層面上定位了這一問題。相反，對于自動駕駛中的電車難題，人們需要在政治層面上找到解決辦法。道德哲學(xué)是對個人行為的反思，政治哲學(xué)則是對實質(zhì)分歧背景下的社會安排的一種反思。電車難題的解決方案似乎不太可能得到廣泛的社會認(rèn)可。在這種進退兩難的情況下，什么才是正確的選擇是有爭議的，而且這種分歧很大。應(yīng)該如何處理道德問題上廣泛而深刻的分歧卻引發(fā)了一個政治選擇問題。面對道德分歧和價值多元主義，政治哲學(xué)家們反思了治理共同生活的不同模式。政治方法以現(xiàn)有的觀點和價值觀的多樣性為出發(fā)點，它與電車難題中道德哲學(xué)的方法形成了對比。電車難題沒有為這種多元主義留出空間，因為它的目的是引發(fā)個體的道德選擇。電車難題促使人們做出個人選擇，而實際上人們面對的卻是社會選擇。人們似乎需要的是一種政治妥協(xié)，以克服在價值問題上的分歧。只要人們重視政治群體的道德多樣性，就應(yīng)該認(rèn)識到自動駕駛汽車主要應(yīng)該是一個社會政治決策問題，而不是個體道德選擇問題。

(四)在認(rèn)識論上，電車難題存在不確定性，其證據(jù)價值存疑

為了便于討論，假設(shè)人們要找到電車難題的解決方案，而且?guī)缀跛腥硕纪膺@個解決方案。然而，在確定自動駕駛汽車的倫理議題設(shè)置時，這種解決方案的幫助仍然有限。這是因為電車難題尤其是更普遍的電車難題存在各種認(rèn)識論問題。

首先，一種電車難題的解決方案可能不適用于其他新情況。在一種情況下看似正確的選擇，在另一種情況下可能變成錯誤的選擇。電車難題通常規(guī)定所有相關(guān)的個人情境都是相同的。但是哪怕細(xì)小的個體情境的改變可能都很重要。根據(jù)參與者的年齡、他們與他人的關(guān)系、他們在特定交通情況下的責(zé)任，人們都可能想要做出不同的選擇。更普遍地說，一個給定的道德選擇或原則是否能從一種情況擴展到另一種情況，本身就是一個道德問題。

其次，電車難題的解決方案可能不會擴展到不確定性的決策。人們做出的所有決定——以及自動駕駛汽車必須做出的任何決定——都只能以概率的形式恰當(dāng)?shù)乇硎境鰜?。相比之下，電車難題以兩種方式假定確定性。首先，他們假設(shè)面臨決策的能動性確定沖突是不可避免的。但是，認(rèn)識到碰撞是否不可避免并非無關(guān)緊要，它本質(zhì)上是一個概率問題。因此，存在一個情況不確定性的問題。其次，作為一種理想化，電車難題規(guī)定人們選擇的結(jié)果是確定的。但事實上，選擇的結(jié)果也是一個概率問題。因此，電車難題并不代表決策的不確定性。對于這兩種不確定性中的任何一種都會出現(xiàn)以下問題，即不清楚確定性的決策原則是否以及如何擴展到不確定性的決策；在確定的情況下容易做出的決定，在不確定的情況下會變得困難得多，并且在道德上充滿了不確定性。不確定性給一系列規(guī)范理論帶來了深層次的問題。這在相關(guān)文獻中已經(jīng)有所體現(xiàn)(16)Jackson F,Smith M,“The implementation problem for deontology”，In:Lord E,Maguire B(eds)，Weighing reasons，Oxford：Oxford University Press,2016,pp.279-292.。然而，在解決這些不確定性問題時，對電車難題的反思只能提供有限的幫助。弗雷德(Fried)甚至得出這樣的結(jié)論：幾十年來，人們對電車難題的關(guān)注所產(chǎn)生的各種道德準(zhǔn)則中，沒有一個能夠處理其中的普通風(fēng)險問題(17)Fleetwood J，“Public health, ethics,and autonomous vehicles”，American J Public Health，2017(107)，p.506.。

最后，在高度抽象的決策情境下做出的直覺判斷的證據(jù)價值令人懷疑。人們對想象中的情況作出道德判斷的能力會減弱，因為這些情況是高度理想化和抽象化的，因此與人們所熟悉的日常環(huán)境非常不同。人們對電車難題的直覺會對根本沒有任何真正道德意義的因素做出反應(yīng)。這一論點使人們對電車難題作為一種獲取證據(jù)的方式，以及在自動駕駛背景下為汽車道德決策提供信息的作用提出了質(zhì)疑。

綜上所述，電車難題并不是解決自動駕駛汽車倫理問題的核心。這里已經(jīng)闡述了四個方面的擔(dān)憂。首先，電車難題假設(shè)可能是不一致的，這可能導(dǎo)致它們的實用性受到實際限制。其次，電車難題往往與自上而下的設(shè)計方法相結(jié)合。因此，它們將重要的設(shè)計決策排除在視野之外，并且它們可能與當(dāng)前人工智能領(lǐng)域的主要方法不連續(xù)。第三，當(dāng)社會需要政治解決方案時，電車難題能夠給出的卻只是道德解決方案。第四，即使人們找到了一個所有人都能接受的解決方案，由于某些原因使得這種解決方案的幫助也有限。比如，一種電車難題的解決方案是否會延續(xù)到另一種情況尚不清楚；基于電車難題的審查可能無法提供關(guān)于情境不確定性和決策不確定性的信息；假設(shè)人們的直覺只在熟悉的環(huán)境中起很好的引導(dǎo)作用，那么電車難題的理想化可能會弱化直覺的證據(jù)價值。以上都說明了電車難題在審查自動駕駛汽車道德問題方面的局限性。

四、日常情境中自動駕駛的倫理挑戰(zhàn)

我們應(yīng)該為自動駕駛汽車的道德原則建構(gòu)提供一個積極的愿景。日常的交通狀況，比如接近能見度有限的人行橫道、遇到迎面駛來的車輛時左轉(zhuǎn)、以及通過繁忙的十字路口等都會對自動駕駛汽車提出重要的道德問題。與這些日常情境相關(guān)的倫理問題范圍十分廣泛，包括風(fēng)險管理技術(shù)、社會正義問題，以及整個交通系統(tǒng)層面出現(xiàn)的倫理挑戰(zhàn)(18)Borenstein J,Herkert JR,Miller KW，“Self-driving cars and engineering ethics:the need for a system level analysis”，Sci Eng Ethics，https://doi.org/10.1007/s11948-017-0006-0(2017).。當(dāng)然，這里關(guān)注的主要是駕駛策略問題。

首先，對于自動駕駛汽車來說，在日常情境下的駕駛策略具有挑戰(zhàn)性。人類可以憑直覺做決定，而機器卻不能憑直覺作出決定。這就是一種特殊性的挑戰(zhàn)，也是眾所周知的“莫拉維克悖論”的一個例子：對人類來說容易的東西對自動化系統(tǒng)來說卻很難。人們憑直覺決定自己需要多么小心地駕駛。然而，這種直觀的感覺或訣竅并不容易轉(zhuǎn)化為自動化算法。人們理解祈使句“慢下來”的意思，但是它的意思卻很難精確，因為它取決于不同的情境和環(huán)境參數(shù)，比如，此刻后面有沒有另一輛汽車？這一街區(qū)上有多少行人？準(zhǔn)確地闡明駕駛策略的難度表明，在這種普通情況下采用自上而下的方法實施車輛行為不太可能成功。這一方法通過誘導(dǎo)性地復(fù)制人類駕駛員的實際行為來告知車輛的行為策略很難避免特殊性的挑戰(zhàn)。關(guān)于人類駕駛員的實際行為的數(shù)據(jù)往往存在偏見等突出問題。人類駕駛員的實際行為受文化、地理差異等因素的顯著影響，并且在年齡、種族等方面往往具有歧視性。此外，由于行人對自動駕駛汽車的行為可能與他們對人類駕駛汽車的行為反應(yīng)不同，因此，對人類駕駛員實際行為的復(fù)制并不能充分解決自動駕駛汽車可能被行人策略性利用的難題。其次，除了特殊性的挑戰(zhàn)，還有規(guī)模性的挑戰(zhàn)。對于人類駕駛員(尤其熟練的駕駛員)來說，在日常的交通狀況下如何最恰當(dāng)?shù)伛{駛，通常是不需要專門去思考的問題。這不僅是因為日常情境很容易直觀地處理，而且還因為每個人開車的方式——只要我們稍微合理地開車——總體上沒有多大區(qū)別。相比之下，自動駕駛汽車在日常情境下的駕駛行為選擇本質(zhì)上關(guān)涉的是普遍的社會政策，絕非個體的道德選擇問題。因為，自動駕駛汽車如何接近人行橫道的決策不僅影響一輛車的行為，還影響所有以這種方式編程的車輛在所有人行橫道上的行為?？梢姡粘Ｇ榫诚碌淖詣玉{駛的情況就不再是一個小問題，而是一個社會大問題。關(guān)于自動駕駛行為的小差異將在總體上產(chǎn)生很大的差異。由于日常情境的自動駕駛行為經(jīng)過學(xué)習(xí)訓(xùn)練后就經(jīng)常發(fā)生，由此造成的統(tǒng)計性傷害和死亡可能相當(dāng)大。特殊性和規(guī)模性的挑戰(zhàn)，使得日常情境與自動駕駛汽車的倫理原則建構(gòu)是密切相關(guān)的。人類駕駛員在風(fēng)格上可以是多樣的，在決策上也可以是直覺的。但是，自動駕駛汽車的風(fēng)格將是統(tǒng)一的，而且在使用方法上必須是具體落地的。

在此背景下，我們確定三種方式并在日常情境下提出與道德相關(guān)的問題。首先，使自動駕駛汽車盡可能安全的優(yōu)化問題。其次，在安全性和其他價值之間存在權(quán)衡，如機動性、環(huán)境保護和可承擔(dān)性。第三，現(xiàn)有的法律框架如何適應(yīng)自動駕駛汽車產(chǎn)生的法律問題，如法律的激勵性機制問題。

(一)安全的優(yōu)化問題

自動駕駛汽車有可能使駕駛變得比現(xiàn)在安全得多。然而，潛在的安全優(yōu)化實現(xiàn)的程度取決于工程和社會決策。比如，以能見度有限的人行橫道為例，一些汽車制造商可能會采用自上而下的方法，另一些制造商可能依賴自下而上的方法讓自動駕駛汽車向人類駕駛員學(xué)習(xí)。有些方法可能比其他方法更安全。當(dāng)然，這也帶來了兩個突出挑戰(zhàn)：一是如果需要就不同的技術(shù)方法進行協(xié)調(diào)以改善總體安全，那么在競爭環(huán)境中如何促進這些技術(shù)方法協(xié)調(diào)呢？類似的問題也出現(xiàn)在互操作性標(biāo)準(zhǔn)中，例如，車輛對車輛通信的協(xié)議或者車輛對基礎(chǔ)設(shè)施通信的交叉口集中管理的操作。二是不同的制造商可能會根據(jù)各自的解決方案找到安全最佳方案。如何將這些方法結(jié)合起來以避免局部最優(yōu)從而達到一個可行的全局最優(yōu)？

可以設(shè)想采取不同的措施來鼓勵打破局部的安全最佳狀態(tài)，并促進技術(shù)方法上的協(xié)調(diào)。第一種措施是基于監(jiān)管而實現(xiàn)。只有最安全的自動駕駛汽車或達到某些最低安全標(biāo)準(zhǔn)的汽車才會被允許上路，這一安全措施可能會導(dǎo)致用戶部分放棄自己的經(jīng)濟自由。第二種措施是要求制造商之間的知識轉(zhuǎn)移或數(shù)據(jù)共享。自動駕駛汽車的整體安全性可以通過公開確定成功的解決方案來提高，這樣競爭對手就可以相互借鑒采用某些策略。然而，這種措施一方面使得用戶數(shù)據(jù)的隱私可能面臨風(fēng)險；另一方面，為了提高安全性而放棄部分知識產(chǎn)權(quán)和產(chǎn)品差異化的優(yōu)勢。第三種措施是將安全優(yōu)化問題留給消費者。但由于消費者會基于安全原因在各種不同產(chǎn)品之間進行選擇。因此，與基于數(shù)據(jù)交換或監(jiān)管的措施相比，第三種措施很可能導(dǎo)致總體上不那么安全的情況。這三種措施中的每一項都將有助于優(yōu)化自動駕駛汽車的安全性，但哪種措施(或哪些措施的組合)更好卻是一個倫理問題。

簡言之，考慮到特殊性和規(guī)模性的挑戰(zhàn)，設(shè)計無人駕駛汽車在日常情境下的行為決策是一項復(fù)雜的挑戰(zhàn)，而且考慮到人類健康和生命受到威脅，政策方法的選擇在道德上是相關(guān)的。盡管類似的治理問題——通過監(jiān)管、共享或通過市場來提高安全性——也被用于其他產(chǎn)品，但考慮到專用性和規(guī)模性的挑戰(zhàn)，自動駕駛汽車的情況也帶來了獨特的問題。

(二)不同價值間的權(quán)衡問題

除了基于安全優(yōu)化的考慮，其他的價值可能與設(shè)計自動駕駛及其在日常情境下的可承擔(dān)性行為有關(guān)。人們主要需要考慮三個必須與安全相權(quán)衡的價值：機動性、環(huán)境影響和城市道路的規(guī)劃設(shè)計。

首先，通過機動性，人們可以了解交通效率的衡量標(biāo)準(zhǔn)，比如交通流量的平均速度。如果車輛在接近能見度有限的人行橫道時大幅減速，這將以減少交通流量為代價來增加安全性。個人可以憑直覺在高效的機動性和安全性之間做出這些權(quán)衡。但對于自動駕駛汽車來說，這些權(quán)衡可以在系統(tǒng)層面進行，這就引出了一個問題，即如何正確平衡安全性和機動性。另一種選擇是允許個人設(shè)置，也就是說個人可以調(diào)整自動駕駛汽車的駕駛行為。當(dāng)你開會遲到的時候，你可以通過其他交通工具或者無視安全措施來支付路費。在多大程度上應(yīng)該允許這樣做(如果應(yīng)該允許的話)就引發(fā)了一個倫理問題。

其次，日常情境可能會導(dǎo)致與外部價值的權(quán)衡，如相對環(huán)保的交通系統(tǒng)?？紤]到規(guī)模性的挑戰(zhàn)，車輛在通常情況下(比如轉(zhuǎn)彎)的性能設(shè)置將對環(huán)境產(chǎn)生重大影響，比如溫室氣體排放或交通噪音。根據(jù)車輛加速和剎車的速度，排放和材料磨損對環(huán)境的影響將有所不同(19)Millar J，“Ethics Settings for Autonomous Vehicles”，In Lin P,Jenkins R,Abney K(eds),Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence，New York:Oxford University Press,2017，pp.20-34.。由于大量車輛將遵循相同的算法來處理日常情境，交通增量變化將在總體上減少或增加對環(huán)境的影響。

最后，日常道路交通中存在人行橫道這樣的情況，而自動駕駛汽車的引入將為城市道路規(guī)劃設(shè)計提供變革和新穎的方法。在安全有效地讓位于行人方面，自動駕駛汽車可能更可靠，因此出現(xiàn)了一個問題：在任何地方過馬路時，行人是否應(yīng)該獲得更大的優(yōu)先權(quán)。也許專用人行橫道的想法應(yīng)該放棄。這是影響城市道路規(guī)劃設(shè)計的關(guān)鍵問題，也是一個規(guī)范性問題。這個關(guān)鍵問題引出了后續(xù)的問題。假設(shè)在城市的任何地方，行人在過馬路時都比車輛享有優(yōu)先權(quán)，那么是否應(yīng)該要求行人表明他們想過馬路的意圖呢？這個問題涉及有關(guān)行人和自動駕駛車輛使用者的角色和責(zé)任的倫理問題。思考自動駕駛汽車將如何改變?nèi)粘Ｇ榫持械慕煌顩r，有助于激發(fā)對這些問題的思考和解決。

簡言之，日常情境的駕駛體現(xiàn)了不同價值觀之間的權(quán)衡，比如安全、機動性、效率、環(huán)境影響，以及在城市道路規(guī)劃設(shè)計中如何考慮行人的責(zé)任等等。這些價值觀是很重要的，特別是在針對穩(wěn)定性方面，以及它們之間的權(quán)衡應(yīng)該是基于規(guī)模性挑戰(zhàn)的重要倫理問題。

(三)法律激勵機制的調(diào)整問題

基于新型故障模式的自動駕駛汽車制造商可能面臨更多的責(zé)任負(fù)擔(dān)和訴訟。鑒于大部分交通事故都發(fā)生在普通駕駛情況下，人們應(yīng)該就控制這些情況下的責(zé)任的法律框架來審查普通駕駛情況。當(dāng)前，人們往往用非?；\統(tǒng)的術(shù)語來描述復(fù)雜的法律環(huán)境，并且只提到道德問題來說明這些案例。比如，美國侵權(quán)法的基本原則是責(zé)任損害賠償是受扶養(yǎng)人收入損失的函數(shù)限制。假設(shè)制造商希望保持對責(zé)任索賠的敞口不變，就會受到激勵根據(jù)一個地區(qū)的平均收入來調(diào)整駕駛行為的做法。自動駕駛汽車在富裕地區(qū)會比在經(jīng)濟貧困地區(qū)更傾向于小心駕駛。這就會導(dǎo)致現(xiàn)有的法律框架鼓勵歧視某些駕駛行為(20)Casey BJ，“Amoral machines,or:how roboticists can learn to stop worrying and love the law”，Northwest U Law Rev，2017(11),pp.231-250.。究竟應(yīng)該如何調(diào)整法律框架——侵權(quán)行為法的原則是否應(yīng)該只適用于涉及自動駕駛汽車的事故？——是應(yīng)用倫理學(xué)與法學(xué)交叉的一個相關(guān)問題。因此，這說明即使在日常情境下道德問題也會出現(xiàn)，比如當(dāng)法律框架造成令人反感的激勵時，就會不可避免地出現(xiàn)不公平、歧視等道德問題。

五、結(jié)論

日常情境的自動駕駛汽車面臨著一系列的道德挑戰(zhàn)。與電車難題相比，這些挑戰(zhàn)似乎不那么明顯和緊迫。為了強調(diào)日常情境的相對重要性，這里討論了將電車難題作為自動駕駛汽車倫理核心所面臨的四個方面的困境。第一，電車難題可能建立在相互矛盾的假設(shè)之上。第二，電車難題與自上而下的設(shè)計方法相結(jié)合。對日常交通狀況的反思則要求考慮此類工程和設(shè)計決策的相關(guān)性。第三，電車難題在錯誤的層面上處理了自動駕駛汽車的道德問題。在實際上需要社會政治選擇時，它給出的卻是個人道德解決方案?，F(xiàn)實的交通狀況說明了自動駕駛汽車的駕駛行為如何與其他交通參與者的權(quán)利和責(zé)任，以及社會普遍持有的道德價值觀相吻合。第四，電車難題的解決方案只要能被廣泛接受，在不確定的情況下可能對做出決策的幫助是有限的。相比之下，對日常情境的反思可以立即獲得自動駕駛汽車的發(fā)展趨向。

總之，日常情境會引發(fā)自動駕駛汽車的重要倫理問題，這是因為特殊性和規(guī)模性這兩個重要挑戰(zhàn)。人類駕駛員憑直覺在汽車駕駛中做出決定，而日常情境下的行為則成為政策選擇問題。與一般情況相關(guān)的算法中的小差異可能在總體上產(chǎn)生重大影響。這引發(fā)了三種倫理問題：一是使自動駕駛汽車盡可能安全的優(yōu)化問題涉及經(jīng)濟自由和知識產(chǎn)權(quán)問題，這是在實現(xiàn)全局安全優(yōu)化過程中產(chǎn)生的內(nèi)部價值沖突。二是其他的價值觀可能與安全相沖突，比如機動性、環(huán)境影響或城市設(shè)計和交通規(guī)劃中的價值觀。這些價值觀如何相互平衡是一個重要的倫理問題。三是現(xiàn)有的法律框架導(dǎo)致了反常的激勵，調(diào)整框架并減輕對這些激勵措施的抵觸是一個微妙的問題，因為法律變化的影響可能是廣泛的。

綜上，雖然人們承認(rèn)電車難題可能在電車難題的思維實驗、收集證據(jù)的方法、倫理學(xué)教學(xué)手段以及闡明社會政策困境方面很有用，但當(dāng)涉及到自動駕駛汽車的道德原則建構(gòu)時，它們的用處卻是有限的。在對發(fā)展自動駕駛汽車所涉及的道德和政治問題進行反思時，應(yīng)更多地關(guān)注日常情境下行為選擇和現(xiàn)實情況，而單純依賴道德哲學(xué)中的“電車難題”思想實驗往往不能解決日常情景中的自動駕駛汽車引發(fā)的道德與法律挑戰(zhàn)。