淺談自動(dòng)駕駛汽車?yán)Ь持械牡赖聸Q策

王啟明

摘要：無(wú)人駕駛汽車應(yīng)如何應(yīng)對(duì)不可避免的人身傷害？本文將自動(dòng)駕駛汽車的案例作為算法道德決策的一個(gè)突出例子，這是一種在數(shù)字化商業(yè)世界中高速發(fā)展的新興道德類型。作為其主要貢獻(xiàn)，它使得和自動(dòng)駕駛汽車的道德碰撞算法相關(guān)的困境決策情況與兩個(gè)極端案例并列討論：一方面是手動(dòng)駕駛汽車面臨現(xiàn)實(shí)生活中的案例——普通事故，另一方面是理論上構(gòu)建的自動(dòng)駕駛汽車中的困境情況。本文確定了案例在決策者、決策設(shè)計(jì)和決策結(jié)果方面的類比和反類比。從不同角度討論了這些發(fā)現(xiàn)：可以找到類比的方面，自動(dòng)駕駛汽車的情況被證明介于兩種邊界案例（Edge.cases）之間。作為主要結(jié)論，本文認(rèn)為手動(dòng)駕駛和自動(dòng)駕駛汽車僅在有限程度上是設(shè)計(jì)道德碰撞算法問(wèn)題的合適參考點(diǎn)。相反，在自動(dòng)駕駛汽車和使用的情況下，兩難決策情況的基本認(rèn)識(shí)和概念分歧得到了證實(shí)。.

關(guān)鍵詞：算法決策倫理 自動(dòng)駕駛倫理 自動(dòng)駕駛汽車的道德規(guī)范

一、介紹

盡管對(duì)于技術(shù)方面的人文管理是一個(gè)相對(duì)新興的研究領(lǐng)域，主要是在過(guò)去十年中出現(xiàn)的，但它的文獻(xiàn)涵蓋了廣泛的主題。關(guān)鍵主題包括技術(shù)設(shè)計(jì)研發(fā)中的管理實(shí)踐產(chǎn)生的實(shí)際問(wèn)題以及對(duì)相應(yīng)術(shù)語(yǔ)和概念的理論研究。人文管理關(guān)于問(wèn)題導(dǎo)向的研究在相關(guān)文獻(xiàn)中不斷得到發(fā)展。相關(guān)文獻(xiàn)重點(diǎn)關(guān)注的問(wèn)題首先是實(shí)踐方面的人的尊嚴(yán)概念、可持續(xù)性和自由。而另一個(gè)廣泛討論的問(wèn)題是人文管理在商業(yè)教育背景下的作用，以及它如何幫助轉(zhuǎn)變教育計(jì)劃，以更全面地理解技術(shù)設(shè)計(jì)的相關(guān)管理。

盡管主題覆蓋面很廣，但人文管理文獻(xiàn)迄今為止很少致力于研究在數(shù)字化商業(yè)世界中高速發(fā)展的新型決策：因?yàn)樵絹?lái)越多的商業(yè)工作流程被轉(zhuǎn)變?yōu)樽詣?dòng)運(yùn)行的復(fù)雜的技術(shù)系統(tǒng)，算法決策成為業(yè)務(wù)領(lǐng)域不可分割的一部分。它們對(duì)決策領(lǐng)域提出了根本性的變化，決策領(lǐng)域越來(lái)越多地進(jìn)入各種各樣的企業(yè)，它們也將成為管理實(shí)踐的核心問(wèn)題。為了趕上這一發(fā)展，人文管理一方面可以通過(guò)擴(kuò)展其在算法決策方面的專業(yè)知識(shí)來(lái)進(jìn)一步發(fā)展自己的學(xué)術(shù)范圍，另一方面能夠在算法自動(dòng)化研究的早期階段做出有價(jià)值的貢獻(xiàn)。換句話說(shuō)，將人文管理研究與算法道德決策結(jié)合起來(lái)，不僅具有加強(qiáng)自身領(lǐng)域的潛力，同時(shí)也促進(jìn)了其他領(lǐng)域的相關(guān)研究。

二、算法決策：自動(dòng)駕駛汽車的案例

在近十年的技術(shù)研發(fā)議程中，最具爭(zhēng)議的技術(shù)創(chuàng)新之一便是自動(dòng)駕駛。基本上，全自動(dòng)汽車的愿景即代表一個(gè)全面的軟件代碼，通過(guò)它可以控制汽車在每種可能的駕駛情況下的行為。自然地，這需要無(wú)人駕駛汽車可能會(huì)發(fā)現(xiàn)自己面臨“做出決定”的需要，即在可能的替代行動(dòng)方案之間進(jìn)行“選擇”。除其他問(wèn)題外，在不可避免的碰撞和由此造成的人身傷害的情況下的倫理解決方案，即所謂的道德困境通常是關(guān)于自動(dòng)駕駛汽車的文獻(xiàn)中爭(zhēng)議性辯論的中心。它們代表了一種特定類型的道德決策問(wèn)題，其中不相容的行動(dòng)選擇發(fā)生沖突，出于道德原因，所有這些選擇既是對(duì)的又是錯(cuò)的。然而，在駕駛環(huán)境中出現(xiàn)的困境現(xiàn)象與道路交通本身一樣古老。是什么讓道德困境成為現(xiàn)在如此有爭(zhēng)議的倫理問(wèn)題？德國(guó)自動(dòng)駕駛和聯(lián)網(wǎng)駕駛道德委員會(huì)（ECAD）指出：“真正的兩難抉擇，例如在一個(gè)人的生命與另一個(gè)人的生命之間做出的決定，取決于實(shí)際的具體情況，將‘不可預(yù)測(cè)的’行為納入受影響的各方。因此，它們不能被明確標(biāo)準(zhǔn)化，也不能被編程為在道德上是不容置疑的?！盵 1 ]在即將發(fā)生碰撞的前幾分之一秒內(nèi)做出的人類決定遠(yuǎn)不能與在緊急情況下生效的復(fù)雜算法相提并論，這似乎是合理的。

此外通過(guò)對(duì)相關(guān)文獻(xiàn)進(jìn)行閱讀，所提出的分析還揭示了自動(dòng)駕駛與兩種邊界案例都不對(duì)應(yīng)的某些方面，而是介于兩者之間。首先，自動(dòng)駕駛可以利用在運(yùn)行時(shí)和試駕期間收集的大量極盡詳細(xì)的數(shù)據(jù)信息。但是，這些數(shù)據(jù)必然是不完整的，其質(zhì)量也不是完全可靠的。一方面，數(shù)據(jù)的質(zhì)量可能會(huì)受到傳感器和攝像頭技術(shù)容易出錯(cuò)的影響，例如由于天氣或照明條件。 另一方面，技術(shù)人員對(duì)數(shù)據(jù)進(jìn)行評(píng)估、解釋和處理以使其可用于算法，但算法決策所造成的結(jié)果卻不一定是正確的。這樣，即使是高質(zhì)量的數(shù)據(jù)也可能導(dǎo)致次優(yōu)決策。其次，就結(jié)果的確定性而言，自動(dòng)駕駛的決策介于兩種邊界案例之間，它使用依賴于風(fēng)險(xiǎn)估計(jì)和概率計(jì)算模型的方法。盡管它受益于大量的技術(shù)支持，但計(jì)算結(jié)果在一定程度上始終存在不確定性。第三，與現(xiàn)實(shí)情況的關(guān)系可以解釋為是什么使自動(dòng)駕駛與邊界案例如此不同的總結(jié)。必須針對(duì)尚未成為現(xiàn)實(shí)的假設(shè)的、可想象的場(chǎng)景做出決定，可能發(fā)生的事情和真正發(fā)生的事情之間的隔閡使得算法決策變得如此具有挑戰(zhàn)性。

三、道德決策主要難點(diǎn)分析

最終，分析揭示了自動(dòng)駕駛汽車案例與邊界案例有很大不同的地方。相關(guān)學(xué)者們指出了特別需要監(jiān)管的領(lǐng)域。首先，無(wú)人駕駛汽車?yán)Ь持械臎Q策情況應(yīng)該被描述為集體決策。關(guān)于如何解決自動(dòng)駕駛道德困境的決策不是個(gè)人的任務(wù)，而是一個(gè)考慮各方需求和主張的過(guò)程。

一方面，由于決策的獨(dú)立性和具體化，相應(yīng)的決策理應(yīng)是授權(quán)的，并且沒(méi)有任何形式的直接個(gè)人參與。當(dāng)車輛遇到兩難情況時(shí)，在機(jī)器中實(shí)施的算法決策程序隨時(shí)準(zhǔn)備生效，算法的執(zhí)行可能會(huì)影響各環(huán)節(jié)中的每個(gè)人。正是出于這個(gè)原因，授權(quán)決策者需要尊重各方在經(jīng)濟(jì)、生態(tài)、社會(huì)、道德和法律方面的利益。其次，在無(wú)人駕駛汽車的背景下，責(zé)任問(wèn)題特別復(fù)雜。雖然大多數(shù)研究文章都涉及誰(shuí)應(yīng)對(duì)自動(dòng)駕駛汽車造成的傷害負(fù)責(zé)的問(wèn)題，但本文更關(guān)注的是在道德和法律上如何追究一個(gè)人的責(zé)任。帕特里克·林（Patrick Lin）強(qiáng)調(diào)算法的實(shí)現(xiàn)負(fù)有特殊責(zé)任：“程序員和制造商并不是在理性本能的引導(dǎo)下執(zhí)行工作的，他們是在沒(méi)有真正緊迫的時(shí)間限制下做出潛在的生死攸關(guān)的決定，因此與人類駕駛員在意外情況下的條件反射性反應(yīng)相比，他們有責(zé)任做出更好的決定?！?/p>

另一方面，在不改變方向的情況下造成嚴(yán)重傷害或死亡的行為。轉(zhuǎn)移到自動(dòng)駕駛汽車的案例中，這意味著批準(zhǔn)自動(dòng)駕駛汽車改變方向并隨后傷害甚至致人死亡的方式對(duì)汽車進(jìn)行編程的實(shí)體是故意行為，因此將被拘留負(fù)刑事責(zé)任。這個(gè)結(jié)論似乎有問(wèn)題，并表明將道德相關(guān)性附加到主動(dòng)和被動(dòng)傷害行為之間的區(qū)別對(duì)于算法決策幾乎沒(méi)有意義。雖然人類駕駛員僅在發(fā)生不可避免的碰撞采取規(guī)避行動(dòng)時(shí)才會(huì)主動(dòng)進(jìn)行操作，但保持汽車的行駛軌跡被認(rèn)為是被動(dòng)行為。但是無(wú)人駕駛汽車沒(méi)有需要對(duì)其算法執(zhí)行進(jìn)行審議的默認(rèn)行為，也就是說(shuō)，它沒(méi)有自己的意圖。無(wú)論選擇哪種選項(xiàng)，汽車控制系統(tǒng)的程序員都會(huì)主動(dòng)（盡管是間接地）對(duì)受影響的各方造成損害。無(wú)論如何，敦促司法管轄區(qū)制定一個(gè)復(fù)雜的解決方案，以解決個(gè)人和集體責(zé)任問(wèn)題的復(fù)雜性，這些問(wèn)題使自動(dòng)駕駛汽車道德接近于飽和。第三，人類駕駛員的決定可以粗略地描述為由自發(fā)的瞬間決定產(chǎn)生的單一反應(yīng)，因此僅與單一事件有關(guān)。而在自動(dòng)行駛案例中做出的決定與各自版本的結(jié)構(gòu)所構(gòu)成的獨(dú)特背景密切相關(guān)，而自動(dòng)駕駛汽車使用的是單獨(dú)的解決方案，這些解決方案一般情況下不會(huì)轉(zhuǎn)移到其他案例中，因此對(duì)于自動(dòng)駕駛汽車來(lái)說(shuō)，需要一種道德解決方案，它不僅適合一種特定的環(huán)境，而且還適合多種其他環(huán)境。對(duì)單個(gè)解決方案進(jìn)行編程以使決策對(duì)每個(gè)可以想象的場(chǎng)景的所有方面都能夠全面的顧及到，這無(wú)疑構(gòu)成了一個(gè)巨大的（如果不是不可能的話）現(xiàn)實(shí)挑戰(zhàn)。正是由于這個(gè)原因，同時(shí)通過(guò)不同的標(biāo)準(zhǔn)對(duì)場(chǎng)景進(jìn)行分類似乎是合理和必要的。然而，真正的困境情況總是單一的案例，無(wú)法完全標(biāo)準(zhǔn)化，這種困境的獨(dú)特性與需要對(duì)各種反應(yīng)概括性描述的實(shí)際需求之間有著巨大的隔閡，這似乎是與自動(dòng)駕駛汽車倫理相關(guān)的最復(fù)雜的問(wèn)題之一：確定的行動(dòng)不是唯一的，而是多次重復(fù)的。因此，自動(dòng)駕駛困境中的道德決定不是單獨(dú)的，而是可以描述為一種反復(fù)出現(xiàn)的行為模式。這意味著碰撞算法的決策范圍比手動(dòng)駕駛中的個(gè)別、狹窄的范圍更廣。這個(gè)問(wèn)題的復(fù)雜性在涉及不止一輛無(wú)人駕駛汽車的困境情況下尤為明顯。假設(shè)所有自動(dòng)駕駛汽車將使用相同的碰撞算法的情況是合理的，這意味著所有算法在面對(duì)特定情況時(shí)都會(huì)以相同的方式做出反應(yīng)，從而可能引發(fā)不可預(yù)測(cè)的嚴(yán)重事故。與此相關(guān)的是標(biāo)準(zhǔn)化算法在產(chǎn)生特定結(jié)果時(shí)會(huì)受到偏見(jiàn)的影響，當(dāng)兩輛編程相同的自動(dòng)駕駛汽車發(fā)生事故時(shí)，由此產(chǎn)生的累積效應(yīng)可能還會(huì)產(chǎn)生低效的結(jié)果。例如，想象一下，兩輛無(wú)人駕駛汽車相互靠近，然后都轉(zhuǎn)向并撞墻犧牲了他們的乘客。這個(gè)場(chǎng)景說(shuō)明協(xié)調(diào)是自動(dòng)駕駛汽車之間做出反應(yīng)必不可少的一環(huán)，而不是盲目地遵循預(yù)先實(shí)施的規(guī)范。[ 2 ]

四、結(jié)論

簡(jiǎn)而言之，自動(dòng)駕駛汽車相關(guān)的困境決策情況與手動(dòng)駕駛的案例之間只有很少的共同之處。這一發(fā)現(xiàn)具有重要意義：在討論碰撞算法的倫理時(shí)，手動(dòng)駕駛的實(shí)際現(xiàn)實(shí)視角不能成為廣泛的標(biāo)桿。相反，所提出的分析證實(shí)了自動(dòng)駕駛汽車背景下的決策情況與邊界案例之間的基本認(rèn)知和概念的距離。本文討論的問(wèn)題對(duì)引入自動(dòng)駕駛汽車提出了挑戰(zhàn)，其特點(diǎn)是需要監(jiān)管，同時(shí)考慮到在無(wú)人駕駛汽車?yán)Ь持兄贫ǖ赖聸Q策的具體因素。

除此之外，本文討論的無(wú)人駕駛汽車?yán)Ь嘲咐赡鼙唤忉尀閷?duì)從道德角度看待和評(píng)估人工智能技術(shù)的一般方式具有更廣泛的影響。機(jī)器倫理研究人員普遍認(rèn)為，自治系統(tǒng)缺乏歸因于人類的完全道德代理的能力。機(jī)器不具備真正的人類能力，如現(xiàn)象意識(shí)、情感、高階推理、意向性和自由意志。[ 2 ]盡管自治系統(tǒng)的實(shí)施方式可能使它們能夠根據(jù)倫理原則、某些價(jià)值觀或觀察到的道德直覺(jué)行事，但它們無(wú)法將人視為具有人文意義的內(nèi)在價(jià)值和尊嚴(yán)的承載者。正是由于這個(gè)原因，算法程序通常被認(rèn)為是非個(gè)人的和死板的。人文管理視角或許能夠開(kāi)辟將“人為因素”整合到看似不人道的機(jī)械化事物中的方法。通過(guò)這種方式，它可以作為一個(gè)重要的貢獻(xiàn)者，為算法決策提供研究進(jìn)路，為有意義和謹(jǐn)慎的管理實(shí)踐鋪平道路。

【參？考？文？獻(xiàn)】

[1]白惠仁. 自動(dòng)駕駛汽車的倫理， 法律與社會(huì)問(wèn)題研究述評(píng)[J]. 科學(xué)與社會(huì)， 2018， 8（1）： 72-87.

[2]高華， 陳紅兵. 論人工智能與人類智能之差異[J].東北大學(xué)學(xué)報(bào) （社會(huì)科學(xué)版）， 2021， 23（2）： 15.

（責(zé)任編輯：姜秀靚）