淺析自動(dòng)駕駛下的道德困境

陳云培

1967年英國哲學(xué)家菲利帕·福特首次提出的電車難題，被很多人熟知。一輛失控的列車在軌道上行駛，列車正在行進(jìn)的軌道上，有5個(gè)人被綁起來，無法動(dòng)彈，列車將要碾過他們，若此時(shí)你站在改變列車軌道的操縱桿旁，可以通過拉動(dòng)這個(gè)操縱桿將列車引導(dǎo)到另一條軌道，但另一條軌道上有也有1個(gè)被綁著無法動(dòng)彈的人，只要列車變換軌道，也會(huì)碾過那個(gè)人，但可以救下正在行進(jìn)軌道的5個(gè)人，此時(shí)你會(huì)怎么選？作為倫理學(xué)的思想實(shí)驗(yàn)，這個(gè)問題被很多人討論，多數(shù)人在遇到這個(gè)問題時(shí)，是很難做出選擇的，也無法給出很完美的答案，在現(xiàn)實(shí)生活中也很少有人會(huì)遇到類似的難題，而在自動(dòng)駕駛的技術(shù)框架下，這個(gè)問題將普遍存在，并會(huì)引導(dǎo)和決定自動(dòng)駕駛技術(shù)的發(fā)展方向。

在設(shè)計(jì)自動(dòng)駕駛汽車軟件系統(tǒng)時(shí)，無疑會(huì)遇到這樣一個(gè)問題，當(dāng)遇到不可避免的汽車碰撞的情況，如果自動(dòng)駕駛的汽車選擇不避讓，將會(huì)對(duì)路人造成傷害，如果自動(dòng)駕駛汽車選擇避讓，又會(huì)造成車內(nèi)乘客受傷，即在“乘客優(yōu)先”與“行人優(yōu)先”之間，自動(dòng)駕駛汽車軟件系統(tǒng)應(yīng)做何種選擇？

在自動(dòng)駕駛技術(shù)發(fā)展的初期，這個(gè)問題的決策者將由編寫自動(dòng)駕駛汽車軟件系統(tǒng)的軟件工程師所決定，自動(dòng)駕駛汽車軟件系統(tǒng)對(duì)于這類情況的設(shè)計(jì)方案或許沒有一個(gè)既定的標(biāo)準(zhǔn)，也很難有一個(gè)既定的標(biāo)準(zhǔn)。在如何做到將行人與乘客的傷害降到最低這個(gè)問題上，會(huì)有無限種選擇，也無法做到全面的涵蓋。而自動(dòng)駕駛汽車軟件系統(tǒng)，是由一行行代碼組成的，軟件工程師很難做到窮舉，即便能將大部分的可能性進(jìn)行羅列，那也代表著巨量的代碼行數(shù)，這也將是一個(gè)巨大的數(shù)據(jù)計(jì)算過程，在自動(dòng)駕駛汽車遇到不可避免的碰撞時(shí)，是否能在種可能中做出最完美的選擇，又將是一個(gè)值得考慮的問題。

即便可以對(duì)所有的可能性進(jìn)行列舉，且可以成功、及時(shí)地在自動(dòng)駕駛汽車行駛過程中進(jìn)行判斷，那是否代表著自動(dòng)駕駛汽車的電車難題會(huì)被破解？恰恰相反，當(dāng)自動(dòng)駕駛汽車進(jìn)入市場后，將面臨著消費(fèi)者的選擇，作為給消費(fèi)者提供服務(wù)的自動(dòng)駕駛汽車軟件系統(tǒng)供應(yīng)商，應(yīng)該在設(shè)計(jì)產(chǎn)品的過程中充分考慮消費(fèi)者的需求，即“乘客優(yōu)先”，那就應(yīng)該在設(shè)計(jì)自動(dòng)駕駛汽車軟件系統(tǒng)的過程中將保護(hù)乘客安全的條例放在首位，如果真做這樣的選擇，將會(huì)被絕大多數(shù)作為行人角色的群體抨擊，即便將“乘客優(yōu)先”放在首位，作為消費(fèi)者的乘客也可能不會(huì)鼎力支持，因?yàn)樵诔鲂羞^程中作為乘客的角色并非一直存在，在其他情況下也有可能轉(zhuǎn)變?yōu)樾腥说慕巧?，在此情況下，自動(dòng)駕駛汽車又將會(huì)和成為行人角色的消費(fèi)者站在對(duì)立面。使用者角色的轉(zhuǎn)變，讓自動(dòng)駕駛汽車軟件系統(tǒng)的安全性設(shè)計(jì)很難做出符合所有人要求的標(biāo)準(zhǔn)。

作為自動(dòng)駕駛汽車的消費(fèi)者，在自動(dòng)駕駛汽車軟件系統(tǒng)供應(yīng)商眼中，他們就是自己的“上帝”，在設(shè)計(jì)軟件系統(tǒng)時(shí)，偏向于為“上帝”提供更好的服務(wù)無非是正常的選擇，即在自動(dòng)駕駛汽車軟件系統(tǒng)設(shè)計(jì)過程中選擇“乘客優(yōu)先”，而非“行人優(yōu)先”，從商業(yè)方面考慮也是很正常的考量。但是從社會(huì)倫理道德方面考慮，行人和乘客都是活生生的生命，又怎么可以通過代碼來決定某一方的安全與否呢？正如前文所述，作為乘客的角色并非是永久的，在日常生活中一定會(huì)轉(zhuǎn)變?yōu)樾腥说慕巧?，在角色轉(zhuǎn)換后，站在行人角色上的消費(fèi)者又應(yīng)該如何去看待自動(dòng)駕駛汽車呢？沒有人愿意成為自動(dòng)駕駛時(shí)代的“犧牲品”。

自動(dòng)駕駛汽車軟件系統(tǒng)的安全性設(shè)計(jì)，是為了避開人類駕駛員在操作車輛過程中失誤的種種可能，從而降低汽車發(fā)生碰撞時(shí)對(duì)人類帶來的傷害，每個(gè)人都希望能擁有一輛足夠安全的自動(dòng)駕駛汽車，可是自動(dòng)駕駛系統(tǒng)很難實(shí)現(xiàn)100%的安全標(biāo)準(zhǔn)，這是毋庸置疑的。自動(dòng)駕駛汽車在行駛過程中需要判斷路況，對(duì)道路信息進(jìn)行分析并做出對(duì)應(yīng)的決策和動(dòng)作，和人類駕駛員駕駛汽車一樣，整個(gè)過程包含了數(shù)據(jù)感知、規(guī)劃決策、控制執(zhí)行3個(gè)部分，每個(gè)部分都需要自動(dòng)駕駛汽車在設(shè)計(jì)過程中進(jìn)行足夠完善的考量，繁雜的步驟讓自動(dòng)駕駛汽車是否可以做到符合所有角色的出行要求，就需要軟件工程師在設(shè)計(jì)自動(dòng)駕駛汽車軟件系統(tǒng)時(shí)，盡可能做出和人類駕駛員一樣的“駕車價(jià)值觀”的軟件系統(tǒng)。

很多自動(dòng)駕駛汽車碰撞事故表明，自動(dòng)駕駛汽車并不會(huì)主動(dòng)去碰撞行人，但在道路狀況復(fù)雜，自動(dòng)駕駛汽車很難做出正確的判斷，而自動(dòng)駕駛汽車上的安全員由于對(duì)自動(dòng)駕駛汽車軟件系統(tǒng)足夠的信任，不會(huì)立刻去接管車輛，從而導(dǎo)致自動(dòng)駕駛汽車“被迫”碰撞行人的現(xiàn)象依舊存在，在這些碰撞事故中，就可以看出自動(dòng)駕駛汽車軟件系統(tǒng)設(shè)計(jì)得不夠完善。

而未來的自動(dòng)駕駛汽車軟件系統(tǒng)將完全取締安全員的角色，自動(dòng)駕駛汽車在行駛過程中如果遇到無法避免的碰撞時(shí)，就需要獨(dú)立地、快速地做出決策，這就需要自動(dòng)駕駛汽車軟件系統(tǒng)足夠“聰明”，能夠判別各種復(fù)雜的道路情況，并執(zhí)行對(duì)人類的傷害降到最低的行為決策。但作為人類駕駛員的我們尚且無法做到足夠完美的選擇和判斷，又如何去期待自動(dòng)駕駛汽車軟件系統(tǒng)可以做出預(yù)判？作為人類的我們在面對(duì)電車難題時(shí)尚且無法提供統(tǒng)一的標(biāo)準(zhǔn)答案，作為一行行代碼寫下的自動(dòng)駕駛汽車軟件系統(tǒng)，又如何去得出最優(yōu)的標(biāo)準(zhǔn)解？

自動(dòng)駕駛時(shí)代終究會(huì)到來，作為社會(huì)中的一分子，全部都是參與者，沒有一個(gè)旁觀者，軟件定義汽車下的自動(dòng)駕駛汽車對(duì)于每個(gè)人來說都是一樣的，如何做到最完美的自動(dòng)駕駛避障解決方案，是仍舊需要考量和討論的事情，沒有人可以置身事外。自動(dòng)駕駛汽車的出現(xiàn)，必將影響我們的出行習(xí)慣和交通管理方案，而一個(gè)好的自動(dòng)駕駛軟件系統(tǒng)出行方案，是需要自動(dòng)駕駛汽車軟件系統(tǒng)供應(yīng)商、消費(fèi)者、政府、保險(xiǎn)機(jī)構(gòu)、汽車后市場服務(wù)企業(yè)等多角色的參與與討論，但自動(dòng)駕駛汽車面對(duì)的道德困境無法避免且終將無法得到統(tǒng)一的答案。