人工智能醫(yī)學(xué)診斷系統(tǒng)的道德責(zé)任研究
——以責(zé)任空?qǐng)鰡?wèn)題為中心

夏永紅，李建會(huì)

(1 華南師范大學(xué)科學(xué)技術(shù)與社會(huì)研究院，廣東 廣州 510006，yonghongx@126.com；2 北京師范大學(xué)哲學(xué)學(xué)院，北京 100875)

0 導(dǎo)論

人工智能是通過(guò)計(jì)算機(jī)實(shí)現(xiàn)的在一定程度上可以自主運(yùn)行，并替代或輔助人類進(jìn)行推理、識(shí)別、決策、互動(dòng)和操作等智能活動(dòng)的人工能動(dòng)者。在醫(yī)學(xué)領(lǐng)域，人工智能的應(yīng)用目前主要包含了兩個(gè)分支：虛擬的和物理的。虛擬分支主要依賴于以計(jì)算機(jī)程序形態(tài)存在的虛擬人工智能能動(dòng)者，它的主要應(yīng)用包括：①醫(yī)療信息管理系統(tǒng)。比如結(jié)合自然語(yǔ)言處理技術(shù)，自動(dòng)讀取患者電子病歷，以實(shí)現(xiàn)輔助診斷、醫(yī)療處方警示和規(guī)范、流行病學(xué)調(diào)查等；②健康管理系統(tǒng)。收集健康智能設(shè)備和APP的用戶大數(shù)據(jù)，并在合規(guī)合法的情況下打通電子病歷數(shù)據(jù)，對(duì)這些數(shù)據(jù)進(jìn)行綜合分析和處理，以評(píng)估疾病和健康風(fēng)險(xiǎn)，對(duì)用戶給出個(gè)性化和精準(zhǔn)化的醫(yī)療、運(yùn)動(dòng)和飲食建議；③自動(dòng)診斷和分診系統(tǒng)。結(jié)合對(duì)醫(yī)學(xué)影像檢查、化驗(yàn)數(shù)據(jù)、電子病歷數(shù)據(jù)的分析，以及對(duì)患者的自動(dòng)問(wèn)診，自動(dòng)給出診斷意見(jiàn)并開(kāi)具處方，或輔助醫(yī)生作出診斷。物理分支則主要包括以物理形態(tài)存在的智能機(jī)器人，它在很多醫(yī)學(xué)設(shè)備和看護(hù)機(jī)器人上都有應(yīng)用。目前應(yīng)用最為廣泛的是手術(shù)機(jī)器人，它們可以被作為外科醫(yī)生助理，甚至是擔(dān)任主刀醫(yī)生的角色[1]。

醫(yī)學(xué)人工智能的廣泛應(yīng)用，將會(huì)沖擊目前的醫(yī)療現(xiàn)狀，并帶來(lái)新的醫(yī)療風(fēng)險(xiǎn)，包括：①醫(yī)療安全性問(wèn)題。人工智能如果給出不準(zhǔn)確或錯(cuò)誤的醫(yī)療建議，將給患者帶來(lái)嚴(yán)重的健康后果，如何規(guī)范醫(yī)學(xué)人工智能的合理應(yīng)用，將會(huì)考驗(yàn)醫(yī)療政策和倫理規(guī)范的制定者；②數(shù)據(jù)隱私問(wèn)題。如果沒(méi)有對(duì)健康和病歷數(shù)據(jù)的收集和使用進(jìn)行規(guī)范，將會(huì)侵犯用戶或患者的私人隱私；③醫(yī)療公正問(wèn)題。不同年齡、階層、地區(qū)之間的數(shù)字設(shè)備使用水平，以及醫(yī)療資源分配的不均，可能會(huì)讓醫(yī)學(xué)人工智能不能公正地惠及所有人；④責(zé)任劃分問(wèn)題。當(dāng)智能診斷系統(tǒng)、手術(shù)機(jī)器人產(chǎn)生診斷錯(cuò)誤和操作錯(cuò)誤的時(shí)候，有可能會(huì)產(chǎn)生責(zé)任劃分上的困境[2]。在這么多的風(fēng)險(xiǎn)中，醫(yī)療安全性問(wèn)題更多屬于技術(shù)層面的問(wèn)題，我們可以通過(guò)改善醫(yī)學(xué)人工智能系統(tǒng)的穩(wěn)健性和準(zhǔn)確性來(lái)避免；醫(yī)療公正問(wèn)題更多屬于政策方面的問(wèn)題，可以制定更具普惠性的醫(yī)保政策，對(duì)弱勢(shì)群體進(jìn)行知識(shí)扶貧、知識(shí)救助；數(shù)據(jù)隱私問(wèn)題兼具技術(shù)和政策維度，一方面可以改進(jìn)數(shù)據(jù)保密和加密技術(shù)，另一方面應(yīng)該從政策上明確各種數(shù)據(jù)的使用范圍。只有責(zé)任劃分問(wèn)題，無(wú)法純粹依靠技術(shù)的進(jìn)步和政策的改進(jìn)而得以解決，它更多地需要在道德哲學(xué)層面澄清基本的責(zé)任歸屬。

醫(yī)學(xué)人工智能意味著它取代了先前由醫(yī)生執(zhí)行的某些任務(wù)，這無(wú)疑會(huì)極大地改變醫(yī)生與患者之間的關(guān)系，從而也會(huì)改變醫(yī)生與患者之間的道德責(zé)任劃定。如果產(chǎn)生醫(yī)療事故，那就不能簡(jiǎn)單地歸責(zé)于醫(yī)生，而需要把更多的責(zé)任相關(guān)者帶入進(jìn)來(lái)，比如醫(yī)學(xué)人工智能的開(kāi)發(fā)商、算法的設(shè)計(jì)者、訓(xùn)練數(shù)據(jù)的提供者[3]，乃至醫(yī)學(xué)人工智能的監(jiān)管者等。然而，如何在這些責(zé)任相關(guān)者之間進(jìn)行責(zé)任劃分？是否會(huì)面臨發(fā)生了醫(yī)療事故卻無(wú)人負(fù)責(zé)的狀況？這一問(wèn)題將會(huì)成為亟待解決的倫理問(wèn)題。本文將聚焦于醫(yī)療責(zé)任劃分的道德哲學(xué)問(wèn)題，通過(guò)引入角色責(zé)任和分布式責(zé)任，來(lái)嘗試解決上述問(wèn)題。

1 醫(yī)學(xué)人工智能的道德空?qǐng)鰡?wèn)題

一個(gè)完整的醫(yī)學(xué)診斷流程一般可以分為問(wèn)診、檢查和決策三個(gè)階段。在這個(gè)過(guò)程中，需要搜集的就是確診某種疾病的證據(jù)。在問(wèn)診階段，醫(yī)生基于臨床知識(shí)，根據(jù)患者的主訴、病史獲得初步的診斷。如果問(wèn)診獲得的證據(jù)強(qiáng)度達(dá)到某個(gè)治療閾值，則可以初步確診疾病以開(kāi)始治療；如果證據(jù)強(qiáng)度低于治療閾值但達(dá)到了檢測(cè)閾值，則需要開(kāi)出醫(yī)學(xué)檢查單，在獲得相關(guān)的影像、細(xì)胞檢查結(jié)果后，如果證據(jù)強(qiáng)度達(dá)到了治療閾值，就可以開(kāi)始治療[4]。這三個(gè)診斷階段涉及多種智能。首先是問(wèn)診階段的語(yǔ)言交互智能，問(wèn)診是一種開(kāi)放場(chǎng)景下的問(wèn)答，旨在了解患者的主訴和病史，醫(yī)生需要見(jiàn)機(jī)進(jìn)行開(kāi)放式的提問(wèn)，鼓勵(lì)并引導(dǎo)患者的講述，并對(duì)患者的反饋或反問(wèn)有及時(shí)和恰當(dāng)?shù)幕貞?yīng)。其次是圖像識(shí)別智能，醫(yī)生需要熟練地識(shí)別影像學(xué)檢查結(jié)果中各個(gè)器官組織，會(huì)區(qū)分正常組織與病灶的相關(guān)特征，并根據(jù)病灶的特征推斷出可能的病因。此外，還包括認(rèn)知計(jì)算智能，醫(yī)生需要基于檢測(cè)結(jié)果、患者主訴和病史等證據(jù)，來(lái)進(jìn)行因果-概率推斷，對(duì)疾病作出診斷。

目前醫(yī)學(xué)人工智能領(lǐng)域的眾多產(chǎn)品，正是針對(duì)醫(yī)學(xué)診斷中所涉及的言語(yǔ)交互、圖像識(shí)別和認(rèn)知計(jì)算等三種主要智能而開(kāi)發(fā)。言語(yǔ)交互和認(rèn)知計(jì)算兩個(gè)領(lǐng)域往往相互交織在一起，比如智能問(wèn)診、導(dǎo)診機(jī)器人、臨床決策支持系統(tǒng)等產(chǎn)品。這些系統(tǒng)的核心是一套復(fù)雜程度不同的醫(yī)學(xué)知識(shí)圖譜，它集成了大量的結(jié)構(gòu)化的醫(yī)學(xué)知識(shí)，在其開(kāi)發(fā)過(guò)程中需要基于大量醫(yī)生的專業(yè)判斷，對(duì)大量現(xiàn)有的電子病歷、醫(yī)學(xué)診斷報(bào)告和治療方案的數(shù)據(jù)進(jìn)行結(jié)構(gòu)化處理。根據(jù)相應(yīng)的醫(yī)學(xué)知識(shí)圖譜，這些醫(yī)學(xué)人工智能系統(tǒng)就可以根據(jù)從患者獲得的信息作出推斷，最終輸出包括分診、診斷、預(yù)測(cè)和建議等推論結(jié)果，以輔助醫(yī)生的決策。圖像識(shí)別領(lǐng)域的產(chǎn)品包括智能影像輔助診斷系統(tǒng)和細(xì)胞病理自動(dòng)診斷分析儀，二者的核心都是一套訓(xùn)練好的深度學(xué)習(xí)模型。它的開(kāi)發(fā)需要專業(yè)醫(yī)生對(duì)大量電子影像的和細(xì)胞病理切片的病變進(jìn)行標(biāo)注，再把這些標(biāo)注數(shù)據(jù)喂入預(yù)先設(shè)計(jì)好的訓(xùn)練模型，經(jīng)過(guò)工程師的調(diào)參和訓(xùn)練，最終就可以在輸入未經(jīng)標(biāo)注的檢查數(shù)據(jù)之后，自動(dòng)識(shí)別其中的病灶和病變[5]。

表1 人工智能醫(yī)學(xué)診斷系統(tǒng)的分類

可見(jiàn)，知識(shí)圖譜和深度學(xué)習(xí)是當(dāng)下醫(yī)學(xué)人工智能兩種主要算法，其中深度學(xué)習(xí)又主要應(yīng)用于分析影像學(xué)和病理學(xué)檢查結(jié)果。兩種算法給醫(yī)學(xué)人工智能帶來(lái)了兩個(gè)非常重要的特征：首先是數(shù)據(jù)依賴性，無(wú)論是知識(shí)圖譜還是深度學(xué)習(xí)，都需要海量的醫(yī)學(xué)專業(yè)數(shù)據(jù)；其次是不可解釋性，尤其是深度學(xué)習(xí)，難以解釋從輸入到輸出的邏輯過(guò)程，從而也意味著無(wú)法解釋醫(yī)學(xué)人工智能作出的診斷的理由或邏輯。這兩個(gè)特征分別帶來(lái)了兩個(gè)相互關(guān)聯(lián)的后果。

對(duì)專業(yè)數(shù)據(jù)的依賴性，意味著人工智能的能動(dòng)性是分布式的，而不僅僅是一個(gè)被人類能動(dòng)者使用的簡(jiǎn)單工具。對(duì)于使用工具導(dǎo)致的不良后果，我們往往會(huì)歸責(zé)于使用者和監(jiān)管者，比如使用刀具或槍械殺人，我們會(huì)懲罰使用者，并可能會(huì)問(wèn)責(zé)政府是否存在對(duì)刀具或槍械的監(jiān)管不力。然而，人工智能的分布能動(dòng)性意味著，人工智能的設(shè)計(jì)者和數(shù)據(jù)的提供者都可能導(dǎo)致人工智能應(yīng)用的不良后果。正如塔代奧和弗洛里迪所指出的，人工智能的能動(dòng)性是分布式的而非個(gè)體性的，因?yàn)椤盎谌斯ぶ悄艿臎Q策或行動(dòng)的效果，通常是許多行動(dòng)者(包括設(shè)計(jì)者、開(kāi)發(fā)者、使用者、軟件和硬件)之間無(wú)數(shù)次交互作用的結(jié)果?！盵6]分布式能動(dòng)性帶來(lái)了分布式的道德責(zé)任。首先，專業(yè)數(shù)據(jù)對(duì)于醫(yī)學(xué)人工智能是基礎(chǔ)性的，數(shù)據(jù)的提供者或標(biāo)注者是必然的責(zé)任承擔(dān)者。如果醫(yī)生對(duì)數(shù)據(jù)進(jìn)行了錯(cuò)誤的標(biāo)注，很可能會(huì)增加醫(yī)學(xué)人工智能產(chǎn)品開(kāi)發(fā)的難度，更嚴(yán)重的情況是，開(kāi)發(fā)出來(lái)的產(chǎn)品產(chǎn)生錯(cuò)誤輸出，對(duì)患者進(jìn)行錯(cuò)誤的診斷。其次，設(shè)計(jì)者也需要承擔(dān)道德責(zé)任，因?yàn)獒t(yī)學(xué)人工智能模型的受眾，在很大程度上來(lái)自于設(shè)計(jì)者或開(kāi)發(fā)商的選擇偏好。如果沒(méi)有一種普惠、公正的理念的指導(dǎo)，由于弱勢(shì)群體的醫(yī)學(xué)數(shù)據(jù)相對(duì)匱乏，很可能會(huì)導(dǎo)致某種“算法歧視”，即模型的準(zhǔn)確性在弱勢(shì)群體中大打折扣。

另一方面，由于當(dāng)前的人工智能存在可解釋性問(wèn)題，即無(wú)法解釋人工智能的決策背后的理由或邏輯，相關(guān)的能動(dòng)者可能難以對(duì)人工智能帶來(lái)的后果承擔(dān)責(zé)任。對(duì)于設(shè)計(jì)者而言，人工智能是一個(gè)黑箱，他無(wú)法解釋模型何以會(huì)有這樣的輸出，他對(duì)模型和參數(shù)的調(diào)節(jié)往往和“煉丹”無(wú)異；對(duì)于標(biāo)注者而言，他無(wú)法理解人工智能為何不能舉一反三，人工智能往往會(huì)脫離情境，輸出他明顯覺(jué)得錯(cuò)誤的結(jié)果；對(duì)于使用者來(lái)說(shuō)，他無(wú)法理解人工智能為何會(huì)作出一些超出常理的決策，如果沒(méi)有合理的理由又如何信賴這些決策；對(duì)于監(jiān)管者而言，他可能會(huì)無(wú)法確定人工智能究竟應(yīng)該作為一種純粹的工具，還是作為一種具有某種自主性的能動(dòng)者來(lái)進(jìn)行監(jiān)管[7]。因此，人工智能的所有相關(guān)的能動(dòng)者都無(wú)法把控人工智能應(yīng)用的后果，都面臨著人工智能應(yīng)用的某種運(yùn)氣和不確定性。

如果人類能動(dòng)者不能擔(dān)責(zé)，那么人工能動(dòng)者可以擔(dān)責(zé)嗎？人工智能是否可以成為道德的能動(dòng)者和受動(dòng)者，仍然是一個(gè)有爭(zhēng)議的問(wèn)題[8]?？屏帧ぐ瑐?Colin Allen)試圖用道德圖靈測(cè)試作為判定道德能動(dòng)者的判準(zhǔn)[9]，而斯帕羅(Robert Sparrow)提出用圖靈分診測(cè)試來(lái)判定人工智能是否可被視為道德受動(dòng)者[10]。鑒于目前并沒(méi)有任何一種人工智能能動(dòng)者在現(xiàn)實(shí)中通過(guò)了這兩種測(cè)試，我們現(xiàn)在一般并不會(huì)把人工智能作為道德能動(dòng)者和受動(dòng)者，因而也不會(huì)把它們視為道德責(zé)任的承擔(dān)者[11]。這樣，我們就無(wú)法簡(jiǎn)單地把醫(yī)療人工智能作為醫(yī)生的替代者，在遇到醫(yī)療事故的時(shí)候歸責(zé)于醫(yī)療人工智能。

這就讓道德責(zé)任的歸責(zé)尤其困難。因?yàn)楹芸赡艹霈F(xiàn)這樣的情景，每個(gè)人看起來(lái)都沒(méi)有做出什么故意的壞事，但最終卻導(dǎo)致了一場(chǎng)不幸的醫(yī)療事故，以至于我們很難去單獨(dú)地歸責(zé)于誰(shuí)，最后的結(jié)果是誰(shuí)也不必承擔(dān)責(zé)任。我們不妨把這稱之為責(zé)任空?qǐng)鰡?wèn)題。責(zé)任空?qǐng)鐾馕吨?，某個(gè)壞的結(jié)果最好稱之為不幸，而非不正義，或者說(shuō)，是某種壞運(yùn)氣，而不是壞的行為導(dǎo)致了壞的結(jié)果。然而，我們假設(shè)一個(gè)患者因?yàn)槿斯ぶ悄艿腻e(cuò)誤診斷而被不當(dāng)治療，最后丟了性命，但因?yàn)檫@是機(jī)器作出的診斷，而且沒(méi)有人能預(yù)知和解釋機(jī)器何以作出這種診斷，從而也就沒(méi)有人需要為此承擔(dān)責(zé)任。如果我們作為患者家屬，可能會(huì)覺(jué)得這是不正義的，無(wú)人擔(dān)責(zé)不符合我們的道德直覺(jué)。

總而言之，醫(yī)學(xué)人工智能的數(shù)據(jù)依賴性導(dǎo)致了一種分布式能動(dòng)性，不可解釋性產(chǎn)生了一種道德責(zé)任空?qǐng)鰡?wèn)題。兩者之間又是高度相關(guān)的，因?yàn)檎欠植际侥軇?dòng)性，產(chǎn)生了弗洛里迪所說(shuō)的分布式的道德行動(dòng)，也就是說(shuō)，在一個(gè)人類與機(jī)器混雜的行動(dòng)體系中，那些道德上具有善惡屬性的行動(dòng)，很可能是被那些在道德上中立的互動(dòng)所引起的[12]。于是，我們就很難追究不同的人類能動(dòng)者的責(zé)任，從而產(chǎn)生了一個(gè)道德責(zé)任空?qǐng)觥?/p>

2 兩種道德責(zé)任：直接責(zé)任與角色責(zé)任

所謂道德責(zé)任，也就是一個(gè)人應(yīng)該在道德上為其行為所導(dǎo)致的后果負(fù)起責(zé)任。這實(shí)際上意味著一個(gè)人的行為與其所需要負(fù)責(zé)的后果之間，必須存在著一種因果關(guān)聯(lián)。我們可以稱其為道德責(zé)任的因果條件。然而，行為與后果之間的因果關(guān)聯(lián)對(duì)于道德責(zé)任是不充分的。亞里士多德在《尼各馬可倫理學(xué)》中提出，一個(gè)人只有當(dāng)它的行為是出于意愿的時(shí)候，才有資格被稱贊或譴責(zé)，也就是說(shuō)，才可以承擔(dān)道德責(zé)任。在亞里士多德看來(lái)，一個(gè)出于意愿的行動(dòng)具有兩個(gè)特征：首先，行動(dòng)是由一個(gè)能動(dòng)者發(fā)起的，而不是外部強(qiáng)迫的；其次，能動(dòng)者應(yīng)該意識(shí)到自己所做的事情及其后果[13]。從亞里士多德的觀點(diǎn)出發(fā)，我們可以歸納出另外兩個(gè)道德責(zé)任條件：一個(gè)是控制條件，即與某種不良后果相關(guān)的行為處于能動(dòng)者的控制范圍之內(nèi)；另一個(gè)是認(rèn)知條件，即能動(dòng)者可以預(yù)知到自己的行為決策可能會(huì)導(dǎo)致某種不良后果。這兩個(gè)條件加上因果條件一起界定了我們對(duì)道德責(zé)任的傳統(tǒng)理解，它們一起所表達(dá)的意思是，我們只對(duì)哪些我們可以預(yù)知的、在控制范圍內(nèi)，并且由我們的行為所導(dǎo)致的后果負(fù)責(zé)。假設(shè)某種后果因?yàn)橐蚬湕l過(guò)長(zhǎng)，超出了我們的控制和認(rèn)知，那么我們就無(wú)須對(duì)此負(fù)責(zé)。因此，道德責(zé)任就意味著我們只對(duì)不正義負(fù)責(zé)，不對(duì)不幸負(fù)責(zé)，因?yàn)楹笳叱隽宋覀兊恼J(rèn)知和控制。更進(jìn)一步的推論是，對(duì)道德的評(píng)價(jià)只應(yīng)考慮道德能動(dòng)者的信念、欲念和意圖。這種觀念最典型的代表就是康德，他認(rèn)為善之為善，僅僅因?yàn)橐饽畋旧砭褪巧频?，而非任何可能的后果[14]。因?yàn)榍罢呤俏覀兯芸刂频?，而后者則處在被因果規(guī)律所支配的世界中。

然而，這三個(gè)條件對(duì)于道德責(zé)任是否充分？我們可以相像一個(gè)人在小區(qū)遛狗，但一不留神狗掙脫了繩子，咬到了路上的行人。在這個(gè)場(chǎng)景中，如果我們把因果鏈條限定在從遛狗到咬人這個(gè)時(shí)間段的話，狗主人不滿足前述任何一個(gè)道德責(zé)任的條件，他沒(méi)有教唆狗去咬人——不滿足因果條件，他在那一刻難以控制狗的行為——不滿足控制條件，他在牽狗的時(shí)候也不知道它將會(huì)咬到人——不滿足認(rèn)知條件。然而，從我們的道德直覺(jué)出發(fā)，我們顯然會(huì)認(rèn)為狗主人應(yīng)該對(duì)被咬的路人負(fù)有道德責(zé)任。因?yàn)樗麤](méi)有盡到一個(gè)狗主人的責(zé)任，即防止他的狗去傷害別人。這提示我們，很可能還存在著這樣一種道德責(zé)任，責(zé)任人的行為與所負(fù)責(zé)的后果之間不存在因果關(guān)聯(lián)。

哈特(H.L.A. Hart)將這種責(zé)任稱之為角色責(zé)任(role-responsibility)[15]。任何一個(gè)行動(dòng)者，總是處于特定的社會(huì)組織之中，它總是擔(dān)負(fù)了某種崗位、角色和任務(wù)，從一種職業(yè)或道德規(guī)范出發(fā)，它應(yīng)該對(duì)其相關(guān)的他者負(fù)責(zé)任[16]。這意味著，一個(gè)人不僅不應(yīng)該去做出錯(cuò)誤的行為傷害他者，而且也不應(yīng)該因不作為導(dǎo)致他者的不幸。角色責(zé)任更多地與后者相關(guān)。比如，教師應(yīng)當(dāng)對(duì)學(xué)生的學(xué)業(yè)負(fù)責(zé)，醫(yī)生應(yīng)當(dāng)對(duì)患者的健康負(fù)責(zé)，這不僅意味著他們不應(yīng)該傷害學(xué)生和患者，更意味著他們需要在職業(yè)規(guī)范的指導(dǎo)下避免某些不作為，或者說(shuō)，不能玩忽職守。由此，我們就可以提出一種新的道德責(zé)任的條件：能動(dòng)者本可以作出某種分內(nèi)的干預(yù)以避免或減弱某種不良后果，但卻因?yàn)椴蛔鳛槎鴮?dǎo)致了不幸。由于這一條件是以一種反事實(shí)虛擬的方式被表述出來(lái)的，它是對(duì)一種可能模態(tài)的陳述，我們不妨將其稱之為虛擬條件。顯然，在前述的例子，狗主人就滿足了失職條件，他本應(yīng)該給狗戴上口套，但他卻沒(méi)有盡到職責(zé)，從而導(dǎo)致了他人的不幸。如果考慮他的不作為的決定本身，他顯然滿足控制條件，因?yàn)樗麤](méi)給狗戴上口套的決定是自愿作出的，也滿足認(rèn)知條件，因?yàn)樗梢哉J(rèn)識(shí)到他的這一決定是不合規(guī)范的。因此，總體而言，角色責(zé)任意味著一個(gè)人應(yīng)當(dāng)為它的不作為而承擔(dān)責(zé)任，這種不作為的決定需要滿足控制條件、認(rèn)知條件和虛擬條件。

綜上所述，一個(gè)人可能因?yàn)殄e(cuò)誤的作為而負(fù)有道德上的直接責(zé)任，也可能因?yàn)槭毜牟蛔鳛槎?fù)有道德上的角色責(zé)任，因此存在著兩種不同的道德責(zé)任：直接責(zé)任和角色責(zé)任。前者需要滿足因果條件、控制條件和認(rèn)知條件，后者需要滿足虛擬條件、控制條件和認(rèn)知條件。

這一區(qū)分在很大程度上可以幫助我們解決道德空?qǐng)鰡?wèn)題，并把運(yùn)氣帶回對(duì)道德責(zé)任的反思中，也就是說(shuō)，有時(shí)候我們需要對(duì)不幸負(fù)責(zé)。我們總是生活在一個(gè)被運(yùn)氣支配的世界，不受控制的自然常常給人們帶來(lái)不幸。我們往往認(rèn)為，自然帶來(lái)的是不幸，人為才產(chǎn)生了不正義。然而，正如施克萊所指出的，自然與人為對(duì)于區(qū)分不幸與不正義并不重要，問(wèn)題的關(guān)鍵在于人們“是否站在受害者的立場(chǎng)采取行動(dòng)，是進(jìn)行譴責(zé)還是宣告無(wú)罪，是去提供幫助、排憂解難、作出補(bǔ)償，還是直接掉頭走開(kāi)。”[17]然而，一個(gè)人并不能對(duì)受害者采取一種無(wú)限責(zé)任的立場(chǎng)，他只能作為一個(gè)人而不是作為上帝，在其職分范圍內(nèi)承擔(dān)對(duì)他者的責(zé)任。如果他不能在其職分范圍內(nèi)幫助、補(bǔ)償他者，那么他者的不幸就變成了不正義，他就需要對(duì)他者承擔(dān)角色責(zé)任。雖然他者的不幸并非是他在因果上直接導(dǎo)致的，并且在很大程度上要?dú)w結(jié)于來(lái)自自然的無(wú)常的運(yùn)氣，但是他在道德上卻需要為壞運(yùn)氣導(dǎo)致的壞結(jié)果負(fù)責(zé)。

把運(yùn)氣及其后果帶入道德評(píng)價(jià)，表明運(yùn)氣與道德并非互不相關(guān)，從而提示我們存在著一種被稱為道德運(yùn)氣(moralluck)的東西。內(nèi)格爾(T. Nagel)指出了這一點(diǎn)，如果一個(gè)人所做的事物的某些方面是其無(wú)法控制的，并且這些方面影響到了對(duì)他的道德評(píng)價(jià)，那么我們就可以說(shuō)它受到了道德運(yùn)氣的影響[18]。道德運(yùn)氣無(wú)疑會(huì)影響到對(duì)直接責(zé)任的評(píng)估，比如兩個(gè)意圖殺人的兇手，一個(gè)最終殺了人，另一個(gè)因?yàn)槟撤N壞運(yùn)氣抑或是好運(yùn)氣，沒(méi)有殺成人，那么最終前者可能就會(huì)背負(fù)在程度上更嚴(yán)重的道德責(zé)任。然而，無(wú)論兩個(gè)兇手是否殺了人，他們都因?yàn)殄e(cuò)誤的決定和作為，而無(wú)法免除道德責(zé)任。道德運(yùn)氣的更大作用在于幫助我們理解角色責(zé)任。比如兩個(gè)醫(yī)生由于同樣的疏忽，沒(méi)有詢問(wèn)他們的患者是否青霉素過(guò)敏就開(kāi)出這個(gè)處方，結(jié)果第一個(gè)醫(yī)生的患者青霉素過(guò)敏死去了，而第二個(gè)醫(yī)生的患者則完全不對(duì)青霉素過(guò)敏。雖然兩個(gè)醫(yī)生都有同樣的失職之處，但第一個(gè)醫(yī)生需要承擔(dān)法律和道德的責(zé)任，而第二個(gè)醫(yī)生一般不會(huì)有任何人追責(zé)他。我們可以說(shuō)第一個(gè)醫(yī)生和他的患者遭遇了壞運(yùn)氣，但第一個(gè)醫(yī)生無(wú)疑需要為他的失職和壞運(yùn)氣承擔(dān)責(zé)任。因此，只要一個(gè)人存在著某種失職，讓不幸變成了不正義，他就需要為此擔(dān)責(zé)。

3 從個(gè)體式責(zé)任到分布式責(zé)任？

角色責(zé)任無(wú)疑可以將大部分不幸歸結(jié)為不正義，從而極大地填補(bǔ)道德責(zé)任的空?qǐng)?。然而，無(wú)論如何還存在著這種情形，四種相關(guān)能動(dòng)者都恪守職分，但還是不能防止醫(yī)學(xué)人工智能作出了錯(cuò)誤的診斷，最終導(dǎo)致患者的不幸。為此，弗洛里迪提出了一種無(wú)過(guò)錯(cuò)責(zé)任(faultless responsibility)的道德責(zé)任原則。這本來(lái)是一個(gè)法學(xué)術(shù)語(yǔ)，指的是雖然沒(méi)有人存在過(guò)錯(cuò)，但也需要為此擔(dān)責(zé)。但弗洛里迪認(rèn)為人工智能的無(wú)過(guò)錯(cuò)責(zé)任是一種基于群體互動(dòng)的分布式責(zé)任，它相對(duì)于基于個(gè)體故意行為的個(gè)體式責(zé)任，如果說(shuō)后者聚焦于對(duì)個(gè)體的懲罰和獎(jiǎng)勵(lì)，那么前者就主要以對(duì)環(huán)境損害和福利的分配為導(dǎo)向。弗洛里迪認(rèn)為，我們可以制定一種機(jī)制，不再細(xì)究每一個(gè)能動(dòng)者的意圖和認(rèn)知，而是把讓這些能動(dòng)者作為一個(gè)網(wǎng)絡(luò)，共同承擔(dān)風(fēng)險(xiǎn)和責(zé)任，把我們關(guān)注的重心從個(gè)人發(fā)展和福利轉(zhuǎn)向社會(huì)系統(tǒng)的福祉和繁榮[12]。由此，任何人工智能系統(tǒng)的相關(guān)能動(dòng)者都可以共擔(dān)責(zé)任，并將一切不幸都作為不正義接受下來(lái)。

然而，我們將指出，弗洛里迪的分布式責(zé)任方案至少在兩個(gè)方面存在某種不可解決的錯(cuò)誤。首先，人工能動(dòng)者難以作為分布式責(zé)任的承擔(dān)者，弗洛里迪犯了責(zé)任謬置的錯(cuò)誤。弗洛里迪曾經(jīng)認(rèn)為人機(jī)混合體系的分布式道德不需要道德能動(dòng)者具有意向性和責(zé)任性，因此，人工能動(dòng)者也可以成為道德能動(dòng)者。盡管它無(wú)法承擔(dān)道德責(zé)任，但卻具有可問(wèn)責(zé)性(accountability)[19]。但現(xiàn)在他卻似乎傾向于認(rèn)為，分布式道德意味著分布式責(zé)任，人工能動(dòng)者也需要承擔(dān)分布式責(zé)任，雖然依然不要求它具有意向性。然而，這并不能幫我們理解人工智能如何可以承擔(dān)責(zé)任性，因?yàn)樗坪鯇⑷斯ぶ悄芘懦龇植际截?zé)任體系之后，仍然不影響這一體系的運(yùn)作。意向性似乎仍然是責(zé)任性的構(gòu)成要素，但由于迄今為止的人工智能還缺乏真正的意向性，人工智能無(wú)法成為角色責(zé)任的承擔(dān)者。無(wú)論是深度學(xué)習(xí)依賴的人工神經(jīng)網(wǎng)絡(luò)，還是知識(shí)圖譜所歸屬的符號(hào)主義，其系統(tǒng)的意義都依賴于外部觀察者的設(shè)計(jì)和賦予[20]。也就是說(shuō)，人工智能系統(tǒng)缺乏一種根據(jù)內(nèi)稟的目的來(lái)進(jìn)行決策的能力，所有的目的、意義和規(guī)范都是外部賦予的。在這個(gè)意義上，人工智能并不能控制自身的行為，更不能預(yù)知自身的行為可能會(huì)導(dǎo)致什么后果。因此，人工智能不滿足道德責(zé)任所必需的控制條件和認(rèn)知條件，從而不能承擔(dān)任何道德責(zé)任。

其次，在現(xiàn)實(shí)中回避個(gè)體式責(zé)任，要么不可欲，要么不可行。弗洛里迪所說(shuō)的無(wú)過(guò)錯(cuò)責(zé)任類似于我們前面所說(shuō)的角色責(zé)任，它們都意味著責(zé)任人的行為與受害人的損害之間沒(méi)有因果關(guān)系，但責(zé)任人的職責(zé)卻規(guī)定了他應(yīng)該避免引起這種損害。區(qū)別在于，弗洛里迪的無(wú)過(guò)錯(cuò)責(zé)任是一種分布式責(zé)任，而我們所說(shuō)的角色責(zé)任仍然是一種個(gè)體式責(zé)任。但在我們看來(lái)，如果完全排除個(gè)體式責(zé)任，分布式責(zé)任根本不具有可實(shí)行性。分布式責(zé)任預(yù)設(shè)了一個(gè)有著共同福祉和利益的共同體，預(yù)設(shè)了一種具有高度同理心和關(guān)注他者的道德德性，這一切都與我們的現(xiàn)實(shí)處境完全不符。如果一個(gè)共同體中分?jǐn)傌?zé)任的損失，遠(yuǎn)小于違規(guī)獲得的私人利益，那么很可能就會(huì)導(dǎo)致這樣的博弈策略，即每個(gè)人都傾向于違規(guī)獲得更多的利益。最后將導(dǎo)致一種責(zé)任公地悲劇，讓分布式責(zé)任不可行。另一方面，由于無(wú)過(guò)錯(cuò)責(zé)任完全回避了個(gè)體式責(zé)任，這就意味著每個(gè)人都同等地為風(fēng)險(xiǎn)和運(yùn)氣承擔(dān)責(zé)任，也可能會(huì)導(dǎo)致這樣的結(jié)果，即每個(gè)人都不愿意冒險(xiǎn)，每個(gè)人都阻止別人冒險(xiǎn)。最終每個(gè)人都傾向于不惹麻煩，讓新技術(shù)的應(yīng)用和創(chuàng)新變得不再可能。這樣的結(jié)果就是一種責(zé)任反公地悲劇，讓分布式責(zé)任不可欲。

為了徹底解決道德責(zé)任空?qǐng)鰡?wèn)題，并避免分布式責(zé)任所導(dǎo)致的責(zé)任謬置、責(zé)任公地悲劇和反公地悲劇的錯(cuò)誤，我們有必要把個(gè)體式責(zé)任和分布式責(zé)任結(jié)合起來(lái)，把個(gè)體式責(zé)任作為歸責(zé)程序的開(kāi)始，從而盡可能避免責(zé)任謬置、責(zé)任公地悲劇和反公地悲劇，同時(shí)把分布式責(zé)任來(lái)為最純粹的不幸兜底，從而徹底解決道德責(zé)任空?qǐng)鰡?wèn)題。

個(gè)體式責(zé)任包括直接責(zé)任和角色責(zé)任。對(duì)于直接責(zé)任，只要明確能動(dòng)者的行為與損害之間的因果關(guān)系，就可以很容易地作出判定。復(fù)雜的是角色責(zé)任的判定，它需要滿足一個(gè)并不容易確定的虛擬條件：能動(dòng)者本可以作出某種分內(nèi)的干預(yù)以避免或減弱某種不良后果，但卻因?yàn)椴蛔鳛槎鴮?dǎo)致了不幸。困難之處就在于如何界定什么干預(yù)是分內(nèi)的，什么干預(yù)是分外的。一個(gè)可行的辦法是根據(jù)每個(gè)人在社會(huì)中的功能角色來(lái)推演其職分?；谝环N新亞里士多德主義的視角，每個(gè)人都被共同體中賦予了一種功能性的道德和政治角色，美德即意味著一個(gè)人對(duì)其社會(huì)角色的出色發(fā)揮。而具體處境下的處事規(guī)范，不過(guò)是通過(guò)某種實(shí)踐智慧來(lái)具體地、情境地把握其社會(huì)角色。因此，只要我們明確了這種社會(huì)角色，就可以間接地明確角色責(zé)任的分內(nèi)和分外之分。比如，數(shù)據(jù)標(biāo)注者的功能角色是提供準(zhǔn)確和公正的數(shù)據(jù)，模型設(shè)計(jì)者的功能角色是設(shè)計(jì)準(zhǔn)確、公正和安全的模型，醫(yī)學(xué)人工智能使用者的功能角色是規(guī)范、謹(jǐn)慎地使用模型，監(jiān)管者的功能角色是及時(shí)頒布相應(yīng)的技術(shù)和倫理規(guī)范。這些功能角色無(wú)疑只是概略性的，可以在以后的研究中進(jìn)一步細(xì)化，但從這些功能角色，無(wú)疑可以推演出具體情境中的職分。無(wú)論如何，在這個(gè)角色責(zé)任體系中，每個(gè)人的作為與不作為，都是被某種角色規(guī)范所引導(dǎo)的，并與特定的懲罰與獎(jiǎng)賞綁定在一起。這是一個(gè)權(quán)責(zé)清晰的責(zé)任體系，可以避免責(zé)任公地悲劇和反公地悲劇，并可以有效地避免大部分道德責(zé)任空?qǐng)鰡?wèn)題，因?yàn)榇蟛糠植恍叶紩?huì)歸結(jié)為角色責(zé)任。

結(jié)合分布式責(zé)任與個(gè)體式責(zé)任，我們就可以構(gòu)想一個(gè)人工智能損害的歸責(zé)程序。當(dāng)患者因?yàn)槿斯ぶ悄艿腻e(cuò)誤診斷而遭受健康損害的時(shí)候，首先的工作是排查直接責(zé)任，檢查是否存在著相關(guān)能動(dòng)者因?yàn)槟撤N錯(cuò)誤的作為而因果地導(dǎo)致了患者的健康損害。下一步的工作是排查角色責(zé)任，檢查相關(guān)的能動(dòng)者是否因?yàn)槟撤N失職的不作為，讓本可避免的損害發(fā)生了。如果既不存在直接責(zé)任，也不存在角色責(zé)任，那么最后的工作才是確定一種分布式的無(wú)過(guò)錯(cuò)責(zé)任，讓相關(guān)的道德能動(dòng)者實(shí)行一種責(zé)任分擔(dān)。由此，我們就可以將醫(yī)學(xué)人工智能的問(wèn)責(zé)程序歸納如下：直接責(zé)任——角色責(zé)任——分布式責(zé)任。

4 結(jié)語(yǔ)

醫(yī)學(xué)人工智能由于數(shù)據(jù)依賴性和不可解釋性，其能動(dòng)性分布于不同的行動(dòng)者之間，并難以預(yù)期和解釋它的輸出結(jié)果，這會(huì)導(dǎo)致一種道德責(zé)任空?qǐng)鰡?wèn)題：醫(yī)學(xué)人工智能的錯(cuò)誤診斷導(dǎo)致了患者的不幸，每個(gè)行動(dòng)者似乎都沒(méi)有明顯的過(guò)錯(cuò)，從而也無(wú)人需要為此負(fù)責(zé)。在這樣的背景下，由于商業(yè)利益和部門利益的驅(qū)動(dòng)，很可能加劇醫(yī)學(xué)人工智能對(duì)患者的損害，讓他們徹底置于無(wú)常的運(yùn)氣的支配。為了實(shí)行一種負(fù)責(zé)任的創(chuàng)新，建造一種更加安全和公正的人工智能，有必要把個(gè)體角色責(zé)任和分布式責(zé)任體系置于醫(yī)學(xué)人工智能責(zé)任體系的中心，讓相關(guān)的責(zé)任人承擔(dān)壞道德運(yùn)氣的后果。畢竟現(xiàn)代技術(shù)的原初目的就在于克服人類的不幸，以我們道德能力克服運(yùn)氣對(duì)人類的支配。無(wú)論如何，我們應(yīng)該向這個(gè)目標(biāo)邁進(jìn)，把不幸作為一種不正義來(lái)認(rèn)真對(duì)待。