周羅晶 邵 旸 張 瑞 李允水 寶 磊 徐道亮

在“健康中國(guó)2030”規(guī)劃的統(tǒng)籌推進(jìn)下，醫(yī)療行業(yè)由傳統(tǒng)醫(yī)療轉(zhuǎn)變?yōu)閿?shù)字醫(yī)療、信息醫(yī)療，再由數(shù)字醫(yī)療轉(zhuǎn)變?yōu)橹腔坩t(yī)療?！吨袊?guó)人工智能醫(yī)療白皮書》將人工智能在醫(yī)療領(lǐng)域的應(yīng)用歸納為5大方面，即醫(yī)學(xué)影像、藥物研發(fā)、輔助診斷、健康管理和疾病預(yù)測(cè)，利用人工智能技術(shù)助力醫(yī)療發(fā)展成為社會(huì)的研究熱點(diǎn)。新冠病毒疫情期間，人工智能技術(shù)在健康管理、藥物研發(fā)、疾病預(yù)測(cè)和疫情防控等方面發(fā)揮了重要的作用。人工智能技術(shù)不斷發(fā)展，在重塑人類生活工作方式的同時(shí)，也給現(xiàn)代科技倫理學(xué)帶來(lái)了安全倫理、人權(quán)倫理、責(zé)任倫理等一系列倫理挑戰(zhàn)?！癆I+醫(yī)療”涉及的倫理問(wèn)題也是現(xiàn)代醫(yī)學(xué)倫理學(xué)無(wú)法回避的重要議題。

從科技實(shí)踐層面來(lái)看，科技倫理既包括科學(xué)研究過(guò)程中應(yīng)遵循的倫理規(guī)范，也包括科學(xué)技術(shù)應(yīng)用過(guò)程中應(yīng)遵循的倫理規(guī)范[1-2]；既包括傳統(tǒng)科技的倫理規(guī)范，也包括各類新興科技(如人工智能、基因工程、大數(shù)據(jù)等)引發(fā)的新型倫理問(wèn)題?？萍紓惱碇卫?，是對(duì)科學(xué)技術(shù)負(fù)面效應(yīng)的批判性審視，不僅要將這些倫理規(guī)范和價(jià)值準(zhǔn)則應(yīng)用于科學(xué)研究中，更要將其落實(shí)于具體的社會(huì)治理行動(dòng)中，引導(dǎo)科技向善?！都訌?qiáng)科技倫理治理的意見》指出，要加強(qiáng)科技倫理治理，有效防范科技創(chuàng)新可能帶來(lái)的倫理風(fēng)險(xiǎn)。目前，我國(guó)正處于建設(shè)面向2035的科技倫理體系關(guān)鍵時(shí)期，在此過(guò)程中，重視“AI+醫(yī)療”伴隨的倫理問(wèn)題，不僅有利于完善人工智能應(yīng)用的倫理原則、規(guī)范和體制機(jī)制，推動(dòng)科技倫理體系建設(shè)，更有利于確保我國(guó)科技創(chuàng)新活動(dòng)行穩(wěn)致遠(yuǎn)，使科學(xué)技術(shù)更好地造福社會(huì)。因此，研究闡述了人工智能應(yīng)用于醫(yī)療領(lǐng)域的現(xiàn)狀，深入分析面臨的倫理問(wèn)題及其產(chǎn)生原因，并針對(duì)相關(guān)倫理問(wèn)題提出治理建議，為完善“AI+醫(yī)療”倫理體系，促進(jìn)“AI+醫(yī)療”規(guī)范化發(fā)展提供理論基礎(chǔ)。

1 人工智能在醫(yī)療領(lǐng)域的應(yīng)用現(xiàn)狀

人工智能（AI）誕生于1956年，其發(fā)展經(jīng)歷了多次低谷和高潮。20世紀(jì)前，國(guó)內(nèi)外對(duì)“AI+醫(yī)療”的研究集中在臨床知識(shí)庫(kù)上。最初的臨床知識(shí)庫(kù)運(yùn)行需借助LISP設(shè)備，但由于LISP設(shè)備無(wú)法接連互聯(lián)網(wǎng)且造價(jià)昂貴，導(dǎo)致臨床知識(shí)庫(kù)應(yīng)用受到限制。2000-2015年，國(guó)外逐步將人工智能應(yīng)用于疾病救治，創(chuàng)造了手術(shù)機(jī)器人、電子病歷等新興產(chǎn)品。而中國(guó)致力于臨床知識(shí)庫(kù)深入研究，“AI+醫(yī)療”發(fā)展相對(duì)緩慢。2015-2017年，人工智能算法進(jìn)一步優(yōu)化，其圖像識(shí)別準(zhǔn)確率大幅提升，“AI+影像”進(jìn)入快速發(fā)展階段?；谇捌谂R床知識(shí)庫(kù)的研究，用于疾病判斷的臨床決策支持系統(tǒng)（Clinical Decision Support System，CDSS）產(chǎn)品逐漸趨于成熟。2018年，我國(guó)發(fā)布了《關(guān)于促進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見》，明確鼓勵(lì)在醫(yī)療保健領(lǐng)域大力發(fā)展人工智能等技術(shù)應(yīng)用。在規(guī)劃推動(dòng)下，中國(guó)“AI+醫(yī)療”進(jìn)入快速發(fā)展階段，創(chuàng)造了智慧病案、智能導(dǎo)診等新產(chǎn)品，而國(guó)產(chǎn)手術(shù)機(jī)器人仍在培育期。

當(dāng)前，將人工智能應(yīng)用于醫(yī)院層面的服務(wù)有智能語(yǔ)音電子病歷、智能導(dǎo)醫(yī)問(wèn)診、醫(yī)療質(zhì)量監(jiān)控、遠(yuǎn)程醫(yī)療、智能手術(shù)機(jī)器人等[3]。某公司將人工智能與電子病歷結(jié)合，開發(fā)了一款語(yǔ)音病歷錄入系統(tǒng)，極大縮短了醫(yī)生報(bào)告錄入的時(shí)間，提高了醫(yī)生的工作效率。有學(xué)者提出并研發(fā)的臨床AI+COVID-19診斷系統(tǒng)，可以用于識(shí)別肺部CT影像，并精確診斷、量化和預(yù)測(cè)COVID-19肺炎?！懊钍諷”腹腔微創(chuàng)手術(shù)機(jī)器人、達(dá)芬奇外科手術(shù)機(jī)器人等外科手術(shù)機(jī)器人也廣泛應(yīng)用于臨床治療。除此之外，人工智能還可用于體檢機(jī)構(gòu)的智能健康管理，基因檢測(cè)機(jī)構(gòu)的基因檢測(cè)，疾控機(jī)構(gòu)的傳染病防控和藥企的藥物研發(fā)等工作。

2 人工智能應(yīng)用于醫(yī)療領(lǐng)域倫理問(wèn)題及其產(chǎn)生原因

智慧醫(yī)療的發(fā)展產(chǎn)生了海量的醫(yī)療數(shù)據(jù)，而“AI+醫(yī)療”正是通過(guò)大規(guī)模機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù)，處理和分析這些海量的醫(yī)療數(shù)據(jù)，并從中挖掘有價(jià)值的數(shù)據(jù)信息，最后通過(guò)建立模型找到解決臨床問(wèn)題的方案以及進(jìn)行疾病預(yù)測(cè)等。人工智能在推動(dòng)醫(yī)療健康產(chǎn)業(yè)迅速發(fā)展的同時(shí)，也帶來(lái)了一系列倫理問(wèn)題。根據(jù)人工智能倫理問(wèn)題的特征和產(chǎn)生方式的不同，可以從技術(shù)、數(shù)據(jù)和社會(huì)應(yīng)用3個(gè)方面分析其產(chǎn)生的原因。

2.1 “AI+醫(yī)療”倫理問(wèn)題的產(chǎn)生原因

2.1.1 技術(shù)方面。算法與系統(tǒng)的安全問(wèn)題、算法歧視問(wèn)題、算法決策問(wèn)題、算法的透明度問(wèn)題等都是由人工智能技術(shù)引發(fā)的倫理問(wèn)題[4]。算法與系統(tǒng)的安全問(wèn)題，主要是指人工智能算法被惡意篡改，或系統(tǒng)的漏洞被攻擊和惡意利用的情況；算法歧視問(wèn)題，主要是指研究人工智能算法的人員的認(rèn)知偏見或者訓(xùn)練數(shù)據(jù)不完善導(dǎo)致歧視性的決策結(jié)果；算法決策問(wèn)題，是指人工智能得出的不可預(yù)見性結(jié)果；算法的透明度，主要是指算法的可解釋性和人類的知情同意。

2.1.2 數(shù)據(jù)方面。人工智能技術(shù)的發(fā)展離不開海量數(shù)據(jù)。隨著智能電子病歷、智能健康監(jiān)測(cè)等技術(shù)的廣泛應(yīng)用，給平臺(tái)運(yùn)營(yíng)方提供了大量收集用戶信息的機(jī)會(huì)，數(shù)據(jù)收集、保存、提取、流通和利用的安全性，成為引發(fā)人工智能倫理問(wèn)題的重要原因。

2.1.3 社會(huì)應(yīng)用方面。人工智能算法的濫用或誤用引發(fā)了人工智能社會(huì)應(yīng)用方面的倫理問(wèn)題。由于算法濫用或誤用，人們?cè)谏鐣?huì)活動(dòng)時(shí)容易出現(xiàn)使用目的、方式、范圍等偏差，從而導(dǎo)致不良的影響和后果[5]。以智能影像診斷為例，利用人工智能輔助影像診斷，可以提高醫(yī)生診斷效率，但是，如果由人工智能完全替代醫(yī)生診斷，則有可能診斷錯(cuò)誤，進(jìn)而導(dǎo)致醫(yī)療事故[6]。

2.2 人工智能應(yīng)用于醫(yī)療領(lǐng)域的倫理問(wèn)題

2.2.1 醫(yī)生主體地位被削弱。人工智能最重要的核心是“數(shù)據(jù)算法”。人工智能通過(guò)收集海量的數(shù)據(jù)進(jìn)行提取分析，并迅速得出相應(yīng)的結(jié)論或觸發(fā)相應(yīng)的操作。隨著算法的不斷完善和發(fā)展，人工智能被逐步應(yīng)用于輔助或代替醫(yī)生做出診斷。從導(dǎo)診、檢查分析、病例錄入、手術(shù)和放療等都可見到人工智能的影子。隨著人工智能主體性的增強(qiáng)，醫(yī)生的主體性相對(duì)減弱。醫(yī)務(wù)人員是醫(yī)療活動(dòng)中的主體，醫(yī)生通過(guò)學(xué)習(xí)和實(shí)踐掌握著豐富的診療經(jīng)驗(yàn)和強(qiáng)大的風(fēng)險(xiǎn)掌控能力，使其能夠完成疾病的診斷與治療。然而，醫(yī)療大數(shù)據(jù)、人工智能的普及引發(fā)了醫(yī)生無(wú)用論的觀點(diǎn)?；颊咭惨?yàn)閷?duì)科學(xué)的信賴而偏向相信數(shù)據(jù)分析結(jié)果，這也導(dǎo)致醫(yī)生在醫(yī)療主體中的地位被逐漸削弱。當(dāng)前，醫(yī)生的部分決策權(quán)已被人工智能取代，人工智能會(huì)提示醫(yī)生如何做出下一步?jīng)Q策。在此情形下，醫(yī)生對(duì)人工智能的依賴性增加，醫(yī)生的主體地位逐漸弱化。

2.2.2 數(shù)據(jù)或隱私安全風(fēng)險(xiǎn)增加。隨著谷歌公司“夜鶯計(jì)劃”等事件的曝光，人工智能隱私、安全問(wèn)題受到世界各國(guó)的關(guān)注?！癆I+醫(yī)療”的數(shù)據(jù)涉及個(gè)體身份信息、家庭環(huán)境、病歷資料、個(gè)人生活習(xí)慣等，有些智能健康管理APP甚至可以收集個(gè)體的情緒變化、精神狀態(tài)、心理波動(dòng)等數(shù)據(jù)。這些信息被實(shí)時(shí)上傳至數(shù)據(jù)庫(kù)，供研究機(jī)構(gòu)隨時(shí)調(diào)取分析，導(dǎo)致數(shù)據(jù)或個(gè)人隱私被泄露的風(fēng)險(xiǎn)急劇增加。同時(shí)，在大數(shù)據(jù)環(huán)境下，不法分子可能利用數(shù)據(jù)挖掘預(yù)測(cè)技術(shù)對(duì)碎片化的個(gè)人健康信息進(jìn)行處理，以此推測(cè)出個(gè)人的核心隱私信息，個(gè)人數(shù)據(jù)或隱私的保護(hù)難度加大[7]。此外，“AI+醫(yī)療”的實(shí)施需要依托各類數(shù)字平臺(tái)的建設(shè)，數(shù)字平臺(tái)在存放或使用海量數(shù)據(jù)方面可能存在安全隱患[8]。一方面，平臺(tái)運(yùn)營(yíng)方掌握了大量醫(yī)患數(shù)據(jù)，大數(shù)據(jù)下的云服務(wù)與精準(zhǔn)推送可能造成醫(yī)患用戶被“數(shù)字控制”[9]。這不但包括控制醫(yī)患用戶的使用行為，還控制搭建數(shù)字平臺(tái)的底層技術(shù)。平臺(tái)運(yùn)營(yíng)方擁有海量的醫(yī)患用戶數(shù)據(jù)，可能引發(fā)數(shù)據(jù)壟斷，相關(guān)數(shù)據(jù)會(huì)面臨較大安全風(fēng)險(xiǎn)。相關(guān)核心數(shù)據(jù)如果跨境流動(dòng)，其潛藏的國(guó)家安全隱患更為巨大。另一方面，未來(lái)醫(yī)療機(jī)構(gòu)間、數(shù)據(jù)平臺(tái)間的聯(lián)合將更加緊密，數(shù)據(jù)在機(jī)構(gòu)間、平臺(tái)間的流通也存在一定安全風(fēng)險(xiǎn)。

2.2.3 醫(yī)患信任危機(jī)加劇。醫(yī)療服務(wù)長(zhǎng)期具有醫(yī)患信息不對(duì)稱的特征，使得醫(yī)患信任危機(jī)成為醫(yī)學(xué)倫理學(xué)長(zhǎng)期面臨的難題。隨著人工智能在醫(yī)療行業(yè)的普遍應(yīng)用，雖然一定程度上為患者提供了方便快捷的咨詢、初診服務(wù)，緩解了看病貴、看病難以及誤診的問(wèn)題，但人工智能算法結(jié)果的不確定性和利己性、過(guò)程的難理解性等可能在實(shí)際診療中給醫(yī)患信任帶來(lái)新的危機(jī)[10]。新的危機(jī)主要表現(xiàn)：一是就醫(yī)環(huán)境智能化逐漸改變患者的行為方式。智能便攜設(shè)備時(shí)刻收集患者的數(shù)據(jù)，并實(shí)時(shí)給予患者治療建議與運(yùn)動(dòng)提醒，日復(fù)一日改變了患者的就醫(yī)行為和價(jià)值選擇。一方面，人工智能在醫(yī)療領(lǐng)域的某些方面表現(xiàn)優(yōu)異，造成了患者的“科技迷信”，對(duì)醫(yī)生的診斷經(jīng)驗(yàn)持懷疑態(tài)度。另一方面，大數(shù)據(jù)下的精準(zhǔn)推送服務(wù)會(huì)投其所好，使患者更加相信網(wǎng)絡(luò)信息，而對(duì)醫(yī)生產(chǎn)生懷疑態(tài)度。二是人工智能挑戰(zhàn)了醫(yī)生的權(quán)威性和知識(shí)壟斷地位。傳統(tǒng)醫(yī)患關(guān)系中，醫(yī)生在醫(yī)學(xué)專業(yè)知識(shí)和信息資源中占權(quán)威和壟斷地位。醫(yī)療領(lǐng)域人工智能的誕生匯聚了海量的醫(yī)學(xué)知識(shí)，其知識(shí)存儲(chǔ)、讀取能力遠(yuǎn)超于醫(yī)生，對(duì)部分疾病的診斷效率和精確度也大幅高于醫(yī)生，因此患者對(duì)人工智能給出的診療建議的信任程度超過(guò)醫(yī)生，由此對(duì)醫(yī)生的建議產(chǎn)生質(zhì)疑[11]。

2.2.4 醫(yī)療資源分配不均加劇。人工智能可以高效地完成各類醫(yī)療任務(wù)，如錄入病例、輔助診斷、遠(yuǎn)程醫(yī)療等，其根本目的是使所有人從中受益，并非加劇醫(yī)療資源分配的不均。智慧醫(yī)療是IBM于2008年底提出，旨在緩解醫(yī)療資源分配不均的矛盾，提升衛(wèi)生服務(wù)可及性、公平性。然而，搭載人工智能的醫(yī)療儀器具有精密度高、造價(jià)昂貴、維護(hù)成本高等特點(diǎn)，使得“AI+醫(yī)療”難以全面推廣，擁有優(yōu)質(zhì)醫(yī)療資源的醫(yī)院門庭若市，而基層醫(yī)療機(jī)構(gòu)無(wú)人問(wèn)津，一定程度上加劇了社會(huì)不公與資源分配不均。

2.2.5 事故責(zé)任界限模糊?；谌斯ぶ悄艿尼t(yī)療服務(wù)使得各種智能便攜設(shè)備、遠(yuǎn)程醫(yī)療系統(tǒng)、遠(yuǎn)程健康監(jiān)測(cè)系統(tǒng)、健康云平臺(tái)等參與其中，涉及的法律主體包括設(shè)備開放商、軟件系統(tǒng)開發(fā)商、醫(yī)療衛(wèi)生服務(wù)機(jī)構(gòu)、醫(yī)務(wù)人員、網(wǎng)絡(luò)運(yùn)營(yíng)商、服務(wù)提供商等。若在服務(wù)過(guò)程中發(fā)生意外事件，其責(zé)任界限模糊，加大了事故責(zé)任界定難度[12]。

3 加強(qiáng)“AI+醫(yī)療”倫理治理路徑建議

3.1 強(qiáng)化醫(yī)生主體地位

強(qiáng)化醫(yī)生的主體地位是“AI+醫(yī)療”倫理治理的首要途徑。首先，要肯定醫(yī)生的獨(dú)立性。人工智能可以輔助醫(yī)生做出診斷，但不能完全取代醫(yī)務(wù)人員。當(dāng)人工智能的決策結(jié)果與醫(yī)生的臨床經(jīng)驗(yàn)發(fā)生沖突時(shí)，必須將最終決策權(quán)交給醫(yī)生，而人工智能的決策結(jié)果只能作為參考。其次，要肯定醫(yī)生的親歷性。醫(yī)生應(yīng)親自參與患者診療的全過(guò)程，在非關(guān)鍵節(jié)點(diǎn)可以適當(dāng)使用人工智能，以此提升診療效率，而在關(guān)鍵性節(jié)點(diǎn)，其最終的決策應(yīng)由醫(yī)生完成。

3.2 建立健全信息數(shù)據(jù)保護(hù)制度

我國(guó)目前關(guān)于保護(hù)醫(yī)療健康信息數(shù)據(jù)的規(guī)定多散見于各個(gè)法律制度，針對(duì)“AI+醫(yī)療”信息數(shù)據(jù)保護(hù)的法律法規(guī)較少。因此，政府及相關(guān)部門應(yīng)建立健全“AI+醫(yī)療”信息數(shù)據(jù)保護(hù)制度，細(xì)化界定“AI+醫(yī)療”數(shù)據(jù)的保護(hù)標(biāo)準(zhǔn)和保護(hù)范圍。同時(shí)，政府應(yīng)統(tǒng)籌制定隱私安全保護(hù)和監(jiān)督規(guī)范，醫(yī)療機(jī)構(gòu)、健康管理機(jī)構(gòu)以及各類與健康信息數(shù)據(jù)收集、管理有關(guān)的機(jī)構(gòu)應(yīng)在政府規(guī)范的統(tǒng)領(lǐng)下，根據(jù)自身工作特點(diǎn)，制定相應(yīng)的隱私安全保護(hù)規(guī)范，并安排專職人員進(jìn)行監(jiān)督，確保信息數(shù)據(jù)安全性。政府可以建立專門的數(shù)據(jù)安全和保護(hù)平臺(tái)，定期對(duì)相關(guān)機(jī)構(gòu)開展數(shù)據(jù)安全性檢查和數(shù)據(jù)倫理學(xué)教育，加強(qiáng)其職業(yè)道德修養(yǎng)，提升數(shù)據(jù)保護(hù)能力。

3.3 增強(qiáng)患者對(duì)醫(yī)務(wù)人員的信任感

“AI+醫(yī)療”的誕生改變了醫(yī)患之間的倫理關(guān)系，針對(duì)“A I+醫(yī)療”中醫(yī)患信任缺失的倫理問(wèn)題，其治理路徑應(yīng)以增強(qiáng)患者對(duì)醫(yī)務(wù)人員的信任感為方向[13]。一方面，要強(qiáng)化醫(yī)患目標(biāo)一致性意識(shí)。無(wú)論是否應(yīng)用人工智能，醫(yī)生的最終目標(biāo)都是希望治愈患者。因此，以醫(yī)生為主體、人工智能為輔，重建醫(yī)患間信任的橋梁，才能共同協(xié)作完成診療康復(fù)全流程。另一方面，要強(qiáng)化政府監(jiān)管職能。政府應(yīng)完善相關(guān)政策法規(guī)，對(duì)有關(guān)醫(yī)療機(jī)構(gòu)或企業(yè)進(jìn)行監(jiān)督和規(guī)制，保證人工智能功能和性能的真實(shí)性與可靠性。同時(shí)，還應(yīng)對(duì)各類違法違規(guī)的“AI+醫(yī)療”行為予以懲處，以此增強(qiáng)患者對(duì)醫(yī)務(wù)人員的信任感，有效化解醫(yī)患信任危機(jī)。

3.4 提高醫(yī)療資源配置效率

“AI+醫(yī)療”旨在提高醫(yī)療資源配置效率，在一定程度上緩解了醫(yī)療資源分配不均衡的問(wèn)題。然而，搭載人工智能的儀器設(shè)備具有高端化的特點(diǎn)，使得普通民眾難以負(fù)擔(dān)得起智能醫(yī)學(xué)技術(shù)，醫(yī)療資源配置不均衡問(wèn)題加劇。因此，政府應(yīng)充分發(fā)揮其在資源配置中的引導(dǎo)性、彌補(bǔ)性作用，加大公共醫(yī)療資源供給力度，著力建成分工明確、運(yùn)行高效的整合型醫(yī)療衛(wèi)生服務(wù)體系，切實(shí)提升醫(yī)療公平與公正。其次，政府應(yīng)將“AI+醫(yī)療”納入社會(huì)保障體系，降低民眾的醫(yī)療負(fù)擔(dān)，保證全民享有智能醫(yī)療發(fā)展的紅利。

3.5 完善事故責(zé)任界定體系

完善事故責(zé)任界定落實(shí)體系刻不容緩，政府應(yīng)加強(qiáng)專項(xiàng)立法，出臺(tái)“AI+醫(yī)療”責(zé)任分配等相應(yīng)法律法規(guī)，建立人工智能應(yīng)用審批體系，從法律層面規(guī)范“AI+醫(yī)療”的相關(guān)標(biāo)準(zhǔn)并進(jìn)行有效監(jiān)管，明確人工智能應(yīng)用于醫(yī)療過(guò)程中各法律主體的責(zé)任和義務(wù)，建立健全智慧醫(yī)療審查和風(fēng)險(xiǎn)規(guī)避制度。