人工智能在健康產業(yè)應用中的倫理問題分析*

潘若琳，鄭秋瑩

(1 北京中醫(yī)藥大學護理學院，北京 100029,kotomituanzi@163.com；2 北京中醫(yī)藥大學管理學院，北京 100029)

2017年，國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，表明中國將人工智能視為促進產業(yè)變革和經濟轉型的關鍵,人工智能革新了人們的生產生活方式，開始向各行各業(yè)賦能[1]。近年來，人工智能技術與健康領域不斷加深融合，智能醫(yī)療應用場景愈發(fā)豐富，人工智能已經成為健康產業(yè)發(fā)展新的驅動力，在醫(yī)療、護理、健康、養(yǎng)老等方面得到了廣泛應用。2017年，美國加州召開的“阿西洛馬會議”上，多位人工智能領域的專家聯(lián)合簽署了《阿西洛馬人工智能原則》，該原則倡導：在全世界范圍，涉足人工智能領域的各方要共同遵守這些原則，保障人類的共同利益和安全[2]。人工智能技術日益成為醫(yī)療健康領域關注的核心，但由于缺乏統(tǒng)一倫理思想的指導，其可能存在的倫理風險也愈發(fā)凸顯，2018年《未來基石——人工智能的社會角色與倫理》報告發(fā)布會上，微軟公司總裁施博德指出，在給予計算機更強大力量的同時，也應當借助社會倫理對其進行合理引導[3]。

健康產業(yè)作為關系人類健康福祉的重要產業(yè)，更要認清人工智能的內在本質，分析其發(fā)展路徑，關注并找出人工智能可能帶來的倫理問題，并進行合理規(guī)避。2019年3月4日，第十三屆全國人大二次會議上，大會發(fā)言人張業(yè)遂表示，人大常委會已將人工智能相關法律列入本屆五年立法規(guī)劃，努力為人工智能創(chuàng)新發(fā)展提供有力法治保障[4]。雖然現(xiàn)階段的人工智能尚處于弱人工智能階段，還不涉及強烈的倫理問題，但是面對飛速發(fā)展的科技，我們不得不防患于未然，健康產業(yè)是一個特殊的產業(yè)，在人工智能這項敏感的技術面前，倫理思考一定要走在技術發(fā)展的前面，才能更好地解放生產力，解放人類智能。

1 人工智能在健康領域的發(fā)展現(xiàn)狀

1.1 發(fā)展現(xiàn)狀

健康產業(yè)兼具產業(yè)屬性與公益屬性融合的特征，屬于半公益性的經濟活動，發(fā)展這一產業(yè)需要市場和政府協(xié)同作用，政策和技術在健康產業(yè)的發(fā)展現(xiàn)狀中起著舉足輕重的作用。

1.1.1 技術及應用場景現(xiàn)狀

2016年被稱為“人工智能元年”，科技的躍遷，資本的活躍，移動互聯(lián)網(wǎng)的普及，物聯(lián)網(wǎng)時代的到來，為大數(shù)據(jù)的快速積累，設備運算能力的提升，算法模型的演進創(chuàng)造了條件，使得人工智能相關技術迅猛發(fā)展。從最初僅僅局限于掛號服務、信息查詢、輕問診，到電子病歷、醫(yī)療手術機器人、智能芯片，人工智能與健康產業(yè)的融合從邊緣的探索階段走進核心發(fā)展階段。

根據(jù)對新華網(wǎng)及中國知網(wǎng)、萬方數(shù)據(jù)等期刊平臺相關信息的整理和比對，可以發(fā)現(xiàn)人工智能健康產業(yè)已經孕育出多種產品(詳見表1)。目前，人工智能與健康產業(yè)結合方式豐富，技術方面包括語音識別、圖像處理、機器人技術、大數(shù)據(jù)分析、文獻搜集與分析推理；就診流程方面包括診前、診中、診后；適用對象方面包括醫(yī)院、醫(yī)生、患者、藥企等。

表1 人工智能健康產業(yè)應用場景及應用

注：本表為作者根據(jù) 新華網(wǎng).人工智能技術在醫(yī)療領域的應用[EB/OL].(2018-09-25)[2019-03-08].http://www.xinhuanet.com/info/2018-09/25/c_137491303.htm.整理而成

美國軟件公司Nuance Communications研制的Dragon Medical人工智能助手可幫助醫(yī)生使用語音完成健康檔案編輯、患者病歷評估及處方填寫等任務，科大訊飛云醫(yī)聲利用其全球領先的智能語音和人工智能技術，收集患者資料以供醫(yī)生隨時查閱，還能將醫(yī)生說出來的醫(yī)囑直接整理成電子文檔；騰訊公司研發(fā)的騰訊覓影利用計算機視覺和深度學習技術，輔助醫(yī)生診斷和完成重大疾病早期篩查等任務；IBM沃森機器人，定位是“腫瘤專家顧問”,可以通過詢問患者的病征、病史，通過人工智能技術迅速給出診斷提示和治療意見，達芬奇手術機器人能夠幫助醫(yī)生為患者進行微創(chuàng)手術；Epicenter芯片通過植入人體獲取人的行為和健康信息，便利人們的生活；硅谷Atomwise利用其強悍的文獻搜集與數(shù)據(jù)處理能力，大大提高了藥物研發(fā)的效率。

1.1.2 政策現(xiàn)狀

現(xiàn)今我國衛(wèi)生健康服務需求提高、人口老齡化、疾病譜變化、醫(yī)療衛(wèi)生資源配置不均等問題都對衛(wèi)生體系和健康產業(yè)提出了新的要求。2016年6月，國務院公布《關于促進和規(guī)范健康醫(yī)療大數(shù)據(jù)應用發(fā)展的指導意見》，明確指出健康醫(yī)療大數(shù)據(jù)是國家重要的基礎性戰(zhàn)略資源[5]。2017年5月，科技部發(fā)布《“十三五”衛(wèi)生與健康科技創(chuàng)新專項規(guī)劃》，要求推進醫(yī)學人工智能研究，支持智慧醫(yī)療發(fā)展[6]。2017年7月，國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出推廣應用人工智能治療新模式新手段，建立快速精準的智能醫(yī)療體系，探索智慧醫(yī)院建設；加強群體智能健康管理，突破健康大數(shù)據(jù)分析、研發(fā)健康管理可穿戴設備，建設智能養(yǎng)老社區(qū)和機構[7]?！兑庖姟贰兑?guī)劃》的出臺，表現(xiàn)出國家對人工智能發(fā)展的鮮明支持態(tài)度，明確了健康產業(yè)的發(fā)展路徑和發(fā)展目標，政策紅利的釋放，使市場對人工智能健康產業(yè)更加充滿了信心，隨著大量資本的注入，健康產業(yè)蓬勃發(fā)展。

2 人工智能倫理問題研究現(xiàn)狀

論文發(fā)表量是反映學者研究興趣和學術熱情的重要指標。據(jù)萬方數(shù)據(jù)庫統(tǒng)計顯示，2017年后，有關人工智能的文章數(shù)量呈井噴趨勢，僅2017年一年的文獻量就達到了9495篇，2018年更是達到10050篇之多，為本研究提供了豐富的素材。以篇名、關鍵詞、摘要、全文為檢索項，“人工智能”and“健康”and“倫理”為檢索詞，于2019年3月，搜索中國知網(wǎng)、萬方，共檢出中文期刊文獻139篇，通過瀏覽篇名和摘要，排除與本主題明顯不符的文獻，經過篩選，共納入中文文獻31篇。

現(xiàn)有的關于人工智能倫理問題的文章多從社會和技術兩個層面出發(fā)來討論分析，而技術層面又多從算法和數(shù)據(jù)入手，如周吉銀等(2019)認為人工智能的倫理問題主要由算法的自主學習能力所衍生，目前人工智能是否會傷害人類取決于賦予其任務的人類是否有傷害人的目的；劉榮(2018)認為智能醫(yī)學中存在的倫理問題主要包括“數(shù)據(jù)歧視”和醫(yī)療數(shù)據(jù)安全；董青嶺(2018)認為人工智能存在算法邏輯中的道德困境，在沒有或無法植入社會正義理念的情境下，有可能塑造社會新的陰暗面；而從社會角度出發(fā)審視人工智能倫理問題的則有伍敏敏(2018)認為人工智能引發(fā)的倫理問題主要包括道德主體地位問題，責任倫理問題，隱私保護問題；郭建偉等(2018)認為人工智能可能帶來的倫理問題主要體現(xiàn)在人類是否應當給予其一定的“人權”及如何解決人工智能在生產、生活中造成的過錯；陳默(2018)認為在人工智能輔助醫(yī)療的醫(yī)患關系倫理機制建設中存在如何定義人工智能的身份、人工智能輔助醫(yī)療是否具有特殊性、為人工智能設計道德程序是否可行的問題；王銀春(2018)認為對人工智能進行道德判斷需要區(qū)分人工智能本身的道德評價問題及人工智能研發(fā)與應用后果的善惡評價問題；王軍(2018)認為人工智能的發(fā)展可能引起道德決策風險，并在現(xiàn)實生活層面對環(huán)境、醫(yī)療、家庭產生影響，還可能導致人的異化；包桉冰等(2018)認為醫(yī)療人工智能會對人的道德主體地位、責任認定、隱私權保護帶來倫理風險；羅誠等(2018)認為基于圖像識別的人工智能主要存在數(shù)據(jù)質量、患者隱私、監(jiān)管、政策法規(guī)方面的問題。

正如曾毅研究員所說，人工智能以往的發(fā)展是主要以技術驅動的，人工智能的研發(fā)者、管理者對于社會潛在的影響往往考慮不足。作為引領新一輪科技革命和產業(yè)變革的新技術，人工智能在技術發(fā)展，推動健康產業(yè)進步的同時，模糊了虛擬和現(xiàn)實、數(shù)字和個人的界限，并衍生出諸多復雜的倫理問題和法律問題?，F(xiàn)在，我們所要應對不僅僅是弱人工智能，還有可能即將面對緊隨科技飛速發(fā)展而至的強人工智能乃至超人工智能，因此未雨綢繆，及時采取有效的應對措施才能讓人工智能更好地發(fā)揮正面影響。本文擬從人工智能健康產業(yè)的發(fā)展現(xiàn)狀出發(fā)，以人工智能技術層面的數(shù)據(jù)和算法作為切入點，結合健康產業(yè)的特殊性以及一些國際上較有影響力的人工智能共識討論健康產業(yè)人工智能倫理問題的產生原因以及應對措施。

3 健康產業(yè)人工智能技術現(xiàn)存?zhèn)惱韱栴}及其產生原因的分析

3.1 現(xiàn)存?zhèn)惱韱栴}

3.1.1 數(shù)據(jù)效率與數(shù)據(jù)正義：數(shù)據(jù)質量安全問題

人工智能技術發(fā)展主要依托于云計算和大數(shù)據(jù)技術，數(shù)據(jù)是其發(fā)展的主要動力來源，大規(guī)模醫(yī)療數(shù)據(jù)能夠提高人工智能判斷的準確性和拓寬其適用性，健康大數(shù)據(jù)的應用是遠程醫(yī)療發(fā)展的基礎，是以低成本改善醫(yī)療資源分配不均問題，減少社會醫(yī)療支出的偉大技術進步，國務院已在2016年6月將醫(yī)療大數(shù)據(jù)納入了國家大數(shù)據(jù)戰(zhàn)略的布局。

大數(shù)據(jù)能大幅提高人工智能技術的準確性和有效性，人工智能在健康大數(shù)據(jù)的基礎上，通過“深度學習”，從海量病例中自動分析并獲得規(guī)律，繼而利用這些規(guī)律對未知數(shù)據(jù)進行預測，達到對疾病的“未病先防，既病防變”。從技術發(fā)展的角度出發(fā)，準確地采集健康大數(shù)據(jù)，加速醫(yī)療人工智能技術進步，造福更多人，是發(fā)展的必然。然而這就構成了一對矛盾，一方面，健康大數(shù)據(jù)對我們的健康狀況、經濟條件、人際關系甚至生物基因等信息都進行了詳細的記錄，允許大數(shù)據(jù)的無限采集和存儲，無疑為隱私信息的泄露埋下隱患，需要予以一定程度的規(guī)范和限制；另一方面，“健康大數(shù)據(jù)”這個詞本身就暗示著對諸多個人信息的無限采集和存儲，并且還要是準確、沒有錯漏地進行存儲，因為優(yōu)質且海量的數(shù)據(jù)是醫(yī)療人工智能得以進行“深度學習”的根本。醫(yī)療數(shù)據(jù)在采集過程中將如何保證數(shù)據(jù)的質和量，在應用過程中將如何保護個人隱私以及數(shù)據(jù)安全，這些問題一環(huán)扣一環(huán)，已經構成了數(shù)據(jù)質量安全問題群。

可以想象，如果采集到的數(shù)據(jù)可信度不高，將會影響到整個醫(yī)療大數(shù)據(jù)庫的建設，甚至造成人工智能健康產品在應用中出現(xiàn)誤診漏診等問題，現(xiàn)在個人的健康信息大多由醫(yī)生、護士或社區(qū)工作人員進行采集，這種采集方式是否能完全保證數(shù)據(jù)的輸入沒有錯誤尚且存疑，即便能保證采集過程中不出差錯，數(shù)據(jù)的“質”能夠得到保證；那么，數(shù)據(jù)采集的“量”有無邊界，到達哪一個閾值將造成嚴重的隱私泄露又成了另外一大難題。健康大數(shù)據(jù)有其特殊性，它的失控所帶來的風險是我們難以承受的，如招聘單位、學校、醫(yī)院可能會通過個人健康狀況作為是否聘用、錄取、接診的重要參考，加劇艾滋病患者就業(yè)、就學、就醫(yī)的歧視；擁有大量用戶數(shù)據(jù)積累的企業(yè)一家獨大，造成壟斷等。而針對健康大數(shù)據(jù)所進行的隱私保護也存在著種種問題，目前大多產品都帶有“服務協(xié)議”和“注冊協(xié)議”，然而它們大多只是取得了用戶“形式上的授權”，數(shù)據(jù)采集行為是否是患者自愿接受的？患者的健康信息應該由誰來采集？患者醫(yī)療數(shù)據(jù)應用有沒有合理的范圍限制？如果發(fā)生患者隱私數(shù)據(jù)泄露事件，該由誰來承擔責任？要解決這些問題任重而道遠，我們應當明確的是：在追求數(shù)據(jù)效率的同時，不要越過數(shù)據(jù)正義的底線。

3.1.2 算法黑箱與算法的“法律”：工具理性與價值理性的平衡問題

基于大數(shù)據(jù)和人工智能的算法服務依靠精確描繪用戶畫像，精準把握用戶需求，對其進行針對性服務，給人們帶來了良好的服務體驗，緩解了數(shù)字時代信息過載的壓力，該技術還能盡可能地減少人為錯誤，充分發(fā)揮工具理性。但這并不意味著我們來到了理想的“算法烏托邦”。

醫(yī)療行為中，療法的選擇從來不是出于數(shù)字符號定量闡釋下的統(tǒng)計學上的經驗或智能算法的結果，在循證醫(yī)學的理念中，臨床決策的作出，就涉及最佳臨床研究證據(jù)、醫(yī)生個人經驗和患者價值觀及選擇性偏好三個基本要素[8]，定量的數(shù)字符號并沒有辦法將這些要素量化為一個個的算法單元，而患者的健康行為選擇常常是以價值觀至上而非以效率至上的價值理性行為，是人依據(jù)自己的信念和要求所作出的行為，患者完全有可能因為文化信仰而不接受某種藥物或者療法。這種決策在以目的至上的“算法”看來或許有些“不可思議”，但這提示我們，在享受算法帶來的便利的同時，我們不能忽視那些蘊含于價值理性中的思想意識、義務、尊嚴、美、規(guī)訓等信念，在健康產業(yè)中的人機交互中，我們應當注重工具理性與價值理性的平衡。

3.1.3 責任認定問題

2018年，Uber公司開發(fā)的無人駕駛車在美國的一次道路測試中撞死了一名騎自行車的人，這再次將人工智能肇事的責任認定問題擺到我們面前[9]。正如無人駕駛車不能永遠游離在法律之外成為傷人的“利器”。醫(yī)療機器人也不能永遠游離在制度與規(guī)則之外，成為害人的“法寶”。醫(yī)療機器人是人工智能技術的重大進展，但我們卻不能忽視它潛在的倫理危機，就在2018年7月，美國媒體報道稱IBM沃森機器人因為給出錯誤的用藥建議而遭遇信任危機，此后沃森項目接連受挫，先是失去了重量級客戶，大規(guī)模裁員，后是負責人黛博拉離職。

可以想見，如果手術機器人在手術過程中發(fā)生醫(yī)療事故，后果將不堪設想，而應該承擔這次醫(yī)療事故責任的是開發(fā)者、醫(yī)生，還是機器人本身？隨著科技發(fā)展，當我們面臨的或許未來已經不只是弱人工智能，我們不得不思考，如果將來某一天超人工智能做出了超出開發(fā)者設計意圖的行為，其責任認定問題該如何歸置？人工智能技術是否能無限開發(fā)？有無合理限制？因此有必要加強相關立法，明確開發(fā)者、醫(yī)生、患者、人工智能各方的權利，并針對人工智能建立健全相應的倫理規(guī)范。

3.2 原因分析

3.2.1 主體的復雜性

2017年，沙特阿拉伯首都的“未來投資倡議”大會上，機器人索菲亞被授予沙特公民身份，成為歷史上首個獲得公民身份的機器人，這是在法律意義上首次承認機器人的公民身份，索菲亞的設計師漢森曾說：索菲亞的目標就是像人類一樣生活，擁有同樣的意識、創(chuàng)造性和其他能力[10]。由此，激起了關于“機器人是否會取代人”的爭論。

從康德的“人是目的而非手段”這一觀點出發(fā)，被設計出來用于種種用途的人工智能肯定是不能被認定為道德主體的。然而，隨著醫(yī)療人工智能的發(fā)展，人工心臟、人工大腦、智能仿生眼球、智能假肢等智能生物輔助設備的出現(xiàn)，人們必將陷入“忒休斯之船”的迷思，試想：如果人的這些生理組成要素都被智能生物輔助設備所替換，那么那個被“置換”后的人是否還是原來的那個人？它是否仍然擁有原來的人所擁有的一切社會關系？仍然承擔原來的人所承擔的社會責任[11]？

3.2.2 數(shù)字化生存：技術的負面效應

目前，人工智能技術發(fā)展勢頭驚人，但其本身卻并不成熟，從2016年的“人工智能元年”走來，僅僅經歷3年時間，人們還沉浸在這項革命性技術帶來的無限可能的暢想和喜悅之中，對其警惕略顯不足。歷史告訴我們，很多革命性技術的負面效應需要時間才能得到檢驗，人工智能技術能達到什么程度尚且處于未知，然而這種唯數(shù)據(jù)和算法生存的模式卻可能會將人們的生活方式顛覆，正如尼葛洛龐帝所預言的：“人們的社會生存狀態(tài)變成了一種數(shù)字化的生存”，醫(yī)療健康數(shù)據(jù)的特殊性決定了它是一種典型的高價值數(shù)據(jù)，因而比起普通的數(shù)據(jù)更容易形成壟斷，而醫(yī)療服務又是一種兼具公共性與公益性的服務，是人們生存的必需品，如果由于技術和資源等方面的原因，這些重要的數(shù)據(jù)只集中在了少數(shù)組織或人手里，造成“數(shù)據(jù)獨裁”“算法專權”，就會引發(fā)一系列的社會問題，對市場的公平性形成挑戰(zhàn)，對健康產業(yè)的品牌形象形成打擊。

3.2.3 社會規(guī)約的不足

目前越來越多重要的國際會議和論壇以及一些頗有影響力的人物都將人工智能作為重點關注議題，國內也對人工智能進行規(guī)范化建設作為工作重心，2019年6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，主要強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理八條原則，然而這些共識與健康產業(yè)結合的效果還有待時間的驗證，目前健康產業(yè)社會資本非常活躍，市場潛力巨大，但尚未形成有效持久的商業(yè)模式；人工智能倫理問題治理成果落地少，研究和討論多集中于美國和歐洲[12]；各個國家研究熱情旺盛，但尚未形成人工智能全球治理的態(tài)勢；法律層面僅有一些與網(wǎng)絡安全、隱私相關的法律，尚未有專門針對人工智能的法律出臺；國內關于人工智能的研究豐富，但尚未形成產學研用政府共動的局面。

4 結論與建議

人工智能的技術特性，決定了其自身發(fā)展依賴于對數(shù)據(jù)的廣泛精準搜集和對算法指令的反復打磨深耕。然而，在將人工智能技術應用于健康產業(yè)時，健康數(shù)據(jù)泄露帶來的數(shù)據(jù)質量安全問題，算法代替?zhèn)鹘y(tǒng)診斷流程帶來的工具理性與價值理性的平衡問題，弱人工智能、強人工智能與通用人工智能之間界限不清所帶來的責任認定問題，成了懸在健康產業(yè)人工智能技術應用上的三柄“達摩克利斯之劍”，而社會規(guī)約的不足則加劇了健康產業(yè)人工智能技術應用的倫理風險。

目前諸多國際上較有影響力的人工智能共識，如《Open AI憲章》《道德準則設計》《人工智能聯(lián)盟信條》都強調在人工智能的設計和使用中要把人類福祉放在首要地位，并且強調加強國際交流，促進科研文化建設。這也為我們思考人工智能在健康產業(yè)應用中如何規(guī)避倫理風險提供了參考，對于人工智能這樣一門涉及多學科、多領域，并有可能顛覆人們傳統(tǒng)生存方式的綜合性技術，不僅需要國家、科研機構和企業(yè)的探索努力，也需要社會公眾的積極參與，形成國家-社會-個人共動的態(tài)勢，而不是我們過去的“科學家發(fā)明，企業(yè)家出錢，政府蓋章，公眾嘗苦果，人文社科人員收拾殘局”的糟糕局面[13]。

首先，人工智能作為國家戰(zhàn)略的重要組成部分，應有清晰的發(fā)展規(guī)劃，積極利用人工智能技術應對當下醫(yī)療資源分配不均、人口老齡化等問題,并提高倫理審查能力，對其應用進行嚴格監(jiān)管，確保責任歸屬明確后再投放市場；其次，應提高健康產業(yè)利益相關者的倫理意識，推動嚴謹?shù)亩鄬W科合作，加強國際交流，探索人工智能智慧醫(yī)療新場景，加強安全技術研發(fā)，保護患者隱私；最后，對于健康行業(yè)的傳統(tǒng)從業(yè)者，如醫(yī)生、護士等，要對自己有合理的定位，正如特魯多醫(yī)生所言：“有時去治愈，常常去幫助，總是去安慰”，我們不能忘記我們服務的對象是人，與患者之間的感情交流不能完全用人工智能來替代，而同時作為健康行業(yè)的專業(yè)從業(yè)者，“有勇氣來改變可以改變的事情，有胸懷來接受不可改變的事情，有智慧來分辨兩者的不同”是我們作為專業(yè)從業(yè)者的責任與擔當。在新技術迅猛發(fā)展的當下，規(guī)范健康人工智能應用，保障患者權益，懷抱人文關懷的初心，與人工智能技術共促健康產業(yè)發(fā)展，是傳統(tǒng)從業(yè)者所要承擔的歷史使命[14]。