董星宇 陳敏

華中科技大學(xué)同濟(jì)醫(yī)學(xué)院醫(yī)藥衛(wèi)生管理學(xué)院，武漢，430030

國務(wù)院《新一代人工智能發(fā)展規(guī)劃》(2017)中指出，人工智能作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，必須加快其在各個(gè)行業(yè)的深度應(yīng)用。人工智能在疾病診療、醫(yī)學(xué)影像、健康管理、藥物研發(fā)等多個(gè)方面具有廣闊的應(yīng)用前景。醫(yī)療人工智能通過對(duì)醫(yī)療領(lǐng)域進(jìn)行深度數(shù)據(jù)挖掘與分析，最終實(shí)現(xiàn)輔助或替代醫(yī)護(hù)人員提供醫(yī)療服務(wù)。醫(yī)療人工智能帶來新機(jī)遇的同時(shí)，也因其發(fā)展的不確定性帶來了新的挑戰(zhàn)。如何應(yīng)對(duì)醫(yī)療人工智能帶來的諸多問題與風(fēng)險(xiǎn)，確保其安全、可靠、可控發(fā)展，是當(dāng)前必須重視和解決的問題。

1 醫(yī)療人工智能應(yīng)用現(xiàn)狀

在國家全民健康信息化建設(shè)背景下，人工智能在健康醫(yī)療領(lǐng)域中的應(yīng)用發(fā)展迅速，形成了“AI+健康醫(yī)療”的模式。主要有：①AI+疾病診療。如IBM Watson可提供乳腺癌、肺癌、子宮癌等多種癌癥的診療服務(wù)。②AI+醫(yī)學(xué)影像識(shí)別。如騰訊覓影對(duì)早期發(fā)現(xiàn)食管癌的準(zhǔn)確率高達(dá)90%。未來也可支持肺癌、乳腺癌等的早期醫(yī)學(xué)影像診斷。③AI+健康管理。可在健康監(jiān)測、慢病管理、情緒調(diào)節(jié)、合理膳食指導(dǎo)等方面提供醫(yī)療護(hù)理和健康指導(dǎo)。④AI+機(jī)器人?？蓱?yīng)用于醫(yī)療咨詢、手術(shù)操作和術(shù)后護(hù)理。此外還有AI+藥物研發(fā)、AI+精準(zhǔn)醫(yī)療、AI+基因測序等。

2 醫(yī)療人工智能發(fā)展存在的問題

法律法規(guī)是規(guī)范醫(yī)療人工智能健康發(fā)展最根本的保障，倫理學(xué)則是在法律法規(guī)的基礎(chǔ)上，可以促進(jìn)醫(yī)療人工智能的社會(huì)價(jià)值導(dǎo)向，體現(xiàn)社會(huì)的可行性。標(biāo)準(zhǔn)的規(guī)范體系在解決醫(yī)療人工智能發(fā)展的技術(shù)方面發(fā)揮著重要的作用。網(wǎng)絡(luò)安全、醫(yī)療安全以及隱私信息安全也至關(guān)重要。評(píng)價(jià)體系和人才培養(yǎng)對(duì)于推動(dòng)醫(yī)療人工智能發(fā)展也同樣不可或缺，但這些方面都還很不完善。

2.1 法律法規(guī)滯后與倫理道德的問題

醫(yī)療人工智能作為迅速發(fā)展的新事物，法律的滯后性非常明顯，如侵權(quán)責(zé)任的劃分問題。醫(yī)院和醫(yī)生是承擔(dān)醫(yī)療服務(wù)責(zé)任的主體，但引進(jìn)人工智能產(chǎn)品后，對(duì)醫(yī)療服務(wù)過程中造成的醫(yī)療事故、不良事件等，如何劃分責(zé)任主體是亟待解決的問題[1]。人工智能具有獨(dú)創(chuàng)性，能否作為“主體”來進(jìn)一步確定版權(quán)歸屬，也有待解決[2]。

醫(yī)療人工智能的應(yīng)用也存在醫(yī)學(xué)倫理學(xué)的問題。首先是人權(quán)倫理問題，如醫(yī)療人工智能能否被賦予人權(quán)，人工智能的特權(quán)是否會(huì)凌駕于醫(yī)生之上。智能眼球、智能臟器等輔助設(shè)備開始應(yīng)用于人體中，出現(xiàn)“智能人”，對(duì)人的道德主體地位也是挑戰(zhàn)。人工智能具有高效的學(xué)習(xí)能力、巨大的知識(shí)容量等，可以為患者實(shí)現(xiàn)更加優(yōu)化的診療，但對(duì)醫(yī)生的地位也有極大的影響[2]。

2.2 缺乏標(biāo)準(zhǔn)的規(guī)范體系

近年來國家已開始著手人工智能標(biāo)準(zhǔn)化建設(shè)?！度斯ぶ悄馨灼?2018版)中表明，當(dāng)前人工智能相關(guān)標(biāo)準(zhǔn)有200個(gè),其中已發(fā)布81個(gè)、在研88個(gè)、擬研制31個(gè)。但醫(yī)療人工智能的相關(guān)標(biāo)準(zhǔn)仍處空白階段。行業(yè)內(nèi)對(duì)醫(yī)療人工智能的內(nèi)涵、應(yīng)用模式等未達(dá)成共識(shí)，標(biāo)準(zhǔn)化工作基礎(chǔ)較為薄弱。臨床術(shù)語是醫(yī)療人工智能發(fā)展的前提和基礎(chǔ)，由于版權(quán)歸屬、語言障礙、醫(yī)療環(huán)境等諸多因素的限制，缺乏中文臨床醫(yī)學(xué)術(shù)語的標(biāo)準(zhǔn)，制約了健康醫(yī)療與人工智能的深度融合。醫(yī)療人工智能涉及醫(yī)學(xué)、計(jì)算機(jī)科學(xué)、心理學(xué)等多個(gè)領(lǐng)域，不同領(lǐng)域的融合都需要有相關(guān)的標(biāo)準(zhǔn)進(jìn)行界定[3]。

2.3 存在安全隱患的問題

醫(yī)療人工智能在網(wǎng)絡(luò)安全、醫(yī)療安全、社會(huì)安全、隱私信息安全等方面均存在不少隱患。人工智能系統(tǒng)如果因操作失誤或網(wǎng)絡(luò)受到惡意攻擊等可能會(huì)對(duì)醫(yī)生或患者造成傷害。算法模型可能帶有主觀色彩，在診療方案的選擇上存在很大的差異，也可能會(huì)引發(fā)醫(yī)療安全事故問題[4]。醫(yī)療人工智能由機(jī)器取代醫(yī)務(wù)人員部分智能化自主工作，可能會(huì)造成人員的薪酬下降、失業(yè)等一系列問題，使醫(yī)生和患者產(chǎn)生不安的情緒，成為社會(huì)不穩(wěn)定的因素。

醫(yī)療人工智能需要對(duì)大量的健康醫(yī)療數(shù)據(jù)進(jìn)行挖掘和利用，涉及個(gè)人信息的獲取、擴(kuò)散、分析利用等一系列問題。個(gè)人信息可能會(huì)未經(jīng)本人允許被獲取或超出用戶允許范圍之外使用，也可因經(jīng)濟(jì)利益或某些商業(yè)目的造成個(gè)人健康醫(yī)療數(shù)據(jù)被非法擴(kuò)散。在個(gè)人未被告知甚至非法隱瞞醫(yī)療數(shù)據(jù)的情況下，會(huì)造成個(gè)人醫(yī)療信息的泄露。此外，醫(yī)療人工智能學(xué)習(xí)和分析的能力，也會(huì)推導(dǎo)出其他隱私信息，造成隱私泄露[5]。

2.4 缺乏應(yīng)用評(píng)價(jià)體系的問題

評(píng)價(jià)體系包括對(duì)醫(yī)療人工智能的算法模型、產(chǎn)品性能、應(yīng)用效果等方面的評(píng)價(jià)，可評(píng)估產(chǎn)品的優(yōu)劣，也是行業(yè)內(nèi)的“領(lǐng)航標(biāo)”，引領(lǐng)產(chǎn)品的發(fā)展方向。例如人工智能影像診斷，需從準(zhǔn)確性、醫(yī)生利用率以及業(yè)務(wù)流程等方面進(jìn)行評(píng)價(jià)。這些評(píng)價(jià)指標(biāo)是否合理直接影響其后續(xù)發(fā)展及應(yīng)用效果。缺乏醫(yī)療人工智能評(píng)價(jià)體系既無法充分評(píng)估醫(yī)療人工智能產(chǎn)品及系統(tǒng)的關(guān)鍵性能[6]，阻礙推廣應(yīng)用，也可能會(huì)影響產(chǎn)品的良好發(fā)展。

2.5 人才培養(yǎng)的問題

中國人工智能人才缺口預(yù)計(jì)將超過500萬人，人才缺乏導(dǎo)致供需嚴(yán)重失衡。醫(yī)療人工智能作為跨學(xué)科應(yīng)用，涉及自然語言處理、圖像處理、醫(yī)學(xué)、統(tǒng)計(jì)學(xué)、機(jī)械自動(dòng)化等多專業(yè)的融合，需要多樣化的人才。醫(yī)療衛(wèi)生人員對(duì)人工智能新興技術(shù)的接受度還無法估計(jì)，目前也沒有建立專業(yè)化、規(guī)范化的培訓(xùn)與考核體系，導(dǎo)致醫(yī)療衛(wèi)生人員對(duì)人工智能產(chǎn)品接受度低、操作失誤等問題[5]。如何有針對(duì)性地培育人才、引進(jìn)人才、留住人才也是亟待解決的問題[8]。

3 對(duì)策

3.1 應(yīng)加快制訂相關(guān)法律法規(guī)，加強(qiáng)倫理道德風(fēng)險(xiǎn)管控

目前與醫(yī)療人工智能相關(guān)的法律規(guī)范滯后，應(yīng)盡早制訂和完善相關(guān)法律法規(guī)，界定醫(yī)療人工智能產(chǎn)品的開發(fā)者、生產(chǎn)者、使用者的責(zé)任。建立一套明確法律邊界的醫(yī)療人工智能責(zé)任體系，從法律上明確責(zé)權(quán)?？稍O(shè)立責(zé)任認(rèn)定監(jiān)管機(jī)構(gòu)，通過引入第三方機(jī)構(gòu)來保障責(zé)任認(rèn)定的公正公平[1]。在《著作權(quán)保護(hù)法》等法律中明確人工智能的創(chuàng)作管理。在《網(wǎng)絡(luò)安全法》、《信息安全等級(jí)保護(hù)管理辦法》等法律法規(guī)的基礎(chǔ)上，建立人工智能隱私信息安全管理辦法，加強(qiáng)公民的隱私保護(hù)。

在倫理風(fēng)險(xiǎn)管控方面，應(yīng)堅(jiān)定醫(yī)生主體地位，明確以醫(yī)生為主導(dǎo)、人工智能為輔助的觀念，實(shí)現(xiàn)醫(yī)務(wù)人員與人工智能的有機(jī)結(jié)合，為患者提供更加優(yōu)質(zhì)的服務(wù)。在人工智能產(chǎn)品的設(shè)計(jì)開發(fā)時(shí)應(yīng)根據(jù)倫理學(xué)原則進(jìn)行風(fēng)險(xiǎn)評(píng)估，使人工智能風(fēng)險(xiǎn)最小化、效益最大化。

3.2 完善標(biāo)準(zhǔn)規(guī)范體系

醫(yī)療人工智能的標(biāo)準(zhǔn)包括基礎(chǔ)、平臺(tái)/支撐、技術(shù)、產(chǎn)品與服務(wù)、應(yīng)用和安全/倫理等六大類標(biāo)準(zhǔn)體系[7]。①基礎(chǔ)標(biāo)準(zhǔn)。是對(duì)醫(yī)療人工智能基礎(chǔ)進(jìn)行的規(guī)范，包括總則、術(shù)語、參考模型/框架、數(shù)據(jù)、測試評(píng)估等。②平臺(tái)/支撐標(biāo)準(zhǔn)。是對(duì)開展醫(yī)療人工智能平臺(tái)和支撐的規(guī)范，包括云計(jì)算、大數(shù)據(jù)、智能感知、人工智能平臺(tái)等。③技術(shù)標(biāo)準(zhǔn)。是對(duì)醫(yī)療人工智能關(guān)鍵技術(shù)的規(guī)范要求，包括機(jī)器學(xué)習(xí)、自然語言處理、圖像識(shí)別、虛擬現(xiàn)實(shí)、人機(jī)交互等技術(shù)標(biāo)準(zhǔn)。④產(chǎn)品與服務(wù)標(biāo)準(zhǔn)。包括機(jī)器人、智能器械、智能終端、智能服務(wù)等產(chǎn)品和服務(wù)標(biāo)準(zhǔn)。⑤應(yīng)用標(biāo)準(zhǔn)。包括醫(yī)療人工智能在疾病診療、醫(yī)學(xué)影像、健康管理、藥物研發(fā)、精準(zhǔn)醫(yī)療等方面的標(biāo)準(zhǔn)。⑥安全/倫理標(biāo)準(zhǔn)。主要包括醫(yī)療人工智能安全、倫理、隱私保護(hù)等相關(guān)標(biāo)準(zhǔn)。

其中基礎(chǔ)術(shù)語，人工智能平臺(tái)支撐，機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、人機(jī)交互、VR/AR等關(guān)鍵技術(shù)，包括機(jī)器人在內(nèi)的人工智能產(chǎn)品，安全/倫理等標(biāo)準(zhǔn)規(guī)范則是迫在眉睫需要制定的。

3.3 應(yīng)建立應(yīng)用評(píng)價(jià)體系

應(yīng)制定醫(yī)療人工智能應(yīng)用評(píng)價(jià)體系，評(píng)估其開發(fā)過程與產(chǎn)品性能等指標(biāo)。通過指標(biāo)體系對(duì)產(chǎn)品進(jìn)行考核評(píng)價(jià)，引導(dǎo)醫(yī)療人工智能產(chǎn)品的健康發(fā)展，避免不合格產(chǎn)品進(jìn)入市場，創(chuàng)造良性競爭環(huán)境，為醫(yī)療人工智能的推廣應(yīng)用奠定良好的基礎(chǔ)。

3.4 應(yīng)加強(qiáng)醫(yī)療人工智能人才的培養(yǎng)

首先，應(yīng)加強(qiáng)復(fù)合型人才的培養(yǎng)。各高校應(yīng)加強(qiáng)醫(yī)學(xué)與計(jì)算機(jī)、統(tǒng)計(jì)學(xué)、大數(shù)據(jù)等交叉性學(xué)科的建設(shè)，培養(yǎng)“人工智能+”復(fù)合人才。積極探索醫(yī)療衛(wèi)生機(jī)構(gòu)、醫(yī)學(xué)院校與工科類院校、企業(yè)之間的合作，共同培養(yǎng)復(fù)合型人才。其次，應(yīng)建立醫(yī)療人工智能培訓(xùn)體系。醫(yī)療機(jī)構(gòu)在引進(jìn)人工智能時(shí)，對(duì)相關(guān)的醫(yī)務(wù)人員進(jìn)行規(guī)范化、專業(yè)化技能培訓(xùn)，制定完整的考核標(biāo)準(zhǔn)。第三，建立高端人才引進(jìn)機(jī)制，制定相應(yīng)政策，實(shí)現(xiàn)醫(yī)療人工智能高端人才、精準(zhǔn)引進(jìn)[8]，提供優(yōu)厚待遇，引進(jìn)人才并留住人才，保障醫(yī)療人工智能持續(xù)快速發(fā)展。