醫(yī)療人工智能的法律思考

于 強(qiáng)，趙 飛

(昆明醫(yī)科大學(xué)，云南 昆明 650500)

現(xiàn)階段人工智能在醫(yī)療領(lǐng)域的發(fā)展與應(yīng)用還處在初級(jí)階段，在暢想未來(lái)精準(zhǔn)、高效的基于人工智能技術(shù)的醫(yī)療服務(wù)時(shí)，也應(yīng)深刻地思考醫(yī)療人工智能所面臨的技術(shù)、隱私和法律問(wèn)題[1]。人工智能在醫(yī)療健康領(lǐng)域的應(yīng)用主要包括虛擬助理、病歷與文獻(xiàn)分析、醫(yī)療影像、輔助診斷、診療結(jié)果預(yù)測(cè)、藥物研發(fā)、健康管理、疾病預(yù)測(cè)等方面。醫(yī)療人工智能應(yīng)用前景廣闊，不僅會(huì)帶來(lái)技術(shù)方面的重大革命，也存在法律關(guān)系、道德倫理、社會(huì)治理等方面的新問(wèn)題和新挑戰(zhàn)。正如習(xí)近平總書(shū)記指出的“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”[2]。因此，必須未雨綢繆，做好科學(xué)理論和認(rèn)識(shí)方法論上的準(zhǔn)備和應(yīng)對(duì)。本文將從法律的角度，分析和探討醫(yī)療人工智能的法律地位，以及醫(yī)療人工智能應(yīng)用中的隱私權(quán)保護(hù)和相關(guān)法律責(zé)任問(wèn)題。

1 醫(yī)療人工智能的定位

2016 年，歐盟委員會(huì)的法律事務(wù)委員提交了一項(xiàng)動(dòng)議，建議將最先進(jìn)的人工智能機(jī)器人的身份定位為‘電子人’，由此引發(fā)了經(jīng)久不息的爭(zhēng)論，至今尚未停息[3]。對(duì)醫(yī)療人工智能法律地位的界定非常重要，只有找到科學(xué)的認(rèn)知方法論，從理論上厘清這個(gè)問(wèn)題，才能解釋和應(yīng)對(duì)隨著醫(yī)療人工智能的發(fā)展和運(yùn)用，必然出現(xiàn)的各種復(fù)雜、具體的問(wèn)題，包括高級(jí)醫(yī)療人工智能中的機(jī)器人能否獨(dú)立對(duì)其醫(yī)療行為承擔(dān)責(zé)任，發(fā)生醫(yī)患糾紛或侵權(quán)行為時(shí)追責(zé)主體和責(zé)任主體如何認(rèn)定，醫(yī)生、患者和醫(yī)療人工智能之間的關(guān)系是什么等。

從法律領(lǐng)域講，醫(yī)療行為屬民事法律關(guān)系調(diào)整范疇，民事法律關(guān)系中的主體包括自然人和法人。賦予人工智能以法律主體資格，有諸多難以逾越的障礙。如果在傳統(tǒng)法律主體觀念下，機(jī)器人首先需要具有自我意識(shí)才能成為法律主體。但證明機(jī)器人具有自我意識(shí)而不受人類控制，極具挑戰(zhàn)[4]。法學(xué)學(xué)科屬社會(huì)科學(xué)領(lǐng)域，人是目的、而不是工具，這是法哲學(xué)的一個(gè)基本命題。民法理論中對(duì)自然人界定的理論基礎(chǔ)和基本邏輯是超出了自然科學(xué)領(lǐng)域生物學(xué)范疇的，其中的關(guān)鍵在于尊重人的自我意識(shí)、主觀能動(dòng)性、社會(huì)性和人格。因此，考察醫(yī)療人工智能尤其是高級(jí)人工智能中的機(jī)器人是否具有民事法律關(guān)系中的法律主體地位，關(guān)鍵也在于考察其自我意識(shí)、主觀能動(dòng)性、社會(huì)性和人格權(quán)。之所以要討論這個(gè)問(wèn)題，出發(fā)點(diǎn)在于醫(yī)療高級(jí)人工智能中的機(jī)器人似乎已經(jīng)超出了傳統(tǒng)醫(yī)療輔助設(shè)備、工具的范疇，其基于人工的智能創(chuàng)造而具備了“智慧”。但事實(shí)上，醫(yī)療人工智能本質(zhì)是基于計(jì)算機(jī)運(yùn)算、大數(shù)據(jù)以及移動(dòng)互聯(lián)網(wǎng)技術(shù)的綜合運(yùn)用，完成系統(tǒng)、復(fù)雜的計(jì)算和集成，并據(jù)此作出在速度上遠(yuǎn)超醫(yī)生這個(gè)自然人的判斷和決策。從這個(gè)基本原理出發(fā)，醫(yī)療人工智能并非真正的自我意識(shí)基礎(chǔ)上的主觀能動(dòng)性創(chuàng)造和“智慧”形成。缺乏了這點(diǎn)，醫(yī)療人工智能也就不可能存在醫(yī)生與患者相互的思想和行為中的社會(huì)關(guān)系?？傊?，醫(yī)療人工智能無(wú)論發(fā)展到哪一步，無(wú)論多么“高明”，都屬于人類創(chuàng)造的自然物，永遠(yuǎn)不能超出人類所創(chuàng)造的工具這一本質(zhì)屬性。因此，醫(yī)療人工智能無(wú)法歸入民事法律關(guān)系中的自然人主體范疇。當(dāng)然，有學(xué)者認(rèn)為，如同最初法人獲得法律主體地位一樣，現(xiàn)行法律同樣不需要局限于現(xiàn)有民事主體分類，完全可以新創(chuàng)設(shè)一個(gè)特殊的人工智能法律主體”[5]。筆者認(rèn)為，這種設(shè)想和設(shè)計(jì)其實(shí)已經(jīng)超出了本文基于人格權(quán)對(duì)法律關(guān)系主體的探討范圍，如果從功利主義出發(fā)，要賦予人工智能一個(gè)法律關(guān)系的適格主體資格，則另當(dāng)別論。因此，文中涉及的醫(yī)療人工智能是法律關(guān)系中的客體，也就是醫(yī)生或者患者權(quán)利義務(wù)所指向的對(duì)象，可以具體表現(xiàn)為一種物化的工具、非物質(zhì)財(cái)富即智力成果和行為結(jié)果三類。

2 隱私的有效保護(hù)

隱私權(quán)是一項(xiàng)重要和基本的人權(quán)。基本要義包括自然人的私人信息秘密依法受到保護(hù)，不被他人非法侵?jǐn)_、知悉、收集、利用和公開(kāi)。醫(yī)生對(duì)患者隱私權(quán)的保護(hù)有法律上的明確規(guī)制，包括醫(yī)師在執(zhí)業(yè)活動(dòng)中履行保護(hù)患者隱私的義務(wù)；尊重患者的知情同意權(quán)和隱私權(quán)，為患者保守醫(yī)療秘密和健康隱私；泄露患者隱私，造成嚴(yán)重后果的，須承擔(dān)相應(yīng)的行政責(zé)任或刑事責(zé)任。

醫(yī)療人工智能的“智慧”來(lái)源于生理、病理、病例、藥理等方面信息的集成，從某種程度上講，這些健康醫(yī)療大數(shù)據(jù)量的積累決定了醫(yī)療人工智能“智慧”程度的高低，而這些健康醫(yī)療大數(shù)據(jù)又來(lái)源于具體的患者，屬患者的私人信息秘密。但目前的基本現(xiàn)實(shí)是，人們的隱私數(shù)據(jù)在信息時(shí)代被記錄得越來(lái)越多，被侵?jǐn)_、收集和利用也越演越烈。醫(yī)療人工智能中對(duì)健康醫(yī)療大數(shù)據(jù)的收集、集成和運(yùn)用，面臨著科技進(jìn)步與信息安全、隱私保護(hù)之間的突出矛盾。無(wú)論是健康醫(yī)療大數(shù)據(jù)生廠商或醫(yī)療人工智能制造商，數(shù)據(jù)信息從何而來(lái)？如果沒(méi)有法律上的明確授權(quán)，或是基于醫(yī)學(xué)研究或健康促進(jìn)為目的的隱私侵權(quán)的責(zé)任排除，這將是一個(gè)無(wú)法回避也無(wú)法解釋的法律問(wèn)題。

2017年6月1日起施行的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，對(duì)隱私保護(hù)以及信息和數(shù)據(jù)收集、使用等作出了相關(guān)規(guī)定：明確任何個(gè)人和組織不得利用網(wǎng)絡(luò)侵害他人名譽(yù)、隱私、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益；網(wǎng)絡(luò)產(chǎn)品、服務(wù)具有收集用戶信息功能的，其提供者應(yīng)當(dāng)向用戶明示并取得同意；任何個(gè)人和組織不得從事竊取網(wǎng)絡(luò)數(shù)據(jù)等活動(dòng)；任何個(gè)人和組織不得竊取或者以其他非法方式獲取個(gè)人信息，不得非法出售或者非法向他人提供個(gè)人信息；網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)對(duì)其收集的用戶信息嚴(yán)格保密，并建立健全用戶信息保護(hù)制度；網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開(kāi)收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意等。

總體而言，目前我國(guó)對(duì)隱私權(quán)保護(hù)方面的規(guī)定散見(jiàn)在不同的法律規(guī)定中，且多為一些原則性的、排除性的規(guī)定，在侵權(quán)發(fā)生后的救濟(jì)過(guò)程中具有操作性的規(guī)定不足。同時(shí)個(gè)人作為侵權(quán)控方主體，在取證、舉證環(huán)節(jié)明顯處于弱勢(shì)，救濟(jì)很難達(dá)成。因此，建立和完善隱私保護(hù)方面的立法非常迫切，應(yīng)明確醫(yī)療人工智能發(fā)展和技術(shù)開(kāi)發(fā)的根本目的，信息采集與隱私保護(hù)的平衡關(guān)系，授權(quán)與信賴保護(hù)的關(guān)系，信息采集和集成的主體、來(lái)源以及責(zé)權(quán)利，信息采集、集成和使用的界限，相關(guān)法律責(zé)任及救濟(jì)程序等。

3 法律責(zé)任的相關(guān)問(wèn)題

醫(yī)療人工智能的運(yùn)用中，必然存在相關(guān)責(zé)任的明確和追責(zé)問(wèn)題。比如暫且排除醫(yī)療人工智能存在的“主觀上”過(guò)錯(cuò)不談，而由于醫(yī)療人工智能數(shù)據(jù)分析和應(yīng)用的失誤或錯(cuò)誤，導(dǎo)致輔助診療的失誤或錯(cuò)誤從而造成醫(yī)患糾紛，追責(zé)主體是醫(yī)生還是患者。責(zé)任主體是作為醫(yī)療人工智能直接使用的醫(yī)生，還是作為醫(yī)療人工智能所有者的醫(yī)院，或是作為醫(yī)療人工智能開(kāi)發(fā)者的生廠商，抑或是作為醫(yī)療人工智能提供者的經(jīng)營(yíng)者，或者是多種責(zé)任主體的共同責(zé)任或連帶責(zé)任？有學(xué)者認(rèn)為，可以考慮為人工智能設(shè)立類似公司注冊(cè)資本的基金，施行強(qiáng)制保險(xiǎn)制度，在兩個(gè)維度上設(shè)立人工智能的責(zé)任承擔(dān)制度[6]?？傊坟?zé)的問(wèn)題需要得到明確的法律解釋和法律明確。另一種情況是，如果醫(yī)生和醫(yī)療人工智能在診療過(guò)程中，在人機(jī)對(duì)話、交流甚至是“會(huì)診”中存在診療的意見(jiàn)分歧，一旦最終的事實(shí)是醫(yī)療人工智能的“智慧”超越了醫(yī)生的“智慧”，是正確的診療結(jié)論或方案而醫(yī)生未予采用從而導(dǎo)致誤診誤治造成醫(yī)患糾紛，醫(yī)療人工智能是否能夠作為控方患者的證據(jù)提供者指證醫(yī)生的診療過(guò)錯(cuò)呢？更深層次的問(wèn)題是，如若這種情況發(fā)生，可能導(dǎo)致醫(yī)生威信、聲譽(yù)的影響，甚至患者或社會(huì)可能對(duì)醫(yī)生高智力勞動(dòng)價(jià)值的可信度和認(rèn)可度大打折扣。還有一種情況，高級(jí)醫(yī)療人工智能有“情緒”和“情感”的感性認(rèn)知，甚至有“思考”和“判斷”的理性思維。如若患者和醫(yī)療人工智能在診療過(guò)程中，在人機(jī)對(duì)話、交流、溝通中，由于患者的言語(yǔ)、行為刺激和侵犯，“惹怒”了醫(yī)療人工智能，從而引起醫(yī)療人工智能防衛(wèi)、反擊、攻擊導(dǎo)致侵害的責(zé)任追究，也是必須預(yù)見(jiàn)和思考的問(wèn)題。

因此，在將來(lái)的相關(guān)法律中，應(yīng)該建立一個(gè)完整的醫(yī)療人工智能法律責(zé)任體系，在明確相關(guān)法律關(guān)系主體享有的權(quán)利、承擔(dān)的義務(wù)的同時(shí)，具體明確追責(zé)主體、責(zé)任主體、歸責(zé)原則、責(zé)任情形和法律責(zé)任等。

4 結(jié)語(yǔ)

習(xí)近平總書(shū)記在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)指出，“要加強(qiáng)人工智能同保障和改善民生的結(jié)合，抓住民生領(lǐng)域的突出矛盾和難點(diǎn)，加強(qiáng)人工智能在教育、醫(yī)療衛(wèi)生、體育、住房、交通、助殘養(yǎng)老、家政服務(wù)等領(lǐng)域的深度應(yīng)用”[7]。人工智能已被廣泛應(yīng)用在各行各業(yè)，醫(yī)療健康領(lǐng)域更是重要應(yīng)用場(chǎng)景之一。據(jù)有關(guān)方面預(yù)測(cè)，到 2025 年醫(yī)療行業(yè)將占世界人工智能市場(chǎng)規(guī)模的 1/5。正如有專家指出，“人工智能將給未來(lái)醫(yī)療技術(shù)帶來(lái)深刻的變化，是未來(lái)醫(yī)學(xué)創(chuàng)新和改革的強(qiáng)大動(dòng)力”[8]。醫(yī)療人工智能應(yīng)用，必將助推醫(yī)療健康產(chǎn)業(yè)發(fā)展和衛(wèi)生健康事業(yè)發(fā)展，尤其能有效解決優(yōu)質(zhì)醫(yī)療健康資源配置共享、衛(wèi)生健康大數(shù)據(jù)運(yùn)用、提高預(yù)測(cè)和診療的精準(zhǔn)度，釋放醫(yī)生高智力勞動(dòng)壓力，提高醫(yī)用數(shù)據(jù)精準(zhǔn)度和計(jì)算效率等問(wèn)題。

同時(shí)，技術(shù)革新帶來(lái)的社會(huì)問(wèn)題是無(wú)法回避的。人工智能時(shí)代已經(jīng)來(lái)臨，它不僅改變?nèi)祟愂澜?，也?huì)深刻改變?nèi)祟惖姆芍贫萚10]。人工智能的發(fā)展將對(duì)法律形成巨大沖擊，這不僅體現(xiàn)在其對(duì)律師行業(yè)未來(lái)就業(yè)率所產(chǎn)生的壓力上，還體現(xiàn)在其對(duì)民法、刑法、侵權(quán)法、知識(shí)產(chǎn)權(quán)法等法律條文和判例體系的深遠(yuǎn)影響[9]。自然科學(xué)與社會(huì)科學(xué)和人文科學(xué)從來(lái)都不是背道而馳，科技發(fā)展和社會(huì)進(jìn)步的終極目標(biāo)都在于服務(wù)人類這個(gè)最高的價(jià)值主體。法治要提供制度環(huán)境安排，這一安排的質(zhì)量將直接決定新興科技等的發(fā)育狀況[7]。法律作為社會(huì)控制的最有效手段、社會(huì)穩(wěn)定的最重要調(diào)節(jié)器和定紛止?fàn)幍脑u(píng)判規(guī)則，應(yīng)有效預(yù)見(jiàn)和應(yīng)對(duì)醫(yī)療人工智能時(shí)代的新挑戰(zhàn)和新問(wèn)題。據(jù)有關(guān)報(bào)道，全國(guó)人大常委會(huì)已將數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等人工智能方面立法列入規(guī)劃抓緊推進(jìn)。法律理論、實(shí)踐和制度上的進(jìn)步，必將為醫(yī)療人工智能促進(jìn)人類生命健康發(fā)揮重要作用。