人工智能科研項(xiàng)目中的隱私問(wèn)題研究

陸 婷 張 燕

·綜述與進(jìn)展·

人工智能科研項(xiàng)目中的隱私問(wèn)題研究

陸 婷1張 燕2

1.北京大學(xué)腫瘤醫(yī)院暨北京市腫瘤防治研究所倫理委員會(huì)，北京 100142； 2.北京大學(xué)腫瘤醫(yī)院暨北京市腫瘤防治研究所胃腸腫瘤中心一病區(qū)，北京 100142

隨著人工智能（artificial intelligence，AI）、大數(shù)據(jù)技術(shù)在臨床研究中的廣泛應(yīng)用，其面臨的隱私問(wèn)題越來(lái)越突出。本文從倫理審查的角度分析了北京大學(xué)腫瘤醫(yī)院的人工智能項(xiàng)目受試者隱私保護(hù)存在的問(wèn)題，并針對(duì)存在的問(wèn)題提出受試者隱私保護(hù)的建議，以期在充分保護(hù)受試者個(gè)人信息和隱私安全的基礎(chǔ)上推動(dòng)規(guī)范開展人工智能科研項(xiàng)目。

人工智能；臨床科研；隱私保護(hù)；數(shù)據(jù)管理；倫理審查

人工智能（artificial intelligence，AI）是一門基于計(jì)算機(jī)科學(xué)，以智能行為為目標(biāo)的橫斷學(xué)科，可分為強(qiáng)人工智能和弱人工智能[1]。近年來(lái)，我國(guó)開始推行“互聯(lián)網(wǎng)+健康醫(yī)療”的政策方針，人工智能技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用不斷擴(kuò)展和延伸。人工智能技術(shù)不僅可應(yīng)用于健康管理、輔助臨床決策、疾病的篩查和診斷、臨床資料或文獻(xiàn)的分析、醫(yī)院管理等[2]，其數(shù)據(jù)整合和數(shù)據(jù)處理能力在醫(yī)學(xué)研究方面也發(fā)揮重要作用。人工智能提供更便攜的技術(shù)支持的同時(shí)，也為臨床研究帶來(lái)了更多的機(jī)會(huì)和可能[3]。

隨著個(gè)人信息和臨床數(shù)據(jù)廣泛應(yīng)用于人工智能的相關(guān)研究，受試者數(shù)據(jù)安全和個(gè)人隱私問(wèn)題逐漸突顯[4]。筆者以北京大學(xué)腫瘤醫(yī)院2018至2022年經(jīng)過(guò)倫理審查的共30項(xiàng)人工智能科研項(xiàng)目為對(duì)象進(jìn)行分析，對(duì)發(fā)現(xiàn)的受試者隱私保護(hù)的常見(jiàn)問(wèn)題進(jìn)行梳理歸納，并針對(duì)存在的問(wèn)題提出可行性對(duì)策。

1 人工智能科研項(xiàng)目中涉及受試者隱私保護(hù)的常見(jiàn)問(wèn)題

1.1 隱私保護(hù)的認(rèn)識(shí)不足

人工智能科研項(xiàng)目屬于較新的研究，研究者及申辦者對(duì)此類項(xiàng)目的受試者隱私泄露風(fēng)險(xiǎn)認(rèn)識(shí)不足。北京大學(xué)腫瘤醫(yī)院90%的人工智能項(xiàng)目中研究者及申辦者均未重視個(gè)人數(shù)據(jù)的不正當(dāng)處理、個(gè)人隱私泄露、侵害隱私權(quán)所可能帶來(lái)的社會(huì)風(fēng)險(xiǎn)。根據(jù)《民法典》[5]第111條和第1034條規(guī)定，研究者及申辦者應(yīng)重視個(gè)人信息泄露對(duì)數(shù)據(jù)主體（受試者）可能產(chǎn)生的嚴(yán)重風(fēng)險(xiǎn)。同時(shí)，在醫(yī)學(xué)研究倫理審查中，除關(guān)注受試者生命健康安全外，還應(yīng)注意審查信息數(shù)據(jù)安全管理措施是否得當(dāng)且充分，高度重視大數(shù)據(jù)時(shí)代受試者個(gè)人數(shù)據(jù)泄露的風(fēng)險(xiǎn)，防患于未然[6]。

1.2 隱私數(shù)據(jù)缺乏保護(hù)措施

為確保研究項(xiàng)目資料的保密性，通常采用特有的受試者識(shí)別（identify code，ID）編號(hào)而非醫(yī)院病歷號(hào)來(lái)標(biāo)記受試者的研究數(shù)據(jù)和生物樣本，該編號(hào)無(wú)法識(shí)別受試者的姓名、照片等身份識(shí)別信息。北京大學(xué)腫瘤醫(yī)院多數(shù)人工智能項(xiàng)目中，僅對(duì)受試者姓名、性別等身份信息用代號(hào)或數(shù)字代替，而忽略了對(duì)受試者相關(guān)視頻圖像等健康信息采取相應(yīng)的保密措施。

此外，在查閱標(biāo)有受試者ID編號(hào)的研究數(shù)據(jù)或樣本時(shí)，需要向訪問(wèn)者明確以下情況：①審查受試者信息（包括含有可識(shí)別受試者身份個(gè)人信息的病歷）是為了確保研究過(guò)程符合要求。②保證受試者研究數(shù)據(jù)在擁有良好數(shù)據(jù)保護(hù)法律環(huán)境且符合我國(guó)數(shù)據(jù)安全和保護(hù)法要求的國(guó)家和地區(qū)被查閱和分析。③當(dāng)涉及受試者基因信息時(shí)，僅可提供所需的基因組信息，如遺傳特征信息，不應(yīng)標(biāo)有受試者姓名、照片或任何其他個(gè)人身份識(shí)別信息。

總之，根據(jù)適用的數(shù)據(jù)隱私保護(hù)法和數(shù)據(jù)安全相關(guān)法律、法規(guī)、行業(yè)規(guī)范、國(guó)家標(biāo)準(zhǔn)和臨床研究相關(guān)的法律法規(guī)和部門規(guī)章，使用多種方法保護(hù)受試者隱私[7]。

1.3 隱私數(shù)據(jù)共享安全管理不足

人工智能研究通常涉及與第三方單位的合作，北京大學(xué)腫瘤醫(yī)院研究者及申辦者在遞交倫理審查材料時(shí)，多數(shù)未提供第三方合作單位的資質(zhì)文件及合作協(xié)議，但此類文件是倫理審查過(guò)程中必不可少的。事實(shí)上，選擇有資質(zhì)的第三方合作單位就是保障受試者個(gè)人信息安全的主要措施之一，因?yàn)樵诤献鲄f(xié)議中對(duì)雙方責(zé)任、義務(wù)及權(quán)利，知識(shí)產(chǎn)權(quán)，受試者隱私及數(shù)據(jù)保護(hù)、保密等方面進(jìn)行了明確規(guī)定[8]。

研究中通常需要嚴(yán)格相關(guān)人員訪問(wèn)數(shù)據(jù)的權(quán)限，以保證數(shù)據(jù)共享的可控性，如相關(guān)政府部門（如監(jiān)督本次研究的倫理委員會(huì)）、申辦者自身及為申辦者工作或與其合作的人員；儀器供應(yīng)商和實(shí)驗(yàn)室等服務(wù)提供方的試驗(yàn)醫(yī)生、工作人員。

1.4 對(duì)隱私保護(hù)的知情同意不充分

知情同意和倫理審查是保護(hù)受試者隱私的重要的兩個(gè)環(huán)節(jié)。知情同意可以使受試者充分獲知所參加臨床試驗(yàn)內(nèi)容和風(fēng)險(xiǎn)，同時(shí)也是試驗(yàn)過(guò)程中受試者相關(guān)數(shù)據(jù)采集和使用授權(quán)。北京大學(xué)腫瘤醫(yī)院人工智能項(xiàng)目中申辦者及研究者存在知情告知范圍不全面的問(wèn)題，侵犯了受試者的知情同意權(quán)。

關(guān)于人工智能項(xiàng)目中的數(shù)據(jù)安全及隱私保護(hù)問(wèn)題，倫理委員會(huì)應(yīng)根據(jù)研究預(yù)期目的、數(shù)據(jù)的收集方式及涉密性、敏感性、研究所帶來(lái)的社會(huì)價(jià)值、重新獲取知情同意的難度及管理措施等，來(lái)判斷項(xiàng)目應(yīng)采取具體的知情同意、廣泛的知情同意、免除知情同意，還是選擇退出程序及知情同意的撤回形式[9]。

2 人工智能臨床研究中對(duì)受試者隱私保護(hù)的建議

2.1 提高對(duì)隱私保護(hù)的認(rèn)識(shí)，完善監(jiān)管體系

為充分保護(hù)個(gè)人隱私權(quán)，各國(guó)政府陸續(xù)出臺(tái)相關(guān)法律或規(guī)范性文件，如美國(guó)的《健康保險(xiǎn)流通與責(zé)任法案》，歐盟的《通用數(shù)據(jù)保護(hù)條例》，并在實(shí)踐過(guò)程中不斷完善[10,11]。我國(guó)應(yīng)借鑒國(guó)際已有條款，盡快針對(duì)人工智能項(xiàng)目中的隱私問(wèn)題立法，保護(hù)個(gè)人數(shù)據(jù)隱私[12]，并建設(shè)合作、配套的監(jiān)管制度，建立隱私風(fēng)險(xiǎn)評(píng)估機(jī)制和行業(yè)自律體制。同時(shí)，應(yīng)定期、廣泛開展受試者隱私保護(hù)的培訓(xùn)，以提升利益相關(guān)者的隱私素養(yǎng)。

人工智能的發(fā)展離不開有效地監(jiān)管，建立健全的監(jiān)管體系，更有利于其健康發(fā)展。2022年3月20日，中共中央辦公廳、國(guó)務(wù)院辦公廳發(fā)布了《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》[13]，該意見(jiàn)是我國(guó)國(guó)家層面科技倫理治理的執(zhí)行性文件，提出了五條科技倫理原則：增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明，并要求“從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動(dòng)的單位，研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會(huì)”[14]。

臨床研究開展前，倫理委員會(huì)應(yīng)嚴(yán)格審查人工智能臨床試驗(yàn)中的有關(guān)受試者隱私及保密的具體措施，并決定是否同意開展本研究。此外，在臨床試驗(yàn)項(xiàng)目進(jìn)展過(guò)程中，倫理委員應(yīng)對(duì)其進(jìn)行全過(guò)程監(jiān)管，一旦發(fā)受試者的個(gè)人信息或隱私存在泄漏風(fēng)險(xiǎn)，應(yīng)責(zé)成相關(guān)方排除風(fēng)險(xiǎn)；如受試者隱私權(quán)受到侵犯的或造成嚴(yán)重后果的，應(yīng)當(dāng)要求責(zé)任方給予賠償或依法承擔(dān)相應(yīng)法律責(zé)任[13]。

2.2 建立或完善數(shù)據(jù)管理體系

為保證受試者的隱私數(shù)據(jù)安全，以北京大學(xué)腫瘤醫(yī)院胃腸中心為例，在開展人工智能科研項(xiàng)目時(shí)，任命一名數(shù)據(jù)工程師作為隱私保護(hù)專員，該專員將確保所有臨床科研數(shù)據(jù)在交付過(guò)程中的隱私保護(hù)措施得以執(zhí)行。具體措施如下：

2.2.1 數(shù)據(jù)操作標(biāo)準(zhǔn)化 ①相關(guān)數(shù)據(jù)管理軟件中需進(jìn)行數(shù)據(jù)流程申請(qǐng)，由主任、副主任雙重審核備案并留痕，以供隨時(shí)查閱歸檔數(shù)據(jù)信息，形成數(shù)據(jù)使用后的反饋機(jī)制。②數(shù)據(jù)使用后的銷毀和反饋機(jī)制：牽涉第三方使用受試者數(shù)據(jù)使用時(shí)，需簽署經(jīng)本院律師審核過(guò)的、相對(duì)嚴(yán)謹(jǐn)?shù)牡谌綌?shù)據(jù)保密協(xié)議。③設(shè)定相應(yīng)的數(shù)據(jù)訪問(wèn)權(quán)限，如僅對(duì)部門負(fù)責(zé)人設(shè)有高級(jí)管理權(quán)限，而其他普通工作人員僅有限時(shí)瀏覽權(quán)限。另外，臨床試驗(yàn)輔助人員進(jìn)入科室系統(tǒng)均需提交申請(qǐng)，防止第三方人員利用個(gè)人用戶信息進(jìn)行醫(yī)療詐騙等惡意行為。④設(shè)置高級(jí)別密碼并定期修改，通過(guò)系統(tǒng)升級(jí)、禁用弱口令、啟用強(qiáng)口令（必須包含數(shù)字和字母，8～10位）等措施，有效保護(hù)系統(tǒng)信息安全，降低醫(yī)療數(shù)據(jù)安全風(fēng)險(xiǎn)隱患。⑤采用單通路（北京大學(xué)腫瘤醫(yī)院內(nèi)網(wǎng)環(huán)境下的辦公系統(tǒng)）傳輸數(shù)據(jù)，以避免網(wǎng)絡(luò)的非法獲取，不可使用微信、QQ在線傳輸?shù)萚14]。

2.2.2 數(shù)據(jù)的脫敏處理 采用醫(yī)療行業(yè)數(shù)據(jù)脫敏系統(tǒng)對(duì)醫(yī)療系統(tǒng)內(nèi)的敏感數(shù)據(jù)進(jìn)行脫敏保護(hù)，防止醫(yī)療數(shù)據(jù)被非法篡改，及在醫(yī)院信息系統(tǒng)的開發(fā)、測(cè)試環(huán)境中被第三方泄露。

2.2.3 訪問(wèn)者的實(shí)名認(rèn)證 北京大學(xué)腫瘤醫(yī)院搭建了醫(yī)生實(shí)名認(rèn)證的電子簽名系統(tǒng)，每次登錄會(huì)出現(xiàn)UKey提示，防止匿名用戶的登錄；使用界面設(shè)有定時(shí)退出功能，避免因長(zhǎng)時(shí)間不使用而增加信息泄露的風(fēng)險(xiǎn)。

2.2.4 加強(qiáng)數(shù)據(jù)管理，建立數(shù)據(jù)共享與管控機(jī)制 對(duì)于每一項(xiàng)臨床研究，統(tǒng)計(jì)分析結(jié)果首先在本地?cái)?shù)據(jù)集進(jìn)行計(jì)算，得到本地統(tǒng)計(jì)數(shù)據(jù)后發(fā)送至業(yè)務(wù)終端，然后匯總每個(gè)數(shù)據(jù)提供者的單個(gè)結(jié)果，以獲得分析的最終匯總結(jié)果。與個(gè)體方面的數(shù)據(jù)比較，局部統(tǒng)計(jì)數(shù)據(jù)具有較低的維度，因此在去中心化的數(shù)據(jù)共享模型中，被重新識(shí)別的風(fēng)險(xiǎn)較低，這樣就能有效地避免了因內(nèi)部敏感數(shù)據(jù)被拷貝和竊取，從而出現(xiàn)導(dǎo)致個(gè)人信息泄露等問(wèn)題[15]。

2.2.5 數(shù)據(jù)二次利用的管控 對(duì)于已存儲(chǔ)數(shù)據(jù)進(jìn)行二次研究的管控對(duì)于生物標(biāo)本庫(kù)及相關(guān)數(shù)據(jù)庫(kù)非常重要。生物標(biāo)本庫(kù)保存著生物標(biāo)本及相關(guān)的表型和人口統(tǒng)計(jì)數(shù)據(jù)，在將其分發(fā)給第三方研究人員進(jìn)行二次研究前，生物樣本及其相關(guān)需通過(guò)關(guān)鍵編碼等方式處理，確保二次研究的團(tuán)隊(duì)無(wú)法識(shí)別其個(gè)人信息主體[16]。

2.3 加強(qiáng)隱私數(shù)據(jù)，共享安全管理

數(shù)據(jù)共享中存在敏感數(shù)據(jù)難以保護(hù)、隱私數(shù)據(jù)泄露等受試者數(shù)據(jù)安全及隱私問(wèn)題。針對(duì)數(shù)據(jù)共享中侵犯受試者隱私權(quán)的問(wèn)題，可通過(guò)樹立正確的倫理價(jià)值觀、加強(qiáng)倫理監(jiān)管等方式來(lái)避免；可以采用數(shù)據(jù)收集限制原則、數(shù)據(jù)的質(zhì)量提升原則、目的明確化原則、利用限制原則、安全保護(hù)原則、開放原則、個(gè)人參與原則、問(wèn)責(zé)原則等隱私治理原則[17]。監(jiān)管機(jī)構(gòu)應(yīng)賦予患者積極保護(hù)自己的權(quán)利，通過(guò)監(jiān)控患者的電子病歷來(lái)保護(hù)其隱私。

對(duì)受試者隱私保護(hù)并非信息孤島，而是數(shù)據(jù)共享的適當(dāng)條件。為了更好地實(shí)現(xiàn)“科學(xué)數(shù)據(jù)共享價(jià)值的最大化”與“隱私風(fēng)險(xiǎn)的最小化”治理目的，受試者數(shù)據(jù)共享中的隱私治理需政府、倫理委員會(huì)、申辦者、研究人員及受試者等多方主體積極參與、協(xié)同治理，才能有效降低隱私泄露的風(fēng)險(xiǎn)[19]。

2.4 受試者知情同意權(quán)保護(hù)

知情同意書應(yīng)包括隱私保護(hù)的內(nèi)容。知情同意過(guò)程中，對(duì)受試者進(jìn)行充分告知，取得受試者知情同意，使受試者知道其個(gè)人信息和隱私受到法律保護(hù)，研究團(tuán)隊(duì)也會(huì)將按法律法規(guī)和知情同意書等文件的要求合理使用其數(shù)據(jù)[20,21]。

如有個(gè)人信息或隱私被侵犯的情況發(fā)生，受試者可向研究方提出撤銷對(duì)個(gè)人信息的繼續(xù)使用和共享許可，研究者及申辦方應(yīng)尊重受試者意愿，將其相關(guān)數(shù)據(jù)刪除。若因各種原因無(wú)法刪除其相關(guān)數(shù)據(jù)，應(yīng)向受試者做出書面說(shuō)明，并提交倫理委員會(huì)備案。隨后，若該受試者將退出實(shí)驗(yàn)，研究者不再收集其新研究數(shù)據(jù)。但是，根據(jù)臨床試驗(yàn)規(guī)則的要求，可能仍然會(huì)在采取知情同意書描述的措施保護(hù)受試者隱私的前提下使用已收集到的健康數(shù)據(jù)。

綜上所述，人工智能的發(fā)展日趨成熟，已經(jīng)滲透到臨床試驗(yàn)的各個(gè)領(lǐng)域。人工智能應(yīng)用于臨床試驗(yàn)為其帶來(lái)了新的發(fā)展機(jī)遇的同時(shí)，也對(duì)受試者的隱私保護(hù)帶來(lái)了新的挑戰(zhàn)。除借鑒發(fā)達(dá)國(guó)家和地區(qū)系統(tǒng)的隱私保護(hù)政策以外，提高對(duì)隱私保護(hù)的認(rèn)識(shí)、加強(qiáng)人工智能項(xiàng)目的倫理審查監(jiān)督、完善數(shù)據(jù)管理體系建設(shè)、加強(qiáng)對(duì)受試者隱私數(shù)據(jù)共享的安全管理、注重受試者知情同意權(quán)保護(hù)等方面的措施，是保護(hù)受試者個(gè)人信息和隱私安全的重要工作。

[1] 任相閣, 任相穎, 李緒輝, 等. 醫(yī)療領(lǐng)域人工智能應(yīng)用的研究進(jìn)展[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化, 2022, 24(2): 762-770.

[2] 王姍姍, 翟曉梅. 人工智能醫(yī)學(xué)應(yīng)用的倫理問(wèn)題[J]. 中國(guó)醫(yī)學(xué)倫理學(xué), 2019, 32(8): 972-976.

[3] 胡獻(xiàn)紅. 人工智能的國(guó)際倫理原則探討: 聚焦隱私和數(shù)據(jù)保護(hù)問(wèn)題[J]. 新媒體與社會(huì), 2021(1): 3-20.

[4] 王瑞, 陳曉英. 人工智能的倫理困境和解困之道[J]. 遼寧工業(yè)大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版), 2022, 24(1): 17-19.

[5] 民法典. 北京: 人民法院出版社, 2020.

[6] 劉瑞爽. GDPR對(duì)我國(guó)醫(yī)學(xué)研究倫理審查的啟示[J]. 醫(yī)學(xué)與哲學(xué), 2019, 40(3): 29-33.

[7] 吳何奇. 大數(shù)據(jù)時(shí)代個(gè)人隱私保護(hù)的刑法路徑——從醫(yī)療人工智能的隱私風(fēng)險(xiǎn)談起[J]. 科學(xué)與社會(huì), 2020, 10(2): 89-110.

[8] 劉丹, 周吉銀. 臨床科研項(xiàng)目受試者隱私保護(hù)的倫理審查[J]. 中國(guó)醫(yī)學(xué)倫理學(xué), 2021, 34(10): 1306-1310.

[9] 謝小萍, 何曉波, 張玲希, 等. 涉及醫(yī)學(xué)人工智能研究的倫理審查要點(diǎn)分析[J]. 中國(guó)醫(yī)學(xué)倫理學(xué), 2021, 34(7): 844-850.

[10] 李明, 李昱熙, 戴廉, 等. 醫(yī)療人工智能倫理若干問(wèn)題探討[J]. 醫(yī)學(xué)與哲學(xué), 2019, 40(21): 1-4.

[11] 藥物臨床試驗(yàn)受試者隱私保護(hù)·廣東共識(shí)[J]. 今日藥學(xué), 2020, 30(12): 807-814.

[12] 烏守恒, 劉芯如, 楊建英, 等. 醫(yī)互通微信隨訪平臺(tái)在PAC隨訪中的應(yīng)用[J]. 中國(guó)計(jì)劃生育學(xué)雜志, 2018, 26(2): 156-159.

[13] 中共中央辦公廳. 國(guó)務(wù)院辦公廳. 關(guān)于加強(qiáng)倫理治理的意見(jiàn)[OL]. (2022-03-20) [2022-12-28], www.gov. cn/ zhengce/2022-03/20/content-5680105.htm.

[14] 劉星, 盧曉然, 吳影, 等. 人工智能應(yīng)用于臨床試驗(yàn)的倫理問(wèn)題分析及對(duì)策[J]. 中國(guó)臨床藥理學(xué)與治療學(xué), 2022, 27(3): 322-327.

[15] 張海洪. 健康數(shù)據(jù)二次使用研究的倫理審查探討[J].醫(yī)學(xué)與哲學(xué), 2019, 40(3): 26-28.

[16] 王國(guó)豫, 黃斌. 論大數(shù)據(jù)技術(shù)對(duì)知情同意的挑戰(zhàn)[J]. 自然辯證法研究, 2020, 36(4): 61-66.

[17] 孟祥菡. 我國(guó)人體臨床試驗(yàn)受試者知情同意權(quán)的法律保護(hù)[J]. 人權(quán), 2022(1): 150-167.

[18] 柳薇, 吳丁娟. 醫(yī)療信息隱私保護(hù)的研究進(jìn)展[J]. 軟件, 2020, 41(5): 66-71.

[19] 朱貝, 王傳清. 我國(guó)科學(xué)數(shù)據(jù)共享中的隱私治理探析[J]. 圖書情報(bào)工作, 2020, 64(22): 37-47.

[20] 李憲辰, 康玫, 邱燕, 等. 研究者發(fā)起的臨床研究中受試者個(gè)人隱私保護(hù)探討[J]. 中國(guó)醫(yī)學(xué)倫理學(xué), 2020, 33(12): 1459-1462.

[21] 周琬琳. 人工智能醫(yī)學(xué)應(yīng)用的分類與倫理問(wèn)題反思[J].中國(guó)醫(yī)學(xué)倫理學(xué), 2020, 33(7): 826-830.

張燕，電子信箱：zhangyangoog@163.com

（2022-07-25）

（2022-09-11）

R920.4

A

1673–9701(2022)36–0109–03