孫偉，白彩珍，徐靈靈，肖淑萍

人工智能（artificial intelligence，AI）在醫(yī)療領(lǐng)域的快速發(fā)展，給人類帶來了優(yōu)質(zhì)、高效的醫(yī)療服務(wù)，顯著提高了疾病的診療效率，并不斷改變著醫(yī)療模式。隨著AI醫(yī)療器械技術(shù)的迅速發(fā)展，其在卒中診療中的應(yīng)用越來越廣泛，有研究顯示AI醫(yī)療器械的應(yīng)用可以顯著提高卒中的診斷效率，并可根據(jù)患者的基本信息、病史、各種輔助檢查結(jié)果等快速優(yōu)化治療策略，從而改善患者預(yù)后[1-2]。

AI醫(yī)療器械為卒中診療帶來了速度與療效提升的同時(shí)，也帶來了一些潛在的倫理問題。本文將從隱私安全性、數(shù)據(jù)全面性、算法科學(xué)性、診斷準(zhǔn)確性、責(zé)任主體劃分以及對(duì)特殊人群知情同意等倫理問題進(jìn)行探討分析，確保AI醫(yī)療器械在卒中診療中能夠以符合倫理的方式更好地發(fā)揮作用。

1 AI醫(yī)療器械在卒中診療中潛在的倫理問題

1.1 卒中患者的知情同意 卒中患者由于發(fā)病急、進(jìn)展迅速，可能出現(xiàn)意識(shí)障礙或認(rèn)知改變等疾病特殊性，使得患者本人難以親自簽署知情同意，通常只能由家屬代理[3]，但是具體什么情況需要代理，應(yīng)該由哪些人代理，目前尚無明確規(guī)定。Zier等[4]的研究發(fā)現(xiàn)，即便是非常了解患者的家屬也很難準(zhǔn)確把握患者的真正意愿。此外，在AI醫(yī)療器械診療過程中可能發(fā)現(xiàn)預(yù)期之外的其它病變[5]，何時(shí)、以何種方式將這些病變告知患者，需要綜合評(píng)估患者的健康狀況，不宜以機(jī)械的方式直接告知，這也是AI可以輔助臨床，但不能替代醫(yī)師的原因之一。

1.2 隱私安全性 卒中AI醫(yī)療器械與其它AI醫(yī)療器械在隱私信息安全性方面存在共性，二者在研發(fā)和臨床應(yīng)用過程中會(huì)采集大量的患者信息，包括年齡、性別、聯(lián)系方式、住址等基本信息，也包括疾病病史、診療記錄、化驗(yàn)檢查結(jié)果、影像數(shù)據(jù)等健康信息[6]。這些具有高度的個(gè)人化且敏感的患者隱私信息一旦泄露，造成的損害是非常嚴(yán)重的。AI訓(xùn)練需要使用廣泛數(shù)據(jù)，因此會(huì)存在潛在的隱私安全性問題。雖然目前有研究者提出對(duì)要使用以及訓(xùn)練的數(shù)據(jù)進(jìn)行完全匿名化來規(guī)避這種隱私泄露的風(fēng)險(xiǎn)[7]，但目前我國AI醫(yī)療器械研發(fā)過程中對(duì)患者個(gè)人信息匿名化的保護(hù)機(jī)制尚不完善，因此需要通過建立具體匿名化準(zhǔn)則以提高隱私安全性。

1.3 數(shù)據(jù)全面性 數(shù)據(jù)的全面性是保證AI醫(yī)療器械診斷、決策準(zhǔn)確的重要前提。卒中AI醫(yī)療器械較其他AI醫(yī)療器械在數(shù)據(jù)全面性方面有更高的要求。因?yàn)槟X部神經(jīng)、血管網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜，所以卒中患者臨床表現(xiàn)復(fù)雜多樣，這就要求在建立AI學(xué)習(xí)數(shù)據(jù)庫時(shí)納入盡可能多的病例，包括不同的年齡、性別、病變部位、癥狀體征和治療轉(zhuǎn)歸等信息，充分考慮群體差異化訴求，以降低數(shù)據(jù)偏倚。偏倚的數(shù)據(jù)不能代表人群的整體特點(diǎn)，因此必然會(huì)導(dǎo)致診斷的準(zhǔn)確性降低。此外，偏倚數(shù)據(jù)會(huì)進(jìn)一步引起統(tǒng)計(jì)分析數(shù)據(jù)的相關(guān)步驟隨之發(fā)生變化[8]，從而產(chǎn)生更難以預(yù)測(cè)的深遠(yuǎn)影響。因此，數(shù)據(jù)全面性也應(yīng)該作為倫理審查關(guān)注的重點(diǎn)之一，以保證AI醫(yī)療器械在臨床應(yīng)用過程中的安全、準(zhǔn)確。

1.4 算法科學(xué)性 算法科學(xué)性對(duì)AI醫(yī)療器械診斷的準(zhǔn)確性非常重要，是倫理審查中核心問題之一[9]。如果算法上出現(xiàn)差錯(cuò)，非但不能提高疾病診斷效率，反而會(huì)造成誤診，延誤治療。因此，保證算法的科學(xué)性對(duì)AI醫(yī)療器械后續(xù)在臨床診療中的應(yīng)用至關(guān)重要。目前AI醫(yī)療器械的算法問題是倫理審查的薄弱環(huán)節(jié)，方案中對(duì)具體算法描述一般也較少，且專業(yè)性強(qiáng)，現(xiàn)有的醫(yī)學(xué)倫理委員會(huì)的委員在審查過程中很難發(fā)現(xiàn)算法上的問題。針對(duì)此類問題如何能充分保障受試者權(quán)益，保證算法上的絕對(duì)準(zhǔn)確，同樣是該領(lǐng)域面臨的重大挑戰(zhàn)。

1.5 診斷準(zhǔn)確性與責(zé)任主體劃分 AI醫(yī)療器械診斷的準(zhǔn)確性依賴于數(shù)據(jù)的全面性和算法的科學(xué)性，只有這兩方面均得到保證，診斷的準(zhǔn)確性才會(huì)隨之提高。此外，診斷的準(zhǔn)確性還與應(yīng)用環(huán)境、操作方法有關(guān)，環(huán)境不當(dāng)或操作有誤均會(huì)導(dǎo)致AI醫(yī)療器械診斷的準(zhǔn)確性降低。針對(duì)由于AI醫(yī)療器械診斷準(zhǔn)確性降低導(dǎo)致誤診的情況，其責(zé)任主體是AI醫(yī)療器械企業(yè)還是臨床應(yīng)用者，二者的責(zé)任該如何劃分也是需要進(jìn)一步討論并明確的問題[10]。

2 應(yīng)對(duì)AI醫(yī)療器械在卒中診療中倫理問題的對(duì)策

2.1 臨床試驗(yàn)倫理審查階段的對(duì)策

2.1.1 構(gòu)建完善的倫理審查規(guī)范 AI醫(yī)療器械的倫理審查亟待構(gòu)建完善的規(guī)范。目前國內(nèi)外應(yīng)用較廣泛的AI倫理共識(shí)包括阿西洛馬AI原則和國際電氣電子工程師學(xué)會(huì)發(fā)布的AI設(shè)計(jì)的倫理準(zhǔn)則[11-12]。我國關(guān)于AI倫理的建設(shè)正處于不斷發(fā)展和完善的階段，2017年中華人民共和國中央人民政府國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》對(duì)AI的倫理規(guī)范建設(shè)提出了明確的要求，并計(jì)劃于2030年建成完善的倫理規(guī)范[13]。2021年9月科技部《新一代人工智能倫理規(guī)范》的落地為AI領(lǐng)域的工作者提供了清晰的倫理指引，也為AI醫(yī)療器械倫理審查規(guī)范的構(gòu)建墊下了根基[14]。AI醫(yī)療器械的倫理審查規(guī)范應(yīng)基于AI倫理規(guī)范，但又具有醫(yī)療器械倫理審查的特點(diǎn)，指導(dǎo)醫(yī)學(xué)倫理委員會(huì)進(jìn)行此類項(xiàng)目的倫理審查，充分發(fā)揮倫理審查作用，對(duì)此類AI醫(yī)療器械開展嚴(yán)格的臨床試驗(yàn)前倫理審查。

2.1.2 明確知情代理人身份和職責(zé) 卒中患者的意識(shí)、認(rèn)知改變會(huì)影響其親自簽署知情同意，所以通常由家屬代理。然而，患者本人的意愿才是知情同意的根本，對(duì)于意識(shí)、認(rèn)知水平尚可的患者最好由本人簽署知情同意。因此在簽署知情同意前如果能通過簡(jiǎn)易的量表對(duì)患者的意識(shí)和認(rèn)知水平進(jìn)行評(píng)估分類，便可協(xié)助區(qū)分哪些患者可以親自簽署知情同意，哪些需要家屬代理。對(duì)于需要家屬代理的患者，以與患者關(guān)系最密切的直系親屬為首選，這樣雖然不能完全與患者意愿一致，但可以盡可能接近其意愿。

2.1.3 聘請(qǐng)計(jì)算機(jī)科學(xué)獨(dú)立顧問 目前醫(yī)學(xué)倫理委員會(huì)委員多由醫(yī)藥專家、法律專家和社會(huì)人士等構(gòu)成。由于委員團(tuán)隊(duì)結(jié)構(gòu)中缺少AI算法、統(tǒng)計(jì)、信息安全領(lǐng)域的專家，而這些領(lǐng)域具有明顯專業(yè)特色，所以目前醫(yī)學(xué)倫理委員的構(gòu)成可能難以發(fā)現(xiàn)這些方面的潛在倫理問題。伴隨著AI醫(yī)療器械臨床試驗(yàn)越來越多，醫(yī)學(xué)倫理委員會(huì)可考慮聘請(qǐng)AI算法、統(tǒng)計(jì)、信息安全領(lǐng)域的專家對(duì)此類臨床試驗(yàn)的算法科學(xué)性、數(shù)據(jù)全面性以及隱私安全性進(jìn)行倫理把關(guān)，以填補(bǔ)倫理審查過程中這部分的空白。通過聘請(qǐng)計(jì)算機(jī)專業(yè)獨(dú)立顧問，委員專業(yè)覆蓋面更全面，審查效能也會(huì)隨之提升。

2.2 臨床應(yīng)用階段的對(duì)策

2.2.1 建立問責(zé)機(jī)制 AI醫(yī)療器械在臨床應(yīng)用過程中可能會(huì)由于器械產(chǎn)品本身或應(yīng)用不當(dāng)導(dǎo)致問題，需要建立AI醫(yī)療器械問責(zé)機(jī)制，完善AI定責(zé)的法律法規(guī)，對(duì)問題出現(xiàn)后主體責(zé)任劃分問題進(jìn)行界定，使得相關(guān)責(zé)任方承擔(dān)起相應(yīng)的責(zé)任。在設(shè)計(jì)、制造、使用AI全生命周期過程中做到公開透明、可追溯。一旦發(fā)生事故，可以追溯事故發(fā)生的原因出現(xiàn)于哪個(gè)環(huán)節(jié)，從而協(xié)助劃分責(zé)任主體，包括所有相關(guān)活動(dòng)的人員或機(jī)構(gòu)，由不同責(zé)任主體承擔(dān)不同的責(zé)任，避免單一責(zé)任制，全面增強(qiáng)責(zé)任意識(shí)。

2.2.2 專業(yè)培訓(xùn)與倫理教育 AI醫(yī)療器械的定位是輔助臨床進(jìn)行診療活動(dòng)，不能完全代替臨床醫(yī)師，其操作需要臨床醫(yī)師參與。正確的應(yīng)用AI醫(yī)療器械才能保證診斷的準(zhǔn)確性，所以需要對(duì)應(yīng)用者進(jìn)行嚴(yán)格的培訓(xùn)并進(jìn)行相應(yīng)的考核，以最大限度地減少由于應(yīng)用不當(dāng)導(dǎo)致診斷延誤的可能性。同時(shí)還要加強(qiáng)倫理方面培訓(xùn)，充分認(rèn)識(shí)AI醫(yī)療器械可能出現(xiàn)的倫理問題，既不低估也不夸大風(fēng)險(xiǎn)，綜合完善應(yīng)用者的培養(yǎng)機(jī)制，提高應(yīng)對(duì)能力，確保AI醫(yī)療器械在卒中診療過程中的順利應(yīng)用。

3 結(jié)語

綜上所述，在卒中AI醫(yī)療器械診療領(lǐng)域不斷發(fā)展的過程中，應(yīng)盡可能做到有效評(píng)估隱私安全性、算法科學(xué)性、診斷準(zhǔn)確性和主體責(zé)任劃分等倫理問題，充分保障患者的安全與權(quán)益。針對(duì)卒中患者的知情問題，準(zhǔn)確恰當(dāng)?shù)剡M(jìn)行代理人知情。此外，由于腦部解剖和功能的復(fù)雜性，對(duì)建立AI醫(yī)療器械數(shù)據(jù)的全面性同樣提出了更高的要求。避免上述問題帶來風(fēng)險(xiǎn)的同時(shí)，不斷尋求解決策略，構(gòu)建完善的倫理審查規(guī)范及監(jiān)管法規(guī)，最終實(shí)現(xiàn)AI醫(yī)療器械在卒中診療領(lǐng)域的健康發(fā)展，確保AI醫(yī)療器械能夠帶來廣泛的社會(huì)利益。