思考和超越
——醫(yī)療智能化背景下的醫(yī)學(xué)倫理學(xué)*

黃 強，肖人銓，王璐穎

(1 中國人民解放軍聯(lián)勤保障部隊第九二四醫(yī)院藥劑科，廣西 桂林 541002，hhhqlg123@163.com；2 海軍軍醫(yī)大學(xué)基礎(chǔ)醫(yī)學(xué)院，上海 200433； 3 海軍軍醫(yī)大學(xué)政教室，上海 200433)

20世紀50年代，美國達特茅斯舉行了第一屆人工智能會議，人工智能的先驅(qū)者西蒙、明斯基等科學(xué)家參加了此次會議。該會議首次向世界宣告了人工智能時代來臨。時至今日，經(jīng)歷半個多世紀的發(fā)展，以人工智能發(fā)展為主線，將其發(fā)展劃分為三個歷史階段。在每個歷史階段進展的過程中都是計算能力和數(shù)據(jù)容量的革命性技術(shù)突破。在第一個階段，主要是基于規(guī)則的某一專業(yè)的研究與開發(fā)，是一個具有大量專業(yè)知識與經(jīng)驗的程序系統(tǒng)，根據(jù)某個領(lǐng)域一個或多個人類專家提供的知識和經(jīng)驗進行推理和判斷，模擬人類專家的決策過程，以解決那些需要專家決策的復(fù)雜問題;第二個階段，機器學(xué)習(xí)的崛起，實現(xiàn)了智能系統(tǒng)與機器本身及自身之外的環(huán)境進行認知信息交互與聯(lián)系的功能，它可自行完成從外部環(huán)境中獲取有用的信息完成程序事先設(shè)定好的推理任務(wù)；第三個階段也就是現(xiàn)階段，人工智能具備“臨摹”和“超越”人類的能力，人工智能幾乎在所有領(lǐng)域超越人類，并在非人類的領(lǐng)域中進行探索，使得人工智能能夠真正地“智能”起來，使其能夠發(fā)現(xiàn)、創(chuàng)造，甚至運用新的知識。從粗鄙的機械性勞力工作到精美擬人化的設(shè)計工作，甚至超越人類多領(lǐng)域探究的智能機器人，從起初的服從到最后的創(chuàng)造，這不僅是人類生活的革命更是人工智能的矩陣革命。

1 醫(yī)療智能化的研究進展

目前，我國的醫(yī)療健康領(lǐng)域中存在部分人工智能的應(yīng)用，已經(jīng)有了初步的成果，例如智能影像輔助診斷系統(tǒng)、導(dǎo)診機器人、智能放療系統(tǒng)和藥物研發(fā)平臺等。其有效地幫助國內(nèi)醫(yī)療系統(tǒng)解決了優(yōu)秀醫(yī)療資源不足，分配不均，醫(yī)務(wù)人員工作任務(wù)繁重，偏遠地區(qū)對醫(yī)療資源需求大等的問題，人工智能的醫(yī)療應(yīng)用改進了醫(yī)療模式架構(gòu)，患者可以得到更好、更快、更高效的專業(yè)性醫(yī)療服務(wù)。

1.1 智能化診療

人工智能融入傳統(tǒng)醫(yī)療模式中，其強大的儲存、運算和分析能力彌補青年醫(yī)生缺乏大量臨床經(jīng)驗的不足，為醫(yī)生選擇針對患者風(fēng)險最小、利益最大的醫(yī)療方案。2016年，人工智能診療在國內(nèi)迎來爆發(fā)式的增長，2016年10月，人民衛(wèi)生出版社推出臨床決策輔助系統(tǒng)-人衛(wèi)臨床助手。2017年4月，零氪科技的HUBBLE醫(yī)療大數(shù)據(jù)輔助決策系統(tǒng)正式上線。以往治愈患者之后大量數(shù)據(jù)信息歸檔，例如臨床醫(yī)學(xué)實踐報告、電子病歷等內(nèi)容，如果有需要調(diào)查研究病例，依靠人工統(tǒng)計浪費大量的時間，而且過程繁瑣以至于結(jié)果極易出錯。同時，人工智能不是簡單機械計算和優(yōu)于人腦的歸納整理，針對大量數(shù)據(jù)進行合理分析歸類極大程度促進醫(yī)療進程，這也證明人工智能具有戰(zhàn)略性的研究與發(fā)展價值；同時，為許多疫病的病因、治療藥物的研究提供方向。

1.2 智能化影像診斷

智能影像輔助診斷系統(tǒng)發(fā)展迅猛，傳統(tǒng)的人工閱片耗時長、效率低下，醫(yī)療智能則能夠迅速讀片，找出病灶后生成一個完整的診斷報告，對醫(yī)生的判斷審查治療進行輔助。2017年的第六屆醫(yī)學(xué)影像高峰論壇上北京友誼醫(yī)院聯(lián)合相關(guān)人工智能公司研發(fā)出CT肺結(jié)節(jié)輔助診斷系統(tǒng)，該系統(tǒng)的診斷準(zhǔn)確率據(jù)報道達到92%。同年，李紅天等結(jié)合人工智能影像診斷技術(shù)，利用晶狀體不透明面積、深淺和位置三大指標(biāo)對患者的白內(nèi)障進行檢測，對患者的患病概率進行高效評估[1]。國內(nèi)醫(yī)療體系已大量引入人工智能設(shè)備，人工智能是時代進步的產(chǎn)物，醫(yī)療領(lǐng)域引入和發(fā)展人工智能已經(jīng)形成了勢不可擋的趨勢，更加有效緩解醫(yī)療人員壓力、優(yōu)化改善醫(yī)療服務(wù)模式。

1.3 智能化機器人

近些年，國外很多國家都進行了專門的醫(yī)用機器人研究。其中最負盛名的就是現(xiàn)在國內(nèi)也可以見到的Da Vinci(達·芬奇)外科手術(shù)機器人。由美國Intuitive Surgical公司于2000年推出。通過醫(yī)生在控制臺上來操作機器人動作，實現(xiàn)手術(shù)的精細化操作。在當(dāng)前以機器人為載體的實際應(yīng)用主要集中在外科手術(shù)領(lǐng)域，外科醫(yī)生給予機器人指令，機器人代替醫(yī)生執(zhí)刀。一個優(yōu)秀的外科主治醫(yī)生可以將誤差控制在2毫米,而機器人則可以達到微米級別[2]。在微創(chuàng)手術(shù)盛行的時代，其發(fā)展勢頭是不言而喻的。

2 醫(yī)療智能化背景下醫(yī)療實踐面臨的矛盾

人工智能的出現(xiàn)，是工具進化的結(jié)果，它回應(yīng)了生產(chǎn)力發(fā)展的要求，很好地滿足了人類改造客觀世界的需要。維納認為：“工業(yè)革命是一把雙刃劍，既可以造福人類，也足以毀滅人類?！盵3]這是一個哲學(xué)家對工業(yè)革命帶來的機遇感到的擔(dān)憂。在醫(yī)療智能化的背景下，必然加快醫(yī)療救治的進程，但同時帶來了很多倫理問題，是醫(yī)療糾紛潛在因素，是醫(yī)療實踐隱含矛盾。

2.1 人工智能背景下的人權(quán)賦予問題

人權(quán)，是作為獨立個體的社會人在他人或群體面前，能夠滿足自身基本權(quán)益的要求或者主張。而人權(quán)倫理則力求人的全面發(fā)展和人的自由可以實現(xiàn)，并且強調(diào)人人平等?，F(xiàn)階段我們社會中存在的智能機器人尚且不會自主學(xué)習(xí)和思考，依靠人工植入的編程代碼來判斷是非，代替人去執(zhí)行作業(yè)時，通過不同的算法使機器人盡可能地接近人的習(xí)慣，但是無法根據(jù)現(xiàn)有條件提出新的問題，不能作為一個獨立的主體去判斷做的事情“道德與否”。此時的機器人應(yīng)該是不存在“人權(quán)”這一社會屬性的。在迅速發(fā)展的人工智能浪潮下，美國學(xué)者雷·庫茲韋爾曾大膽預(yù)言:“2029年將會誕生具有智慧的機器人，它將會有獨立性的自我意識”[4]。 所以在科技不斷發(fā)展的同時，將不得不面對人權(quán)倫理這一根本問題。人的思考是一個動態(tài)的過程，可以因為外界的事物不斷自我更新。正如現(xiàn)今很多線上購物平臺的商品推薦，能夠依據(jù)客戶的瀏覽記錄篩選出合適的商品類型和價格。說明了人工智能在數(shù)據(jù)挖掘的同時，也在模仿人類的“思考”模式來迎合人類。目前人工智能可能還沒有意識到，在未來若人工智能學(xué)會運用自己掌握的認知或者說憑借運算邏輯進行“思考”，誕生新的道德判斷。那么人工智能將會是具有獨立意識的個體且不再聽命于人類給予的運算邏輯，即成為一個能夠判斷是非的主體承擔(dān)者。最后對人工智能倫理人權(quán)的討論范疇必然納入倫理道德規(guī)范。

2.2 人工智能在醫(yī)學(xué)運用的道德價值取向問題

道德取向是指主體個人的道德認知和道德行為具有一貫的導(dǎo)向性的道德價值觀念，和具體的道德行為密切相關(guān)，并指向了一定的道德目標(biāo)[5]。人工智能具有獲取速度快，快速統(tǒng)計出疾病的共同特點?，F(xiàn)在我們醫(yī)生獲取醫(yī)學(xué)知識是依托導(dǎo)師的“傳、幫、帶”，缺點為掌握知識慢、更新速度低。優(yōu)點是可以獲取一些個體化的治療方案。人工智能道德是指具有自主意識的智能機器或機器人判斷某種行為正當(dāng)與否的基本標(biāo)準(zhǔn)與準(zhǔn)則[6]。據(jù)此，人工智能的道德取向就是面對道德選擇時，能夠選擇正確的價值取向。道德并非先天就有，而要后天養(yǎng)成。對當(dāng)今的智能機器而言，其所涉及的道德問題要分清主體是機器人還是設(shè)計機器的人。2014年，作為人工智能的領(lǐng)軍企業(yè)，谷歌率先成立了人工智能倫理委員會，其目的就是為了防止人工智能的濫用。當(dāng)前情形下，道德概念是存在于人類社會之中，機器人并不能作為社會的一個獨立的主體，因為它自身的行為和社會地位的賦予，都依靠于它的設(shè)計者和使用者。此時人工智能的社會屬性是附著于人類身上，自身并不能產(chǎn)生道德問題或者成為道德的選擇者。而人和其他生物最主要的區(qū)別是建立了社群，相互之間進行有效的溝通。當(dāng)人工智能機器人能夠和外界進行有效的信息交互，獨立于機器人設(shè)計師和使用者，自我進行事物的邏輯推理，那么便會擁有自己的道德判斷以及產(chǎn)生屬于機器人自己的道德問題。

2.3 醫(yī)學(xué)決策和行為的過錯歸責(zé)

大數(shù)據(jù)使人工智能試圖去代替人決策和行為，沃森醫(yī)生( Watson for Oncology)是一款 IBM公司制作的醫(yī)療認知計算系統(tǒng)，目前已被應(yīng)用于8種腫瘤治療的決策中。使用者將患者基本信息輸入，沃森醫(yī)生就可以從數(shù)百種刊物里進行分析，選擇出最適合的治療方式協(xié)助主治醫(yī)生的治療。當(dāng)沃森醫(yī)生的判斷導(dǎo)致了患者的病情加重時，沃森醫(yī)生作為人工智能設(shè)備不具備承擔(dān)責(zé)任的能力。因為在法律層面上來說，人工智能設(shè)備沒有意志上的自由，無法作為一個自然人來承擔(dān)犯罪行為的主體[7]。此類事故的責(zé)任人，是沃森醫(yī)生為患者制定治療方案所依據(jù)的文獻的作者或是最終采取沃森醫(yī)生制定方案的幕后醫(yī)生。目前，尚沒有明確人工智能在事故責(zé)任中應(yīng)該擔(dān)負的角色和應(yīng)承擔(dān)的責(zé)任，只是行為的代理執(zhí)行者。在以后，機器人演化成擁有智慧的個體時，能進行獨立的思考和學(xué)習(xí)的時候，從生產(chǎn)線出來一段時間后通過自我底層算法的演化，變成一種類人生物。人工智能在診斷中出現(xiàn)的決策失誤而導(dǎo)致的錯誤行為，假設(shè)還和現(xiàn)行的歸責(zé)標(biāo)準(zhǔn)一樣進行裁定時，會因法律的缺失而造成社會上倫理道德觀念的混亂。

3 倫理學(xué)帶來醫(yī)療智能化道德上的解決措施

現(xiàn)代科學(xué)技術(shù)帶給人類便利的同時，也會使人們不得不置身于倫理的困境。科技的發(fā)展帶動人工智能的進步，人工智能的進步改變了社會內(nèi)部的生產(chǎn)關(guān)系。人工智能帶來的倫理問題更加顯著，準(zhǔn)確把握倫理道德問題的成因尤為重要。

3.1 正確認識醫(yī)學(xué)人工智能

人工智能向著不可預(yù)料的方向飛速發(fā)展，已解決了很多實際的問題。沃森醫(yī)生極大地解決了醫(yī)生檢索文獻所需要的時間，達芬奇手術(shù)機器人比大多數(shù)外科醫(yī)生更為精確……這都是人工智能帶給醫(yī)療工作者的福音，改變了人的思維和就醫(yī)習(xí)慣。20世紀，蘇聯(lián)切爾諾貝利核電站事件是整個人類的創(chuàng)傷，21世紀日本福島核電站事件是在尚未愈合的傷口又刺上一刀，科技給人類生活帶來的便捷是革命性的，但是面對最大利益是否可以犧牲部分人的幸福生活？如果有道德約束的人類能夠允許少部分的人犧牲，更何況無道德制約的人工智能。人的發(fā)展是社會的第一原則，沒有任何力量能夠阻止人類向前發(fā)展，5G時代的來臨，人工智能伴隨著瓶頸技術(shù)的突破而進入人類社會，社會中各行各業(yè)對人工智能充滿渴望和需求，從事體力勞動的人類必然被人工智能高效便捷的勞動所取代。不對人工智能加以甄別，可能會產(chǎn)生以行為的實際效果作為道德價值的基礎(chǔ)和最高標(biāo)準(zhǔn)的傳統(tǒng)功利主義[8]。長此以往，會損害當(dāng)前社會固有的道德價值觀。

人工智能時代的來臨，研究型醫(yī)療工作者應(yīng)時刻保持警惕，不斷學(xué)習(xí)和適應(yīng)人工智能，合理地與人工智能一起工作。而不是坐享其成、故步自封導(dǎo)致頭腦僵化，對人工智能的依賴性逐漸加深，最終人被人工智能所取代，甚至淪為人工智能的生物能源。2018年召開的全國人工智能哲學(xué)與跨學(xué)科思維論壇上，倫理學(xué)家蘇令銀以中國傳統(tǒng)儒家倫理規(guī)范中的“忠”“恕”“仁”為規(guī)范，構(gòu)建人工智能在現(xiàn)實社會生產(chǎn)先在條件和準(zhǔn)則[9]。人工智能的開發(fā)者把家國融匯于技術(shù)開發(fā)的情懷，闡幽發(fā)微而示之以人所未見，率先垂范而示之以人所未行的踐行。如此守正之士才能創(chuàng)造符合人類社會真正需求的人工智能，人們方能享受人工智能給人類帶來的便捷生活。

3.2 賦予人工智能倫理算法規(guī)則

2018年，歐盟委員會就值得信賴的人工智能(AI)道德準(zhǔn)則草案開展了公眾咨詢[10]。該草案認為“AI必須具有道德目的”“以人為中心”等道德準(zhǔn)則為發(fā)展AI的基礎(chǔ)。這就意味著人工智能必須是為人類社會謀福利，改善個人和集體的生活為主線。大數(shù)據(jù)、底層算法和CPU是支撐人工智能技術(shù)不斷發(fā)展的關(guān)鍵要素，數(shù)據(jù)量的豐富程度是提升算法有效性的關(guān)鍵，也將使道德的和不道德的信息一起涌入人工智能的數(shù)據(jù)庫中。隨著移動設(shè)施和全球網(wǎng)絡(luò)的普及、即將到來的5G時代 ，全球的信息將會越來越集中地涌到一起。倘若不加以約束，可能人工智能的走向會偏離人類的初衷。設(shè)想從底層算法層面進行倫理的制約，以倫理學(xué)為紐帶，人工智能的研發(fā)者應(yīng)該具備工具理性主義的哲學(xué)思維，人類應(yīng)為控制人工智能的主體，人類自身的理性不應(yīng)該被超前的人工智能所統(tǒng)領(lǐng)，變成人工智能的工具或者是人工智能的延伸。為防止人類的理性被人工智能所控制，人類理應(yīng)建立符合倫理道德的算法來對人工智能的大數(shù)據(jù)進行約束。人工智能自動依據(jù)道德算法對現(xiàn)行社會道德楷模特征定性并建立道德模型，作出符合人類當(dāng)前社會道德價值的判斷，將人工智能技術(shù)發(fā)展勢頭控制在人類當(dāng)前所能接受的倫理道德觀念之中。

3.3 建立完善的醫(yī)療智能化法律體系

法律的功能是將社會現(xiàn)實中復(fù)雜的、各具特點的人，以統(tǒng)一的、制度化的方式抽象構(gòu)建出法律上的人[11]。 2019年1月，我國開始正式實施《中華人民共和國電子商務(wù)法》，人和自動售貨機及其搭載的自動交易平臺產(chǎn)生等價交易時，是需要結(jié)締合同的[12]。說明了社會的人和人工智能在該情況下是對等的。當(dāng)前，相當(dāng)多的學(xué)者反對人工智能的快速發(fā)展，觀點為對于人工智能的立法情況尚處于空窗期，人工智能擁有自我意識后會發(fā)生“革命”，背離我們?nèi)祟愖畛醢l(fā)明它們時所賦予它們的使命。但是依據(jù)當(dāng)前發(fā)展趨勢來看，人工智能的發(fā)展是大勢所趨。我們要做的不是阻礙人工智能的發(fā)展，而是在制定關(guān)于人工智能的相關(guān)法律時，應(yīng)該指明在編程設(shè)計和編制范圍之外，人工智能產(chǎn)品基于自身“意志”自主實施的犯罪行為的情形，應(yīng)將責(zé)任歸結(jié)于智能化機器人。對于人工智能產(chǎn)品按照程序設(shè)定的目的實施犯罪行為的，則應(yīng)該責(zé)歸于智能機器人背后的程序員及其智能機器人的使用者。假如在制定法律時不加以界定，那么在某人工智能產(chǎn)品發(fā)生事故時，責(zé)任歸生產(chǎn)方還是使用者來承擔(dān)？所以，人工智能還尚未擁有自己的意識的情況下，制定合乎人類倫理道德的法律規(guī)范來對人工智能和人工智能相關(guān)產(chǎn)業(yè)產(chǎn)生約束是一個十分重要的手段。

4 結(jié)語

綜上所述，人工智能目前在一些領(lǐng)域已經(jīng)超越了人類，例如大存儲容量、大數(shù)據(jù)分析、大數(shù)據(jù)運算，但是它有更多不如人的地方。比如它沒有情商、沒有智慧、沒有人情味。對于人工智能的到來，我們滿心期待著它可以給醫(yī)療行業(yè)注入新的活力，同時我們也需要做好準(zhǔn)備應(yīng)對人工智能對醫(yī)療行業(yè)中的倫理價值觀帶來的沖擊。