■文/李偉 華夢蓮(上海財經(jīng)大學(xué)人文學(xué)院)
親人和朋友的去世會使人特別悲傷,因為他們的去世使與之親密的人無法再次聽到他們的聲音,無法在社會意義上與他們互動。然而,現(xiàn)在國外一些科技公司通過虛擬永生技術(shù)實現(xiàn)了生人與逝去親人之間的互動,人們可以通過電腦界面和死去的“陌生人”進(jìn)行聊天,交流他們死后發(fā)生的事情。虛擬永生 技 術(shù)(Virtual Eternity)是能夠讓精神永存的一種技術(shù),也就是說,它實現(xiàn)了人類意識的數(shù)字化。國外的初創(chuàng)科技公司,包 括 Eternime、HereAfter、Nectome、Intellitar 、Hereafter Institute與MIT媒體實驗室正在致力于虛擬永生的研究與售賣(圖1)。虛擬永生技術(shù)的到來,一方面,能夠減輕人們失去親人的痛苦,讓逝去的親人以虛擬人的形式出現(xiàn)在計算機屏幕中,并能夠?qū)崿F(xiàn)逝去的死者與親人如同生前那樣互動;另一方面,虛擬永生技術(shù)將會產(chǎn)生諸多倫理問題。
Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute等公司與MIT媒體實驗室都致力于虛擬永生技術(shù)的研究探索。虛擬永生是指人類的精神自我可以以第一人稱上傳到非生物媒介,讓精神永存的一種理論(MIT科技評論,2019)。雖然虛擬永生技術(shù)“利用了網(wǎng)絡(luò)、AI技術(shù)、數(shù)字助理設(shè)備和通訊對話等手段,讓一個人的音容笑貌能長遠(yuǎn)地生存于網(wǎng)絡(luò)空間,同時具有實時和互動感”(張?zhí)锟保?019),但是每個公司所采用的手段與技術(shù)理念都各不相同。本文將重點介紹HereAfter、Eternime、Nectome與Hereafter Institute四個公司。
Hereafter公司是由James Vlahos 和 Sonia Talati共同創(chuàng)辦的科技公司。Hereafter創(chuàng)始人James Vlahos的父親死于癌癥,在其父親因癌癥去世之前,Vlahos為了永遠(yuǎn)保持父親的聲音和微笑,他希望用人工智能的手段讓父親永遠(yuǎn)生活在互聯(lián)網(wǎng)上。在他父親生命的最后三個月里,James Vlahos記錄了其父親生命中的各種對話和場景。最后,James Vlahos錄制了91970個單詞,并創(chuàng)建了一個對話人工智能 Dadbot。 通 過 Dadbot,JamesVlahos可以和他已故父親的電腦化身交換文本和音頻信息,談?wù)摫舜说纳睿黄鹇牳枨?,聊天和互相開玩笑。為了紀(jì)念父親,James Vlahos還將人工智能軟件上傳到社交媒體。令James Vlahos大吃一驚的是,他收到了很多人的要求,希望Vlahos能幫助他們創(chuàng)建自己親人的虛擬人,于是他決定開辟一個尚未開發(fā)的“虛擬永生”市場,因此創(chuàng)辦了Hereafter公司。
圖1 Eternime官網(wǎng)標(biāo)語:永遠(yuǎn)作為數(shù)字化身生活
Eternime是2014年創(chuàng)立并設(shè)立在羅馬尼亞的一家初創(chuàng)公司,公司承諾將使其用戶“以虛擬化身的形式永垂不朽 ”。Eternime官網(wǎng)如此描述所需要采取的行為及目的:“Eternime收集您的想法,故事和回憶,整理它們,并創(chuàng)建一個看起來像您的智能化身。”(Eternine,2019)根據(jù) Eternime的說法,參與項目的人需要提供自己的所有記錄,包括訪問聯(lián)系人、生日、Facebook上的對話歷史、電話通知,以及電子郵件帳戶、位置、教育和工作歷史、體育運動、家人或合作伙伴成員的身份、在社交網(wǎng)絡(luò)上的興趣和“喜歡”、所有“在線”和“離線”活動、照片和視頻等等(DeepTech,2019)。這個項目旨在通過開發(fā)一種新的人工智能系統(tǒng)用于收集人的“足跡”,包括記憶故事、思想甚至是聲音,然后創(chuàng)建用戶的數(shù)字頭像,用戶的家人可以在用戶去世之后和虛擬頭像保持互動。網(wǎng)站存在的目的,是保存用戶的思想、故事、記憶,以便于讓這些用戶的親人能在用戶去世后與其進(jìn)行互動。除此之外,還有一個更大膽的目標(biāo),就是創(chuàng)造一個集齊人類思想、故事、回憶、文化的數(shù)字博物館(留學(xué)帝,2017)。
Nectome官網(wǎng)顯示“Nectome是一家致力于發(fā)展記憶科學(xué)的研究公司。我們設(shè)計并進(jìn)行實驗,以發(fā)現(xiàn)大腦如何物理地創(chuàng)建記憶。并且,我們開發(fā)了生物保存技術(shù)來更好地保存記憶的物理痕跡?!保∟ECTOME,2019)簡而言之,Nectome是通過戊二醛保存人的大腦并上傳到計算機中的一家科技公司。對于什么是利用生物保存技術(shù)來更好地保存記憶的物理痕跡,在Nectome官網(wǎng)上有十分具體的描述,由于其中的一些專業(yè)術(shù)語對非生物學(xué)專業(yè)的人士來說不夠友好,在此不再贅述。簡而言之,戊二醛固定可能能夠以全面的方式保存編碼典型生物的長期記憶的信息(McIntyre R,2019),即分子生物保存(圖2)。該公司的聯(lián)合創(chuàng)始人羅伯特·麥金太爾(Robert McIntyre)聲稱用戶的大腦可以在一種化學(xué)溶液中保存數(shù)百年,甚至數(shù)千年,并有望在未來使科學(xué)家能夠掃描大腦并將其轉(zhuǎn)化為計算機模擬,并作為數(shù)字意識生活。該技術(shù)的運用有一個主要障礙:人的大腦必須新鮮。因此,Nectome打算將患有絕癥的人連接到心肺機上,以便在他們?nèi)匀换钪幱谌砺樽淼那闆r下,將充滿防腐劑的化學(xué)物質(zhì)泵入脖子的頸動脈中(Rogers J,2018)。
藝術(shù)家加布里埃爾·巴西亞·科倫坡(Gabriel Barcia-Colombo) 在LACMA的Art +Technology Lab創(chuàng)立了Hereafter Institute,這是一種身臨其境的個性化藝術(shù)裝置,旨在讓人們思考他們的數(shù)字化遺物將要發(fā)生的事情(Laden T M,2016)。通過3D身體掃描和動作捕捉(圖3),客戶站立時雙腳分開與肩膀的距離,手臂稍微伸出,在技術(shù)人員掃描身體時在轉(zhuǎn)盤上緩慢旋轉(zhuǎn)。人去世后,研究所可以在電腦屏幕上展示他們的圖像,并使服務(wù)對象看起來像從事他或她生活中喜歡的活動。Hereafter Institute主要通過兩種方式實現(xiàn)虛擬永生:其一是定制的黑膠唱片,該唱片能夠?qū)⑺勒叩纳缃幻襟w時間軸轉(zhuǎn)換為音頻音調(diào);其二是“參與式虛擬現(xiàn)實裝置”,“在該裝置中,我們邀請客人進(jìn)入一個不斷擴展的世界,在這里他們可以重訪死者,與生者交流,甚至計劃自己的來世?!保↙aden T M,2016)
通過對已存在以虛擬永生作為賣點的科技公司的介紹(雖然不是全部已存在公司)及這些公司通過何種方式實現(xiàn)虛擬永生后,本文將視角轉(zhuǎn)向通過技術(shù)手段實現(xiàn)虛擬永生所應(yīng)該具備的手段與特征。關(guān)于手段與途徑的說明非常重要,它們是區(qū)分虛擬永生技術(shù)公司與其他人工智能公司的關(guān)鍵。各個科技公司都在通過自己的手段來實現(xiàn)虛擬永生,這些手段對于每個公司來說都是商業(yè)機密,核心內(nèi)容肯定不會透露給公眾,但是每家公司都會向公眾闡述虛擬永生基本的實現(xiàn)原理,有的機構(gòu)還會讓用戶提前體驗,如MIT媒體實驗室。下面會列舉實現(xiàn)虛擬永生所要的必要手段及特征。
圖2 Nectome官網(wǎng)中“生物分子保存”的介紹
圖3 Hereafter Institute的3D人體掃描技術(shù)員
逝者生前的大量數(shù)據(jù)是實現(xiàn)虛擬永生最為關(guān)鍵,也是最為重要的因素。無論是Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute還是MIT媒體實驗室,在論述實現(xiàn)虛擬永生的途徑時,都包含了獲取大量數(shù)據(jù)的說明。這些數(shù)據(jù)可以分為簡單數(shù)據(jù)與復(fù)雜數(shù)據(jù),區(qū)分簡單數(shù)據(jù)與復(fù)雜數(shù)據(jù)的依據(jù)是收集數(shù)據(jù)信息的難度及數(shù)據(jù)信息的表現(xiàn)形式。簡單數(shù)據(jù)如HereAfter收集創(chuàng)始人父親的談話、講述、生活場景等數(shù)據(jù)信 息;Hereafter Institute通過3D身體掃描和動作捕捉收集到的人物動作信息;Eternime收集的聯(lián)系人、生日、Facebook上的對話歷史、電話通知,以及電子郵件帳戶、位置、教育和工作歷史、體育運動、家人或合作伙伴成員的身份等信息;MIT媒體實驗室收集公開言論、博客文章、社交媒體的文章、照片、短信和電子郵件等數(shù)據(jù)信息。復(fù)雜信息如Nectome開發(fā)的生物保存技術(shù)來更好地保存記憶的物理痕跡,由于大腦信息不像普通文本信息那樣收集起來更為簡單,因此本文將其歸納到復(fù)雜信息中。
上文所述,數(shù)據(jù)信息是實現(xiàn)虛擬永生的關(guān)鍵,那么收集數(shù)據(jù)信息的方法也不可忽視,因為方法的確立能夠讓數(shù)據(jù)收集得更為充分,也讓虛擬永生技術(shù)產(chǎn)生更好的效果。數(shù)據(jù)收集分為兩種模式,被動收集與主動收集,所謂被動收集指的是虛擬永生公司的數(shù)據(jù)主要來源于用戶自己提供的數(shù)據(jù)信息,主動收集指的是虛擬永生公司的數(shù)據(jù)來源于自主收集。從Eternim需要用戶提供自己的所有數(shù)據(jù),再到Hereafter通過手動收集父親生前的數(shù)據(jù)信息,Hereafter Institute通過3D身體掃描和動作捕捉收集用戶信息,MIT媒體實驗室通過應(yīng)用人工智能技術(shù)將用戶每天大腦產(chǎn)生的所有數(shù)據(jù)收集起來,到更為困難的Nectome利用生物技術(shù)從人的大腦收集信息,可以看出虛擬永生公司對數(shù)據(jù)信息收集從簡單到復(fù)雜的過程,也可以看出大數(shù)據(jù)、人工智能技術(shù)將會在虛擬永生技術(shù)應(yīng)用的過程中扮演更重要的角色。
死者的可視化是虛擬永生的最大特點及最大賣點,也是各個虛擬永生技術(shù)公司所承諾的用戶與逝去的親人的最終互動模式。無 論 是 Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute還是MIT媒體實驗室通過何種方式收集數(shù)據(jù)信息,收集到多么海量的數(shù)據(jù),都是為了用戶能夠同逝者像生前那樣互動,例如實現(xiàn)最基礎(chǔ)的交流功能。可視化意味著用戶可以重新見到死者,雖然只是死者的生前虛擬形象,但是那些形象是會動的,且有自己的思想,跟冷冰冰的照片比給人更為親近的感覺。逝者的可視化表現(xiàn)也是用戶愿意付出巨額資金加入到虛擬永生項目中去的主要原因。值得注意的是,虛擬永生公司試圖提供的虛擬人除了沒有實實在在的肉體之外,其他與現(xiàn)實生活中的人別無二致。雖然現(xiàn)階段的科學(xué)技術(shù)無法達(dá)到這個要求,但是在不久的將來,虛擬永生中的“逝去的親人”將會有自己的思想,且能夠進(jìn)行自主學(xué)習(xí),在與親人進(jìn)行互動時,能產(chǎn)生自己的想法。
毫無疑問的是,一項新興的科學(xué)技術(shù),特別是人工智能的發(fā)展必然會引發(fā)一定的倫理問題,虛擬永生技術(shù)也不例外。值得注意的是,虛擬永生技術(shù)正在被眾多公司進(jìn)行商業(yè)應(yīng)用,這也是導(dǎo)致相關(guān)倫理風(fēng)險的關(guān)鍵因素之一。一般而言,虛擬永生技術(shù)的道德挑戰(zhàn)包括但不僅限于以下幾個方面,這些倫理問題不僅會出現(xiàn)在中國,同時還會出現(xiàn)在整個世界的虛擬永生技術(shù)應(yīng)用之中。
從倫理上講,人的尊嚴(yán)要求被視為逝者信息的數(shù)字遺骸不能僅僅用作達(dá)到目的的手段,例如利潤,而應(yīng)被視為具有內(nèi)在價值的 實 體 (?hman C&Floridi M,2018)。這個觀點幾乎符合康德的觀點,雖然康德義務(wù)論第二個公式主要指的是人,但是在分析虛擬永生倫理問題時,也可以將屏幕上“逝者的形象”看作真實的人,因為隨著虛擬永生技術(shù)的發(fā)展,“逝者”除了沒有肉體之外,其他都與在世時一樣,包括語言、行為與思考模式。許多公司將虛擬永生作為獲取利潤的手段,那么虛擬永生中逝者及其所有的信息及數(shù)據(jù)也將是公司獲取利潤的手段。由于逝者并非真實存在的人,所以許多公司不會將其作為具有內(nèi)在價值的實體,即作為目的看待。虛擬永生技術(shù)中的逝者必然也應(yīng)該被當(dāng)作一個理性的存在者,即他們也應(yīng)該擁有尊嚴(yán)和作為人的價值,這就要求他或她永遠(yuǎn)不能被剝削、被操縱或僅僅被用作達(dá)到其他任何目的的一種手段。因此,有的虛擬永生公司從康德目的原則看來是不道德的。
虛擬永生的機器人會不斷增強,以至于對社會或道德世界產(chǎn)生影響。例如,隨著聊天機器人的不斷增強和更新,它們所描繪的人的形象也會隨著時間的推移而改變;甚至在用戶死亡后的5年內(nèi),他們注冊的聊天機器人很可能已經(jīng)發(fā)展成為一種更為復(fù)雜的 東 西 (?hman C&Floridi M,2018)。虛擬永生的未來發(fā)展誰也無法預(yù)料,發(fā)展的結(jié)果是好是壞也無法被人所知曉。從科學(xué)倫理學(xué)的角度來看待虛擬永生技術(shù)的發(fā)展,必須思考到未來其可能帶來的一系列問題。例如,高度智能的虛擬永生系統(tǒng)是否會產(chǎn)生人類世界之外的第二個虛擬世界?虛擬永生中的虛擬逝者是否會產(chǎn)生自己的意識,引發(fā)現(xiàn)實世界的戰(zhàn)爭或經(jīng)濟危機?虛擬逝者是否會擺脫人類的管控,順利通過圖靈測試以求控制人類?虛擬永生技術(shù)是否會引發(fā)現(xiàn)實社會的倫理道德困境,并以他們的道德準(zhǔn)則來規(guī)定現(xiàn)實人類及社會的倫理規(guī)范?這些問題都值得我們思考,并做最壞的打算。
虛擬永生技術(shù)中的虛擬人可以看作是在虛擬世界中真實存在的人,由于虛擬人高度智能化,除了與現(xiàn)實生活中的人沒有同樣的軀體之外,其他都一樣。因此在虛擬世界中,邪惡的虛擬人將會作出一系列不道德的行為。例如,它們都涉及在虛擬環(huán)境中發(fā)生的行為,在虛擬環(huán)境中,由人類控制的虛擬角色在未經(jīng)其用戶中的至少一人同意的情況下,參與性外顯行為(性接觸、性交等)的表示(Danaher J,2018)。又比如,虛擬逝者角色是否會在虛擬世界中謀殺其他角色?虛擬角色會不會產(chǎn)生各種歧視?虛擬角色雖然不是現(xiàn)實社會的真實的人,但是在虛擬世界中他們就是真實的,真實性會引發(fā)虛擬世界中類似現(xiàn)實社會的道德難題。對于在世的親人來說,虛擬永生技術(shù)帶給他們親人第二次生命,但是隨著人工智能的不斷發(fā)展,虛擬世界的親人也許會被他人傷害,這種傷害或許會導(dǎo)致虛擬親人無法再次重生,這對于現(xiàn)實中的親人或許又是一種打擊,并引發(fā)社會對虛擬永生公司的聲討與反對。
Rahnama博士認(rèn)為,未來的15年到25年,個人將成為增強永生的主流。數(shù)據(jù)是虛擬永生技術(shù)所依托的最為重要的元素,數(shù)據(jù)也是該種技術(shù)引發(fā)倫理問題的關(guān)鍵。要避免虛擬永生技術(shù)產(chǎn)生的用戶隱私問題,“用戶必須對數(shù)據(jù)有完全的控制權(quán),而 Google、Facebook 等公司或許不會合作。因此,‘增強永生’項目也在激發(fā)人們對數(shù)據(jù)收集和控制的探討?!保v訊科技,2016)數(shù)據(jù)歸屬問題一直以來都是大數(shù)據(jù)技術(shù)倫理問題探討的核心,就像本文前半部分所描述的那樣,虛擬永生技術(shù)公司可以通過兩種方式獲取數(shù)據(jù),分別是用戶自己提供與公司自己獲取。虛擬永生技術(shù)公司獲取數(shù)據(jù)的第一種方式是符合倫理道德的,關(guān)鍵在于數(shù)據(jù)獲取后的使用與保存是否存在倫理風(fēng)險。虛擬永生技術(shù)公司是否會按照一定的數(shù)據(jù)倫理法則來運用數(shù)據(jù)?是否會將逝者數(shù)據(jù)賣給其他公司和個人?虛擬永生技術(shù)公司能否保證數(shù)據(jù)安全存儲?虛擬永生技術(shù)公司是否有足夠的技術(shù)來抵擋黑客對逝者數(shù)據(jù)的盜?。窟@都值得我們進(jìn)行思考。
虛擬永生中人的安樂死倫理問題。Nectome公司想要實現(xiàn)虛擬永生必須將人腦信息轉(zhuǎn)變?yōu)闄C器能夠讀取的信息,為了實現(xiàn)這個目的,必須將人安樂死。Nectome打算將患有絕癥的人連接到心肺機上,以便在他們?nèi)匀换钪幱谌砺樽淼那闆r下,將充滿防腐劑的化學(xué)物質(zhì)泵入脖子的頸動脈中(Rogers J,2018)。安樂死是否符合倫理、符合法律,一直以來被各個國家政府、法律人士及倫理學(xué)家所探討,許多學(xué)者都表達(dá)過自己的看法,本文不再贅述。本文想要探討的是虛擬永生技術(shù)的存在,會將安樂死倫理問題重新納入到社會討論之中。對安樂死倫理問題的討論或許會波及到對于虛擬永生技術(shù)是否能夠在倫理道德的框架內(nèi)被社會所接受,并且情況將會更為復(fù)雜。
隨著虛擬永生技術(shù)的不斷發(fā)展,世界上越來越多公司將會踏入這個領(lǐng)域,并試圖讓這項技術(shù)被更多人接受,這是毋庸置疑的。虛擬永生技術(shù)除了會引起一般的倫理問題之外,還會由于不同國家、不同習(xí)俗及信仰引發(fā)其他的倫理問題,這些倫理問題值得全世界的倫理學(xué)家、科學(xué)學(xué)家及虛擬永生技術(shù)工程師思考。本文對虛擬永生技術(shù)的倫理難題進(jìn)行了粗淺的探討,但這還遠(yuǎn)遠(yuǎn)不夠。對于中國來說,中國未來將會有更多的老年人去世,虛擬永生這個能夠減輕親人離世痛苦的技術(shù)必然會得到更多人的支持。虛擬永生技術(shù)將會如何發(fā)展,中國人對其態(tài)度如何,將會產(chǎn)生哪些中國特定的倫理問題,對于這些問題,時間會給我們答案。