趙狄娜

新技術(shù)往往會給現(xiàn)有社會倫理規(guī)范帶來沖擊，虛擬人技術(shù)也不例外，這是人類社會在進步過程當(dāng)中始終面臨的問題。

隨著生成式人工智能技術(shù)不斷成熟，虛擬人制作成本降低、定制化內(nèi)容生成和應(yīng)答反應(yīng)的自然度和豐富度提升，虛擬人逐漸在客服、講解員和直播場景三個領(lǐng)域獲得廣泛應(yīng)用。目前，我國虛擬人行業(yè)整體參與企業(yè)較多，行業(yè)龍頭地位顯著。根據(jù)清華大學(xué)新聞與傳播學(xué)院新媒體研究中心制作的《2022虛擬數(shù)字人綜合評估指數(shù)報告》，2022年我國綜合指數(shù)排名前十的虛擬數(shù)字人分別為洛天依、哈醬、愛加、Meet?Gu、時間小妮、央視AI手語主播、翎、希加加、梅澀甜、尤子希。

然而，新技術(shù)往往會給現(xiàn)有社會倫理規(guī)范帶來沖擊，虛擬人技術(shù)也不例外，這是人類社會在進步過程當(dāng)中始終面臨的問題。虛擬人是由現(xiàn)實中的人類所設(shè)計和開發(fā)的，它們擁有復(fù)雜的人工智能系統(tǒng)，能夠模仿甚至超越真實的人類，其沒有主觀世界，但又貌似有主觀世界。因此，虛擬人市場火熱的背后，要警惕其中的法律和倫理道德等風(fēng)險，嚴(yán)肅考慮虛擬人的權(quán)利和尊嚴(yán)。

“權(quán)利”與風(fēng)險并存

國家廣播電視總局發(fā)布的《廣播電視和網(wǎng)絡(luò)視聽“十四五”科技發(fā)展規(guī)劃》中指出，“面向新聞、綜藝、體育、財經(jīng)、氣象等電視節(jié)目研究虛擬形象合成技術(shù)，包括2D虛擬形象的合成，3D虛擬形象的驅(qū)動，虛擬引擎構(gòu)建、語音驅(qū)動、動作捕捉、面部表情捕捉等技術(shù)，提升節(jié)目制作效率及質(zhì)量；同時探索短視頻主播、數(shù)字網(wǎng)紅、直播帶貨等虛擬形象在節(jié)目互動環(huán)節(jié)中的應(yīng)用，增加個性化和趣味性?！?/p>

當(dāng)下，人們最熟悉的虛擬人莫過于虛擬偶像和虛擬主播，前者起步最早，后者伴隨著電子商務(wù)直播帶貨后來居上。

虛擬偶像的出現(xiàn)無疑給廣告代言帶來了新的可能性，其優(yōu)勢在于無需休息、不受時間和地域限制，可以24小時全天候為廣告代言活動提供支持，從而保證品牌形象的持續(xù)曝光。此外，虛擬偶像的形象塑造更加靈活多變，可以輕松創(chuàng)造出各種奇幻或具有未來感的形象，吸引年輕消費者的眼球，尤其是年輕一代消費者中對科技和潮流感興趣的群體。

而虛擬主播之所以能在電商直播行業(yè)內(nèi)順利跑通，一方面是由于企業(yè)商家普遍存在解放真人勞動力、實現(xiàn)降本增效的訴求，因此虛擬人成為大環(huán)境下直播行業(yè)升級轉(zhuǎn)型的新方向；另一方面，則是平臺對數(shù)字人主播的政策解禁。前不久，抖音發(fā)布《抖音關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》，針對人工智能生成的視頻、圖片和衍生的虛擬人直播，發(fā)布相關(guān)規(guī)范，明確認(rèn)可虛擬主播形式，流量方面對標(biāo)真人直播，沒有加以限制。正是企業(yè)商家、平臺對虛擬人的重視，使虛擬主播的規(guī)模迅速增長，能在神仙打架的直播環(huán)境中占有一席之地。

然而，隨著虛擬人在產(chǎn)業(yè)應(yīng)用中逐漸增多，其法律問題也在不斷增加。對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣在接受《小康》雜志、中國小康網(wǎng)采訪時表示，虛擬人在法律上的權(quán)利和保護主要涉及到知識產(chǎn)權(quán)、版權(quán)以及商業(yè)權(quán)益?！暗枰鞔_的是，虛擬人作為非生物實體，自身并無法享有法律權(quán)利，這些權(quán)利一般歸屬于虛擬人的創(chuàng)建者、所有者或經(jīng)營者?！?/p>

西南政法大學(xué)民商法學(xué)院副教授孫山告訴《小康》雜志、中國小康網(wǎng)，虛擬人或許給大家一個錯覺，以為它和真實的人一樣可以成為權(quán)利主體。但實際上，虛擬人本身并不擁有任何法律權(quán)利，它并非法律上的主體，只能成為法律關(guān)系中的客體。“從生產(chǎn)制作層面而言，虛擬人凝結(jié)了設(shè)計運營主體投入的人力、物力及技術(shù)成本。為了滿足客戶和市場需求，生產(chǎn)者通過提供定制化產(chǎn)品服務(wù)，實現(xiàn)虛擬人在具體場景中的個性應(yīng)用。”他說，由此可見，虛擬人的權(quán)利主體是其設(shè)計生產(chǎn)企業(yè)，“這類企業(yè)擁有虛擬人的肖像、交互模型、記憶存儲等多種權(quán)益，是企業(yè)獲得交易機會和實現(xiàn)創(chuàng)新的重要方式，并以此享有經(jīng)營利益和競爭優(yōu)勢，其合法權(quán)益受到法律保護?！蓖瑫r，也可以設(shè)立虛擬人的權(quán)利代理人，代表虛擬人行使權(quán)利并保護其利益，代理人可以是虛擬人的開發(fā)者、運營商或?qū)ｉT的法律實體。此外，設(shè)計、操控虛擬人的軟件技術(shù)則可能作為計算機軟件被保護，例如“初音未來”所依靠的VOCALOID引擎的聲音庫軟件?！暗捎谔摂M人的開發(fā)需要多個領(lǐng)域的主體共同配合，因此在權(quán)屬上需要通過委托合同等方式進行明確，依附于虛擬人的不同類型的作品可能會歸屬不同的權(quán)利人?！?/p>

厘清了主體，其法律風(fēng)險也清晰可見。上海錦天城（重慶）律師事務(wù)所高級合伙人李章虎律師總結(jié)了虛擬人產(chǎn)業(yè)存在的五種法律風(fēng)險。第一是知識產(chǎn)權(quán)，這是最重要的法律風(fēng)險。虛擬數(shù)字人的形象、聲音和算法等都可能涉及知識產(chǎn)權(quán)保護。未經(jīng)授權(quán)使用、復(fù)制或修改虛擬數(shù)字人可能構(gòu)成侵權(quán)行為。第二是隱私和數(shù)據(jù)保護。虛擬數(shù)字人在與用戶互動過程中可能收集和處理大量的個人數(shù)據(jù)，例如用戶偏好、行為習(xí)慣等。第三是言論自由和道德準(zhǔn)則。盡管虛擬數(shù)字人可以提供各種信息和建議，但它們不能傳播違法、有害或不道德的內(nèi)容。第四是虛擬數(shù)字人的智能化特點。虛擬數(shù)字人可能因錯誤的理解或程序漏洞而提供不準(zhǔn)確或誤導(dǎo)性的信息，從而導(dǎo)致用戶誤解或產(chǎn)生法律后果。第五，虛擬人與現(xiàn)實世界之間界限模糊。盡管虛擬人由技術(shù)所驅(qū)動，并不具備與人類相同的法律責(zé)任，但人們有時會誤將其當(dāng)作真實的個體，從而產(chǎn)生誤解和法律糾紛。

以法為本，恪守準(zhǔn)則

《新一代人工智能發(fā)展規(guī)劃》曾指出，高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠、可控發(fā)展。目前，虛擬人作為新興事物，由于其在我國具有非常高的關(guān)注度，如何進行法律規(guī)制成為一項重要的議題。

孫山介紹，根據(jù)《網(wǎng)絡(luò)安全法》第46條以及《個人信息保護法》第47條以及《個人信息保護法》第58條等規(guī)定，未來我國將會對虛擬人的數(shù)據(jù)安全提出更高要求，這對于虛擬數(shù)字人的發(fā)展來說無疑是一大挑戰(zhàn)。從數(shù)據(jù)收集角度來看，虛擬數(shù)字人存在很多數(shù)據(jù)收集方式，其中主要包括但不限于用戶主動上傳、非公開提供個人信息等行為；從數(shù)據(jù)使用角度來看，其涉及不同類型用戶的個人信息；從數(shù)據(jù)處理角度來說，包括將用戶在不同業(yè)務(wù)場景下產(chǎn)生的數(shù)據(jù)進行分類，例如將身份信息作為一種“必要”信息進行處理以及將敏感屬性數(shù)據(jù)進行單獨管理。

張欣認(rèn)為，適用于虛擬人的法律因虛擬人所采用的技術(shù)和其適用場景的不同而不同。擬人化程度較高的虛擬人，其采用深度合成或生成技術(shù)，應(yīng)當(dāng)適用《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和即將生效的《生成式人工智能服務(wù)管理暫行辦法》，這兩部規(guī)章針對生成合成類算法進行法律規(guī)制，能夠有效緩解虛擬人所產(chǎn)生的虛假信息和個人隱私等法律風(fēng)險。針對適用的場景，虛擬人直播帶貨可能會涉及《廣告法》的相關(guān)條款，針對虛擬人產(chǎn)生的人格權(quán)和知識產(chǎn)權(quán)糾紛會涉及《民法典》中的相關(guān)規(guī)定。

不過，總體上講，我國對于虛擬人的規(guī)制相對于其他法律法規(guī)較少，未來仍有很大完善空間。

“在虛擬人產(chǎn)業(yè)領(lǐng)域，遵守法律是最基本的應(yīng)對方式，可以減少潛在的法律風(fēng)險?！痹趯O山看來，當(dāng)現(xiàn)有法律并未對虛擬人作出相適應(yīng)的規(guī)定時，依照法律的概括性，應(yīng)遵守現(xiàn)有法律框架，確保虛擬人的開發(fā)和運營符合當(dāng)前適用的法律法規(guī)。此外，還要盡量避免爭議行為，在虛擬人的設(shè)計和功能中，避免涉及敏感或有爭議的內(nèi)容，以減少法律糾紛的可能性，如避免侵犯他人肖像權(quán)、知識產(chǎn)權(quán)等?！啊睹穹ǖ洹访鞔_規(guī)定，使用自然人肖像應(yīng)先行獲得肖像權(quán)人的同意，雖然該等同意并不要求一定是書面形式，但為便于后續(xù)合作過程中，將授權(quán)文件作為權(quán)利證明向第三方展示，能與肖像權(quán)人簽署書面授權(quán)許可文件是最好的，至于具體的權(quán)利內(nèi)容，可以雙方商榷，爭取使各方利益最大化。”而針對虛擬人的聲音，要根據(jù)具體情況考慮采用著作權(quán)保護，或?qū)⑻摂M人的重要聲音元素例如組合標(biāo)志短語、個人口頭禪等通過文字商標(biāo)或聲音商標(biāo)的方式嘗試注冊，以獲得商標(biāo)法上的保護。

此外，雖然虛擬人非自然人、不具有人格權(quán)，但如果虛擬人所呈現(xiàn)出的個人特征與現(xiàn)實人物的具體生活、工作環(huán)境、人物關(guān)系等存在關(guān)聯(lián)，那么針對虛擬人的侮辱誹謗等行為則會造成背后現(xiàn)實人物的社會評價降低，涉嫌構(gòu)成對背后現(xiàn)實人物的名譽權(quán)的侵犯。

鑒于科技企業(yè)是虛擬人運營、制作和傳播的首要主體，張欣建議，科技企業(yè)應(yīng)率先探索行之有效的自治框架，制定和執(zhí)行適當(dāng)?shù)恼邅肀Ｗo所有相關(guān)方的權(quán)益?！皯?yīng)當(dāng)為用戶和開發(fā)者提供明確的行為準(zhǔn)則，規(guī)定如何合法、合規(guī)地創(chuàng)建和使用虛擬人。建立相應(yīng)的舉報機制來保護用戶和開發(fā)者的知識產(chǎn)權(quán)。確保用戶數(shù)據(jù)的安全和隱私，如設(shè)定清晰的數(shù)據(jù)收集、使用和共享政策，并加強數(shù)據(jù)加密和安全存儲等措施。”孫山認(rèn)為，還要在此基礎(chǔ)上加強用戶的知情權(quán)和控制權(quán)，企業(yè)要為用戶提供清晰的用戶通知，解釋虛擬人的行為和數(shù)據(jù)使用方式，通過提高透明度強化選擇權(quán)，降低用戶對虛擬人的未知程度，增加用戶對虛擬人行為的理解和參與度。“隨著科技日新月異的發(fā)展，對虛擬人系統(tǒng)進行定期的更新和審查也是十分有必要的，一方面確保其符合當(dāng)前的法律要求和技術(shù)標(biāo)準(zhǔn)，另一方面，也能及時調(diào)整和改進虛擬人的設(shè)計和功能?！?/p>

“只有在法律的保護下，虛擬人才能持續(xù)發(fā)展并為用戶創(chuàng)造更好的體驗。”李章虎指出，共同關(guān)注虛擬人的法律風(fēng)險，才能建設(shè)一個安全、可靠且有趣的數(shù)字世界。

倫理道德引人深思

過去幾年，虛擬人的形象呈現(xiàn)質(zhì)感不斷提升。超寫實虛擬人，皮膚和毛孔的質(zhì)感甚至可以媲美真人。因此，對一些深層次的倫理與道德問題更需要進行深入探討。

孫山指出，隨著虛擬人在現(xiàn)實生活中的廣泛使用，人們與虛擬人之間的情感連接越來越緊密，該種情感連接可能會影響到人們的真實社交。“對于人類來說，與虛擬人建立情感聯(lián)系是可能的。在現(xiàn)實生活中，我們常常會在與電影、游戲或虛擬角色的互動中產(chǎn)生情感共鳴。虛擬人的情感表達(dá)能力和個性特征可以引發(fā)人們情感上的反應(yīng)，并產(chǎn)生情感連接?！?/p>

如果虛擬人被設(shè)計得足夠逼真以至于人們將其視為真實的情感對象，那么我們是否有義務(wù)對其負(fù)有情感責(zé)任？虛擬人的情感表達(dá)是否應(yīng)該受到保護和尊重？孫山表示，“雖然虛擬人可能無法與人類一樣真實地產(chǎn)生情感聯(lián)系，但它們在娛樂、教育和治療等領(lǐng)域仍然具有潛力。通過設(shè)計虛擬人的情感表達(dá)和互動能力，我們可以創(chuàng)造出更加吸引人、更加溫暖和有效的用戶體驗?！?/p>

需要強調(diào)的是，虛擬人與真實人類之間的情感聯(lián)系是一種模擬和虛擬的交流方式，我們應(yīng)該保持理性并意識到這種差異。張欣告訴《小康》雜志、中國小康網(wǎng)，虛擬人與真人的互動從本質(zhì)上來講是人機互動，但是商家為了增加銷量可能會增加虛擬人的擬人化程度，“這種擬人化程度的提高是否會引起消費者的‘情感依賴是一個倫理難題。而且，利用已故之人的畫像和聲音來對已故之人進行追憶的虛擬人服務(wù)也會產(chǎn)生倫理問題，可能產(chǎn)生預(yù)期之外的情感和認(rèn)知傷害”。她同時指出，虛擬人所使用的畫像和聲音是否侵犯現(xiàn)存或已故之人的人格權(quán)是目前最受爭議的倫理治理難題。

在韓國MBC制作的一檔名為《遇見你》的紀(jì)錄片中，技術(shù)人員就通過VR技術(shù)重現(xiàn)了一個名叫娜燕的七歲女孩，這個女孩事實上在數(shù)年前已經(jīng)因嚴(yán)重的白血病而去世了。這樣“重現(xiàn)”的虛擬人需使用死者本人的各種敏感數(shù)據(jù)，如肖像、聲音、姓名等，不僅極有可能在過程中侵犯死者的人格利益、人格尊嚴(yán)，而且“重現(xiàn)”后，虛擬人做出何種行為、說出何種話語皆不能由“本人”決定，其所作所為只能由生者控制。從道德倫理的角度來看，數(shù)字化復(fù)活或許也是對死者尊嚴(yán)的一種侵害。

除此之外，曾經(jīng)爆火的“AI孫燕姿”現(xiàn)象也令人深思。張欣表示，網(wǎng)友雖然對其歌聲的爬取和再生成并無惡意，但此類應(yīng)用仍有被濫用的風(fēng)險。

孫山對此持相同看法?！疤摂M人的行為和決策通常是由算法驅(qū)動的，算法的設(shè)計和實施可能涉及道德和價值觀的選擇，這就需要考慮如何確保虛擬人的行為符合倫理原則和社會價值。”他表示，算法應(yīng)當(dāng)是公開透明且具有可理解性的，這樣才能對算法是否符合倫理原則和社會價值進行評估，并增加用戶對虛擬人的信任?！疤摂M人的算法還應(yīng)該尊重個體的隱私和自主權(quán)，遵循適當(dāng)?shù)臄?shù)據(jù)保護和隱私政策，不濫用個人數(shù)據(jù)，并且應(yīng)該給予用戶對其個人信息的控制權(quán)。除此之外，我們還需要考慮虛擬人對社會的影響，算法應(yīng)該被設(shè)計為能夠促進社會公平和包容，盡量減少負(fù)面影響，如失業(yè)問題或?qū)ι缃换拥囊蕾??！?/p>

相關(guān)機構(gòu)預(yù)測顯示，到2030年，我國虛擬人產(chǎn)業(yè)整體市場規(guī)模將達(dá)到2700億元，成為壯大數(shù)字經(jīng)濟的新增長點。就在不久前舉辦的“人工智能創(chuàng)新與治理”論壇上，張欣參與了《生成式AI倫理與治理倡議書》的發(fā)布。該倡議書的發(fā)起是為了應(yīng)對生成式人工智能快速發(fā)展帶來的諸多挑戰(zhàn)和問題，涵蓋了AI的安全、信息披露、人工把關(guān)、敏捷治理等七大原則，并給出了七大治理建議。“生成式AI模型需要嚴(yán)格保證其使用的安全，避免因誤用或濫用造成社會風(fēng)險和影響；對于使用生成式AI服務(wù)生成或編輯的信息內(nèi)容，相關(guān)企業(yè)或組織應(yīng)添加能夠讓公眾明確知悉且不可刪改的標(biāo)識，以與真實信息區(qū)分，并逐漸形成行業(yè)標(biāo)準(zhǔn)；在AI生成的內(nèi)容發(fā)布到公共領(lǐng)域之前，需要有人工進行把關(guān)和審查，以確保其內(nèi)容的合法性和合規(guī)性；隨著AI技術(shù)的迅速發(fā)展，AI的治理和規(guī)范也要及時跟進，以適應(yīng)新的技術(shù)發(fā)展和社會需求。”張欣說道。

《生成式AI倫理與治理倡議書》代表了人工智能協(xié)同共治的一種探索、期待，也為進一步完善相關(guān)的法律法規(guī)和政策提供了重要的參考。張欣表示，“我們希望能夠?qū)I行業(yè)進行方向性的引導(dǎo)，鼓勵A(yù)I行業(yè)的健康發(fā)展，實現(xiàn)治理與發(fā)展的雙輪驅(qū)動。倡議書發(fā)布以來，已經(jīng)對生成式AI的治理和應(yīng)用產(chǎn)生了積極的影響?！彼岬?，在行業(yè)內(nèi)，已經(jīng)有企業(yè)開始積極響應(yīng)倡議書的建議，改進AI模型的開發(fā)和使用流程，提高信息披露和人工把關(guān)的標(biāo)準(zhǔn)。倡議書的發(fā)布也提高了公眾對生成式AI的認(rèn)識和理解，促進了公眾的參與和監(jiān)督。

（西南政法大學(xué)民商法學(xué)院法律碩士王澤州對此文亦有貢獻）