AI換臉:人工智能的一場(chǎng)裸奔

李明子

圖/視覺(jué)中國(guó)

這兩天，微信朋友圈和微博都被一個(gè)名為“Zao-逢聯(lián)造戲”的換臉App刷屏。

上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號(hào)》中小李子扮演的“杰克”，或是《喜劇之王》里的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術(shù)門(mén)檻，實(shí)現(xiàn)和偶像互動(dòng)飆戲的美夢(mèng)，如App宣傳語(yǔ)所說(shuō)，“只需一張照片，出演天下好戲”，很難不讓人心動(dòng)。截至9月1日晚，該APP已經(jīng)在蘋(píng)果商店免費(fèi)榜排行第一。

有法律專(zhuān)業(yè)人士提出，該產(chǎn)品涉及侵犯著作權(quán)、肖像權(quán)、隱私權(quán)等諸多法律問(wèn)題，有用戶(hù)表示“自己莫名成了權(quán)利侵犯者或受害人，不知道注銷(xiāo)（賬號(hào)）后是否能保護(hù)自己的肖像權(quán)。”但也有網(wǎng)友不懼隱患，直言“只要能和偶像同框，不怕風(fēng)險(xiǎn)?！?h3>中國(guó)“Zao”

引發(fā)這場(chǎng)討論的根源是Zao隱藏在用戶(hù)協(xié)議中的霸王條款，一方面過(guò)度攫取用戶(hù)授權(quán)，另一方面涉嫌侵犯肖像權(quán)，并甩鍋給用戶(hù)。

在最初的用戶(hù)協(xié)議中，第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶(hù)內(nèi)容以前，您同意或者確保實(shí)際權(quán)利人同意授予Zao及其關(guān)聯(lián)公司以及Zao用戶(hù)全球范圍內(nèi)完全免費(fèi)、不可撤銷(xiāo)、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶(hù)內(nèi)容進(jìn)行全部或部分的修改與編輯。”

也就是說(shuō)，用戶(hù)同意將自己的肖像授權(quán)給Zao，即便有一天肖像被再次轉(zhuǎn)賣(mài)也無(wú)能為力。

同時(shí)，協(xié)議第7條第7款寫(xiě)明：“若您侵害他人名譽(yù)權(quán)、肖像權(quán)、知識(shí)產(chǎn)權(quán)等合法權(quán)利的……Zao可以訴諸行政執(zhí)法機(jī)構(gòu)或司法機(jī)關(guān)，追究相應(yīng)法律責(zé)任。若因您違反本協(xié)議或Zao平臺(tái)的其他規(guī)則導(dǎo)致任何第三方損害的，您應(yīng)當(dāng)獨(dú)立承擔(dān)法律責(zé)任并承擔(dān)損害賠償責(zé)任;Zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當(dāng)一并賠償。”

翻譯過(guò)來(lái)就是，如果有人起訴被侵犯了肖像權(quán)，Zao可以說(shuō)技術(shù)無(wú)罪，侵權(quán)的是玩換臉游戲的用戶(hù)。

這讓上一秒還在感嘆“科技改變生活”的網(wǎng)友坐不住了，Zao也馬上對(duì)協(xié)議作出了修改，新版用戶(hù)協(xié)議中刪除了“不可撤銷(xiāo)”“完全免費(fèi)”“永久”等字樣，但問(wèn)題仍未解決。

“我一直認(rèn)為‘AI換臉隱藏了不可回避的法律問(wèn)題，所以看到Zao出現(xiàn)后，很好奇他們是如何解決的，很遺憾，他們并沒(méi)有解決?！?北京煒衡律師事務(wù)所一級(jí)合伙人、律師李昆蔚對(duì)《中國(guó)新聞周刊》說(shuō)，協(xié)議修改后，侵犯著作權(quán)、公眾人物肖像權(quán)的問(wèn)題仍沒(méi)有解決，同時(shí)，用戶(hù)在注銷(xiāo)賬號(hào)后，動(dòng)態(tài)和靜態(tài)肖像是否可以刪除，為什么區(qū)別對(duì)待公眾人物肖像和普通人的肖像，“這些問(wèn)題需要Zao來(lái)回答，也是我發(fā)問(wèn)的初衷，目前還沒(méi)有收到Zao法務(wù)的回復(fù)。”

Zao背后的注冊(cè)公司是“長(zhǎng)沙深度融合網(wǎng)絡(luò)科技有限公司”，兩位實(shí)際控股人（各占50%）與社交應(yīng)用“陌陌”密不可分，執(zhí)行董事雷小亮是陌陌公司聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁，監(jiān)事王力是陌陌公司董事、總裁及COO，而“北京陌陌科技有限公司”曾在2017年9月參股，直至今年7月19日才退出股東名單。據(jù)天眼查顯示，長(zhǎng)沙深度融合預(yù)留的聯(lián)系電話(huà)屬于陌陌科技，截至發(fā)稿，該公司并未對(duì)用戶(hù)協(xié)議問(wèn)題作出回復(fù)。

換臉技術(shù)本身并不新奇，在美國(guó)好萊塢已經(jīng)存在了二十多年。2016年上映的《星球大戰(zhàn)外傳：俠盜一號(hào)》還原了《星球大戰(zhàn)4》（1977年）中總督塔金的角色，但其扮演者彼得·庫(kù)欣早在22年前就去世了，特效團(tuán)隊(duì)為此找來(lái)一位長(zhǎng)相酷似彼得的演員進(jìn)行面部表情捕捉，然后用計(jì)算機(jī)動(dòng)畫(huà)（CG）技術(shù)將塔金復(fù)活。不過(guò)盧克斯影業(yè)和迪士尼表示，在制作《星球大戰(zhàn)外傳》時(shí)已經(jīng)取得了彼得家人和產(chǎn)權(quán)繼承人的同意。

將“換臉”推到風(fēng)口浪尖的是一系列融合了AI技術(shù)的“假視頻”。

2017年12月，一個(gè)名為“深度偽造”（deepfakes）的用戶(hù)在美國(guó)論壇Reddit上發(fā)布了多段色情視頻，不同的是，他讓電腦學(xué)習(xí)好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實(shí)現(xiàn)了動(dòng)態(tài)換臉，這引發(fā)了大量討論和抨擊，最后以賬號(hào)被封告終。

不過(guò)，AI換臉并未消失，用戶(hù)“深度偽造”隨后直接開(kāi)源了項(xiàng)目代碼，更多效仿者隨之而來(lái)，為了紀(jì)念他，便用他的名字代稱(chēng)“AI換臉”技術(shù)。據(jù)說(shuō)，Zao也是基于“深度偽造”開(kāi)源代碼開(kāi)發(fā)出來(lái)的，但Zao并不是第一個(gè)。

從“換臉”到“深裸”

2018年1月，一個(gè)名為FakeApp的軟件上線(xiàn)，可實(shí)現(xiàn)“一鍵換臉”，視頻內(nèi)容也是千奇百怪，包括惡搞美國(guó)總統(tǒng)特朗普，或是將自己的臉貼到好萊塢明星上。雖然Reddit明令禁止換臉視頻和圖片在該網(wǎng)站傳播，但仍有超過(guò)9萬(wàn)名用戶(hù)在Reddit上傳播這類(lèi)視頻。

今年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開(kāi)關(guān)于人工智能深度偽造的聽(tīng)證會(huì)，公開(kāi)談?wù)摿松疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。美國(guó)外交政策研究所研究員克林特·瓦茨認(rèn)為，深度偽造技術(shù)對(duì)美國(guó)2020大選具有潛在威脅——若放任偽造視頻擴(kuò)散，則會(huì)對(duì)美國(guó)民主選舉產(chǎn)生不良影響，挫傷選民的積極性。

就在聽(tīng)證會(huì)結(jié)束后不久，一款名為DeepNude（深裸）的App宣稱(chēng)能實(shí)現(xiàn)“一鍵脫衣”，它再次把AI技術(shù)應(yīng)用中的法律倫理問(wèn)題推到臺(tái)前。操作十分簡(jiǎn)單，只要給它一張人像照片，等待30秒，就能得到一張裸照。由于風(fēng)險(xiǎn)超出可控范圍，研發(fā)團(tuán)隊(duì)在產(chǎn)品上線(xiàn)幾天后便匆忙下架了該產(chǎn)品。

“我們啟動(dòng)這個(gè)項(xiàng)目是出于娛樂(lè)的目的……從沒(méi)想過(guò)它會(huì)像病毒一樣擴(kuò)散。我們不希望通過(guò)這種方式掙錢(qián)……從現(xiàn)在開(kāi)始，不在放出任何版本，也不會(huì)授權(quán)任何人使用?！?DeepNude團(tuán)隊(duì)6月27日公開(kāi)聲明道。

手機(jī)上的“Zao-逢聯(lián)造戲”App。圖/IC

教育科技公司Coursera聯(lián)合創(chuàng)始人、美國(guó)斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授、“百度大腦”原負(fù)責(zé)人吳恩達(dá)也在推特上公開(kāi)批判，稱(chēng)“DeepNude是AI技術(shù)最糟糕的應(yīng)用之一”，AI技術(shù)的超級(jí)力量應(yīng)該被用到推動(dòng)世界發(fā)展的項(xiàng)目中。

“AI換臉技術(shù)是成熟的，之所以沒(méi)有被推廣，就是因?yàn)檫€有很多法律、倫理問(wèn)題沒(méi)有討論清楚?！崩罾ノ祵?duì)《中國(guó)新聞周刊》說(shuō)，“Zao現(xiàn)在的盈利方式還不清楚，但要是為了賺錢(qián)，去做一些鉆法律空子的事情，從而傷害了廣大用戶(hù)，是行不通的?！?/p>

除了侵權(quán)問(wèn)題，還有網(wǎng)友擔(dān)心，既然人臉識(shí)別已經(jīng)在支付場(chǎng)景得到應(yīng)用，面部信息泄露，是否會(huì)導(dǎo)致賬戶(hù)被盜刷？對(duì)此，支付寶安全中心8月31日發(fā)布公告：“不管換臉軟件多逼真，都無(wú)法突破刷臉支付?！敝Ц秾毎踩行谋硎荆⒛樦Ц恫捎玫氖?D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況。

瑞士科學(xué)家在一篇論文中就首次對(duì)人臉識(shí)別方法檢測(cè)Deepfake的效果進(jìn)行了較為全面的測(cè)評(píng)，嘗試用最前沿的人臉識(shí)別系統(tǒng)去識(shí)別假視頻，結(jié)果錯(cuò)誤率高達(dá)95%。

《人民法院報(bào)》官網(wǎng)微博評(píng)論道：“試用任何一款新型軟件的時(shí)候一定要認(rèn)真閱讀用戶(hù)協(xié)議，多留個(gè)心眼，保護(hù)好自己的各項(xiàng)權(quán)益?！?/p>

“我不知道我們能否為此做好充分準(zhǔn)備，但是我們還可以做更多的工作，確定敵人的計(jì)劃和意圖，盡早找出并揭露它，告知公眾他們需要關(guān)注什么，應(yīng)當(dāng)做什么，而不僅僅忽略他們所看到的一切。”美國(guó)眾議院情報(bào)委員會(huì)聽(tīng)證會(huì)主席亞當(dāng)·希夫表示。

雖然沒(méi)有一招制勝的方法，但阻止深度偽造負(fù)面影響蔓延的方法有很多，誠(chéng)如馬里蘭大學(xué)法學(xué)教授丹尼爾·希特龍?jiān)谏鲜雎?tīng)證會(huì)上總結(jié)的，對(duì)深度偽造的內(nèi)容不能一桿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對(duì)影響國(guó)家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制，監(jiān)管應(yīng)區(qū)別對(duì)待，美國(guó)相關(guān)立法目前主要從刑事犯罪角度對(duì)深度偽造予以規(guī)制。