◎文/ 本刊記者 歲正陽(yáng)

點(diǎn)開直播間乍一看，賣貨的竟是當(dāng)紅女星。再定睛一看，“明星”其實(shí)是使用人工智能（AI）實(shí)時(shí)換臉技術(shù)的普通主播。他們冒充明星藝人，只為增加賣點(diǎn)，助力賣貨……

隨著數(shù)字科技的飛躍發(fā)展，“互聯(lián)網(wǎng)+”時(shí)代已經(jīng)緊跟不斷進(jìn)步的網(wǎng)絡(luò)技術(shù)而到來(lái)，AI也在迅速進(jìn)入大眾生活。伴隨著這股浪潮席卷社會(huì)的方方面面，詐騙手段也隨之更新迭代，尤其是日益增加的電信網(wǎng)絡(luò)詐騙犯罪，不僅對(duì)眾多受騙者造成了嚴(yán)重的財(cái)產(chǎn)損失，也令各類金融機(jī)構(gòu)叫苦不迭。

和你視頻對(duì)話的，很可能不是本人。如此以假亂真，讓人防不勝防。在日益增加的電信詐騙案件中，犯罪分子常常誘導(dǎo)用戶自行操作，如何辨別用戶的正常操作與受騙后“非自覺”的操作，成為一道風(fēng)控難題。如今，在“AI換臉”詐騙多發(fā)的背景下，如何破局AI技術(shù)濫用、如何應(yīng)對(duì)AI技術(shù)安全風(fēng)險(xiǎn)無(wú)疑也引發(fā)業(yè)界深思?！癆I換臉”的法律邊界在哪？普通人又該如何防范？

10分鐘被騙取430萬(wàn)元AI詐騙能有多逼真

近日，內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。

來(lái)自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過(guò)微信視頻聯(lián)系他，稱自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，想借用郭先生公司的賬戶走賬。

基于對(duì)好友的信任，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生在10分鐘內(nèi)，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上。

事后，郭先生撥打好友電話才得知被騙，原來(lái)騙子通過(guò)“AI換臉”和擬聲技術(shù)，佯裝好友對(duì)其實(shí)施詐騙?！皬念^到尾都沒有和我提借錢的事情，就說(shuō)會(huì)先把錢給我打過(guò)來(lái)，再讓我給他朋友賬戶轉(zhuǎn)過(guò)去，而且當(dāng)時(shí)是給我通了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備?！惫壬f(shuō)。

很明顯，郭先生陷入了一場(chǎng)利用“AI換臉”技術(shù)實(shí)施的詐騙騙局。

什么是“AI換臉”？就是通過(guò)AI人工智能技術(shù)，把別人的臉換成自己的臉，而且臉部表情自然，效果逼真。整個(gè)過(guò)程只需要通過(guò)一張照片，然后利用AI技術(shù)可以在軟件上使用自己的照片替換電視劇或者小視頻中的人物，從而生成以自己為主角的視頻。

這種技術(shù)的發(fā)展，竟然成為了新型詐騙手段。騙子會(huì)利用AI技術(shù)，將他人的臉換成指定人的臉，冒充詐騙對(duì)象的親人、朋友等重要關(guān)系人，通過(guò)合成視頻或照片來(lái)“以假亂真”。

值得注意的是，騙子不是漫無(wú)目的地廣撒網(wǎng)，而是別有用心地鎖定詐騙對(duì)象。他們會(huì)分析詐騙對(duì)象在網(wǎng)絡(luò)平臺(tái)發(fā)布的個(gè)人信息，根據(jù)所要實(shí)施的騙術(shù)利用AI技術(shù)對(duì)人群進(jìn)行篩選，從而選出目標(biāo)對(duì)象，制定詐騙計(jì)策。

郭先生遭遇的魔幻一幕令人吃驚，但這并非“AI換臉”第一次作惡了。

2022年2月，一位陳先生到浙江省溫州市公安局甌海分局仙巖派出所報(bào)案稱，自己被“好友”詐騙了近5萬(wàn)元。經(jīng)警方核實(shí)，詐騙分子利用陳先生好友“阿誠(chéng)”在社交平臺(tái)發(fā)布的視頻，截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實(shí)施詐騙。

2021年，浙江省杭州市拱宸橋派出所接到報(bào)警，受害人小陳稱他在與女網(wǎng)友視頻聊天后被對(duì)方敲詐勒索。經(jīng)警方調(diào)查，對(duì)方利用“AI換臉”技術(shù)，將小陳視頻中的面部合成到不雅視頻中，借此對(duì)其實(shí)施勒索。

2020年，上海某公司高管因?qū)Ψ绞褂谩癆I換臉”與人工生成的語(yǔ)音技術(shù)制作公司領(lǐng)導(dǎo)的面孔，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬(wàn)元。

除此之外，一位名叫王欣（化名）的受騙者甚至還在詐騙電話中聽到了自己母親的聲音。

原來(lái)，王欣某天在家里午睡時(shí)，突然接到了母親同事的微信語(yǔ)音電話，對(duì)方問她現(xiàn)在在哪里、在做什么。在王欣還不知道發(fā)生了什么事情的時(shí)候，她從電話里聽到了母親的聲音，聲音聽起來(lái)很著急。雖然王欣之前和母親說(shuō)好了下午會(huì)去看牙醫(yī)，母親也知道她在做什么，但她還是接到了這樣一通詢問行程的電話。

母親告訴她，自己接到了一通號(hào)碼和王欣手機(jī)號(hào)一模一樣的來(lái)電。接通電話后，“王欣”的聲音從電話那邊傳來(lái)，母親聽到她的女兒在哭喊。電話那邊的人對(duì)母親說(shuō)，王欣被他們綁架了，讓母親馬上給他們轉(zhuǎn)賬30萬(wàn)元，不然就“撕票”。母親嚇壞了，立馬打算給對(duì)方轉(zhuǎn)錢，被旁邊的同事攔下，就這樣，午睡中的王欣被叫醒。

據(jù)王欣說(shuō)，“騙子還挺高明的，一開始我想，難道看不出來(lái)不是我的電話嗎?我后來(lái)看了一下，那個(gè)電話號(hào)碼就是我的手機(jī)號(hào)，連我自己都辨別不出來(lái)。”一模一樣的電話號(hào)碼瞞過(guò)了母親，神似王欣的聲音讓母親更加確信，“我媽媽說(shuō)，那就是我的聲音?！蹦赣H還提到，對(duì)方一開始先詢問她身邊有沒有人，并要求她走到?jīng)]有人的地方。幸好通過(guò)微信語(yǔ)音電話及時(shí)確認(rèn)了王欣在家，母親才放下心來(lái)。

“一年之前為了留學(xué)辦簽證，我需要提供30萬(wàn)的存款證明，我第一反應(yīng)就是這個(gè)?！蓖跣阑貞浧?，曾和母親有過(guò)關(guān)于30萬(wàn)元的對(duì)話。此外，王欣偶爾會(huì)在朋友圈和其它社交媒體上發(fā)自己的照片、視頻和聲音。

此后，母親再一次收到了類似的電話?！艾F(xiàn)在，我媽媽都不太敢接我打的電話了，如果是微信電話的話還可能會(huì)接一下?！蓖跣勒f(shuō)。

江蘇省常州市公安局常州經(jīng)開區(qū)分局橫林派出所民警陳歆怡曾辦理過(guò)多起倒賣、非法利用用戶人臉照片的侵權(quán)案件，她表示“AI換臉”換聲的基本邏輯是通過(guò)深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接進(jìn)模仿的視頻中，成本低、合成速率高、檢測(cè)鑒別難度大，一般人很難發(fā)現(xiàn)偽裝痕跡。目前，AI詐騙主要有兩種形式。

第一種是通過(guò)技術(shù)手段合成換臉、換聲的視頻或語(yǔ)音，在視頻聊天、普通電話中直接播放。這種詐騙主要出現(xiàn)于比較緊急的情況，如遭遇事故求助等，播放結(jié)束后就會(huì)中斷連接，無(wú)法與被害人形成回合性對(duì)話。

另一種是在視頻通話中直接換臉并替換聲音，或直接換聲撥打電話。

民警提示，以上兩種詐騙方式都受限于樣本數(shù)量，所以可以通過(guò)延長(zhǎng)通話時(shí)間、多次進(jìn)行提問的方式讓對(duì)方多說(shuō)話，露出破綻。

騙子定制“專屬劇本”詐騙成功率非常高

AI詐騙之所以備受社會(huì)關(guān)注、甚至引發(fā)恐慌，主要原因在于AI詐騙是模仿真人聲音和面部實(shí)施詐騙，針對(duì)個(gè)人信息定制的“專屬劇本”，詐騙成功率非常高。

在包頭曝光的案件中，騙子就是盜用受騙人好友微信賬號(hào)，利用“AI換臉”和擬聲技術(shù)佯裝好友，通過(guò)視頻聊天成功對(duì)受騙人實(shí)施詐騙。

多地警方提醒，AI詐騙的成功率接近100%。更要防范親友間網(wǎng)絡(luò)上借錢這類詐騙，避免個(gè)人信息被別有用心者盜用。

詐騙成功率如此之高，網(wǎng)友不禁直呼“防不勝防”，開始擔(dān)心刷臉支付、小區(qū)門禁人臉識(shí)別等各類應(yīng)用場(chǎng)景下，個(gè)人隱私是否已經(jīng)泄漏。

事實(shí)并非如此。

遭遇“AI換臉”詐騙？千層套路怎么破

隨著技術(shù)的不斷進(jìn)步，AI應(yīng)用場(chǎng)景越來(lái)越豐富，曾經(jīng)離我們很遙遠(yuǎn)的AI如今正迅速進(jìn)入大眾生活。需要注意的是，騙子也盯上了AI技術(shù)，和你視頻對(duì)話的很可能不是本人。騙子不僅會(huì)借助AI技術(shù)佯裝“熟人臉”實(shí)施詐騙，同時(shí)，也會(huì)使用其他手法進(jìn)行詐騙，小編整理了幾點(diǎn)防范小妙招，快來(lái)看看吧～

第一招：識(shí)別假臉

多數(shù)假臉是使用睜眼照片合成，假臉極少甚至不會(huì)眨眼，缺少眨眼是判斷一個(gè)視頻真假的好方法。辨識(shí)“深度偽造”換臉視頻的方法還包括語(yǔ)音和嘴唇運(yùn)動(dòng)不同步、情緒不符合、模糊的痕跡、畫面停頓或變色。

第二招：多重驗(yàn)證 確認(rèn)身份

在涉及轉(zhuǎn)賬交易等行為時(shí)，可以通過(guò)電話等形式詢問具體信息，多重驗(yàn)證確認(rèn)對(duì)方是否為本人。最好向?qū)Ψ降你y行賬戶轉(zhuǎn)賬，避免通過(guò)微信等社交軟件轉(zhuǎn)賬?？梢詫⒌劫~時(shí)間設(shè)定為“2小時(shí)到賬”或者“24小時(shí)到賬”，以預(yù)留處理時(shí)間。

第三招：保護(hù)信息 避免誘惑

加強(qiáng)個(gè)人信息保護(hù)意識(shí)，謹(jǐn)防各種信息泄露，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過(guò)多地暴露自己的信息。對(duì)于不明平臺(tái)發(fā)來(lái)的廣告、中獎(jiǎng)、交友等鏈接提高警惕，不隨意填寫個(gè)人信息，以免被騙子“精準(zhǔn)圍獵”。

第四招：相互提示 共同預(yù)防

要多多提醒、告誡身邊的親人、朋友提高安全意識(shí)和應(yīng)對(duì)高科技詐騙的能力，共同預(yù)防受騙。提醒老年人在接到電話、短信時(shí)，要放下電話，再次撥打家人電話確認(rèn)，不要貿(mào)然轉(zhuǎn)賬。

無(wú)論是AI換臉詐騙，還是電信網(wǎng)絡(luò)詐騙，其本質(zhì)都是不法分子通過(guò)各種技術(shù)手段實(shí)施的詐騙犯罪，都被視為詐騙罪的一種。

《中華人民共和國(guó)刑法》第266條規(guī)定，詐騙公私財(cái)物，數(shù)額較大的，處3年以下有期徒刑、拘役或者管制，并處或者單處罰金;數(shù)額巨大或者有其他嚴(yán)重情節(jié)的，處3年以上10年以下有期徒刑，并處罰金；數(shù)額特別巨大或者有其他特別嚴(yán)重情節(jié)的，處10年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒收財(cái)產(chǎn)。

【溫馨提示】

使用AI“換臉”及類似軟件風(fēng)險(xiǎn)極高，伴隨著法律風(fēng)險(xiǎn)和侵權(quán)糾紛?！癆I換臉技術(shù)”即便只是用來(lái)搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán)，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。希望大家依法使用該項(xiàng)技術(shù)，一旦遇到利用“AI換臉技術(shù)”實(shí)施犯罪行為的，應(yīng)第一時(shí)間固定證據(jù)，并及時(shí)向司法機(jī)關(guān)報(bào)案。

（來(lái)源：澎湃新聞、科普進(jìn)行時(shí)）

在采訪中，有多名反詐民警表示，在實(shí)時(shí)視頻中進(jìn)行專業(yè)級(jí)別的“AI換臉”變聲，不卡頓、肉眼難以識(shí)別，在技術(shù)上并非易事，對(duì)設(shè)備和技術(shù)要求極高。

北京社科院研究員王鵬同樣認(rèn)為，AI技術(shù)與直播、實(shí)時(shí)通訊視頻結(jié)合，要具有一定交互互動(dòng)性，技術(shù)門檻并不低。

市面上幾十元的“AI換臉”教程，實(shí)際上更類似于PS（圖像處理）。有媒體曾體驗(yàn)過(guò)某電商平臺(tái)上39.9元的“AI換臉”技術(shù)。賣家提供的教學(xué)內(nèi)容顯示，用戶根據(jù)指引，完成登錄、提取臉部數(shù)據(jù)、訓(xùn)練模型、換臉輸出視頻等步驟，就能輕松實(shí)現(xiàn)“AI換臉”的視頻制作。主要適用于拍照?qǐng)鼍?、影視劇片段的替換合成。

既然仿真技術(shù)上較難操作，那為啥頻頻有人被騙呢？一位反詐民警向記者透露，詐騙分子主要是盜用并偽造好友身份，利用日常話術(shù)，贏得了受害者信任，換臉視頻只是進(jìn)一步增加可信度。

比如，在安徽省安慶市何先生被騙的案例中，其微信“好友”突然發(fā)起視頻通話，電話接通后，何先生看到“好友”正在一間會(huì)議室內(nèi)，并借故會(huì)議有事，通過(guò)QQ要求周轉(zhuǎn)資金，導(dǎo)致何先生被騙。

“說(shuō)到底還是電信詐騙的延伸。這些游走在法律邊緣的AI技術(shù)黑灰產(chǎn)業(yè)鏈，增加了技術(shù)被惡意使用的風(fēng)險(xiǎn)?！蓖貔i說(shuō)。

有業(yè)內(nèi)人士進(jìn)而指出，深度合成技術(shù)大大降低了信息造假的難度，只需要拿到一張照片，就能生成非常逼真的偽造視頻，用于捏造虛假信息、偽造不雅視頻、惡搞特定人物等。

此外，有視頻換臉研究者表示，實(shí)時(shí)換臉不存在延遲，也不會(huì)有Bug，而直播畫面?zhèn)鬏數(shù)难舆t則取決于使用者的網(wǎng)絡(luò)配置和進(jìn)行直播的平臺(tái)。

記者以使用者的身份咨詢了一家提供“換臉軟件”的網(wǎng)站。該網(wǎng)站客服表示，使用AI換臉需要進(jìn)行模型訓(xùn)練?！昂铣尚Ч貌缓?，關(guān)鍵看模型和素材。”

據(jù)提供“換臉軟件”的網(wǎng)站介紹，使用者自己從零開始訓(xùn)練模型，如果24小時(shí)掛機(jī)不停地訓(xùn)練模型，需要經(jīng)過(guò)半個(gè)月到一個(gè)月的時(shí)間，才能達(dá)到可以合成視頻的效果。

而比起自己花費(fèi)大量時(shí)間訓(xùn)練模型，更多人選擇購(gòu)買現(xiàn)成的模型?！八夭某渥愕脑挘灰ㄙM(fèi)半個(gè)小時(shí)到幾個(gè)小時(shí)的時(shí)間就可以直接合成視頻。模型可以替換任意素材使用，不分張三李四?！?/p>

該網(wǎng)站客服稱，他們提供的全套模型購(gòu)買價(jià)格為3.5萬(wàn)元，AI實(shí)時(shí)換臉可適用于各大直播平臺(tái)。

“AI換臉”冒充明星帶貨或涉嫌欺詐和侵權(quán)

除了上述提到的佯裝“熟人臉”實(shí)施詐騙，“AI換臉”還出現(xiàn)在直播帶貨中。最近，網(wǎng)上出現(xiàn)了一些“換臉直播”教程，教程發(fā)布者聲稱，實(shí)時(shí)變臉軟件可以幫助用戶輕松“變臉”，極大地助力直播引流賣貨。

在一個(gè)展示換臉直播效果的視頻中，使用者把名為“成龍”的模型載入相關(guān)軟件后，攝像頭前的人在直播畫面中就有了與成龍相似的五官，但臉型和發(fā)型還保持原樣。

記者發(fā)現(xiàn)，使用者歪頭或變換表情時(shí)，五官動(dòng)效切換得自然順滑，只有手掌從臉前劃過(guò)時(shí)，出現(xiàn)了比較明顯的破綻。

據(jù)中國(guó)新聞網(wǎng)報(bào)道，2021年5月，“迪麗熱巴”在某電商平臺(tái)直播賣貨，“迪麗熱巴”身穿中式服裝，在直播間推薦各種產(chǎn)品，并與觀眾互動(dòng)聊天。但仔細(xì)觀察可以發(fā)現(xiàn)，“迪麗熱巴”的嘴唇和眼睛有些不協(xié)調(diào)，聲音也有些變調(diào)。

另?yè)?jù)羊城晚報(bào)報(bào)道，2021年4月，“楊冪”在某電商平臺(tái)直播賣貨，“楊冪”身穿白色連衣裙，在直播間推薦各種美妝產(chǎn)品，并與觀眾互動(dòng)聊天。但仔細(xì)觀察可以發(fā)現(xiàn)，“楊冪”的眼睛有些死板，聲音也有些沙啞。

以上案例僅是冰山一角。

連日來(lái)，記者也在抖音、快手、視頻號(hào)等直播間瀏覽，暫未見到有“AI換臉”的直播。隨后記者也在小紅書上搜索“AI換臉”，發(fā)現(xiàn)有不少博主通過(guò)視頻拆解“AI換臉”詐騙的案例，并提醒大家要注意網(wǎng)聊風(fēng)險(xiǎn)。

“AI換臉”技術(shù)陸續(xù)出現(xiàn)在大眾視野，被不少網(wǎng)友拿來(lái)“玩?！?。今年初電視劇《狂飆》走紅時(shí)，有網(wǎng)友把《狂飆》中的多位男主角樣子“換到”了組合F4經(jīng)典歌曲《流星花園》的MV中，戲稱為“狂飆F4”。此外，有博主利用“AI換臉”，將特斯拉創(chuàng)始人馬斯克的臉換到了不同背景的照片中，戲稱“馬斯克賣燒烤”“馬斯克擺攤”……目的是為了吸引網(wǎng)友們的眼球，帶來(lái)更多的流量。

目前“AI換臉”技術(shù)越來(lái)越成熟，呈現(xiàn)效果越來(lái)越逼真，從一開始的自?shī)首詷?，到如今在社?huì)上眾多領(lǐng)域中使用。

深度科技研究院院長(zhǎng)張孝榮表示，當(dāng)前的“AI換臉”屬于深度偽造的AI技術(shù)衍生應(yīng)用?，F(xiàn)在，隨著生成式AI的發(fā)展，使用難度進(jìn)一步降低，新興的App和主流的視頻軟件都增加了類似功能，普及率大大提升，如此一來(lái)，線上的“李逵”和“李鬼”日益增多，而且更加真假難辨。

“隨著深度偽造技術(shù)、擴(kuò)散模型、生成對(duì)抗網(wǎng)絡(luò)和AI大模型等AI技術(shù)的日漸成熟，偽造相關(guān)視頻、音頻、圖像等技術(shù)門檻大幅降低。”天使投資人、資深人工智能專家郭濤表示，與此同時(shí)，大批提供相關(guān)服務(wù)的第三方應(yīng)用軟件問世，應(yīng)用門檻進(jìn)一步降低，哪怕是“AI技術(shù)小白”幾分鐘也能輕松學(xué)會(huì)“AI換臉”等操作。

“直播換臉軟件，有的收費(fèi)有的免費(fèi)，收費(fèi)的從幾百到幾千上萬(wàn)元，成本各有不同?！睆埿s直言。

北京岳成律師事務(wù)所高級(jí)合伙人岳屾山表示，換臉直播用于公開傳播可能涉嫌侵犯相關(guān)明星藝人的肖像權(quán)。根據(jù)不同情況，承擔(dān)的后果可能不同。如果把明星肖像用于帶貨直播，則屬于商業(yè)行為，如果主觀惡性、過(guò)錯(cuò)程度比較大，且因此獲利，賠償數(shù)額可能會(huì)更高。

記者注意到，一些使用換臉技術(shù)的直播并不會(huì)直接提到相關(guān)明星藝人的名字，但也不會(huì)主動(dòng)聲明或者否認(rèn)。岳屾山認(rèn)為，該行為涉嫌欺詐或是虛假宣傳，讓公眾誤以為就是明星在帶貨。如果貨品本身質(zhì)量不好，或者主播在帶貨過(guò)程中說(shuō)的話或行為導(dǎo)致公眾對(duì)被換臉的明星產(chǎn)生負(fù)面評(píng)價(jià)，明星可以主張名譽(yù)權(quán)的侵權(quán)責(zé)任。

據(jù)專家分析，在“AI換臉”、AI擬聲等技術(shù)背后存在著一條條黑色產(chǎn)業(yè)鏈。對(duì)此，記者總結(jié)了近期AI詐騙的4種類型。

聲音合成：騙子通過(guò)提取某人的聲音素材，利用AI技術(shù)合成語(yǔ)音，冒充親友、領(lǐng)導(dǎo)、客服等身份，誘導(dǎo)受害者轉(zhuǎn)賬或泄露個(gè)人信息。

轉(zhuǎn)發(fā)微信語(yǔ)音：騙子在盜取微信號(hào)后，便向其好友“借錢”，為取得對(duì)方的信任，他們會(huì)轉(zhuǎn)發(fā)之前的語(yǔ)音，進(jìn)而騙取錢款。盡管微信沒有語(yǔ)音轉(zhuǎn)發(fā)功能，但他們通過(guò)提取語(yǔ)音文件或安裝非官方版本（插件），實(shí)現(xiàn)語(yǔ)音轉(zhuǎn)發(fā)。

“AI換臉”：騙子通過(guò)截取或收集某人的面部視頻畫面，利用AI技術(shù)換臉，制造視頻聊天的假象，騙取受害者的信任和錢財(cái)。

AI程序篩選受害人：騙子利用AI分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

AI技術(shù)存在濫用風(fēng)險(xiǎn)務(wù)必保持防范意識(shí)

為規(guī)范人工智能發(fā)展，相關(guān)監(jiān)管一直在持續(xù)發(fā)力。

去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。

今年4月，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱《管理辦法》），這也是國(guó)家首次針對(duì)生成式AI產(chǎn)業(yè)發(fā)布規(guī)范性政策?！豆芾磙k法》提及，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

5月9日，《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》發(fā)布，要求創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，應(yīng)遵循相關(guān)規(guī)范，其中包括發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景；虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證等。

8月，國(guó)家網(wǎng)信辦發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》明確，人臉識(shí)別技術(shù)使用者應(yīng)每年對(duì)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備的安全性和可能存在的風(fēng)險(xiǎn)進(jìn)行檢測(cè)評(píng)估，采取有效措施保護(hù)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備免受攻擊、侵入、干擾和破壞。

近期，也有平臺(tái)和企業(yè)發(fā)布了相關(guān)行業(yè)倡議，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

一系列政策的發(fā)布實(shí)施為廣大消費(fèi)者敲響了警鐘，中國(guó)科技大學(xué)公共事務(wù)學(xué)院網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟對(duì)此表示，目前看來(lái)初步遏制了濫用人工智能技術(shù)。特別是遏制了違法犯罪的勢(shì)頭，整體治理效果開始顯現(xiàn)，而且也有力促進(jìn)了人工智能技術(shù)的規(guī)范發(fā)展。

一項(xiàng)新技術(shù)的落地應(yīng)用往往會(huì)經(jīng)歷一段“成長(zhǎng)的煩惱”，這是新事物發(fā)展過(guò)程中的共性問題。在某些人工智能技術(shù)應(yīng)用門檻不斷降低而觸達(dá)面越來(lái)越廣的當(dāng)下，積極著手問題的研判與應(yīng)對(duì)，研究出臺(tái)有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等，都應(yīng)當(dāng)快馬加鞭，少一些空白、多一些規(guī)范。

某種程度上，人工智能技術(shù)的使用有多方便，就可能有多少風(fēng)險(xiǎn)和變數(shù)。防范包括“AI換臉”在內(nèi)的人工智能技術(shù)被濫用，要加強(qiáng)對(duì)人臉、聲紋、指紋、步態(tài)等生物信息數(shù)據(jù)的安全防護(hù)。這需要每個(gè)人提高防范意識(shí)，更需要監(jiān)管部門在完善規(guī)制的進(jìn)程上加快腳步。