警惕“AI換臉”為所欲為

關(guān)末

身著西裝，神態(tài)緊張，語氣鄭重，屏幕上還配以“突發(fā)新聞”字樣……最近，一則日本首相岸田文雄的虛假視頻在全球社交媒體瘋傳。令人不寒而栗的是，如此轟動的視頻不過是生成式人工智能（AI）技術(shù)產(chǎn)品，且制作全程僅花了1小時。

“AI換臉”通過深度合成算法處理，為二度創(chuàng)作提供了支持，也滿足了網(wǎng)絡(luò)受眾的獵奇心理和社交需求。但隨著技術(shù)門檻降低與應(yīng)用場景增多，人臉置換似乎愈發(fā)出格。以躺槍的各國政要為例——“拜登”公然宣布第三次世界大戰(zhàn)開始；“馬克龍”直播回答“政府聘用滅霸”；“特朗普被捕”事件還沒發(fā)生，“現(xiàn)場照片”就已瘋傳……如果說仿造娛樂明星僅是一種惡搞，那么刻意生成政治人物的表態(tài)，則可能誤導(dǎo)整個國家乃至全球公共輿論。谷歌前首席執(zhí)行官埃里克·施密特就曾警告，“2024年的選舉將一團(tuán)糟，因為社交媒體平臺無法保護(hù)我們免受AI生成的虛假消息的侵害?！?/p>

人工智能發(fā)展至今，已經(jīng)成為全球新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力。而當(dāng)我們追問數(shù)據(jù)算力是否具備認(rèn)知水平、未來能否取代人類之時，其帶來的泄露隱私、侵犯權(quán)益、擾亂視聽等現(xiàn)實問題已然擺在眼前。特別是在“有圖不一定有真相”的社交媒體上，有人借此編造新聞、炒作熱點，侮辱誹謗、實施詐騙，作惡成本越來越低。眼下，針對AI技術(shù)帶來的顛覆性風(fēng)險挑戰(zhàn)，各國紛紛制定法律以探索深度合成的治理路徑。就我國而言，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理辦法（征求意見稿）》等文件相繼出臺，理順了信息安全主體責(zé)任，明確了相應(yīng)技術(shù)服務(wù)的規(guī)范、監(jiān)督和管理等內(nèi)容。但必須看到，AI生成數(shù)據(jù)量龐大，且存在多次合成、多種場景等問題，“以技術(shù)管技術(shù)”恐怕還有很長的路要走。

以更大視野來看，從社交機(jī)器人衍生出網(wǎng)絡(luò)水軍，到算法推薦加固信息繭房，再到如今人工智能掀起“以假亂真”風(fēng)潮，都讓我們深刻認(rèn)識到，新技術(shù)往往是一把“雙刃劍”。對此，需要前瞻研判其可能造成的規(guī)則沖突、社會風(fēng)險、倫理挑戰(zhàn)，更要在技術(shù)普及過程中不斷拉緊韁繩。無論是以嚴(yán)格監(jiān)管促使形成向上向善的研發(fā)應(yīng)用環(huán)境，還是通過實際案例引導(dǎo)公眾認(rèn)清濫用與使用界限，努力縮短從野蠻生長到規(guī)范發(fā)展的時間差，才能最大限度抵消這股“反作用力”。