不久前，幾張美國前總統(tǒng)特朗普在紐約街頭遭警察逮捕的圖片在美國社交網(wǎng)絡(luò)上瘋傳。雖然外媒很快辟謠稱，這些照片只是由人工智能（AI）生成的圖像，并非真實(shí)照片。但由于圖片太過以假亂真，不但騙到了不少美國網(wǎng)民，也開始被一些有心之人利用。

除了特朗普外，俄羅斯總統(tǒng)普京、美國總統(tǒng)拜登等人也同樣“中招”。有人擔(dān)心，AI技術(shù)的顛覆性發(fā)展和大規(guī)模應(yīng)用很可能導(dǎo)致社交媒體被虛假信息“淹沒”。

英記者炮制“假新聞”

不久前，多張?zhí)乩势毡蛔凡兜膽騽⌒詧D片在社交網(wǎng)絡(luò)上瘋傳。在其中一張圖片中，特朗普在前面跑得氣喘吁吁，執(zhí)法人員在后面緊追不舍；另一張圖片中，特朗普被多名紐約市警察圍捕，被抓住雙手摁倒在地，場面十分混亂。這些圖片是怎么來的？據(jù)悉，大部分“特朗普被捕”的相關(guān)圖片都由開源信息調(diào)查網(wǎng)站Bellingcat創(chuàng)始人、英國獨(dú)立記者艾略特·希金斯發(fā)布。

希金斯是在讀到特朗普或被逮捕的文章時，靈機(jī)一動，想將這一事件“可視化”。為此，希金斯在AI繪圖工具M(jìn)idjourney上輸入相應(yīng)提示詞，比如“特朗普在被捕時摔倒、新聞報道畫面”。隨后，他將AI生成的圖像發(fā)布在社交媒體推特上，并在帖子中寫道：“在等待特朗普被捕時，制作了特朗普被捕的圖片?！?/p>

“我只是在胡鬧而已，我以為大概也就5個人會轉(zhuǎn)發(fā)。”希金斯說。但兩天之后，該推文瀏覽量已突破500萬次，并且仍在不斷增加。受到大量關(guān)注后，希金斯還如法炮制了一系列圖片，給“特朗普被捕”事件補(bǔ)上了一系列后續(xù)——被捕、入獄、受審、獄中生活、越獄、跑去麥當(dāng)勞大吃一頓。其中，幾張?zhí)乩势铡拌F窗淚”的照片也得到網(wǎng)友大量轉(zhuǎn)發(fā)。

對于個人形象被處理成“假照片”，特朗普本人似乎不以為意。相反，他還親自下場，在“真相社交”上分享了一張自己正在祈禱的AI合成圖像。

AI圖像以假亂真

對于這些圖片，美國媒體很快進(jìn)行了辟謠，一些互聯(lián)網(wǎng)“原住民”和AI愛好者也很快辨明真?zhèn)?。然而，人們不得不承認(rèn)，隨著AI技術(shù)的不斷更迭，這些圖像正變得越來越能以假亂真。

希金斯上傳的圖片在經(jīng)由他人重新發(fā)布后，很快騙到了大群美國網(wǎng)友。有人在轉(zhuǎn)發(fā)時，配上“突發(fā)新聞：特朗普今晨在曼哈頓被捕”“震驚！特朗普被逮捕并押往聯(lián)邦監(jiān)獄”等文字。還有人在圖片下提問：“為什么特朗普被捕的事沒上新聞？”

對此，美聯(lián)社認(rèn)為，雖然處理照片和合成圖像的能力并不新鮮，但近年來，隨著AI技術(shù)的不斷升級，圖像生成工具正變得更易使用。用戶只需提供一個簡單的文字提示，這些工具就能迅速生成以假亂真的圖像，背景中往往還包含大量令人信服的細(xì)節(jié)。

對此，美國《福布斯》雜志網(wǎng)站稱，AI生成圖像現(xiàn)在已開始出現(xiàn)“危險信號”。過去，AI在生成人手方面特別困難。有時候，圖像上會出現(xiàn)缺失、扭曲的四肢，以及多余的手指和牙齒，讓人感到詭異甚至恐怖。但那已經(jīng)是過去式了，大部分情況下，更新版本的圖像生成工具已能夠生成正常的手部。

不過，如果仔細(xì)觀察“特朗普被捕”的圖片，仍能發(fā)現(xiàn)多余的四肢、畸形的手、特朗普身上不合理的警察腰帶等。然而，《福布斯》指出，在“假新聞”海嘯中，這些細(xì)節(jié)很難被察覺。這些AI生成中的小錯誤，也能夠很容易地用PS等修圖軟件掩蓋。

增加噪音，加劇偏見

分析人士認(rèn)為，隨著越來越多AI合成的假照片和視頻“淹沒”社交媒體，真實(shí)和虛假間的界限將會變得更加模糊?！霸诖罅恐谱魈摷俚尚诺膱D像方面，AI正在向前邁出巨大一步?！比藱?quán)組織Witness的執(zhí)行董事山姆·格雷戈里說。

實(shí)際上，除了特朗普被生成AI圖像外，其他名人和政客也未能幸免。有網(wǎng)友將美國總統(tǒng)拜登的“假照片”做成“梗圖”或其他圖像。美國參議員沃倫的假音頻和美國前眾議長佩洛西的虛假視頻也在網(wǎng)上流傳。對此，人們不禁發(fā)出疑問，過去說“無圖無真相”，但現(xiàn)在，有圖也不一定有真相。未來，當(dāng)AI生成的大量照片和視頻扭曲人們對現(xiàn)實(shí)的共同認(rèn)知，會發(fā)生什么？

“（AI圖像）在危機(jī)事件期間增加噪音，也增加人們憤世嫉俗的程度?！泵绹A盛頓大學(xué)教授杰文·韋斯特認(rèn)為，人們將開始對整個系統(tǒng)和接觸到的信息失去信任。

《福布斯》則認(rèn)為，“假照片”的泛濫將加劇偏見。面對大量難辨真假的圖像，很多人可能只會相信符合自己偏見的信息，且將真實(shí)的證據(jù)視作虛假。AI還很可能成為有心人的工具，并擴(kuò)大潛在受害者的范圍。對此，專家認(rèn)為，提高公眾意識、加強(qiáng)相關(guān)教育將是打擊虛假AI圖像的最佳方式。韋斯特就表示，制作這些圖像變得如此容易，成本如此低廉，應(yīng)該盡一切努力讓公眾了解這項(xiàng)技術(shù)的進(jìn)步。此外，在監(jiān)管方面也需加大力度。

（摘自《解放日報》裘雯涵）