谷歌DeepMind推出了一款新的水印工具，用于標(biāo)記圖像是否由人工智能生成。

該工具名為SynthID，目前僅對(duì)谷歌人工智能圖像生成工具Imagen有效，用戶可以在谷歌云的機(jī)器學(xué)習(xí)平臺(tái)Vertex上使用該工具。

用戶將能夠使用Imagen生成圖像，然后選擇是否添加水印。谷歌希望它能幫助人們判斷人工智能生成的內(nèi)容是否被當(dāng)作真實(shí)內(nèi)容，或者有助于保護(hù)版權(quán)。

在過去的一年里，生成式人工智能模型的流行也帶來了人工智能生成的深度偽造、非感官色情和版權(quán)侵權(quán)案例的激增。

水印技術(shù)是一種將信號(hào)隱藏在人工智能生成的文本或圖像中的技術(shù)，它已成為遏制此類危害的最普遍方法之一。

2023年7月，美國白宮宣布已獲得OpenAI、谷歌和Meta等領(lǐng)先人工智能公司的自愿承諾，它們將開發(fā)水印工具，以打擊人工智能生成內(nèi)容的錯(cuò)誤信息和濫用。

在2023年5月的谷歌I/O大會(huì)上，谷歌首席執(zhí)行官桑達(dá)爾·皮查伊表示，該公司正在構(gòu)建自帶水印和其他技術(shù)的模型。谷歌DeepMind是第一家公開推出此類工具的大型科技公司。

傳統(tǒng)的水印是在圖像上添加可見覆蓋層，或者將信息添加到其元數(shù)據(jù)中。但谷歌DeepMind研究副總裁布什美特·科里表示，這類方法是“脆弱的”，當(dāng)圖像被裁剪、調(diào)整大小或編輯時(shí)，水印可能會(huì)丟失。

SynthID是使用兩個(gè)神經(jīng)網(wǎng)絡(luò)創(chuàng)建的。一個(gè)使用原始圖像，然后生成一張看起來幾乎相同的圖像，但有些像素經(jīng)過了微妙的修改。這創(chuàng)建了一個(gè)人眼看不見的嵌入圖案。

第二個(gè)神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)捕捉這些圖案，并告訴用戶它是否檢測到水印，懷疑圖像有水印，或者發(fā)現(xiàn)它沒有水印?？评镎f，SynthID的設(shè)計(jì)方式意味著，即使圖像被截屏、編輯、旋轉(zhuǎn)或調(diào)整大小，水印仍然可以被檢測到。

芝加哥大學(xué)趙教授說，谷歌DeepMind并不是唯一一家研究這種水印方法的公司。趙教授曾參與研究防止藝術(shù)家作品被人工智能系統(tǒng)抓取的系統(tǒng)。

類似的技術(shù)已經(jīng)存在，并在開源人工智能圖像生成器Stable Diffusion中使用。Meta也對(duì)水印技術(shù)進(jìn)行了研究，盡管它尚未推出任何公開的水印工具。

科里聲稱，谷歌DeepMind的水印比之前為圖像創(chuàng)建水印的努力更能抵抗篡改，但仍然不能完全免疫。

但趙教授持懷疑態(tài)度?！半S著時(shí)間的推移，很少或根本沒有水印是無法攻破的，”他說。早期對(duì)文本水印的研究發(fā)現(xiàn)，它們通常在幾個(gè)月內(nèi)就很容易被破壞。

他補(bǔ)充道，攻擊者在破壞水印方面有利可圖。例如，聲稱深度偽造的內(nèi)容是某個(gè)犯罪或事件的真實(shí)照片證據(jù)，但實(shí)際上是莫須有的指控。

趙教授說：“攻擊者會(huì)試圖將深度偽造圖像宣傳為真實(shí)圖像，或?qū)⒄鎸?shí)照片抹黑為偽造照片。這可能為他們帶來很多好處，所以他們會(huì)無所不用其極，包括裁剪、有損壓縮或改變顏色等手段。”

盡管如此，Partnership on AI的人工智能和媒體完整性項(xiàng)目負(fù)責(zé)人克萊爾·萊博維奇表示，谷歌DeepMind推出的工具是一個(gè)很好的第一步，可能會(huì)在該領(lǐng)域更好地分享哪些技術(shù)有效，哪些技術(shù)無效。

她說：“這件事的復(fù)雜性，不是我們無所作為的理由?！?/p>

科里告訴《麻省理工科技評(píng)論》，水印工具是“實(shí)驗(yàn)性的”，并表示該公司希望在該工具更廣泛地推出之前，觀察人們?nèi)绾问褂盟?，了解它的?yōu)勢和劣勢。

他拒絕透露谷歌DeepMind是否會(huì)讓該工具更廣泛地用于除Imagen以外的生成式人工智能圖片工具。他也沒有說明谷歌是否會(huì)在其人工智能圖像生成系統(tǒng)中添加水印。

初創(chuàng)公司Hugging Face的人工智能研究員薩沙·路馳尼認(rèn)為，這限制了該工具的實(shí)用性。她補(bǔ)充道，谷歌決定保留該工具的所有權(quán)，這意味著只有谷歌才能嵌入和檢測這些水印。

路馳尼說：“如果你在圖像生成系統(tǒng)中全面添加水印組件，那么像深度偽造色情之類的東西所帶來的危害和風(fēng)險(xiǎn)就會(huì)更小。”