朱榮生?王豪

2023年11月2日，首屆人工智能安全峰會(huì)在英國(guó)布萊奇利莊園舉行，峰會(huì)發(fā)布《布萊奇利宣言》。

2月16日，美國(guó)OpenAI發(fā)布文生視頻大模型Sora。從OpenAI官網(wǎng)的介紹來(lái)看，Sora可以根據(jù)人類輸入的文字生成播放順暢的虛擬影片。這一文生視頻技術(shù)的進(jìn)步再次激發(fā)了社會(huì)各界關(guān)于人工智能（AI）將對(duì)人類社會(huì)產(chǎn)生何種影響的討論。輿論在熱議AI時(shí)代的美好前景同時(shí)，也擔(dān)憂人類社會(huì)是否有足夠的能力和韌性來(lái)適應(yīng)技術(shù)變革。這種期待與焦慮交織的感受長(zhǎng)期伴隨著人們對(duì)AI技術(shù)發(fā)展及其影響的討論。

文生視頻“GPT3”時(shí)刻的期待與焦慮

在2023年，產(chǎn)業(yè)界研發(fā)的生成視頻模型主要包括Runway的Gen-2、Stability的Stable Video Diffusion、谷歌的Video Poet。這些模型大多僅支持生成時(shí)長(zhǎng)2至20秒的視頻，而Sora突破了當(dāng)前視覺(jué)大模型生成“60秒超長(zhǎng)視頻”的瓶頸。從這一角度看，文生視頻似乎較快進(jìn)入了“GPT3時(shí)代”。

AI技術(shù)將加速迭代，并帶來(lái)社會(huì)效率的提升。360集團(tuán)創(chuàng)始人兼董事長(zhǎng)周鴻祎認(rèn)為，Sora的出現(xiàn)意味著通用人工智能出現(xiàn)的時(shí)間將從十年縮短到一年。有“通用人工智能之父”之稱的美國(guó)科學(xué)家本·戈澤爾更加樂(lè)觀地評(píng)估道，AI即將迎來(lái)指數(shù)級(jí)“智能爆炸”，在未來(lái)三到八年時(shí)間里達(dá)到人類智慧的水平。當(dāng)前的文生視頻技術(shù)的賦能性效果可能更多體現(xiàn)在提高工作效率方面，可以通過(guò)算法自主學(xué)習(xí)快速合成影視作品的場(chǎng)景、角色和動(dòng)作，進(jìn)而減少自動(dòng)化剪輯、特效渲染等工作的成本。特別是，文生視頻技術(shù)可以讓缺少經(jīng)驗(yàn)和資源的創(chuàng)作者制作出令人驚嘆的高質(zhì)量視頻。從這一技術(shù)賦能的路徑看，一個(gè)“人人都是影視創(chuàng)作者”的時(shí)代即將到來(lái)。

在顛覆性技術(shù)概念不斷涌現(xiàn)的當(dāng)下，技術(shù)變革所產(chǎn)生的不確定性也催生了某種焦慮情緒。AI大模型從實(shí)現(xiàn)流暢的人機(jī)對(duì)話到生成視頻的快速發(fā)展，再次觸發(fā)了人們對(duì)新興技術(shù)沖擊部分傳統(tǒng)行業(yè)、加大失業(yè)就業(yè)失衡、加劇虛假信息泛濫等社會(huì)穩(wěn)定方面挑戰(zhàn)的擔(dān)憂。從國(guó)家間關(guān)系的角度看，AI“強(qiáng)者先行”的發(fā)展特點(diǎn)也將強(qiáng)化國(guó)際競(jìng)爭(zhēng)壓力。在2024年世界政府峰會(huì)上，英偉達(dá)創(chuàng)始人兼CEO黃仁勛提出“主權(quán)人工智能”（Sovereign AI）的概念。他表示，每個(gè)國(guó)家都需要擁有自己的AI基礎(chǔ)設(shè)施，以便保護(hù)自己的文化和經(jīng)濟(jì)安全。

盡管每個(gè)國(guó)家都有維護(hù)自身“主權(quán)人工智能”利益的需求，但是大國(guó)和小國(guó)因?qū)嵙Φ牟痪饷媾R著不同程度的脆弱性。大國(guó)具有更強(qiáng)的技術(shù)儲(chǔ)備和抗風(fēng)險(xiǎn)能力，能夠在國(guó)際技術(shù)交流網(wǎng)絡(luò)中處于核心地位。相比之下，小國(guó)恐怕會(huì)因缺少足夠的資源而越發(fā)依賴于大國(guó)的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置。技術(shù)弱國(guó)可能被動(dòng)性地拉大與技術(shù)強(qiáng)國(guó)的實(shí)力差距，而技術(shù)強(qiáng)國(guó)則可能為了爭(zhēng)奪國(guó)際核心地位而更加奉行過(guò)度安全化的政策。這將進(jìn)一步提高數(shù)字地緣政治競(jìng)爭(zhēng)的烈度，壓縮大國(guó)之間本已有限的關(guān)系緩和空間。

機(jī)器取代人類？

自2016年AlphaGo戰(zhàn)勝韓國(guó)圍棋大師李世石以來(lái)，AI技術(shù)發(fā)展在進(jìn)入快車道的同時(shí)，也引發(fā)了輿論界對(duì)人類能否適應(yīng)快速變革的擔(dān)憂，更有人甚至提出了帶有科幻色彩的“AI奴役人類、取代人類”的激進(jìn)論斷。這些言論反映了人們面臨時(shí)代變革所產(chǎn)生的不安全感，大家愈發(fā)迫切地希望在充滿不確定性的未來(lái)中尋找應(yīng)對(duì)諸多挑戰(zhàn)的路徑和方案。

當(dāng)前的文生視頻技術(shù)距離人類智能還有較大差距。有技術(shù)專家認(rèn)為，AI技術(shù)不具備人類理解和處理復(fù)雜問(wèn)題的能力。圖靈獎(jiǎng)得主、Meta首席AI科學(xué)家楊立昆表示，人工智能模型生成逼真視頻的能力不等同于它可以像人類一樣理解世界。他認(rèn)為，目前的AI技術(shù)還難以在理解物理世界中因果關(guān)系的基礎(chǔ)上生成視頻。北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉做出了類似的判斷。在他看來(lái)，Sora的核心模型與GPT大語(yǔ)言模型十分相似，都是建立在轉(zhuǎn)換架構(gòu)基礎(chǔ)上的軟件系統(tǒng)，存在無(wú)法深刻理解人文藝術(shù)、道德倫理的技術(shù)障礙。由此來(lái)看，這兩個(gè)AI大模型有較強(qiáng)的學(xué)習(xí)能力，卻遠(yuǎn)未達(dá)到處理復(fù)雜事物的水平。

人們應(yīng)當(dāng)理性看待AI技術(shù)應(yīng)用對(duì)社會(huì)發(fā)展產(chǎn)生的影響。盡管科技界和產(chǎn)業(yè)界對(duì)能夠達(dá)到人類智能水平的AI最終走入大眾視野存在樂(lè)觀預(yù)期，但是當(dāng)前的人工智能技術(shù)還沒(méi)有表現(xiàn)出引發(fā)社會(huì)結(jié)構(gòu)顛覆性變化的效果。從ChatGPT到Sora，AI所發(fā)揮的主要賦能作用是提高用戶的工作效率，還沒(méi)有達(dá)到“大量機(jī)器取代人類就業(yè)”的變革程度。

當(dāng)然，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險(xiǎn)是不負(fù)責(zé)任的。美國(guó)計(jì)算機(jī)科學(xué)家未來(lái)學(xué)家雷蒙德·庫(kù)茲韋爾宣稱，到2029年，AI的智慧將達(dá)到人類的水平，“有人認(rèn)為我的這個(gè)判斷比較保守”。埃隆·馬斯克在社交媒體上轉(zhuǎn)發(fā)了這一評(píng)論，并表示“人工智能明年可能比任何一個(gè)人類都聰明，到了2029年，可能比所有人的智慧總和都更聰明”。如果AI依然延續(xù)當(dāng)前通過(guò)不斷疊加算力的“暴力計(jì)算”方式來(lái)提高能力，并且最終實(shí)現(xiàn)超越人類的“智能外溢”，那么放縱AI技術(shù)無(wú)限度發(fā)展的潛在風(fēng)險(xiǎn)就是極其巨大的，這就包括機(jī)器可能會(huì)產(chǎn)生自我安全保護(hù)的意識(shí)，進(jìn)而采取擺脫人類控制的行動(dòng)，由此控制、奴役甚至消滅人類。

從規(guī)制人工智能潛在風(fēng)險(xiǎn)的角度出發(fā)，國(guó)家在維護(hù)“主權(quán)人工智能”利益的同時(shí)，應(yīng)推動(dòng)AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類命運(yùn)，是全球治理面臨的嚴(yán)峻課題。國(guó)際社會(huì)需要重視廣大發(fā)展中國(guó)家在新興技術(shù)浪潮中的脆弱性。技術(shù)強(qiáng)國(guó)不應(yīng)只顧本國(guó)利益而一味采取“脫鉤斷鏈”手段。AI是軍民兩用技術(shù)，就其民用領(lǐng)域來(lái)說(shuō)，引導(dǎo)全球AI行業(yè)健康發(fā)展，實(shí)現(xiàn)“AI向善”，進(jìn)而促進(jìn)AI技術(shù)造福于全人類，符合各國(guó)共同利益。而在更為敏感的軍事安全方面，AI的軍事化應(yīng)用越發(fā)引起國(guó)際輿論的關(guān)注。據(jù)國(guó)際媒體報(bào)道，AI技術(shù)已在新一輪巴以沖突中被運(yùn)用，造成平民傷亡。從建構(gòu)人工智能全球安全治理規(guī)則的角度出發(fā)，國(guó)際社會(huì)恐怕需要探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災(zāi)難。

總之，要推動(dòng)實(shí)現(xiàn)“AI為了人類”的目標(biāo)，就需要以人類命運(yùn)共同體理念為指導(dǎo)，確立“全球人工智能”的意識(shí)和行動(dòng)，推動(dòng)技術(shù)進(jìn)步與賦能、防風(fēng)險(xiǎn)和國(guó)際規(guī)范制定的統(tǒng)籌并進(jìn)、相得益彰。

（朱榮生為清華大學(xué)戰(zhàn)略與安全研究中心特約專家，王豪為北京理工大學(xué)博士后）