乘飛機(jī)抵達(dá)迪拜后,來參加2023年第28屆聯(lián)合國氣候變化大會的陳楸帆想,怎么把自己這一程的碳排放給抵消掉。
這場有史以來規(guī)模最大的氣候變化大會充滿了爭議,7萬多人的參與讓大會自身的碳排放就已經(jīng)不可估量。在一座沙漠中的化石燃料之城,來自167個國家和地區(qū)的領(lǐng)導(dǎo)人及官員探討如何逐步淘汰化石燃料,然而直到原定的閉幕日12月12日也未能達(dá)成全球協(xié)議,會議在激烈談判中不得不延期一天。面對全球變暖之下近年頻發(fā)的極端天氣事件,聯(lián)合國秘書長古特雷斯表示,“氣候變化是我們這一代人的生存威脅。”
作為科幻作家,陳楸帆覺得這一次的參會過程就像走在科幻片里,“很多既諷刺又現(xiàn)實的場景,讓你不停有一些反思和想法?!彼麥?zhǔn)備把這些觀察寫進(jìn)他的科幻小說。
近兩年,陳楸帆過著全世界跑的生活,2023年的行程加起來已經(jīng)可繞地球四圈。11月中旬,他受邀參加巴黎和平論壇,在一場圍繞AI未來的講座中,他說到新時期的“算法奴役”,人們被強(qiáng)化偏見的算法、放大自我的社交媒體,以及將最狹隘的觀點不斷反彈的信息孤島所包圍。在他看來,人類意識中的缺陷和弱點塑造著社會結(jié)構(gòu)、左右著政策制定,“當(dāng)這些局限性不僅是內(nèi)在的,且被科技故意操縱和放大時,其后果可能是災(zāi)難性的?!?/p>
這份活動邀請,源于2022年陳楸帆的兩本書《荒潮》《AI未來進(jìn)行式》的法語和德語譯本的出版及歐洲市場的反響。前者是講述中國電子垃圾危機(jī)和氣候不平等的小說。后者是他和李開復(fù)合著的書,兩人是在谷歌工作時的同事。
2019年,李開復(fù)找到陳楸帆,想合力完成一本展現(xiàn)20年后被AI技術(shù)深刻改變的人類社會圖景的作品。他們閱讀了海量論文,與業(yè)內(nèi)專家交流,參與AI工作坊,走訪相關(guān)創(chuàng)業(yè)公司。成書《AI未來進(jìn)行式》采用科幻小說加科技評論的形式,以合乎邏輯的方式推演人工智能將在20年后達(dá)到什么水平。
2023年,兩人再見面時,都認(rèn)為當(dāng)時的預(yù)測太保守了?!皶飳懙暮芏喙适露疾恍枰?0年,有可能5到10年就會變成現(xiàn)實?!标愰狈f。當(dāng)人們談到AI,常說應(yīng)該讓AI與人類的價值觀對齊,“但問題是人類社會內(nèi)部的價值觀都不對齊?!?/p>
“整個世界的現(xiàn)實圖景已經(jīng)高度復(fù)雜化、抽象化,它遠(yuǎn)離了我們?nèi)粘=?jīng)驗的限度?!标愰狈X得,這正是科幻小說在技術(shù)加速年代的魅力所在。在學(xué)者楊慶祥看來,好的科幻小說善于通過技術(shù)想象展開“思想實驗”,“不停地與固化的秩序和意識形態(tài)進(jìn)行思想的交鋒,不憚于創(chuàng)造一種全新的生存方式和建構(gòu)模式——無論是在想象層面還是在實踐層面?!?/p>
接受《南方人物周刊》記者采訪時,陳楸帆剛剛落地韓國首爾,將參加另一場關(guān)于人工智能與氣候變化的峰會。幾年前,陳楸帆就開始用AI寫小說了,也親身經(jīng)歷著AI技術(shù)迭代的過程,“因為未來不會等你?!彼f。
人:人物周刊陳:陳楸帆
人:現(xiàn)在你和AI是什么樣的創(chuàng)作關(guān)系?
陳:它不是一蹴而就的,很多人可能會誤解為它是一鍵下單的過程,但其實整個過程里人類需要付出的勞動,一點也不比自己獨(dú)立創(chuàng)作少。因為在這過程中你需要不斷迭代、試錯,可能很多時候它不能給出特別滿意的答案,會覺得挺有挫敗感的。ChatGPT出來前,我們沒有直接跟AI對話交互的界面。
現(xiàn)在我基本上都使用現(xiàn)成的ChatGPT和其他定制化AI工具作為日常工作的輔助,比如寫郵件、起草發(fā)言稿、翻譯、整理日程表,這些都很容易完成。如果跟創(chuàng)意寫作相關(guān),可能會用它做頭腦風(fēng)暴,它會給出很多方向,但大部分都比較平庸或者套路化。就現(xiàn)在來說,所謂的AI也是個黑盒子。它會有很多不實數(shù)據(jù)和虛假事實,你得有判斷力地使用,有選擇、有策略地提升效率,甚至打破被局限在思維慣性里的套路或刻板印象。
我覺得這也是對AI的認(rèn)知以及與AI協(xié)作不斷深入的過程,需要有這樣一個開放、積極、建設(shè)性的心態(tài)去對待它。在人機(jī)不斷交互的過程中,人類也在不斷學(xué)習(xí),成為更好的創(chuàng)作者。如果人類用非常懶惰、被動的方式去使用AI,它就會給出讓你變得更懶惰、更被動的答案。
人:過去一年,你參加的關(guān)于人工智能的論壇中,各個國家、地區(qū)的討論側(cè)重點有哪些不同?國際上目前存在對AI具有約束力的監(jiān)管協(xié)議嗎?
陳:就我的感覺而言,歐洲主要偏重于風(fēng)險監(jiān)管,關(guān)注AI對傳統(tǒng)人本價值、人文領(lǐng)域的沖擊。這些討論會有地域性差別,也和討論者所在的行業(yè)、地位或階層有關(guān)。比如美國硅谷的聲音和美國南部普通老百姓的肯定不一樣,所以沒法一概而論。
但整個大環(huán)境是,資本一方肯定希望以更快的速度發(fā)展AI技術(shù)。所謂的“有效加速主義”,是硅谷很多大佬崇尚的一套哲學(xué),技術(shù)盡可能快地加速,這樣能解決很多問題,即使技術(shù)發(fā)展在過程中出現(xiàn)了新問題,也可以因為加速而得到解決,從而迫使人類文明進(jìn)化到更高的維度。
另外也有更謹(jǐn)慎保守的聲音,也即“對齊主義”,要求在人類制定出監(jiān)管框架和手段前不應(yīng)盲目追求速度,因為這和研發(fā)核武器一樣,很可能會把人類文明帶入非常危險的境地。
所以11月1日,在英國舉辦的首屆全球人工智能(AI)安全峰會上有二十幾個國家聯(lián)署了一份新的AI監(jiān)管的整體性框架協(xié)議《布萊切利宣言》,這可能是第一個國際性的AI監(jiān)管框架。這個宣言主要有兩個議程,首先是識別風(fēng)險,其次是建立起對這些風(fēng)險的全球共識。然后,根據(jù)識別出來的風(fēng)險,各國制定政策來確保安全,因為各國國情、法律框架都不一樣,需要因地制宜地落實到政策層面。此外還會通過國際化合作來制定評估指標(biāo)。峰會每年都要召開,目的是構(gòu)建一個國際包容的AI前沿安全的研究網(wǎng)絡(luò)。
至少能看到包括中國、美國、英國,還有很多其他的大國和歐盟,都愿意放下地緣政治、意識形態(tài)等等分歧,圍繞人工智能安全與監(jiān)管的大問題來開展對話和合作。這意味著一個全球性的、行星級別的議題的出現(xiàn),就和氣候變化一樣,是現(xiàn)在兩大需要全球協(xié)作的議題。
人:今年全球關(guān)于AI的討論中,有一個本質(zhì)問題是,人這個物種的獨(dú)特性,是否在AI來臨時變得岌岌可危了?《AI未來進(jìn)行式》的《幸福島》寫智能時代的機(jī)器與算法遠(yuǎn)比人類更了解自身,這可能是人們對AI感到恐懼的一個原因,即主體性被剝奪。當(dāng)一切都可以被量化后,人的自我意識還有什么主體性?
陳:這個問題其實非常復(fù)雜,可以從不同的維度來看。到底什么是最本質(zhì)的幸福?比如小說里是說如果有一種生物學(xué)指標(biāo)可以將它量化,那它就能被機(jī)器學(xué)習(xí)、讀取,甚至施加影響,這是一種非常還原論的想法。
但我覺得,到最后人類還是不可能被如此簡單機(jī)械地還原成一堆數(shù)據(jù)。因為現(xiàn)在人工智能學(xué)到的也是非常有限的數(shù)據(jù)集,比如語言文字上的數(shù)據(jù),還包括圖像上的。但有更多更微妙復(fù)雜的、無法被量化的數(shù)據(jù),比如情緒的變化、意識現(xiàn)在是無法被監(jiān)測到的。因為意識本身需要通過表征外化成語言文字、標(biāo)簽、聲音等等,需要一個外部化的過程。所以,當(dāng)你的意識還沒有被表征出來時,其實就無法被識別、探測和量化。
我覺得就是魯迅先生老早說過的“絕望”與“希望”的辯證法,它們一直都在互相轉(zhuǎn)化,互相依存。我不覺得人類歷史上有絕對黑暗的絕望時刻,也不會有純?nèi)还饷?、充滿希望的瞬間,而是在不停地交織作戰(zhàn)、螺旋式上升的過程。所以,最后還是取決于人類本身。不要小看每個個體,雖然力量很渺小,但是每個個體最后能夠通過這樣的講述故事的方式,凝聚起共識。這也是尤瓦爾·赫拉利說的,人類作為一個物種,其獨(dú)特的能力其實是講故事,而不是使用工具或者語言——但我在這里存疑,其他動物肯定也有講故事的能力,只不過這故事或許還不能被我們?nèi)祟愃斫?、所認(rèn)知——他認(rèn)為這是我們能夠超越個體去凝聚共識,完成更復(fù)雜、更大規(guī)模的工程的可能性。這工程可能是巨大的,比如造一座長城,或者建立起一套制度。所以我覺得人類還是有希望的,就在于我們能夠通過講故事的方式去傳遞這種希望。
人:近幾年講到算法時,一方面是實用主義的進(jìn)步語境,另一方面則是科技剝削如“算法外賣員”“短視頻算法推送”。《幸福島》講的也是一個如何讓AI更好地服務(wù)人類生活的故事,即讓AI不再只專注于優(yōu)化單一目標(biāo)函數(shù),而轉(zhuǎn)向更豐富、更有彈性乃至更有人文屬性的函數(shù)模型,這對我們當(dāng)下已被技術(shù)滲透的生活有哪些現(xiàn)實啟發(fā)?
陳:書里很多內(nèi)容都在探討媒介對人的影響,無論是deep-fake(深度偽造)還是沉浸式虛擬環(huán)境,包括虛擬偶像數(shù)字人。其實我們已經(jīng)在進(jìn)入一個虛擬時代了,經(jīng)過疫情,很多行業(yè)加速了這個過程,現(xiàn)在大家都習(xí)慣在家上班或上課。但這個過程中也會有新的問題出現(xiàn),包括信息的真?zhèn)伪鎰e,在未來這種AIGC(生成式人工智能)能力可能是一個非常低成本的工具,很多人只要想就能夠制造出以假亂真的信息,可能給社會帶來干擾,甚至造成不良影響和風(fēng)險。那我們怎么來防范?怎么來管控這些信息?
除此之外,當(dāng)下一代年輕人越來越習(xí)慣于虛擬社交,因為他們會覺得這種關(guān)系、這種交互過程是可控、舒適的,而且是高度定制化的。就像很多人會和AI談戀愛,因為AI可能比真實的人類更知道怎么去說話、怎么去討好對方,而真實的人很多時候做不到這樣的事,所以他會恐懼和排斥真實的社交和關(guān)系。這已經(jīng)在發(fā)生,不管是在中國還是其他國家,而這肯定會引起非常大的社會結(jié)構(gòu)變化,包括人口出生率、結(jié)婚率的下降等等。這是一個必然的過程,但我們怎樣去調(diào)整現(xiàn)有的觀念和社會結(jié)構(gòu)去適應(yīng)這個過程?
當(dāng)然,我鼓勵人必須有真實的社交,物理世界的交流和交往非常重要。因為目前虛擬數(shù)據(jù)的解析度還非常低,比如可能是720的解析度,但真人漸變可能是4K或者8K的解析度,它的信息密度是完全不一樣的。
而且,下一代已經(jīng)生活在未來了,以后代際之間的距離會越來越大,有可能隔了一代人,就是兩個世界。也就是所謂的后人類,上一代人看下一代人就覺得他們是另一個物種。我覺得這個事情可能會加速發(fā)生,甚至有可能下一代也不認(rèn)為自己是人類。我們現(xiàn)在還沒有足夠多的討論和理論工具讓我們做出一些及時的反應(yīng),而科幻就是幫你去做準(zhǔn)備的類型。
人:你曾說短視頻短的原因,“就是把人的感官分辨率無限地切分到接近極限”,以刺激人的生物性本能作為終極目的,技術(shù)的發(fā)展讓對人的剝削進(jìn)入到一個嶄新的階段。這個年代,一個普通人面對多重算法的夾擊,是否線上生存難度也太大了?
陳:難度是很大,但可能放在沒有互聯(lián)網(wǎng)的時代也是一樣,只不過現(xiàn)在信息密度更大。比如說在報紙、電臺、電視臺的時代,其實也是一樣的,而且是更中心化的媒體權(quán)力結(jié)構(gòu),所有的媒體都掌握在位高權(quán)重者手中,那他可以控制你讀到什么、讀不到什么。到了互聯(lián)網(wǎng)時代,大家會覺得這是一個信息民主化的過程,大家可以平等、公開、透明地獲取信息,打破了所謂的階層和權(quán)力結(jié)構(gòu),好像是一個去中心化的過程。但經(jīng)過一段時間的發(fā)展,你會發(fā)現(xiàn)它又重新中心化了。
因為資本主義的邏輯鏈條就是要圈地,它要做大做強(qiáng),最大程度地壟斷并且榨取剩余價值,所以又重新中心化成一個個的平臺,一個個信息孤島,由此產(chǎn)生各自的立場和偏見。所以這其實就是一個不斷地中心化、去中心化、再中心化的過程。只要人類存在一天,這個過程就不會停止,AI是這個過程中的一環(huán)而已。
現(xiàn)在的AI也是一個非常中心化的東西,你很難設(shè)想一個沒有錢、沒有數(shù)據(jù)的個體創(chuàng)業(yè)者能在這個時代靠自己搞出一個大語言模型,因為沒有錢買GPU、搞數(shù)據(jù)、訓(xùn)練機(jī)器。在之前那個草根互聯(lián)網(wǎng)時代,已經(jīng)出現(xiàn)了所謂新中心化的局面,而在即將到來的AI時代、大模型時代,會更加中心化,但這之后可能又會迎來一個新的去中心化的時代。那個是什么?我也不知道,但這個過程是不會消停的,這就是人類。
人:這兩年你在全世界跑,大多時間都在國外,跳換在不同時區(qū)間的生活是怎樣的?
陳:我感覺我這兩年也是處于一個加速度的過程。不管是去的地方、見的人,還是思考的問題都超出了之前10年甚至20年的密度。對自身精力、時間管理等等方面也提出了更高要求。我也因為這兩年去了太多地方,開始思考所謂的“在地性離散”、家鄉(xiāng)這些問題。
以前沒有如此具身地感受過,當(dāng)自己不停換地方、換語境,我就會更深切地感受到自己身上的“中國性”。不管你去到哪個地方,哪怕你換了不同的身份,但你作為中國人的標(biāo)簽是沒有辦法改變的,它從語言,到身體的感官、到記憶,是你存在的一部分,這是你無法否定也無法剝離的。
人:你覺得人還需要一個“故鄉(xiāng)”嗎,一個擁有全球視野的人,還需要與自己出生的地域和傳統(tǒng)保持一定的親密聯(lián)系嗎?
陳:還是需要的,雖然不一定需要物理上回到故鄉(xiāng)的這種在地性。在法國我認(rèn)識了一些潮汕后裔大學(xué)生,他們中有的是混血,也有柬埔寨的潮汕后裔,他們不會說潮汕話。但他們告訴我,如今在法國興起了一個運(yùn)動,這些年輕的潮汕后裔開始組織協(xié)會或自發(fā)組織,開展文化尋根活動。有位年輕導(dǎo)演叫杜來順,拍了一部動畫片講述潮汕的故事。盡管他們離開很遠(yuǎn)很久了,但他們?nèi)韵M麑ふ易陨砦幕母础?/p>
我覺得尋根的沖動是人類的本質(zhì)之一,它不會因為你走得遠(yuǎn)而消失,它會以不同的形式重生。就好像我寫在VR建一個潮汕祠堂,你的先輩們都是以這種虛擬的數(shù)字人的形式被供奉,你還可以跟他們?nèi)セ?,其實也是一種對故鄉(xiāng)的科幻式表達(dá)。
我覺得人最后還是需要回答一些最本質(zhì)的問題,那就是我是誰?我從哪里來,我要到哪里去?就這幾個問題,人是逃不掉的。