歐陽(yáng)詩(shī)蕾

陳楸帆：科幻作家、耶魯大學(xué)訪問(wèn)學(xué)者、中國(guó)作家協(xié)會(huì)科幻文學(xué)委員會(huì)副主任，多次斬獲星云獎(jiǎng)、銀河獎(jiǎng)、世界奇幻科幻翻譯獎(jiǎng)等國(guó)內(nèi)外獎(jiǎng)項(xiàng)。

乘飛機(jī)抵達(dá)迪拜后，來(lái)參加2023年第28屆聯(lián)合國(guó)氣候變化大會(huì)的陳楸帆想，怎么把自己這一程的碳排放給抵消掉。

這場(chǎng)有史以來(lái)規(guī)模最大的氣候變化大會(huì)充滿了爭(zhēng)議，7萬(wàn)多人的參與讓大會(huì)自身的碳排放就已經(jīng)不可估量。在一座沙漠中的化石燃料之城，來(lái)自167個(gè)國(guó)家和地區(qū)的領(lǐng)導(dǎo)人及官員探討如何逐步淘汰化石燃料，然而直到原定的閉幕日12月12日也未能達(dá)成全球協(xié)議，會(huì)議在激烈談判中不得不延期一天。面對(duì)全球變暖之下近年頻發(fā)的極端天氣事件，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯表示，“氣候變化是我們這一代人的生存威脅?！?/p>

作為科幻作家，陳楸帆覺(jué)得這一次的參會(huì)過(guò)程就像走在科幻片里，“很多既諷刺又現(xiàn)實(shí)的場(chǎng)景，讓你不停有一些反思和想法。”他準(zhǔn)備把這些觀察寫(xiě)進(jìn)他的科幻小說(shuō)。

近兩年，陳楸帆過(guò)著全世界跑的生活，2023年的行程加起來(lái)已經(jīng)可繞地球四圈。11月中旬，他受邀參加巴黎和平論壇，在一場(chǎng)圍繞AI未來(lái)的講座中，他說(shuō)到新時(shí)期的“算法奴役”，人們被強(qiáng)化偏見(jiàn)的算法、放大自我的社交媒體，以及將最狹隘的觀點(diǎn)不斷反彈的信息孤島所包圍。在他看來(lái)，人類意識(shí)中的缺陷和弱點(diǎn)塑造著社會(huì)結(jié)構(gòu)、左右著政策制定，“當(dāng)這些局限性不僅是內(nèi)在的，且被科技故意操縱和放大時(shí)，其后果可能是災(zāi)難性的。”

這份活動(dòng)邀請(qǐng)，源于2022年陳楸帆的兩本書(shū)《荒潮》《AI未來(lái)進(jìn)行式》的法語(yǔ)和德語(yǔ)譯本的出版及歐洲市場(chǎng)的反響。前者是講述中國(guó)電子垃圾危機(jī)和氣候不平等的小說(shuō)。后者是他和李開(kāi)復(fù)合著的書(shū)，兩人是在谷歌工作時(shí)的同事。

2019年，李開(kāi)復(fù)找到陳楸帆，想合力完成一本展現(xiàn)20年后被AI技術(shù)深刻改變的人類社會(huì)圖景的作品。他們閱讀了海量論文，與業(yè)內(nèi)專家交流，參與AI工作坊，走訪相關(guān)創(chuàng)業(yè)公司。成書(shū)《AI未來(lái)進(jìn)行式》采用科幻小說(shuō)加科技評(píng)論的形式，以合乎邏輯的方式推演人工智能將在20年后達(dá)到什么水平。

2023年，兩人再見(jiàn)面時(shí)，都認(rèn)為當(dāng)時(shí)的預(yù)測(cè)太保守了?！皶?shū)里寫(xiě)的很多故事都不需要20年，有可能5到10年就會(huì)變成現(xiàn)實(shí)。”陳楸帆說(shuō)。當(dāng)人們談到AI，常說(shuō)應(yīng)該讓AI與人類的價(jià)值觀對(duì)齊，“但問(wèn)題是人類社會(huì)內(nèi)部的價(jià)值觀都不對(duì)齊?！?/p>

“整個(gè)世界的現(xiàn)實(shí)圖景已經(jīng)高度復(fù)雜化、抽象化，它遠(yuǎn)離了我們?nèi)粘＝?jīng)驗(yàn)的限度?！标愰狈X(jué)得，這正是科幻小說(shuō)在技術(shù)加速年代的魅力所在。在學(xué)者楊慶祥看來(lái)，好的科幻小說(shuō)善于通過(guò)技術(shù)想象展開(kāi)“思想實(shí)驗(yàn)”，“不停地與固化的秩序和意識(shí)形態(tài)進(jìn)行思想的交鋒，不憚?dòng)趧?chuàng)造一種全新的生存方式和建構(gòu)模式——無(wú)論是在想象層面還是在實(shí)踐層面?！?/p>

接受《南方人物周刊》記者采訪時(shí)，陳楸帆剛剛落地韓國(guó)首爾，將參加另一場(chǎng)關(guān)于人工智能與氣候變化的峰會(huì)。幾年前，陳楸帆就開(kāi)始用AI寫(xiě)小說(shuō)了，也親身經(jīng)歷著AI技術(shù)迭代的過(guò)程，“因?yàn)槲磥?lái)不會(huì)等你?！彼f(shuō)。

陳楸帆（ 左） 參加聯(lián)合國(guó)氣候變化大會(huì)。圖/受訪者提供

它不是一蹴而就的，很多人可能會(huì)誤解為它是一鍵下單的過(guò)程，但其實(shí)整個(gè)過(guò)程里人類需要付出的勞動(dòng)，一點(diǎn)也不比自己獨(dú)立創(chuàng)作少。因?yàn)樵谶@過(guò)程中你需要不斷迭代、試錯(cuò)，可能很多時(shí)候它不能給出特別滿意的答案，會(huì)覺(jué)得挺有挫敗感的。ChatGPT出來(lái)前，我們沒(méi)有直接跟AI對(duì)話交互的界面。

現(xiàn)在我基本上都使用現(xiàn)成的ChatGPT和其他定制化AI工具作為日常工作的輔助，比如寫(xiě)郵件、起草發(fā)言稿、翻譯、整理日程表，這些都很容易完成。如果跟創(chuàng)意寫(xiě)作相關(guān)，可能會(huì)用它做頭腦風(fēng)暴，它會(huì)給出很多方向，但大部分都比較平庸或者套路化。就現(xiàn)在來(lái)說(shuō)，所謂的 AI也是個(gè)黑盒子。它會(huì)有很多不實(shí)數(shù)據(jù)和虛假事實(shí)，你得有判斷力地使用，有選擇、有策略地提升效率，甚至打破被局限在思維慣性里的套路或刻板印象。

我覺(jué)得這也是對(duì)AI的認(rèn)知以及與AI協(xié)作不斷深入的過(guò)程，需要有這樣一個(gè)開(kāi)放、積極、建設(shè)性的心態(tài)去對(duì)待它。在人機(jī)不斷交互的過(guò)程中，人類也在不斷學(xué)習(xí)，成為更好的創(chuàng)作者。如果人類用非常懶惰、被動(dòng)的方式去使用AI，它就會(huì)給出讓你變得更懶惰、更被動(dòng)的答案。

就我的感覺(jué)而言，歐洲主要偏重于風(fēng)險(xiǎn)監(jiān)管，關(guān)注AI對(duì)傳統(tǒng)人本價(jià)值、人文領(lǐng)域的沖擊。這些討論會(huì)有地域性差別，也和討論者所在的行業(yè)、地位或階層有關(guān)。比如美國(guó)硅谷的聲音和美國(guó)南部普通老百姓的肯定不一樣，所以沒(méi)法一概而論。

但整個(gè)大環(huán)境是，資本一方肯定希望以更快的速度發(fā)展 AI 技術(shù)。所謂的“有效加速主義”，是硅谷很多大佬崇尚的一套哲學(xué)，技術(shù)盡可能快地加速，這樣能解決很多問(wèn)題，即使技術(shù)發(fā)展在過(guò)程中出現(xiàn)了新問(wèn)題，也可以因?yàn)榧铀俣玫浇鉀Q，從而迫使人類文明進(jìn)化到更高的維度。

另外也有更謹(jǐn)慎保守的聲音，也即“對(duì)齊主義”，要求在人類制定出監(jiān)管框架和手段前不應(yīng)盲目追求速度，因?yàn)檫@和研發(fā)核武器一樣，很可能會(huì)把人類文明帶入非常危險(xiǎn)的境地。

所以11月1日，在英國(guó)舉辦的首屆全球人工智能（AI）安全峰會(huì)上有二十幾個(gè)國(guó)家聯(lián)署了一份新的 AI 監(jiān)管的整體性框架協(xié)議《布萊切利宣言》，這可能是第一個(gè)國(guó)際性的AI監(jiān)管框架。這個(gè)宣言主要有兩個(gè)議程，首先是識(shí)別風(fēng)險(xiǎn)，其次是建立起對(duì)這些風(fēng)險(xiǎn)的全球共識(shí)。然后，根據(jù)識(shí)別出來(lái)的風(fēng)險(xiǎn)，各國(guó)制定政策來(lái)確保安全，因?yàn)楦鲊?guó)國(guó)情、法律框架都不一樣，需要因地制宜地落實(shí)到政策層面。此外還會(huì)通過(guò)國(guó)際化合作來(lái)制定評(píng)估指標(biāo)。峰會(huì)每年都要召開(kāi)，目的是構(gòu)建一個(gè)國(guó)際包容的AI前沿安全的研究網(wǎng)絡(luò)。

至少能看到包括中國(guó)、美國(guó)、英國(guó)，還有很多其他的大國(guó)和歐盟，都愿意放下地緣政治、意識(shí)形態(tài)等等分歧，圍繞人工智能安全與監(jiān)管的大問(wèn)題來(lái)開(kāi)展對(duì)話和合作。這意味著一個(gè)全球性的、行星級(jí)別的議題的出現(xiàn)，就和氣候變化一樣，是現(xiàn)在兩大需要全球協(xié)作的議題。

這個(gè)問(wèn)題其實(shí)非常復(fù)雜，可以從不同的維度來(lái)看。到底什么是最本質(zhì)的幸福？比如小說(shuō)里是說(shuō)如果有一種生物學(xué)指標(biāo)可以將它量化，那它就能被機(jī)器學(xué)習(xí)、讀取，甚至施加影響，這是一種非常還原論的想法。

但我覺(jué)得，到最后人類還是不可能被如此簡(jiǎn)單機(jī)械地還原成一堆數(shù)據(jù)。因?yàn)楝F(xiàn)在人工智能學(xué)到的也是非常有限的數(shù)據(jù)集，比如語(yǔ)言文字上的數(shù)據(jù)，還包括圖像上的。但有更多更微妙復(fù)雜的、無(wú)法被量化的數(shù)據(jù)，比如情緒的變化、意識(shí)現(xiàn)在是無(wú)法被監(jiān)測(cè)到的。因?yàn)橐庾R(shí)本身需要通過(guò)表征外化成語(yǔ)言文字、標(biāo)簽、聲音等等，需要一個(gè)外部化的過(guò)程。所以，當(dāng)你的意識(shí)還沒(méi)有被表征出來(lái)時(shí)，其實(shí)就無(wú)法被識(shí)別、探測(cè)和量化。

我覺(jué)得就是魯迅先生老早說(shuō)過(guò)的“絕望”與“希望”的辯證法，它們一直都在互相轉(zhuǎn)化，互相依存。我不覺(jué)得人類歷史上有絕對(duì)黑暗的絕望時(shí)刻，也不會(huì)有純?nèi)还饷鳌⒊錆M希望的瞬間，而是在不停地交織作戰(zhàn)、螺旋式上升的過(guò)程。所以，最后還是取決于人類本身。不要小看每個(gè)個(gè)體，雖然力量很渺小，但是每個(gè)個(gè)體最后能夠通過(guò)這樣的講述故事的方式，凝聚起共識(shí)。這也是尤瓦爾·赫拉利說(shuō)的，人類作為一個(gè)物種，其獨(dú)特的能力其實(shí)是講故事，而不是使用工具或者語(yǔ)言——但我在這里存疑，其他動(dòng)物肯定也有講故事的能力，只不過(guò)這故事或許還不能被我們?nèi)祟愃斫狻⑺J(rèn)知——他認(rèn)為這是我們能夠超越個(gè)體去凝聚共識(shí)，完成更復(fù)雜、更大規(guī)模的工程的可能性。這工程可能是巨大的，比如造一座長(zhǎng)城，或者建立起一套制度。所以我覺(jué)得人類還是有希望的，就在于我們能夠通過(guò)講故事的方式去傳遞這種希望。

陳楸帆在愛(ài)麗舍宮向法國(guó)總統(tǒng)馬克龍（ 右） 贈(zèng)書(shū)。圖/受訪者提供

書(shū)里很多內(nèi)容都在探討媒介對(duì)人的影響，無(wú)論是deep-fake（深度偽造）還是沉浸式虛擬環(huán)境，包括虛擬偶像數(shù)字人。其實(shí)我們已經(jīng)在進(jìn)入一個(gè)虛擬時(shí)代了，經(jīng)過(guò)疫情，很多行業(yè)加速了這個(gè)過(guò)程，現(xiàn)在大家都習(xí)慣在家上班或上課。但這個(gè)過(guò)程中也會(huì)有新的問(wèn)題出現(xiàn)，包括信息的真?zhèn)伪鎰e，在未來(lái)這種AIGC（生成式人工智能）能力可能是一個(gè)非常低成本的工具，很多人只要想就能夠制造出以假亂真的信息，可能給社會(huì)帶來(lái)干擾，甚至造成不良影響和風(fēng)險(xiǎn)。那我們?cè)趺磥?lái)防范？怎么來(lái)管控這些信息？

除此之外，當(dāng)下一代年輕人越來(lái)越習(xí)慣于虛擬社交，因?yàn)樗麄儠?huì)覺(jué)得這種關(guān)系、這種交互過(guò)程是可控、舒適的，而且是高度定制化的。就像很多人會(huì)和AI談戀愛(ài)，因?yàn)锳I可能比真實(shí)的人類更知道怎么去說(shuō)話、怎么去討好對(duì)方，而真實(shí)的人很多時(shí)候做不到這樣的事，所以他會(huì)恐懼和排斥真實(shí)的社交和關(guān)系。這已經(jīng)在發(fā)生，不管是在中國(guó)還是其他國(guó)家，而這肯定會(huì)引起非常大的社會(huì)結(jié)構(gòu)變化，包括人口出生率、結(jié)婚率的下降等等。這是一個(gè)必然的過(guò)程，但我們?cè)鯓尤フ{(diào)整現(xiàn)有的觀念和社會(huì)結(jié)構(gòu)去適應(yīng)這個(gè)過(guò)程？

當(dāng)然，我鼓勵(lì)人必須有真實(shí)的社交，物理世界的交流和交往非常重要。因?yàn)槟壳疤摂M數(shù)據(jù)的解析度還非常低，比如可能是720的解析度，但真人漸變可能是4K或者8K的解析度，它的信息密度是完全不一樣的。

而且，下一代已經(jīng)生活在未來(lái)了，以后代際之間的距離會(huì)越來(lái)越大，有可能隔了一代人，就是兩個(gè)世界。也就是所謂的后人類，上一代人看下一代人就覺(jué)得他們是另一個(gè)物種。我覺(jué)得這個(gè)事情可能會(huì)加速發(fā)生，甚至有可能下一代也不認(rèn)為自己是人類。我們現(xiàn)在還沒(méi)有足夠多的討論和理論工具讓我們做出一些及時(shí)的反應(yīng)，而科幻就是幫你去做準(zhǔn)備的類型。

陳楸帆（ 右二） 參加布魯塞爾歐洲之友峰會(huì)。圖/受訪者提供

難度是很大，但可能放在沒(méi)有互聯(lián)網(wǎng)的時(shí)代也是一樣，只不過(guò)現(xiàn)在信息密度更大。比如說(shuō)在報(bào)紙、電臺(tái)、電視臺(tái)的時(shí)代，其實(shí)也是一樣的，而且是更中心化的媒體權(quán)力結(jié)構(gòu)，所有的媒體都掌握在位高權(quán)重者手中，那他可以控制你讀到什么、讀不到什么。到了互聯(lián)網(wǎng)時(shí)代，大家會(huì)覺(jué)得這是一個(gè)信息民主化的過(guò)程，大家可以平等、公開(kāi)、透明地獲取信息，打破了所謂的階層和權(quán)力結(jié)構(gòu)，好像是一個(gè)去中心化的過(guò)程。但經(jīng)過(guò)一段時(shí)間的發(fā)展，你會(huì)發(fā)現(xiàn)它又重新中心化了。

因?yàn)橘Y本主義的邏輯鏈條就是要圈地，它要做大做強(qiáng)，最大程度地壟斷并且榨取剩余價(jià)值，所以又重新中心化成一個(gè)個(gè)的平臺(tái)，一個(gè)個(gè)信息孤島，由此產(chǎn)生各自的立場(chǎng)和偏見(jiàn)。所以這其實(shí)就是一個(gè)不斷地中心化、去中心化、再中心化的過(guò)程。只要人類存在一天，這個(gè)過(guò)程就不會(huì)停止，AI是這個(gè)過(guò)程中的一環(huán)而已。

現(xiàn)在的AI也是一個(gè)非常中心化的東西，你很難設(shè)想一個(gè)沒(méi)有錢(qián)、沒(méi)有數(shù)據(jù)的個(gè)體創(chuàng)業(yè)者能在這個(gè)時(shí)代靠自己搞出一個(gè)大語(yǔ)言模型，因?yàn)闆](méi)有錢(qián)買(mǎi)GPU、搞數(shù)據(jù)、訓(xùn)練機(jī)器。在之前那個(gè)草根互聯(lián)網(wǎng)時(shí)代，已經(jīng)出現(xiàn)了所謂新中心化的局面，而在即將到來(lái)的AI時(shí)代、大模型時(shí)代，會(huì)更加中心化，但這之后可能又會(huì)迎來(lái)一個(gè)新的去中心化的時(shí)代。那個(gè)是什么？我也不知道，但這個(gè)過(guò)程是不會(huì)消停的，這就是人類。

全球化的離散年代，人還需要故鄉(xiāng)嗎？

我感覺(jué)我這兩年也是處于一個(gè)加速度的過(guò)程。不管是去的地方、見(jiàn)的人，還是思考的問(wèn)題都超出了之前10年甚至20年的密度。對(duì)自身精力、時(shí)間管理等等方面也提出了更高要求。我也因?yàn)檫@兩年去了太多地方，開(kāi)始思考所謂的“在地性離散”、家鄉(xiāng)這些問(wèn)題。

以前沒(méi)有如此具身地感受過(guò)，當(dāng)自己不停換地方、換語(yǔ)境，我就會(huì)更深切地感受到自己身上的“中國(guó)性”。不管你去到哪個(gè)地方，哪怕你換了不同的身份，但你作為中國(guó)人的標(biāo)簽是沒(méi)有辦法改變的，它從語(yǔ)言，到身體的感官、到記憶，是你存在的一部分，這是你無(wú)法否定也無(wú)法剝離的。

還是需要的，雖然不一定需要物理上回到故鄉(xiāng)的這種在地性。在法國(guó)我認(rèn)識(shí)了一些潮汕后裔大學(xué)生，他們中有的是混血，也有柬埔寨的潮汕后裔，他們不會(huì)說(shuō)潮汕話。但他們告訴我，如今在法國(guó)興起了一個(gè)運(yùn)動(dòng)，這些年輕的潮汕后裔開(kāi)始組織協(xié)會(huì)或自發(fā)組織，開(kāi)展文化尋根活動(dòng)。有位年輕導(dǎo)演叫杜來(lái)順，拍了一部動(dòng)畫(huà)片講述潮汕的故事。盡管他們離開(kāi)很遠(yuǎn)很久了，但他們?nèi)韵Ｍ麑ふ易陨砦幕母础?/p>

我覺(jué)得尋根的沖動(dòng)是人類的本質(zhì)之一，它不會(huì)因?yàn)槟阕叩眠h(yuǎn)而消失，它會(huì)以不同的形式重生。就好像我寫(xiě)在VR建一個(gè)潮汕祠堂，你的先輩們都是以這種虛擬的數(shù)字人的形式被供奉，你還可以跟他們?nèi)セ?dòng)，其實(shí)也是一種對(duì)故鄉(xiāng)的科幻式表達(dá)。

我覺(jué)得人最后還是需要回答一些最本質(zhì)的問(wèn)題，那就是我是誰(shuí)？我從哪里來(lái)，我要到哪里去？就這幾個(gè)問(wèn)題，人是逃不掉的。