◆劉 暢

話題一：ChatGPT 與意識(shí)之謎

Q1：ChatGPT 引發(fā)了對人工智能心智問題的廣泛討論，一些人認(rèn)為現(xiàn)今如ChatGPT 這樣的人工智能已經(jīng)具有意識(shí)。您如何看待這個(gè)問題？您覺得我們判斷意識(shí)存在的標(biāo)志應(yīng)當(dāng)是什么？

劉暢：在我看來，有一條基本原則，可以稱它“自主性原則”：只有具備自主行為能力的生命體，才能有意義地談?wù)撍怯幸庾R(shí)的還是沒有意識(shí)的。

怎么理解這里說的“自主”？我們可以在自主的反應(yīng)和自動(dòng)的反應(yīng)之間做一個(gè)區(qū)分。生命體同環(huán)境的互動(dòng)中，有大量反應(yīng)都不是自主的，而是自動(dòng)的。比如我們已經(jīng)知道，人類擁有一套相當(dāng)復(fù)雜精妙的免疫系統(tǒng)，功能之強(qiáng)大，遠(yuǎn)超人們之前的想象。但整個(gè)免疫系統(tǒng)都是在意識(shí)之下的層次，以自動(dòng)而非自主的方式運(yùn)行的。我們意識(shí)不到免疫系統(tǒng)的反應(yīng)，也不能控制——至少不能直接地控制——免疫系統(tǒng)怎樣來做出反應(yīng)。呼吸，多數(shù)情況下也是一種自動(dòng)反應(yīng)。有所不同的是，我們能意識(shí)到我們的呼吸。從而，我們也能自主地、有意識(shí)地調(diào)整呼吸，比如平衡呼吸的節(jié)奏，比如屏住呼吸?？梢哉f，意識(shí)為我們提供了一個(gè)自主控制、自主選擇的反應(yīng)空間。沒有意識(shí)活動(dòng)之前，這個(gè)空間是不存在的。

可能有一種誤解，以為意識(shí)活動(dòng)存在的意義，就在于更好地趨利避害——比如疼痛會(huì)讓我們對傷害做出即時(shí)反應(yīng)，保留創(chuàng)傷的印象，免得“好了傷疤忘了疼”。不過，沒有意識(shí)不等于沒有反應(yīng)。遇到強(qiáng)光，瞳孔會(huì)自動(dòng)收縮，避免強(qiáng)光傷害眼底，哪怕這時(shí)的我們處在無意識(shí)的狀態(tài)。人類的免疫系統(tǒng)能夠準(zhǔn)確高效地識(shí)別有害的抗原信息，保留長達(dá)數(shù)十年的“免疫記憶”。說溜了嘴，我們可能也說免疫系統(tǒng)會(huì)“意識(shí)”到、“覺察”到抗原信息，但這其實(shí)只是說：免疫系統(tǒng)會(huì)對抗原信息做出一系列的“反應(yīng)”。這類自動(dòng)的、非自主的反應(yīng)，普遍存在于一切生命體中。細(xì)菌、草履蟲這樣的簡單生物，也一樣能通過自動(dòng)反應(yīng)趨利避害，而我們不必?fù)?jù)此認(rèn)定，它們就對刺激具有意識(shí)。陳嘉映先生有個(gè)說法，我覺得很有啟發(fā)，他說我們之所以意識(shí)到疼痛，與其說在于讓我們更有效地規(guī)避傷害，不如說在于讓我們有機(jī)會(huì)在規(guī)避傷害和忍痛前行之間，做一個(gè)自由的選擇。

不錯(cuò)，一個(gè)人若是由于疾病或其他原因喪失了疼痛感，他就不能基于疼痛感做出準(zhǔn)確即時(shí)的反應(yīng)，但這只是因?yàn)槲覀內(nèi)祟愐呀?jīng)活在這個(gè)有意識(shí)的層次了?？偛荒苷f，人之所以長出手指，就是因?yàn)椴婚L手指就刷不了手機(jī)……認(rèn)定沒有疼痛感我們就不能對傷害做出反應(yīng)，也是犯了類似的錯(cuò)誤。

一種反應(yīng)是自主的，意味著它不只可以在原因的意義上問為什么，也可以在理由的意義上問為什么。你問我為什么遇到強(qiáng)光就要收縮瞳孔？如果你問的是原因，這個(gè)問題有個(gè)答案，哪怕我自己并不知道。如果你問的是理由，這個(gè)問題就沒有答案，因?yàn)檫@本不是一個(gè)有意義的問題。收縮瞳孔不是我自主的、有意識(shí)的反應(yīng)，我說不上是出于什么理由才去收縮瞳孔的。瞳孔自顧自地做出了反應(yīng)，而不是我在有意識(shí)地收縮瞳孔。也可以說，是瞳孔在反應(yīng)，而不是我在反應(yīng)。相反，你問我為什么忍著疼也要走下去，我就有可能給出一個(gè)理由——比如規(guī)避更大的風(fēng)險(xiǎn)，比如榮譽(yù)和尊嚴(yán)，等等。不論哪一種理由，都不能完全還原為推動(dòng)身體做出如此反應(yīng)的致動(dòng)因。在這一點(diǎn)上，ChatGPT 和我們區(qū)別了開來。它沒有自主性的反應(yīng)。它做出的所有操作，如果說得上有個(gè)為什么的話，只有因果機(jī)制意義上的為什么。如果貌似有個(gè)理由，這個(gè)理由最終也會(huì)坍縮為原因。所以要我來看，ChatGPT 還談不上有意識(shí)，這個(gè)事實(shí)還挺清楚的。

Q2：您剛剛提到自主性與自動(dòng)性的區(qū)分，但有可能特定的功能疊加起來后，就形成了意識(shí)。而且自主性也可能并非超越自動(dòng)性，二者可能是處于同一范疇的概念，都只是一些基礎(chǔ)認(rèn)知功能疊加起來后表現(xiàn)出的形式，關(guān)于這種觀點(diǎn)，您怎么看？

劉暢：你提到的幾點(diǎn)我都挺贊同的。我也愿意強(qiáng)調(diào)，不論自主的反應(yīng)，還是自動(dòng)的反應(yīng)，都可能是從足夠復(fù)雜的功能系統(tǒng)中涌現(xiàn)出來的。如果我們相信達(dá)爾文，那么我們的這套復(fù)雜精妙的免疫系統(tǒng)，應(yīng)該就是從億萬年的演化進(jìn)程中涌現(xiàn)出來的。我們也知道，ChatGPT 在語義、邏輯方面表現(xiàn)的出色能力，同樣是“大力出奇跡”的結(jié)果，而不是軟件工程師一開始就設(shè)定好的。僅著眼于“涌現(xiàn)”，并不足以把自主和自動(dòng)區(qū)別開來。

我也同意，自動(dòng)反應(yīng)和自主反應(yīng)在某種意義上可以相互轉(zhuǎn)化，二者并非處處都有一道清晰的界線。像前面提到的，呼吸一般是自動(dòng)反應(yīng)，但一定程度上，也可以得到自主地控制。我們的自主反應(yīng)也可能轉(zhuǎn)化為自動(dòng)反應(yīng)：聽到熟悉的指令，我們就下意識(shí)地做出條件反射式的動(dòng)作。不論自主的或自動(dòng)的反應(yīng)，也都可以細(xì)分為若干不同的層級(jí)。機(jī)械鐘的自動(dòng)報(bào)時(shí)和生物鐘對睡眠的自動(dòng)調(diào)節(jié)，顯然不是同一層次的自動(dòng)反應(yīng)。

我同樣不愿意說，人類心智與人工智能的差別，就在于自主的反應(yīng)總比自動(dòng)的反應(yīng)在功能上更為強(qiáng)大。實(shí)際上，我一直覺得人工智能的討論中有一個(gè)誤區(qū)，好像只有人工智能全面地、徹底地戰(zhàn)勝人類智能之后，它才配在真正意義上具有意識(shí)。這類“以成敗論意識(shí)”的邏輯顯然在哪里出了問題。照此來講，不只現(xiàn)有的AI 不配有意識(shí)，現(xiàn)有的人類個(gè)體恐怕也沒有哪個(gè)配有意識(shí)。我們中有誰敢說在所有智力領(lǐng)域都勝過了其他所有人呢？哪怕你擊敗了跳棋冠軍、象棋冠軍，你還沒擊敗圍棋冠軍呢！哪怕你高分通過了律師考試，你還創(chuàng)作不出《蒙娜麗莎》呢！……但我們要問的是人類和AI 有的是不是兩種不同類型的智能，而不是評(píng)選哪個(gè)才是“最強(qiáng)大腦”。

這里的關(guān)鍵點(diǎn)在于，“自動(dòng)”是一個(gè)功能性概念，“自主”卻不是。自動(dòng)和自主，都有“自行其事”的特征，卻是在不同層次上的。從我的語感上講，一個(gè)人具有自主行為的能力，說的顯然不是他具有自主行為的“功能”。功能總是某種達(dá)成目的的手段。一個(gè)功能系統(tǒng)是自動(dòng)的，表現(xiàn)在它會(huì)自行完成達(dá)成目標(biāo)的操作。比如，一臺(tái)裝有防抱死系統(tǒng)的汽車可以根據(jù)速度傳感器的信號(hào)，自動(dòng)調(diào)節(jié)制動(dòng)模式。機(jī)器的自動(dòng)化、智能化，都是在純功能的意義上講的。

自主卻體現(xiàn)在對目標(biāo)的自由選擇上。人工智能不具備自主性，不在于它不具備自主的功能，而在于它不具備自主的資格。我們不容許它在目標(biāo)制訂的層面取代我們。注意，這說的并不是在技術(shù)層面，我們總能確保對AI 的精準(zhǔn)控制，不容其“越雷池一步”。假定，AI 代替我完成了購物操作。如果這是它因?yàn)槲翌A(yù)先的指令而完成的自動(dòng)操作（我的指令也可能極籠統(tǒng)），這步操作就應(yīng)當(dāng)被認(rèn)可——它訂的東西就應(yīng)當(dāng)算作我訂的東西，哪怕我會(huì)改變主意，就像我自己購物時(shí)也會(huì)發(fā)生的那樣。而如果是AI 自己在“擅作主張”，且不管導(dǎo)致這一故障的起因是什么，這步操作原則上就是不會(huì)被認(rèn)可的。它的決定不可能替代我的決定。這種“不可能”，來自規(guī)范的限制，而不是功能的限制。實(shí)際上，只要我足夠任性，我完全可以給AI 做出“隨機(jī)購物”的設(shè)定。技術(shù)上這是極易實(shí)現(xiàn)的。但這當(dāng)然不意味著AI 就因此“涌現(xiàn)”出了自由意志。

Q3：回到一開始的討論，您談到意識(shí)的自主性原則時(shí)，說只有生命體才可能具有意識(shí)。掃地機(jī)器人沒電的時(shí)候也能自己跑去充電，這和生命體的覓食活動(dòng)很類似。我們也可以認(rèn)為AI 是一個(gè)生命體嗎？或者，因?yàn)镃hatGPT 不具有物理形體，所以不具有意識(shí)？

劉暢：我更愿意從目的、手段的區(qū)分來理解AI 和生命體的差別。所有生命體都有一個(gè)內(nèi)稟的目的，即生命自身的延續(xù)。這是生命科學(xué)對各種各樣的生命現(xiàn)象做出解釋的基點(diǎn)。而AI 屬于廣義的工具。工具沒有內(nèi)稟的目的。它作為達(dá)成目的的手段存在，它要達(dá)成的目的是我們?yōu)樗O(shè)定的。智能掃地機(jī)器人帶有自動(dòng)充電的功能，這個(gè)功能的存在當(dāng)然是為我們服務(wù)的。構(gòu)成生命現(xiàn)象的種種自動(dòng)反應(yīng)也具有這樣那樣的功能，但這些功能服務(wù)于生命的目的自身。

往大里說，這在于工具和生命體的存在論地位不同。就像海德格爾舉的例子：當(dāng)我們起勁地用一把錘頭捶打東西的時(shí)候，它才特別地“是”一把錘頭。如果它被報(bào)廢了，不再作為捶打工具存在了，它就不再作為錘頭存在了。我們也可以借助生命體的某些機(jī)能，間接服務(wù)于我們的目的。我們可以生產(chǎn)雙歧桿菌，服用雙歧桿菌，幫助我們消化。但就算不被應(yīng)用于這樣的目的，雙歧桿菌還是雙歧桿菌。

胃腸的蠕動(dòng)、消化液的分泌在無意識(shí)的層面服務(wù)于我們，生產(chǎn)、服用益生菌在有意識(shí)的層面服務(wù)于我們，這二者的區(qū)別前面已經(jīng)說了不少了。但換個(gè)角度看，生命體的自動(dòng)反應(yīng)其實(shí)跟生命體的自主反應(yīng)更相似，而與AI 的自動(dòng)反應(yīng)有質(zhì)的不同。理由很簡單：AI 根本上是為了我們的目的而存在的，所以它壓根不可能具有真正的自主性。不論它有或沒有一個(gè)物理的形體，都是如此。

話題二：哲學(xué)與心靈哲學(xué)

Q1：您用自主來解釋意識(shí)，但我覺得，自主和意識(shí)在您那兒似乎是一對相互解釋的概念，不論哪一個(gè)，似乎都還沒有得到清楚的定義。您所做的是不是一種循環(huán)定義呢？

劉暢：好問題。我個(gè)人的想法是這樣的：在人工智能或是其他話題上，哲學(xué)能夠貢獻(xiàn)的其實(shí)是一種反思。哲學(xué)與其說是要教會(huì)我們?nèi)ダ斫饽切┪覀冞€不理解的東西，不如說是要和我們一道去理解那些我們向來已經(jīng)理解的東西。所以，我更愿意把哲學(xué)的工作叫做一種“元理解”——對我們已經(jīng)理解的概念的一種再理解；而不是，比方說，去發(fā)明一堆我們自己都還不理解的概念。

人工智能是個(gè)交叉領(lǐng)域，不同學(xué)科各顯其能。但哲學(xué)與其他學(xué)科的一個(gè)重要區(qū)別在于，像計(jì)算機(jī)科學(xué)、腦科學(xué)或其他涉及工程技術(shù)的學(xué)科，所要做的是為我們提供嶄新類型的知識(shí)，而這勢必就要涉及新概念的引入和定義；哲學(xué)所要做的卻是在這個(gè)新語境下，重新思考困惑了我們幾百上千年的老話題，比如什么是心靈？什么是意識(shí)？這個(gè)意義上，正因?yàn)橄瘛白灾鳌薄白詣?dòng)”“原因”“理由”“目的”“手段”等等是我們本來就在使用、就已理解的概念，是不需要格外加以引入和定義的，對這些概念的考察才成其為哲學(xué)家的任務(wù)。并且，也是哲學(xué)家責(zé)無旁貸的任務(wù)。

如果你把對這些概念的考察叫做“循環(huán)解釋”“循環(huán)定義”，聽上去可能就挺負(fù)面的。我們不妨用個(gè)更中性的提法，就把這叫做解釋性的工作。我們用我們已經(jīng)理解了的概念，去解釋我們對另一些概念的理解。而這在形式上的確就有可能出現(xiàn)我們一會(huì)用概念A(yù) 來解釋概念B，一會(huì)又用概念B 來解釋概念A(yù) 的情況。這不見得就是多么要不得的做法。因?yàn)槿绻拍預(yù) 和概念B 在我們這兒本來就是有其用法的，它們的用法本來就是相互交織的，那么我們所做的，實(shí)質(zhì)上就是結(jié)合概念A(yù) 的用法，來演示概念B 的用法，或者反過來，結(jié)合概念B 的用法來演示概念A(yù) 的用法。反正，這不是單拿一個(gè)字眼去跟另一個(gè)字眼對應(yīng)，而是通過概念的實(shí)際應(yīng)用，來展現(xiàn)概念的實(shí)際涵義。這其中不存在什么惡性循環(huán)。

當(dāng)然，這類在概念層面上展開的反思，就像我們在其他地方從事的反思一樣，從來都不只是照抄、重復(fù)，而是要換一個(gè)視角，對那些既有的、很可能似是而非的觀念做出調(diào)節(jié)、整頓、糾正。這個(gè)過程中，我們可能會(huì)調(diào)用五花八門的知識(shí)，設(shè)想概念得到應(yīng)用的多重可能情形，但從原則上講，我們的目的并不是要?jiǎng)?chuàng)造乃至捏造新的概念，而只是要讓我們既有的觀念系統(tǒng)更有序一些，更健康一些。

Q2：您提到原因和理由不能相互覆蓋，但怎樣界定這兩個(gè)概念，似乎還是比較模糊的。在有關(guān)意識(shí)的問題上，怎樣理解它們不能相互覆蓋的關(guān)系呢？

劉暢：是的，原因和理由的確是個(gè)更大的話題。我僅就個(gè)人的理解再作兩點(diǎn)局部的澄清吧。首先，我們關(guān)于理由的知識(shí)是一類自我知識(shí)，這與關(guān)于原因的知識(shí)有本質(zhì)的不同。受到這樣的刺激，我的腦神經(jīng)系統(tǒng)為什么就會(huì)做出這樣的反應(yīng)？這問的是原因。問題的答案是什么，由腦科學(xué)家說了算，而不由我說了算。感受到了疼痛，我為什么還要繼續(xù)走下去？這問的是理由。答案是什么，原則上由我說了算。我給出的理由是對我所思所感所作所為的一種組織，而所有這些都是我既已意識(shí)到的。理由總是存在于意識(shí)場中的一種關(guān)聯(lián)。當(dāng)然，心理分析學(xué)家也可能挖掘出我自己仍未意識(shí)到的一種深層關(guān)聯(lián)，引導(dǎo)我發(fā)現(xiàn)這樣做的“真正理由”是什么。但在這個(gè)問題上，弗洛伊德本人的一點(diǎn)提示我認(rèn)為是極其關(guān)鍵的———他說，不論心理分析的結(jié)論是什么，最終都必須獲得被分析者本人的認(rèn)同。就我的理解看，這不只關(guān)乎心理分析的成敗，而且根本上關(guān)乎心理分析的真假。涉及有意識(shí)的、自主的反應(yīng)，如果說得上有個(gè)“真正的理由”，那么這必定是對既有理解的再理解，是我原則上經(jīng)由反思可以通達(dá)的，哪怕由于某種心理防御機(jī)制，這個(gè)理由向我本人掩藏了起來。

第二，理由是一種合規(guī)范的關(guān)聯(lián)，而這不能等同為合規(guī)律的關(guān)聯(lián)。遇到這樣的刺激，我的大腦為什么要這么反應(yīng)，這與我怎樣理解、是否理解這類腦神經(jīng)現(xiàn)象無關(guān)。我理解也好，不理解也好，大腦該怎么反應(yīng)還怎么反應(yīng)。這是自然規(guī)律使然。我之所以這樣行動(dòng)的理由是什么，卻不可能與我的理解無關(guān)。所以，理由總是個(gè)人性的——不見得你這樣理解，或大家都這樣理解，我就非這樣理解不可。適用于你的理由，不見得就是適用于我的理由。另一方面，理由又是公共性的。理由不是封鎖在“盒子里的甲蟲”。合乎道理的理由才成其為理由。而道理不只是我的道理。我也可能被道理說服，從而放棄之前的理由。這兩點(diǎn)當(dāng)然并不矛盾。實(shí)際上，這恰恰構(gòu)成了規(guī)范區(qū)別于規(guī)律的兩點(diǎn)重要的特征。規(guī)范從來是公共的規(guī)范，是你我都要遵從的，但這不同于與你我理解無關(guān)的那種普遍規(guī)律；同一件事情上，也可能你有你的理解，我有我的理解，而我們的理解各有各的道理，各有各的理由。我愿意說，人類的那些自主的、有意識(shí)的反應(yīng)，恰恰就活動(dòng)在這片公共性與個(gè)人性兼?zhèn)洹⒁?guī)范與自由并存的理性空間。這是你我的自主意識(shí)得以生長的空間。

Q3：從您剛剛的觀點(diǎn)中，我能感受到您對物理主義的反對。但在某種意義上，您給出的“理由和原因不能相互代替”的立場，似乎不能回避掉最根本的對心理因果性（mental causation）的追問。我們可以接受理由與原因不相互還原，但似乎只要承認(rèn)處于最基礎(chǔ)的本體論位置的因果性的存在，我們看到的圖景就依然是物理主義的。您認(rèn)為您給出的方案如何能處理mental causation的問題？

劉暢：確如你所言，有關(guān)物理主義的爭論中，mental causation 是個(gè)不容回避的問題。不過可能跟許多哲學(xué)家的立場不太一樣，我會(huì)傾向于認(rèn)為這個(gè)問題從一開頭就被提錯(cuò)了。

什么是所謂“心理因果性”難題呢？假定，我經(jīng)過權(quán)衡，決定忍著疼走下去。物理主義者愿意說，我之所以繼續(xù)走下去，是由物理層次的原因充分決定的。如果我們認(rèn)同這一點(diǎn)，就會(huì)陷入一種兩難：要么，我們否認(rèn)心理層次的原因存在，但這樣的話，似乎也就否認(rèn)了我的權(quán)衡、我的決定會(huì)對我的行動(dòng)產(chǎn)生因果效力，從而從根本上否認(rèn)了人類的主體性；要么，我們承認(rèn)心理原因的存在，但這樣的話，似乎又要在物理原因之外憑空假定另一類子虛烏有的原因——因?yàn)榧热晃锢碓蛞呀?jīng)充分決定了我會(huì)做什么，又為什么要多此一舉假定有其他的原因呢？金在權(quán)這樣的物理主義者認(rèn)為，破解這個(gè)兩難困境的唯一辦法，就是要承認(rèn)心理上的東西終究不過是物理上的東西，二者根本上是一碼事。我的權(quán)衡、決定依然可以被說成導(dǎo)致了我的行動(dòng)，但歸根到底，它們是訴諸一系列底層的、物理的原因來具有因果效力的——于是，謎題得解。

怎樣回應(yīng)物理主義還原論的這套解法呢？頭一點(diǎn)，我想問的是：“物理層次的原因充分決定了我的行動(dòng)”這話是什么意思？如果還原論本來就是我們所要抗拒的，如果我們所反對的恰恰就是把有意識(shí)的行動(dòng)還原為純粹的物理過程呢？維特根斯坦舉過一個(gè)例子：朋友落水了，我跳下水救他。但如果事情被描述成另一幅樣子——我因?yàn)橐贿B串的物理刺激，從視網(wǎng)膜到大腦，再從大腦到肌肉，一環(huán)扣一環(huán)，最終導(dǎo)致我無可轉(zhuǎn)圜地跳到水里——這是不是就從根本上扭曲了事情的性質(zhì)呢？仿佛我是個(gè)被程序操控的傀儡，身不由己地做著這個(gè)那個(gè)。我之所以跳下水，的確有充分的理由：朋友落水了，我得去救他。但充分的理由不等于充分的原因。并不是說，只要這個(gè)理由擺在那里，我就會(huì)被它推動(dòng)，不得不跳進(jìn)水里。物理主義者把“心理原因所導(dǎo)致的行動(dòng)”當(dāng)成主體性的標(biāo)志，可以說從一開頭就搞錯(cuò)了原因和理由的這一差別。

一個(gè)行動(dòng)是我自主地做出的，體現(xiàn)了我的主體性，并不在于在物理致動(dòng)因之外或之上，又多了一種由“我”或我的心靈發(fā)出的致動(dòng)因。理由和基于理由做出的自主行動(dòng)之間，有的不是功能層面的推動(dòng)關(guān)系，而是規(guī)范層面的推論關(guān)系。理由解釋了我之所以這樣行動(dòng)的道理，而并非以某種神乎其神的方式，觸發(fā)了另一類非物理的因果過程。

有些哲學(xué)家更愿意強(qiáng)調(diào)：我們的物理宇宙在基礎(chǔ)層次（比如量子力學(xué)的層次）就是非決定論式的——不論前一刻發(fā)生了什么，都不足以決定我們的大腦下一刻會(huì)做出什么樣的反應(yīng)。對于這類思路，我現(xiàn)在只想強(qiáng)調(diào)一點(diǎn)：隨機(jī)的反應(yīng)不等于自主的反應(yīng)。屬于人的自主與自由，不存在于哪個(gè)足夠微觀的物理層次上，而是存在于另一種迥異于物理式的、功能式的理解面相上。不論神經(jīng)元層次發(fā)生的事情是不是隨機(jī)的，那都不是我自主的反應(yīng)。我們需要換一個(gè)角度，從另一種意義上去問“為什么”，我們所要理解的自主、意識(shí)、主體才可能在這個(gè)面相中浮現(xiàn)出來。

話題三：ChatGPT 與人類生活

Q1：我也同意，現(xiàn)在的人工智能還不具有自主性的意識(shí)。但我覺得不能排除這樣一種可能性：將來有一天，人工智能也許會(huì)像人一樣做出自主的決策，就像《流浪地球》中的MOSS 那樣，雖然我們還是希望它的自主性是受我們控制的。您怎樣看待這樣一種可能性？

劉暢：這個(gè)問題我想從兩方面來回答。一方面，我會(huì)反對把主體層面的自主反應(yīng)還原為功能層面的自動(dòng)反應(yīng)。再舉一個(gè)維特根斯坦的例子：你要我出去，隨后我也出去了。但有兩種可能：一種是“我出去了，因?yàn)槟阋页鋈ァ?，一種是“我出去了，卻不是因?yàn)槟阋页鋈ァ?。如果我一聽到這話就自動(dòng)出去了，我的反應(yīng)多半是下意識(shí)的，你的命令直接導(dǎo)致了我的行動(dòng)。如果我是權(quán)衡了一番，自主地決定出去的，我就有我自己的理由。不過，不論我走出房門的動(dòng)作是不是自主的，在腦神經(jīng)層次，都會(huì)有一系列生理性的、功能性的過程發(fā)生。所有這些腦神經(jīng)反應(yīng)都是自動(dòng)的——因?yàn)槲也豢赡茏灾鞯乜刂颇X神經(jīng)元怎樣來反應(yīng)，除非，你一上來就把我的思考、選擇等同為了這些神經(jīng)活動(dòng)。

未來AI 技術(shù)的發(fā)展，很可能會(huì)在功能層面逼近乃至大大超越人類的大腦。不過原則上講，這仍是一些足夠精致的自動(dòng)反應(yīng)而已。就像談不上我怎樣來控制我的大腦反應(yīng)，也一樣談不上AI怎樣來控制它的程序反應(yīng)。它只是在按部就班地完成一步步的操作，不管其中的步數(shù)有多復(fù)雜。的確，我們無法預(yù)先排除人工智能未來脫離人類控制的可能性，雖然這是我們不愿看到的。不過即便這樣的事情發(fā)生了，也只意味著我們多了一部有待修理的機(jī)器，而不意味著它就自行生長出了自主意識(shí)。在這個(gè)純粹功能性的層面，并沒有為自主性留出一個(gè)位置。

我們原本又是怎樣判定一個(gè)人的行為舉止是自主地做出的呢？這首先取決于我們是否已經(jīng)把這個(gè)人認(rèn)作了一個(gè)主體，而不是一部依照因果規(guī)律運(yùn)作的生物機(jī)器。我們并沒有把他簡單當(dāng)作“會(huì)說話的工具”。就此而言，人機(jī)對話和人人對話存在性質(zhì)上的差別。人機(jī)對話是我操控它、使用它的手段，人人對話卻不是我操控你、使用你的手段。由是可以想見，我跟MOSS 之間，可能會(huì)展開與我們現(xiàn)在的對話非常類似的一種對話活動(dòng)，但存在于你我之間的這種平等、互認(rèn)的關(guān)系，在我和MOSS 之間是不存在的。

這就來到了我想談的另一個(gè)側(cè)面。我也樂于承認(rèn)，我們無法從根本上預(yù)測人工智能在未來的發(fā)展，而這其中的重要一環(huán)就在于，我們無法預(yù)先決定未來世界的人類會(huì)以怎樣的方式與AI 共處。人類與AI 之間，是否會(huì)發(fā)展出一種“我與你”、而非“我與它”的關(guān)系？未來的我們會(huì)把AI接納為人類社會(huì)的一員嗎？……我并不是要鼓勵(lì)對未來作過于浪漫的設(shè)想，而只是想強(qiáng)調(diào)，人工智能能否具有真正的自主意識(shí)，不只取決于AI，而且取決于我們，或者說，取決于我們將怎樣理解“我們”。不過，這將是有待在社會(huì)歷史層面展開的一個(gè)話題了。

Q2：人工智能算法確實(shí)為我們提供了便利，但我們也常常會(huì)受算法的影響。例如，我們會(huì)對它推送的信息產(chǎn)生依賴性，而影響我們做出真正自主的選擇。這好像會(huì)導(dǎo)致一個(gè)結(jié)果，即人最終似乎會(huì)成為被算法馴化的物體。您怎么看待這個(gè)問題？

劉暢：我再引用一次陳嘉映老師的話吧！他說我們問AI 會(huì)不會(huì)有一天具有人類的智能，所想的往往是：AI 會(huì)不會(huì)越來越像今天的人類，但情況也可能反過來：人類不斷向AI 趨近，人變得越來越像AI。于是，人類和AI 同時(shí)向著彼此靠近，還說不準(zhǔn)就在未來的某刻重合了。

我的設(shè)想或許更樂觀些。技術(shù)的發(fā)展也可能把我們真正屬于人的創(chuàng)造力激發(fā)出來。比如我們知道，現(xiàn)代藝術(shù)的發(fā)生，一個(gè)重要的促動(dòng)因是照相術(shù)。照相術(shù)出現(xiàn)前，寫實(shí)曾是一項(xiàng)具有很高價(jià)值的工作。但由于照相術(shù)的出現(xiàn)，寫實(shí)的藝術(shù)或者說技術(shù)馬上貶值了。這反過來激發(fā)藝術(shù)家去做一些相機(jī)沒有辦法做的工作。由此，傳統(tǒng)的畫匠、技師漸漸成為了今天意義上的藝術(shù)家。某種意義上，也可以說這帶來了現(xiàn)代藝術(shù)的自我意識(shí)的覺醒。

類似的情況也正在人工智能領(lǐng)域發(fā)生。GPT們正在飛速替代那些不怎么需要?jiǎng)?chuàng)造力、思考力的工作——廣義上都可以叫做“搬磚”的工作。但也僅限于此。跟ChatGPT 聊天，總讓我有一種莫名的熟悉感。我品了一下，應(yīng)該就是彌漫在學(xué)術(shù)界的、法蘭克福叫做“bullshit”的說話方式。法蘭克福有一本小書，書名叫“On Bullshit”，中文譯作“論扯淡”。他自述寫這本書的起因，就是他在當(dāng)今美國大學(xué)感受到的無所不在的“扯淡”。他強(qiáng)調(diào)說，真相最大的敵人其實(shí)不是謊言，而是bullshit——扯淡，或者南方人常說的“搗漿糊”。因?yàn)檎f謊者那里，至少還有一個(gè)真假的分別在，說謊者知道什么是真話，所以才說假話。扯淡者卻根本不在乎什么是真話，什么是假話。不管給他一個(gè)什么話題，他都能用“話滾話”的方式，振振有詞地胡謅上一番。

我感覺，ChatGPT 是這類話術(shù)的一個(gè)典型。實(shí)際上，就像它的名字所提示的，它本身就是一部巨大的、高效的transformer，一個(gè)話語轉(zhuǎn)換器。大家常提到ChatGPT 會(huì)“一本正經(jīng)地胡說八道”，即所謂“AI 幻覺”：它會(huì)言之鑿鑿地向你提供明顯是虛假的信息。但我覺得，這一點(diǎn)很容易掩蓋GPT的另一類更加嚴(yán)重的問題?！癆I 幻覺”更像一個(gè)人在說謊——我們一旦掌握了正確信息，就很容易識(shí)破這類謊言。但GPT 輸出的，更多卻是一類因?yàn)椤把灾疅o物”而“言之無誤”的空話、套話（而不是錯(cuò)話、假話）：它模糊一團(tuán)，又因?yàn)槟：粓F(tuán)顯得中規(guī)中矩；它好像說了點(diǎn)什么，而且說了不少，但仔細(xì)分辨，又好像什么都沒說，至少什么都沒說清楚。這恐怕不是通過技術(shù)升級(jí)就能夠解決的問題。因?yàn)樽鳛橐粋€(gè)話語轉(zhuǎn)換器，GPT 本來就不是要在真正意義上表達(dá)些什么，而只是在運(yùn)用算法從一個(gè)詞連到另一個(gè)詞，從一堆話堆出更多的話。

轉(zhuǎn)頭看今天的學(xué)院教育，一個(gè)巨大的副作用恐怕是類似的“肉身話語轉(zhuǎn)換器”的批量生產(chǎn)。不過換個(gè)角度想，ChatGPT 的出現(xiàn)反倒是一件幸事。因?yàn)榧热贿@類低分辨率—低質(zhì)量的、既“言之無誤”又“言之無物”的話語已經(jīng)足夠由GPT 提供給我們了，恰恰可以想見，作為“肉身話語轉(zhuǎn)換器”存在的“磚家”們就會(huì)立即貶值。這為我們敞開了一片可能的空間。就像攝影術(shù)并沒有終結(jié)繪畫，而是刺激了繪畫藝術(shù)的獨(dú)立發(fā)展，GPT 同樣可能倒逼著我們?nèi)プ非竽切┯杏^點(diǎn)、有創(chuàng)見、哪怕“言之有誤”也要“言之有物”的表達(dá)。只有這些表達(dá)才是不可能被GPT 替代的。如果我們不想明天被GPT 取代，不妨從今天起，學(xué)習(xí)自主思考，學(xué)習(xí)好好說話。

（2023 年4 月12 日筆者受邀與中國人民大學(xué)哲學(xué)院學(xué)生會(huì)的學(xué)生圍繞ChatGPT 進(jìn)行了一次訪談，本文基于訪談錄音稿整理而成。）