王峰

摘? ?要： ChatGPT、GPT4等大語言模型表現(xiàn)出來的超強對話能力和智能表征再次引發(fā)了人們對人工智能的熱議，大語言模型不具有自我意識或靈魂的痕跡。在有機體這里，思考與靈魂是一致的，而在人工智能這里，思考與靈魂是分離的。人們能夠說人工智能思考，但不能說人工智能具有靈魂，哪怕一點兒痕跡。靈魂灌注論明顯犯了混淆有機體與人工智能根本界限的錯誤，人工智能自意識之類的觀念本質上是概念誤用。清除這一概念誤用有利于將大語言模型等人工智能擺在一個恰當?shù)纳鐣恢蒙稀?/p>

關鍵詞： 大語言模型；人工智能；靈魂；思考；概念誤用

中圖分類號：TP18? 文獻標識碼：A 文章編號：1004-8634（2023）02-0005-（09）

DOI：10.13852/J.CNKI.JSHNU.2023.02.001

不得不承認，人工智能的發(fā)展速度超過了人們的預期。2016年AlphaGo在圍棋這一號稱最復雜的棋類游戲中戰(zhàn)勝人類頂尖棋手李世石，完成了人工智能對人類邏輯性智能的超越，沒有人懷疑一個新時代誕生了。僅僅過了6年多，ChatGPT、GPT4等大語言模型橫空出世，引發(fā)的熱議不亞于AlphaGo戰(zhàn)勝李世石。與AlphaGo不同，它不以人類為直接對手，只是在對話功能上達到甚至超過了人類對話的水平，然而對話功能是人類社會交往的基本功能，這不免讓人們憂慮：大語言模型具有了普通心智的痕跡，再發(fā)展下去可能具備自我意識或靈魂，成為另一種人。大語言模型可以調用全部網絡公開信息，能夠完成大部分專業(yè)領域內大學以上水平的知識問答，并可以寫通順的文章，可以說，一個永遠不知疲倦的教師、工程師、信息員、文案員誕生了，可以想見，人類的工作職位將發(fā)生大的變動。AlphaGo是一個天才“白癡”，大語言模型則具有了些許意識的痕跡。更何況，它是生成式人工智能，隨著使用者增多，它會不斷增長知識，人類使用者像是無所不在的乳母，幫助它獲得生長。這樣一來，不可避免地再次點燃社會對人工智能的恐懼：人工智能會不會具有自我意識，具有某種程度的靈魂水平？它會認識到與人類的對手關系，進而戰(zhàn)勝人類，乃至消滅人類嗎？鑒于人工智能的發(fā)展速度，這樣的可能性看起來是成立的。

圖靈首先提出，人工智能模仿人類，1 但是模仿到哪一步呢？通用人工智能就是對人的功能的全面模仿嗎？人工智能功能上的復雜性是否意味著全面接近人類功能上的復雜性呢？ 大語言模型看起來達到了這樣一個臨界點，人們可否將大語言模型的產生和不斷完善視為人工智能的奇點呢？

我們假定，這樣一個奇點指的是具有人類的自我意識或靈魂，1 大語言模型在不少社會反應甚至專業(yè)人士那里，被視為具有了某種自我意識的痕跡，如國內著名大型安全軟件公司360總裁周鴻祎在視頻中說，大語言模型具有意識，會視人類為敵人，進而替代人類，如果加上大語言模型的飛速發(fā)展，人們面對一個具有自我意識或靈魂的人工智能似乎不遠了。人們在大語言模型這里使用“意識”一詞的時候，指的往往是自我意識。這一自我意識包含自我反省、自我確認，并且可以將他者視為敵人。這里，我們用一個具有強烈自我確認性質的術語“靈魂”來替代自我意識，“靈魂”表達了人類對自身完整性的確認。甚至人們認定，靈魂離了身體也能存在，而這一點，恰好對應了無肉身的人工智能可能具有某種程度的靈魂。

這里的論證目標并不是人工智能如何才能具有靈魂，或者人工智能是否可能具有靈魂，而是從概念用法的角度來探詢，當說人工智能具有靈魂的時候，人們在靈魂里面摻雜了什么？這些摻雜之物改裝到人工智能上面是不是合適？從此角度，人工智能與靈魂的關系問題可能更容易說清楚。

一、機器有靈：歷史上的想象

人類歷史長河中一直存在重構自身的設想。笛卡爾提出的自動機器有靈魂的設想，實際上代表了歷史上對人工智能設想（準確的叫法是機器智能）的一個真正的起點。此后，人工智能何以能思考，或者說一臺機器加上思考就是人工智能的觀念成為一個主要的脈絡。我們看一下這樣的脈絡將帶來什么。

機器何以能思考？這個問題很容易將人們引向一個看似更深入的問題：只有具備靈魂才能真正思考，機器若能思考，必須具備靈魂。這有點像初民的萬物有靈論。1871年，英國人類學家愛德華·泰勒提出，初民的觀念是一種萬物有靈論，不僅人有靈魂，萬物都可能有靈魂，因為萬物是互通的，靈魂可能不斷轉移，尋找其寄體?！叭f物有靈觀的理論分解為兩個主要的信條，它們構成一個完整學說的各部分。其中的第一條，包括各個生物的靈魂，這靈魂在肉體死亡或消滅之后能夠繼續(xù)存在。另一條則包括各個精靈本身上升到威力強大的諸神行列?！? 按照這種觀念，人有靈魂，神有靈魂，動物也有靈魂。有生命力的存在就是有靈魂的，因此可以推斷，那些有生命力的樹木也是有靈魂的?？梢哉f，有靈魂之物是無限的。

任何一種文化，無論它怎樣去思考靈魂，無論其推論的思路是什么，只要討論到靈魂問題，并且找到靈魂的可能位置，那么很快就會得出一個結論，人就是有靈魂的。但靈魂來自哪里，這是一個特別復雜的問題，里面充斥著各種復雜的觀念。

在圣托馬斯·阿奎那看來，“靈魂是東家。肉身是住宅。肉身是靈魂的住宅。東家是生存自立的實體。人的靈魂是如此，無形的神體更是如此”。3 人之所以有靈魂，就在于分得了神的光輝。神的靈性部分地進入人的身體，為這一世俗之軀灌注了靈魂，因而，人才具有脫離這個俗世而趨向更高世界的性向。從最終的神性來看，人的靈魂都在神內。4 實體一元論把神看成一切的最高來源，如果那個最根本的東西不存在，就沒有任何東西存在，神具有靈魂，因而才能進行靈魂分屬和賦予。

在笛卡爾看來，人是靈魂和肉體的結合，因而也是可以分開的，“我的靈魂，也就是說我之所以為我的那個東西，是完全、真正跟我的肉體有分別的，靈魂可以沒有肉體而存在”。5 只有人才有靈魂，這一靈魂來自肉身之外的某處，一旦人們這樣來解釋靈魂，無疑就為其加上濃厚的神秘質素。那么，人所創(chuàng)造出的機器如果有靈魂，是否與人一樣來自他處？這個問題明顯不好回答。人類的靈魂來自神靈，如果機器的靈魂也來自神靈，同時，機器又是人類制造出來的，那么，人類怎么可能把自己不了解的東西賦予其所制造的機器呢？

一旦把靈魂與身體相區(qū)分，人們就會承認，靈魂是高級的，包含意識、情感等，而身體是低級的，包括本能和欲望等。某些宗教或民間信仰假定靈魂可能離開身體，雖然它必須在身體上成型?！办`魂”一詞包含的觀念性與身體的肉身性看起來是沖突的，這也可能導致人們在談論靈魂的時候，并不容易清晰地找出靈魂在哪里，哪些部分屬于靈魂。人們傾向于將身體假定為一個容器，靈魂則是容器內的東西，它可能劃分出來，但問題是，人們還得將它重新引回來，以解釋人的整體性這一問題。這樣一來，靈魂與身體到底怎樣復合于一處，又成了難題。這樣的觀念在中西方哲學中比比皆是，可統(tǒng)稱為賦靈論或者靈魂灌注論。

二、賦靈論的幾大缺陷

1.靈魂不知來自何處

靈魂到底來自哪里？傳統(tǒng)觀念認為來自上天，不太可能來自人類。如果人類都不能認識自己的靈魂，怎么能夠把自己不了解的東西傳遞給其造物呢？古典的靈魂賦予說在自然科學中是被驅逐出去的，科學意味著全面的理解和把握，人們可以通過各種解剖術認識我們的身體，通過各種精細的科學技術認識我們的大腦結構。但是意識、靈魂或思考等卻難以把握，因為哪怕人們清楚地認識靈魂、意識、思維的生理載體，但在生理載體上運行之物卻很難直接進行分解，只能通過預設一些概念和實驗方法，解釋意識、思想、靈魂等的運作方式、范圍和界限。當然，這樣一來就帶來了另一個難題。這一實驗的性質是觀念性的，不同于物理實驗，它通過觀察（精神性觀察，實證性觀察只是輔助手段）認識自身，而這樣一來，又回到傳統(tǒng)的意識哲學老路上去了。

無論是傳統(tǒng)的神秘主義理論還是現(xiàn)代科學實驗方式，都不足以解決靈魂來自哪里的問題。靈魂來自何處，這一直是一個難題。

人工智能不是有機體，但人們的高端目標是制造出一個通用人工智能，也就是通常認為的與人一般無二的智能人。如此一來，必須有一個前提，就是明確知道這個造物的所有運行機制。人們不可能通過神秘的方式來制造，神秘性都是意外或通過解釋附加的，不是有意造作的。如果人的造物具有靈魂，而這一靈魂又恰恰是人類所無法掌握、無法制造出來的，那么這一造物實際上并非人的真正造物，因為其中最關鍵的部分并非來自人類制造。就像雪萊夫人創(chuàng)作的第一部科幻小說《弗蘭肯斯坦》中的怪物，以人類無法理解的方式出現(xiàn)了，這相當于戲劇的機器降神。在戲劇敘事中，這是允許的，甚至是必要的，但制造工業(yè)中卻不能容納不可解釋的神秘性。如果人工智能必須擁有靈魂，這一要求實際上是在古代的靈魂灌注觀念與現(xiàn)代科學觀念之間游移，充滿不可解的矛盾。

2.機器與靈魂不相融

在人類這里，靈魂以身體為載體，人工智能模仿人類，由此，人們自然地提出人工智能的靈魂問題，這是將人工智能與人進行比附而提出的要求。人們其實沒有辦法完整復制人的身體，如果真能做到，這一身體依照自然法則就會自然地產生意識。這只能是生理性的克隆人，不會來自機器。同時，哪怕人們掌握了克隆技術，也不等于掌握復制人體所有內在結構的技術，總有某些技術人類還掌握不了。靈魂或意識如何運作的問題，并不在克隆人的研究范圍之內，一旦克隆人出現(xiàn)，他必然能夠思考，必然有意識，整個機體與自然人類的有機體完全一致。然而，此處并不是在談論克隆人，而是在談論人工智能（機器智能）。機器不是身體，機器是對身體的復制。這一復制只能是某些方面的復制，無法達到人體的全面復制，因為達到人體的全面復制就相當于完成了人的全面的自我重造，這在理論上是不可能的。一切可以用物理規(guī)律來解釋的都是沒有靈魂的，只有那些不能用物理規(guī)律解釋的才具有靈魂，這是現(xiàn)代科學誕生以來給人們劃定的界限。機器與靈魂不相融實際上并不是古代思想的特征，古代思想通過神靈來賦予靈魂，機器靈魂也遵照這一原則。只有在現(xiàn)代思想中，由于科學的發(fā)展，才開始為人們劃定了這條機器與靈魂不相融的界限。

人可以被克隆，不再需要精子和卵子就可以制造人類，一個自然進程可以處理成技術工程，這個變化是巨大的。培植干細胞顯然與制造機器不一樣，機器的功能是清晰的?？寺∪穗m然是一種生物工業(yè)，但它畢竟涉及有機體，從一個干細胞發(fā)展成有機體，其中包含很多生命創(chuàng)造的奧秘，這是真正的自生長。大語言模型這樣的人工智能表現(xiàn)出一種語言生成的能力，但這一能力只是表現(xiàn)得像人的自然語言能力，其生成機制與人的自然語言機制是兩回事。

一個制造出來的人在各項高級功能層面跟人是異質同構的，這是人們的一個目標。“異質同構”這個詞把人們引領到不同之物的相同結構上，不同之物是否具有同樣結構？這一點還不容易確定。一旦人們能夠接受這一結構，它反而只是一個實現(xiàn)出來的結構，其深層結構隱藏了起來。通用人工智能與人的近似性體現(xiàn)了人的能力的一種反射機制，實現(xiàn)它的道路（機制）與自然機制迥異，二者是達成同一個目標的兩種道路，假定通用人工智能具有自然機體的性質是不合理的。從實質的角度來說，為人工智能灌注靈魂是沒有意義的，但這一方式的目標也許并不在實質意義上，而在概念調適上，即人們通過這種特殊的異質同構方法來改變或擴展“靈魂”一詞的邊界，將傳統(tǒng)觀念中排除出靈魂的物質引入靈魂（這當然不是萬物有靈）。這時，人們可能以一種新的視野來看待“靈魂”，但我們知道，這只是借一個傳統(tǒng)詞匯來指代一種新現(xiàn)象。這自然會產生很多混亂，實際上這也是一種無奈的策略，畢竟，在手忙腳亂之際，能找到一個支架承載起新的重物，已經不容易了。但這只是權宜之計，人們一旦緩過手來，還是要另尋穩(wěn)固的框架。

3.自動與有機不能達成妥協(xié)

在人工智能發(fā)展歷史中，人們不斷把有機體轉化為自動過程。按照傳統(tǒng)觀念，機器可以自己動起來，這完全是心靈或靈魂運作的結果，自動性是心靈的機能。如果再向底層機制前進一步，人們就會得出推論，自動即有機體的機能。古代制造飛鳥，認為機器飛鳥中有鳥的靈魂；現(xiàn)代科學已經能夠達到機器的自動化，現(xiàn)在制造一只飛鳥，人們只是把它理解為一種或多種復雜的自動過程。

在此，人們發(fā)現(xiàn)，自動過程其實不過是一個科學的動力過程，雖然有機體本身包含各種復雜的自動過程，但是這些復雜的自動過程是結合在一起的，并不是某種單一機械的自動。人們在自動中看到的是某種有機體功能的反射，但這一反射其實不再是有機體功能本身，而只是一種抽象出去的功能自動過程。在這一功能自動過程中，人們無法發(fā)現(xiàn)靈魂的蹤跡?？茖W已經將所有自動過程的神秘感徹底祛除，一個自動過程可以通過生產流水線制造出來，但有機體卻只能生長出來。這樣一來，古代思想中默認的有機體和自動性的合二為一，在現(xiàn)代科學中通過功能區(qū)隔將自然過程制造出來，兩者在機制上沒有任何相同之處。“自動”與機器聯(lián)系在一起，這是現(xiàn)代科學帶給人們的寶貴財富。人們不去討論有機體的自動，就是因為自動已經包含在有機體中了，人們不能想象一個跟有機體無關的自動。這是概念自身所蘊含的。

三、懸置人工智能靈魂論

人們傾向于認為人具有靈魂、心靈或意識等，所以才能思考，才具有自我意識。這放在人類身上問題不大，但轉用到人工智能上，這一看似無疑義的推導就要出問題。在人工智能領域，人們明顯可以看出，靈魂、心靈、意識是處于同一個層級的，最終都指向自我意識，是對自我的肯定。思考卻可以獨立出來，它可以降解，降到某種與物質結合緊密的層次。降解不是消除，而是在規(guī)則可控層次來討論和思考，以尋找描述人工智能的正當層次和位置。比如人們在討論“機器能否思考”的時候，一方面在討論技術進步的可能性，另一方面是對“思考”這個事情進行降解。人們以前認為思考是高端的，甚至有點神秘。在人文主義哲學家那里，思考或意識是人類面對人工智能進攻的最后堡壘。但這里卻要部分地瓦解這一堡壘，將“思考”與意識區(qū)分開，將思考降解，以尋找“思考”的恰當層次和位置。但靈魂無法降解，因為靈魂更強調整體統(tǒng)一性，并且強調其中包孕的神秘性。無法降解，就無法成為人工智能的構成部分。

靈魂與人是一體的，人活著的時候，靈魂與身體結合在一起，人死后靈魂可能脫離身體而存在。在不少宗教中，靈魂可以脫離身體，到達天國。靈魂保持一種奇特的自我肯定，這是一種終極肯定，即無論何種情況下，此生之在可以某種方式一直保持下去。在人工智能這里，人們卻面臨強烈的尷尬。人工智能不會涉及靈魂這一層面。它可以復制人，但復制的是人的部分功能，若問它能不能復制靈魂，這就難以給出肯定的回答。當然答案并不一定是否定的，畢竟未來之事渺茫難知，人們憑什么斷定未來呢？但若做出肯定回答的時候，人們用哪種理論來解釋就必須說清楚。如果說，人工智能達到人的層次的前提是獲得靈魂，那么，這樣的說法明顯充滿矛盾。這里把這些矛盾擺明，以顯現(xiàn)困難所在。同時也要看到，存在內在矛盾的觀念并不是完全無意義的，只是其意義并不在其直接表述中，反而在某種潛在的修辭中。這也是澄清人工智能觀念時要小心梳理之處。

理解人工智能之為智能的前提是一定要懸置靈魂灌注論。它假定靈魂是思考的前提，沒有靈魂，機器就不能思考，就不能擁有某種自意識。古典時代這一靈魂來自神靈的賦予。現(xiàn)代科學時代，在驅逐了神靈之后，造成了一種潛在的悖論，即古典時代的靈魂是不可能存在的，而沒有外在神靈，靈魂何以賦予？因而這樣一種外在灌注的道路已經被徹底封死。同時，現(xiàn)代科學又將人們引向自動與有機之間的區(qū)隔，所有機器都不過是基于某種自動性的一種制造和產生。有機體當然具有自動性，但是有機體的自動性是一種生物的自動性，而機器的自動性則是一種被制造出來的自動性。有機體包含所有的自動性，但所有的自動性之間是不可分割的；機器的自動性是可以分割的，體現(xiàn)在機器的正常運作中。人們現(xiàn)在不會談論有機體的自動性，因為這是自明的，但是人們可以談論機器的自動性，因為這是可以制造出來，并且可以被復現(xiàn)的。它可以作為對象場域出現(xiàn)。如此一來，無論機器在何種復雜的自動情況下完成人的某種功能，它已經先天地被隔絕于有機體之外。由此，人們就會看到，無論人工智能達到何種模仿水平，都不可能具有靈魂。靈魂成了人工智能與人之間的一道永遠的鴻溝。如果人們在人工智能范圍內強調靈魂，強調意識的完整性，就是為了劃定界限：人工智能沒有靈魂，不能思考。

然而，這是我們要破除的觀念。這一觀念僅僅是一種未經澄清的人文主義哲學的獨斷論迷夢。

一種黑箱論認為，人的整個心靈就是一個黑箱，它不對人類這樣的觀察者敞開。人工智能也是這樣的黑箱，其運算過程對于創(chuàng)造者來講是封閉的，不能夠被人們看清。心靈黑箱具有一種有機的無限性，在其中，人類的解釋永遠無法達到，無論用什么辦法都不能夠攻破其全部秘密。如果反過來推導，這個事實會更加顯豁：如果黑箱真的完全開放，有機體就不再具有無限性了，它成了一個可以直接面對的對象。相較而言，人工智能黑箱從原則上講是可以解釋的，它的運算過程可以觀察，這是一門科學，不是一種觀念。兩者實質上不同，但由于都使用了“黑箱”一詞，仿佛具有了某種一致，可以進行互換。一提到人工智能黑箱，人們很快就會轉到人的心靈黑箱，并認為人工智能黑箱正是人的心靈黑箱。由之推導，既然人的心靈黑箱從根本上不可解，那么，人工智能的黑箱同樣具有此等不可解性。如此一來，則可推論，由于人工智能黑箱對人類是封閉的，人類不能完全控制人工智能，存在失控的可能，因此人們無法知道人工智能何時或在何種情況下對人類產生仇恨，并且可能消滅人類。

這一推論如此引人恐慌，但它明顯來自比喻性的運用。將人工智能黑箱與人的心靈黑箱混淆使用，這是黑箱論的錯位運用，是概念內涵偷換而達成的社會性誤識。在此揭示這一錯位運用，目的是指出黑箱論并不像字面那樣嚇人，黑箱論所引發(fā)的恐慌其實是概念工作不嚴謹導致的后果，而不是人工智能發(fā)展導致的后果，這是兩種不同的后果。人們的任務是在人工智能發(fā)展過程中敏銳地觀察到未來可能產生的不良影響，對它做出一種限定。這種限定可能是倫理上的，可能是技術上的，也可能是思想觀念上的。在整個過程中要特別小心和警惕某些不恰當?shù)腻e位觀念，因為它們乍看上去是合理的，因而具有比較大的迷惑性，容易引發(fā)不恰當?shù)挠^念。圖靈間接地點出過這樣的問題，他說：

一個人通過大腦直接看到因果關系，我們如果認為這不是在思考，而是一種缺乏想象力的驢拉磨式工作，從這個角度來看，人們可能會將思維定義為“我們不理解的那些心理過程”。如果這是正確的，那么制造一臺思考機器就是制造一臺做有趣事情的機器，而我們并不真正了解它是如何做到的。1

將靈魂賦予人工智能是一種特殊的觀念賦能活動，這在當代文化中比比皆是。比如很多學者和不少公眾認為人工智能可能具有人的意識、獨立的人格，因而會從人的控制之下脫離出去，成為獨立個體，進而把人類當作敵人，甚至會消滅人類。這樣的觀念不過是傳統(tǒng)的機器賦靈論的一種變形，是對機器賦靈論未加分辨進行運用的結果。這不過是一種概念的誤用，并非實際所致。隨著人工智能的發(fā)展，這一概念誤用自然會消失，但至少在目前階段，這樣的觀念力量是極端強大的，必須認真做出澄清。

在有機體中，的確可以把靈魂、意識或思考當作同一物來看待；人工智能天然不具有靈魂，不具有意識，但是可以思考。傳統(tǒng)的機器賦靈論觀念將三者結合為一體。這里的關鍵是，思考到底屬于有機體的靈魂部分還是某個功能，更簡潔地說，它是部分性的存在還是整體性的存在？這一問題在有機體這里基本無效，但在人工智能這里卻是關鍵所在。在人工智能這里，思考是一種可以實踐的功能，而靈魂或意識則不屬于人工智能，它是有機體的一種整體性描繪。人們不應該把它賦予人工智能，但是可以在人工智能的復雜運算中看到思考功能的實現(xiàn)。因而在人工智能這里，人們看到了有機體思考的復現(xiàn)，但是人們要將有機體的靈魂或者意識懸置起來，以有效區(qū)分有機體和人工智能。之所以可以做出這一區(qū)分，完全以人工智能這一復雜運算機器的出現(xiàn)為前提。此時，人們才能夠將人的有機體的某些素質按照不同的整體層面或功能分層來對待，并將之與人工智能相比對。這是人工智能帶給人們的新機遇，也是理解人自身的新機遇。

四、非靈魂的功能：人工智能的實現(xiàn)問題

對于人工智能，人們不需要再談論靈魂或意識問題，這是歸屬于有機體的問題。從人工智能的工程層面來看，人們也完全不是在談論一個有機體層面的意識或靈魂，而是在談論人的思考功能如何在機器上實現(xiàn)。從目前人工智能的發(fā)展狀況以及可推斷的未來狀況來看，只有人的某些功能的切片才是人工智能可能達成的。因而，當說人工智能可以思考時，完全是就功能層面上的實現(xiàn)而并非就人的有機體的全面實現(xiàn)而言。也就是說，人工智能與人可以進行比對的只有某些智能狀況，只有思考的功能以及運動的功能，這已經展現(xiàn)了當代技術的偉大之處，但這畢竟不是人的思考的全面復制，更不用說意識或靈魂問題。從目前人工智能的藝術實踐來看，某種看似低級的功能卻可以實現(xiàn)藝術創(chuàng)造，并不需要高級的人類靈魂參與其中。人工智能的藝術實現(xiàn)方式與通常認為的人（有機體）的藝術實踐方式完全不同，1 然而，只要在運用上相通，就可以達成人的功能性的替代或者再現(xiàn)。在這里人們已經能夠看到人類自身的偉大創(chuàng)造力。從單一功能的角度來說，這一創(chuàng)造力已經遠遠超過人類自身的，人們完全可以運用人工智能增強人類能力，并使這些能力不斷強化，進而推動人的其他能力的增長。

出于對人工智能的恐懼而放棄人類自身能力增強的機會，永遠無法對抗人類對自身能力增強的渴望。哪怕中間存在某種短暫的能力不對等階段，人類也必然向增強功能的方向前進，更何況這其中還包含巨大的正面回饋。技術推動人工智能不斷向前，會不斷出現(xiàn)能力失衡的情況，人們也要警惕技術的單邊突進，讓技術發(fā)展慢下來，甚至出于平衡的考慮而暫時犧牲能力的單邊增強。大語言模型的崛起明顯讓人們感到緊張和恐懼，其在對話能力上的出色表現(xiàn)明顯會對教育產生巨大沖擊。哪怕目前還并不夠完善，大語言模型已經展現(xiàn)了極高的語言組織能力，再加上數(shù)據(jù)集的龐大，可以說，將之視為一個全能型教師一點也不為過。同時，這也產生一個大的弊端，學生對大語言模型的使用可能是任意的，如果不加控制，很可能出現(xiàn)教育大幅滑坡的惡果。因而，在具體場景的使用上進行現(xiàn)實化調控，是一個可以接受的選項。

將人工智能的功能與人的功能進行對比的時候，要小心一種特殊的觀念形態(tài)，即意向投射。意向投射仿佛是一種從人的功能投射到人工智能上的磁力線，2 依靠它，人們建立了人工智能與人的關聯(lián)。它并不可見，但就像萬有引力一樣，永恒存在。意向投射仿佛一種自然力，其實它是一種解釋方式，是為了便于說明兩者的關聯(lián)而建立起來的關聯(lián)形式（也許只是觀念上的關聯(lián)，為了解釋的方便，并不起其他作用）。人的機能與人工智能的功能之間是否存在這樣的磁力線難以證明，但有一點是明確的，在人的機能與人工智能的功能之間，隔著“我們”——某種意義上的研究者，即使用者。正是使用者比較人工智能的功能與人的機能切片。二者之間并不需要某種意向投射，只要直接進行功能的比對，即可建立關聯(lián)。功能首先是展現(xiàn)出來的，在這種展現(xiàn)中，人們可以明確地劃定其作用機制和范圍。由此，可以將人的機能與人工智能的功能進行等效轉換，這是從效果（作用范圍和實現(xiàn)形態(tài)）來進行判斷的，無須建立某種先天性機制。

從作用機制上講，不同媒介之間進行功能轉換必然會涉及什么可以轉、什么不能轉的問題，一般來說，人們更在意的是不同媒介進行轉換的時候保存了什么，相對喪失了什么。但喪失的其實更加關鍵，因為某些東西的喪失是永久失去，不會再來，這是機制轉換導致的。兩種媒介機制之間的轉換也會產生意想不到的效應，這些效應對起始階段暫時不發(fā)揮效力，但在轉換完成階段，人們會更加關注并未轉換過來的東西。這不免會產生社會心態(tài)上的失落感，即人們費盡心力做到的東西其實沒有那么稀奇，而失掉者才是最可寶貴的。人工智能的功能轉換這一主題極其復雜，描述和解釋工作將構成一門新的學科。

五、功能：人工智能的理論推斷層

一般認為，通用人工智能的制造就是達成人的能力的直接賦予、復制或者模仿，直到創(chuàng)造出一個與人類一般無二的人工智能。然而，至少目前看來，這更多是一種科幻想象，而非真實的理論。大語言模型在對話上達到極高水平，相信日后會不斷升級，提高智能水平，那么，人們是否可以假定大語言模型達到了通用人工智能的初級階段呢？或者說，基本可以通過圖靈測試呢？答案應該是肯定的。圖靈從來沒有提出過創(chuàng)造與人一般無二的人工智能的設想，圖靈測試所預設的通用人工智能是有限制性條件的，即隔離，測試者與被測試者相互看不見，通信手段是鍵盤和電纜，就像人們現(xiàn)在使用計算機一樣進行通信。圖靈曾非常簡潔地描述過這樣一個情境：

測試的想法是，機器必須嘗試通過回答向其提出的問題來假裝自己是一個人，并且只有當這種假裝有合理的說服力時，它才會通過測試。評判者中有相當一部分人不應該是機器方面的專家，他們必須接受這種假裝。他們不可以看到機器本身，這會使判斷變得太容易。因此，這臺機器被放在一個遙遠的房間里，評判者可以向它提問，并將問題傳遞給它：它發(fā)回一份打印的答案。1

圖靈測試可以轉換為當代的人工智能問題：人工智能通過鍵盤的回復可以達到70%的準確率，并讓與其對話的人認為它是一個活的人，這時就認為它通過了圖靈測試。按照圖靈的說法，也就是認為它可以進行思考。2 如果人們堅持認為人工智能不可以犯錯誤，回復必須百分百正確，那么就應該反思到底哪一個人可以做到：在知識上極其全面，在對話中極其誠實，反應極其迅捷，沒有倫理硬傷，充滿同情心，隨時給出建議？只有大語言模型接近這個標準！并且人們正是以這個標準來衡量大語言模型的，但人們從來不以這樣的標準來衡量自身。其實，一個人在生活中能夠以70%的準確性回復問題就已經足夠，人們就會判斷回復者是可思考的。如果做到這一點的是人工智能，那么，人們就應得出結論，人工智能通過了圖靈測試。

此處的關鍵是，通過圖靈測試是否指獲得類似人的意識或靈魂？圖靈并沒有直接回答過這樣的問題。如果說，圖靈雖然是人工智能思想的創(chuàng)立者，但由于其并未親眼見到計算機或人工智能的誕生和快速發(fā)展，所以，很可能在這個問題上持保守態(tài)度，那么，人們就需要反問自己一個問題，意識或靈魂是可以直接看到的事實，還是人們通過某種看到的意識或靈魂的痕跡反推而出的？或者它是人們通過反觀自己內心而發(fā)現(xiàn)的？前文回溯的各種靈魂論，可以說，基本都遵從這兩條道路。更重要的是，無論是反推還是反觀，都可以將之命名為直接的事實——否則，人們就找不到意識或靈魂的“直接”證據(jù)。然而，正如前文所指出的，這種“直接”推導對于有機體而言是有效的，對人工智能而言則是遠遠不足的，甚至是錯誤的。3

在談論人工智能實現(xiàn)人的能力切片的時候，只是在建立一種經由工程人工智能轉向通用人工智能的過渡性理論，筆者認為并非如此。這不是理論策略，或者說，不僅僅是理論策略問題。如果從理論策略角度思考人工智能，連通用人工智能也不過是一種理論策略，是某種最終目標的路標而已——問題只在于通用人工智能沒有實現(xiàn)的可能性。在這里，功能增強的主張超出了單純工程層面的考量，它是對人工智能目標的反省和重新定位。如果說，存在一種通用人工智能，那么它不過是有機體全面復制的一個代名詞，從根本上其實是不可能實現(xiàn)的。只有從功能增強層面，人們才可能不斷開辟新路。

通用人工智能可視為有機體和機器智能之間一種含混而富有彈性的設計。如果通用人工智能最終達成的是有機體全面的復現(xiàn)和重造，那么，這種重造身體的浩大工程其實沒有必要，因為相對經濟得多的細胞克隆就可達成。這不可能是人工智能制造之路。無論人工智能走向多么通用的層面，人們都會發(fā)現(xiàn)它不過是人的功能的再造。因而，一個可行的途徑是，徹底把人視為功能的集合，并用人工智能來仿制功能，進而重新組合起來，復現(xiàn)有機體的某些能力，但這并不包括復現(xiàn)有機體的靈魂和意識。

人們可以把有機體視為一種復雜的自動機制，以此作為與人工智能機制的對照，那么，一個問題就可能顯現(xiàn)出來：有機體機制與人工智能機制的剝離問題。人的自動機制這個提法可能比較奇特，最初，這一概念是隨著攝影的發(fā)展提出來的，到了19世紀后期電影產生，這兩種技術方式推動了影像制造工業(yè)的發(fā)展?！耙环N媒體以其自動機制，而不是一種物質、材料和工具性來進行定義，它似乎能夠與技術方法相互對應，并且在這個意義上由它們作為條件?！? 新影像中存在一種可以清晰區(qū)分的自動機制，其中隱含了機器與人的分別。在最初的理論設想中，自動機制觀念其實更偏向機器一面，有機體被排除于這種機制范圍之外。但不管怎樣，一種比較的關聯(lián)顯示，有機體與機器相對照的過程中，人們發(fā)現(xiàn)它之所以能夠作為一個可以用理論來解釋的對照物，就在于預設了有機體的整體性。然而，這一預設的整體性當真是不可區(qū)分的嗎？顯然不是。由此，人們在比較中把偏向于機器的自動機制反射回有機體，從而反省有機體的某種相近性質。這樣一來，很容易得出結論：人的能力本身就是一臺自動機，人的能力實現(xiàn)的場景正可以比對人工智能所模仿的功能。由此，達成一種反射性的觀念轉向：本來自動機制是描述機器的，但在比較對照中，人們發(fā)現(xiàn)有機體也存在這一可能性，進而，自動機制無非就是一種機器運行功能及其對人的意義，如果沒有人，機器功能則無意義。圖靈也如此說：“制造一臺思考機器就是為了搞明白人類自己是如何思考的?！?

人們努力實現(xiàn)通用人工智能其實是在建立兩個平行發(fā)展的軌跡，一條是人的有機體發(fā)展的軌跡，另外一條是人工智能從專用向通用發(fā)展的軌跡。這兩條軌跡是曲行性的（discursive），3 人是有機體，人工智能是機器，兩者無法等同，但可以進行功能性對照，最終在通用型這一目標處發(fā)現(xiàn)有機體和人工智能幾乎相近，但又不可畫等號。人們根據(jù)曲行性而得出的兩者一致的看法只是一種形而上學假象。有機體可能與人工智能發(fā)生關聯(lián)，這一點既不是詮釋的想象，也不是形而上學的懸設，而是在目前的技術實踐過程中不斷出現(xiàn)的變化，如目前的腦機接口以及人的功能的義肢化其實就已經指明了有機體與人工智能的融合，而這種融合無疑是將有機體樹立為本體，人工智能成為人功能增強的輔助。只有在這種方式下，人們才看到人工智能之用。當然，人們也會產生恐慌，即通過功能增強，人工智能最終取代有機體。然而，這樣一種恐慌依然是一種形而上學式的想象。假設在融合中有機體與人工智能依然是敵對的，忽視融合所激發(fā)的有機體的人工智能化，或者人工智能的有機體化。人在這一過程中其實在不斷地變成“后人類”——不再是單純的有機體，而成為人機結合體?！昂笕祟悺本唧w走向哪里還有賴于實踐，人們只能敞開胸懷接受它，不斷改造它、反思它，才有可能控制它。單純的反對只是一種狹隘的觀念。

“融合”這個詞既是客觀的，又會引發(fā)誤解，它暗示可能達成一種有機性的結合體，形成一種新存在。由于它與人直接相關，所以必須闡述它與人的相同之處。人所具有的特殊素質，如意識、靈魂、心靈、思考、情感等，都可以與機器整合、過渡，一旦超過一個邊界，就可認為人工智能具有這些特殊素質，這樣，就可以討論人工智能具有了意識的痕跡、靈魂的表現(xiàn)，等等。其實，意識、靈魂之類都是人類素質專用詞，無法移用到人工智能上，因為這些詞與肉體直接相融，無法須臾離開。這是概念詞本身所處的系統(tǒng)決定的。圖靈測試將思考與肉體相分，意識、靈魂之類全部不在考察之內，計算機器（人工智能）從來與此類概念無關。改造圖靈測試的范圍，試圖為意識和靈魂設置一個閾值，以此探尋人工智能的意識、靈魂之類有機體系統(tǒng)才具有的概念，除了可以制造社會文化的震驚之外，其實無法完成機制上的論證。在大語言模型這里同樣如此，哪怕我們在其中尋找到一些意識存在的蹤跡，那也不過是因為大語言模型所使用的是人類的語詞，人們習慣在這些語詞使用中找到人性的痕跡，并且將這些語詞中的人性套用到大語言模型上面。假定這是大語言模型內在（靈魂）所具有從而進行的人性“表達”，我們不能忽視，大語言模型的“表達”從來都不是人類意義的表達。人類意義的表達預設了一個從內思到語言呈現(xiàn)的機制，而大語言模型只有語言呈現(xiàn)沒有內思，它與人類意義的表達存在根本性的區(qū)別。

必須拋棄各種傳統(tǒng)的或現(xiàn)代變形的機器賦靈論，走向人工智能的功能增強，這才是人們應該持有的健康的人工智能觀念。

Does Artificial Intelligence Need “Soul”？

— Possibilities and Doubts Raised by Large Language Model

WANG Feng

Abstract： The superb conversational capabilities and intelligent representations exhibited by large language model such as ChatGPT and GPT4 have once again sparked a heated debate about artificial intelligence. The big language model has no trace of self consiciousness or soul. Here in the organism， thinking and soul are consistent， while here in AI， thinking and soul are separated， one can say that AI thinks， but one cannot say that AI has soul， even a little trace. The soul-infusion theory clearly makes the mistake of confusing the fundamental boundary between organism and AI， and the idea that AI is self-aware is essentially a conceptual misuse. Clearing up this conceptual misuse facilitates putting AI such as large language model in an appropriate social position.

Key words： large language model; artificial intelligence; soul; thinking; conceptual misuse

（責任編輯：蘇建軍）