于 劍
(北京交通大學(xué)人工智能研究院 北京 100044)(交通數(shù)據(jù)分析與挖掘北京市重點實驗室(北京交通大學(xué)) 北京 100044)
如果追蹤現(xiàn)代人工智能(artificial intelligence, AI)的緣起,可以發(fā)現(xiàn)起導(dǎo)火索作用的就是圖靈測試[1].發(fā)展至達特茅斯會議,現(xiàn)代人工智能已經(jīng)可以算瓜熟蒂落了.因此,人工智能避不開圖靈測試.關(guān)于圖靈測試,已經(jīng)有非常多的研究,本文分4部分敘述.
最原始的圖靈測試,也就是圖靈提出的圖靈測試[1].實際上起初機器模擬的是女人,不是范圍更大的人.當然,女人也是人,廣義上說模擬人也沒有錯.現(xiàn)在,圖靈測試一般是指模擬人.在1991年有人就專門設(shè)計這種比賽,比賽還有一個專門的獎(Loebner prize),每年獎勵做的好的參賽隊伍.現(xiàn)在為止,能夠通過圖靈測試的還沒有.
那么通過了圖靈測試,是否就意味著機器具有人的智能了呢?對此,塞爾設(shè)計了一個特別的思想實驗來回答這一問題[2],這個實驗的名稱叫中文實驗室.該實驗明確說明,即使通過了圖靈測試,機器具有的也只是人工智能,并不是人的智能.為什么說不是人的智能呢?原因很簡單:因為只是文字通過了測試,并不意味著現(xiàn)實中就能通過.
現(xiàn)實中,完全有可能文字通過了,可是其他方面不對.作為人,不光是通過文字理解世界,還要通過視覺、觸覺、聽覺、味覺等全面地感知世界.只有在所有方面通過,才可能算人的智能.1989年Harnad提出了完全圖靈測試(total Turing test, T3)[3],原始圖靈測試稱為T2.中國有一個真假美猴王的故事,可以用來說明所謂的T3測試.在真假美猴王這個故事里,眾多能力高超的神仙采取了各種各樣的測試手段,也分不出哪個是真的美猴王,哪個是假的美猴王.如果通過了這個測試,那就是通過了T3.對于人工智能的各種恐懼感,可能都起源于T3.一旦T3通過了,人就可以完全被替代了.因為可以造個機器人,可以完全把人代替了,而且誰都看不出真假,就像真假美猴王一樣.在這種情況下,要求人們不恐懼人工智能似乎也不現(xiàn)實.
但是,不論T2還是T3,是否真有實現(xiàn)的可能呢?這就需要深入討論.
要想知道T2或者T3能否實現(xiàn),需要仔細研究T2以及T3的預(yù)設(shè).考慮到T3是T2的擴展,只需考慮T2的預(yù)設(shè)就可以了.要考慮圖靈測試的預(yù)設(shè),一定要看圖靈生活在什么年代.圖靈生活在1912—1954年,這個時間段非常關(guān)鍵.所有的東西都需要放到歷史中看,因為沒有人能擺脫歷史的限制,沒有人不受限于歷史.現(xiàn)在有智能手機,圖靈時代肯定沒有智能手機,這是很自然的事情.圖靈發(fā)表圖靈測試的文章是在1950年[1].而到1953年,維特根斯坦出了一本書,叫《哲學(xué)研究》[4].這個順序不能亂,知道了這個順序之后,就可以理清很多事情了.
在《哲學(xué)研究》出版以前,一般假設(shè)概念是存在經(jīng)典定義的.如果某個概念沒有經(jīng)典定義,那么只能說明研究還不夠深入,需要繼續(xù)研究.這方面,希爾伯特的話最為經(jīng)典,他說“我們必將發(fā)現(xiàn),我們終將發(fā)現(xiàn)”.什么是概念的經(jīng)典定義?概念的經(jīng)典定義由3部分組成:1)符號表示,名字表示概念的名稱;2)內(nèi)涵表示,由命題來表示;3)外延表示,就是概念要指稱世界的對象,要把對象一一列出來,即經(jīng)典集合表示.
這么說比較抽象,舉個具體的例子,比如素數(shù)這個概念的經(jīng)典定義,素數(shù)的符號表示在中文中就是“素數(shù)”,英文中為“prime number”,反正是一個名稱;它的內(nèi)涵表示就是“只能被1和自身整除的自然數(shù)”這個命題;它的外延表示就是集合{1,2,3,5,7,11,13,17,19,23,29,…}.有了概念的經(jīng)典定義之后,很多事情實現(xiàn)起來就非常容易.
在《哲學(xué)研究》出版以前,人們認為概念都可以像素數(shù)這個概念一樣具有經(jīng)典定義.在《哲學(xué)研究》出版以后,這個假設(shè)就不一定正確了.《哲學(xué)研究》出來之后,哲學(xué)界花了多年進行深入研究,最后基本上認可了這本書的觀點.這些共識傳播到計算機領(lǐng)域,就比較晚了,大約是本世紀初左右的事情.
在《哲學(xué)研究》出版以后,一般認為概念不一定存在經(jīng)典定義.如果概念沒有經(jīng)典定義,那么需要研究概念的其他表示,這是認知科學(xué)中的一個重要方向.《哲學(xué)研究》出版以后,概念是否存在經(jīng)典定義本身需要研究,有的存在,有的不存在.在《哲學(xué)研究》中,維特根斯坦已經(jīng)論證了日常生活中的大多數(shù)概念都不存在經(jīng)典定義.說的更加直白一點,要給出像素數(shù)那樣干干凈凈的經(jīng)典定義,對于日常生活中的很多概念是不可能的事情!
現(xiàn)在回過頭來看圖靈測試中的預(yù)設(shè).圖靈測試中預(yù)設(shè)概念都是經(jīng)典概念.可惜的是,這個預(yù)設(shè)并不一定成立.圖靈測試中預(yù)設(shè)了2個概念是經(jīng)典概念,一個概念是智能,一個概念是人.這2個概念都不具有經(jīng)典定義,下面給一個稍微仔細一點的說明.
1) 先說智能.莊子認為“知也者,爭之器也”[5];霍爾認為智能的本質(zhì)是“注意應(yīng)該注意的事情”[6];愛因斯坦認為“智能的真正表示不是知識而是想象”;王飛躍認為“智能是開放的情報,情報是封閉的智能”[7];等等.可以發(fā)現(xiàn)智能的概念五花八門,到現(xiàn)在為止,并沒有一個大家都認可的定義.考慮到智能實際上是一個不斷擴展的概念,甚至未來也不可能存在一個大家公認的定義.因此,要想給出智能的一個經(jīng)典概念,目前看來并不可能.
2) 圖靈測試中的另外一個重要概念是人.關(guān)于如何定義人,從古至今,也一直是研究的重點.普羅泰戈拉認為“人是萬物的尺度,是存在的事物存在的尺度,也是不存在的事物不存在的尺度”,柏拉圖認為“人是沒有羽毛的兩腳直立的動物”[8],馬克思認為“人是一切社會關(guān)系的總和”[9]等等,不一而足.據(jù)說,柏拉圖給出的這個定義就只存在了一天,因為第二天亞里士多德就在課堂上出示了該定義的一個反例——一只拔光了羽毛的雞.上面提到的這些人都非泛泛之輩,給出的定義也不是完全沒有參考價值.但是到現(xiàn)在為止,這些定義都沒有得到大家的完全認可.到目前為止,“人”這個概念尚沒有經(jīng)典定義.概念只要沒有經(jīng)典定義,在很多情形下就計算不了,計算不準.這導(dǎo)致圖靈測試中的人沒有了統(tǒng)一的標準或一致的判據(jù).其后果就是圖靈測試的重復(fù)性沒有理論保障.這次測試通過了,下次換一批人換一批任務(wù)說不定就通不過了.
由于人和智能這2個概念沒有經(jīng)典定義,說機器的智能超過人的智能,如果不做一定限制的話,就是一件沒有意義的事情.
從以上分析可以看出,圖靈測試是建立在概念存在經(jīng)典表示的預(yù)設(shè)之上的.但是,這個假定并不成立.即使進一步縮小范圍,對于“智能”和“人”這兩個在圖靈測試中的核心概念,也同樣不存在經(jīng)典表示.這對于圖靈測試帶來了致命的后果.
由于圖靈測試中預(yù)設(shè)概念存在經(jīng)典表示,對于圖靈測試中涉及的概念就劃定了嚴格的范圍,可以對問題進行封閉研究或者實驗.
但是,第2節(jié)已經(jīng)論證了這一預(yù)設(shè)不成立.這使得圖靈測試具有3個特點:1)問題不確定,問題完全開放.在圖靈測試中并沒有限定問題的范圍,所有的問題都可以問,是完全開放的,也就是說,圖靈測試中模仿的內(nèi)容或者任務(wù)是開放的.2)實驗中的人未定,實驗中的對象是開放的.實驗中的人是中國人?是3歲的小孩?是瘋子或者是聾啞人?等等這些都完全未定.3)圖靈測試中使用的語言未定,測試使用的語言是開放的.圖靈測試并沒有說指定用什么語言來問.如果用泰國語來問作者,那本文作者也是什么不知道,這個模擬就沒什么意義了.總之,原始的圖靈測試是開放測試.工程上要實現(xiàn)的話,一定要封閉實現(xiàn).就這點來說,圖靈測試實際上只是思想實驗,不是工程實驗.
雖然如此,圖靈依然是當之無愧的人工智能先驅(qū)者.由于時代的限制,圖靈測試中假設(shè)使用的概念都是所謂的經(jīng)典概念.既然假設(shè)都是經(jīng)典概念,那么“人”也是可定義的概念,雖然目前可能還給不出“人”的內(nèi)涵定義.考慮到概念的內(nèi)涵表示與外延表示的等價性,圖靈測試就避免了智能的內(nèi)涵式定義以及判定難題,將研究智能的重點放在智能的外在功能性表現(xiàn)上,使得智能從功能上看,似乎是工程上可以實現(xiàn)和判斷的,這極大鼓舞了早期人工智能研究者的熱情.
為了方便起見,原始的圖靈測試,可以稱為開式圖靈測試,或者簡稱圖靈測試,它是開放式的,對于問題、人與語言都不封閉.但是,現(xiàn)在所有的說通過圖靈測試的,它一定是封閉式的.參加測試和判定的人不是抽象意義的人,一定是一個或一些特殊的人,問題一定是特殊的問題,語言要選定特殊的語言.封閉實現(xiàn)的圖靈測試,可以稱之為閉式圖靈測試.現(xiàn)在宣稱實現(xiàn)了圖靈測試的,其實都是閉式圖靈測試.當然,即使閉式圖靈測試實現(xiàn)了,進步也很大.即使這樣,也必須考慮閉式圖靈測試在很多情況下是存在嚴重問題的,比如說模擬某個人是否合法?是否合乎倫理?
到現(xiàn)在為止,在很多特殊情況下,在很多具體任務(wù)下,閉式圖靈測試已經(jīng)成功了,已經(jīng)給生活帶來了很多的好處,這個大家都感受得到,但是也帶來了一些壞處.具體說:機器寫作、圖像合成、視頻合成、語音合成技術(shù)已經(jīng)面向大眾了.限定在這些特定任務(wù)上,說通過了圖靈測試并不是開玩笑.這些特定任務(wù)的成功也絕不是沒有社會代價.目前,鑒定數(shù)據(jù)真假已經(jīng)成為亟待解決的挑戰(zhàn)性問題了.現(xiàn)在人們接收的很多信息都是機器制造的,有時都不知道交流的對象到底是不是人,也搞不清楚信息的真假.這種狀況已經(jīng)構(gòu)成了現(xiàn)實的威脅.
為什么人工智能的有限成功會造成這樣嚴重的后果呢?這需要更加深入的分析.
人工智能已經(jīng)取得了令人矚目的成績.但是AI的基本假設(shè)是什么?到現(xiàn)在為止,人工智能發(fā)展遇到了什么樣的瓶頸?要回答這個問題,還是要通過分析圖靈測試來尋根問底.
眾所周知,語言是圖靈測試的關(guān)鍵,語言也是正常人的關(guān)鍵標志之一.正常人都是通過語言來交流互動的.這里說的語言不一定是通常所說的語言,也可以是盲啞人的手語.對于語言,有一個基本的事實:語言的基本單位是詞,語言自身也是一個詞.詞是概念名,人工智能也是一個詞,也是一個概念名,因此將概念研究清楚,對于語言圖靈測試和人工智能都至關(guān)重要.
概念的基本功能有3個:1)指物功能.概念指向客觀世界的對象,表示客觀對象的可觀測性.對象的可觀測性指的是對象或者儀器的直覺感知特性,不依賴于人的主觀感受.2)指心功能.要指向人的心智世界里的對象,代表心智世界里的對象表示.3)指名功能.要指向認知世界或者符號世界表示對象的符號名稱,這些符號名稱可以組成各種語言.
舉例來說明概念的功能.比如“你那么會抬杠,怎么得不到停車場這份工作呢?”這句話,前面的抬杠是比喻用法,是指心,后面的抬杠是指物.一句話里,同一個抬杠,已經(jīng)從指心轉(zhuǎn)指物.再比如“若不撇開終是苦”這句話,這個若字是指名,就是指“若”這個字本身,撇開終是苦,那苦的話你心里感覺到苦,就是指心,是借名以指心,整個句子是從指名轉(zhuǎn)指心.“各能捺住即成名”就是指名轉(zhuǎn)指物.“能用黑筆寫紅字”這又是指物轉(zhuǎn)指名.詩句“抓住漂亮詞藻把它捏死”,這又是所謂的指心,把在物理世界不可能的事情轉(zhuǎn)化到心理世界了.
AI也是一個概念,要實現(xiàn)人工智能,就得實現(xiàn)人工智能這個概念所具有的3個功能,即從3個方面實現(xiàn)AI,指物指心指名,這正好對應(yīng)人工智能的3個主義.AI指名功能對應(yīng)符號主義,AI指物功能對應(yīng)行為主義,AI指心功能對應(yīng)連接主義.到現(xiàn)在這3條實現(xiàn)人工智能的路線都取得了非常多的成就.
符號主義認為物理符號假設(shè)是實現(xiàn)智能的充要條件.人工智能就是符號的計算,只要符號正確就一切正確.代表性的成果是機器證明、機器翻譯、專家系統(tǒng).連接主義認為所有的概念都在大腦里一個表示,這個表示就是神經(jīng)網(wǎng)絡(luò).目前最具代表性的AI技術(shù),深度學(xué)習(xí),就屬于連接主義的,AI的這次熱潮也是由它引起的.行為主義認為智能取決于感知和行動,不需要知識、不需要表示、不需要推理,只需要表現(xiàn)出來就行了.最有代表性的成果就是波士頓的動力機器人.
在過去,這三大流派曾經(jīng)競爭的非常厲害,比如符號主義,又稱邏輯主義,曾經(jīng)拒發(fā)連接主義的文章,以至于連接主義的研究者不得不另立門戶.人工智能有個著名的會議叫世界計算智能大會(WCCI),就是由那些不屬于傳統(tǒng)的符號主義的研究者們創(chuàng)立的會議,所謂計算智能主要是指模糊邏輯、神經(jīng)網(wǎng)絡(luò)和演化計算.這其中,模糊邏輯不屬于傳統(tǒng)的符號主義,神經(jīng)網(wǎng)絡(luò)屬于典型的連接主義,演化計算屬于行為主義.連接主義也曾經(jīng)有占上風(fēng)的時候,20世紀80年代曾經(jīng)提出過人工智能已死、神經(jīng)網(wǎng)絡(luò)萬歲的口號.行為主義,在歷史上又稱進化主義或者控制論學(xué)派.據(jù)說之所以叫人工智能是因為要與控制論做切割.
到現(xiàn)在,這3個流派已經(jīng)不象歷史上斗爭的那么厲害,已經(jīng)在合作了.比如在機器學(xué)習(xí)中,統(tǒng)計機器學(xué)習(xí)基本上是按照符號主義走的,深度學(xué)習(xí)基本上是連接主義這條路線,所謂的強化學(xué)習(xí)屬于行為主義.機器學(xué)習(xí)已經(jīng)不是一種單一的流派了.
曾經(jīng),這三大流派認為只要實現(xiàn)自己的路線就可以實現(xiàn)人工智能.符號主義說只要實現(xiàn)指名功能就可以了,指名正確就一切正確;連接主義說只要實現(xiàn)指心功能就行了,指心正確就一切正確.行為主義說只要實現(xiàn)指物功能就夠了,只要能指物正確,就什么都正確.
為什么會這樣說呢?令人驚訝的是,導(dǎo)致這3種流派的居然是一個共同預(yù)設(shè),概念的指名指物指心3個功能是等價的.如果概念的3個功能確實等價的話,當然只要實現(xiàn)任意一種就可以了.這個預(yù)設(shè)對嗎?如果概念有經(jīng)典表示,這個預(yù)設(shè)確實正確.原因很簡單,概念的經(jīng)典表示有5條預(yù)設(shè):外延表示是經(jīng)典集合論;內(nèi)涵表示是命題表示;外延表示與內(nèi)涵表示對應(yīng)相同的概念名;同一個概念表示對任何人都相同,不依賴于個人特性;內(nèi)涵表示和外延表示用來指稱對象的時候功能完全一致.容易知道,在這5個預(yù)設(shè)之下,概念的指名、指物、指心3個功能是等價的.
概念的三指等價具有非常大的好處.如果每個人使用的概念都滿足三指等價,這樣的社會就是一種誠信社會,計算簡單,交易成本、溝通成本很低.理想的社會形態(tài)都以三指等價為基本假設(shè),自然科學(xué)都是以概念的三指等價為預(yù)設(shè)的,機器學(xué)習(xí)公理化也是以概念的三指等價為基本假設(shè)的[10].社會上,也有很多通過概念的三指等價來表達自己的觀點和情緒的事例.現(xiàn)實生活中為了保證三指等價也做出了很多制度保證,像政府、學(xué)校、法律、警察、軍隊、監(jiān)獄等.
當然三指等價也不是沒有害處的,害處就是易輕信、易上當、易迷信,在極端情形下會產(chǎn)生嚴重的悖論.例如:迷信中的“扎小人”,其實就是假設(shè)三指等價,認為扎一個人的名字就等于扎到那個人了.數(shù)理邏輯中,有一個著名的烏卡謝維茨悖論“C:C不是一個真語句”[11].如果概念的指名指物指心等價,那么就自然會得出如下結(jié)論:C是一個真語句,當且僅當C不是一個真語句,這顯然是一個矛盾.如果應(yīng)用本文的觀點,在三指不等價的情況下,烏卡謝維茨悖論并不會產(chǎn)生.因為C只是指名的話,即C只是一個名字,則C這個名字不是一個真語句,實際上是一個真語句,故矛盾消除.換句話說,如果概念的三指不等價,烏卡謝維茨悖論就不成立了.實際上,按照這個思路可以解決歷史上的很多語義悖論,在此就不一一詳細論述.
經(jīng)典概念在現(xiàn)實生活中是不一定存在的.比如概念的外延表示,誰能保證與概念對應(yīng)的經(jīng)典集合一定存在?比如作者本人,到底算不算禿頭?不同人有不同的看法,有人覺得是,但也有人覺得不是.顯然,禿不禿頭本身不是一件黑白分明的事情,并不符合經(jīng)典集合的定義.對于概念的內(nèi)涵表示,其可以外顯的命題表示也并不一定存在.從某種意義上,維特根斯坦一生就研究概念這么一件事情,前半生堅信概念存在經(jīng)典定義,認為“凡是能夠說的事情,就能夠說清楚”,出了一本書,叫《邏輯哲學(xué)論》[12];后半生發(fā)現(xiàn)不是能夠說的事情都能夠說清楚,論證了概念不一定存在經(jīng)典定義,出了一本《哲學(xué)研究》[4],否決了西方自柏拉圖以來的信念.對于具體的概念來說,概念名也可能未知,概念的假設(shè)外延表示和內(nèi)涵表示也不一定同名,因為有研究表明日常生活中一個白種人平均每天要說一次謊[13].說謊就是心里想的跟嘴上說的不一樣,那就是所謂概念名不一樣.概念也不一定存在唯一表示,認知科學(xué)的研究告訴我們,實際上每個人對概念的表示都依賴于自身的條件,比如一個盲人對顏色的感知、對顏色的概念跟正常人對顏色的概念實際上不可能一樣.概念經(jīng)典表示要求內(nèi)涵表示與外延表示用來指稱對象的時候效果一樣,這個要求在現(xiàn)實生活中太高了.比如中國歷史上曾經(jīng)有“指鹿為馬”的著名故事.西方同樣有類似的事情,西方著名的歷史學(xué)家塔西佗《歷史》有一段話說得非常好,“在這段時間里,我們享有這樣一種稀有的幸福:我們在這一時期里可以按照愿望去想,按照心里想的去說”[14].可見要求概念的內(nèi)涵表示與外延表示指稱等價太難.
現(xiàn)實生活中,雖然三指等價的情形也很常見,但概念的三指不一定等價的情形也不少見,甚至也很不算罕見.
不遵循概念的三指等價的,現(xiàn)在一般不在科學(xué)范圍內(nèi)研究,屬于倫理、心理、哲學(xué)、文學(xué)、藝術(shù)、醫(yī)學(xué)、政治、軍事等研究范疇.社會科學(xué)基本不以概念的三指等價為基本假設(shè).例如哲學(xué),西方著名的哲學(xué)家奧斯汀在《如何以言行事》[15]中明確論述了言語與行事之間的關(guān)系,即指名與指物的復(fù)雜關(guān)系,指名跟指物不一定等價.例如軍事,軍事名篇《孫子》[16]開篇即說,“兵者詭道也,故能示之不能,用而示之不用,近而示之遠,遠而示之近”,終篇即是《用間》.例如政治,馬基雅維里所著的《君主論》[17]標志著西方政治學(xué)的開端,其中的2章即為《論君主應(yīng)當怎樣守信》、《應(yīng)該怎樣避開諂媚者》.當然概念的指名指物不等價也會導(dǎo)致很多嚴重的后果,比如欺詐行為會導(dǎo)致犯罪.在財務(wù)審計中,賬實相符從來不是當然的假設(shè),而是必須驗證的事項,即財務(wù)審計的一項重要內(nèi)容是保證指名與指物等價,如果不等價,還要找出彼此其間的差距.
概念的三指不等價在現(xiàn)實生活是有很多優(yōu)勢的:它包含的信息更復(fù)雜,生活中有些人會上當受騙,是因為潛意識中相信三指等價,認為說什么就應(yīng)該是什么,說的就應(yīng)該是心里想的,但實際不是這么回事,導(dǎo)致結(jié)果完全與預(yù)料不一樣.這樣一來,三指不等價對三指等價來說就有更多的行動自由,決策更多變.
當然,三指不等價也有很多缺點.比如,概念的三指不等價時,其信息表示更復(fù)雜,交流成本極高,需要“聽其言、觀其行、明其心”.觀察一個人需要考慮言、行、心3個方面,言、行、心任一方面都沒有辦法充分反映一個人的本質(zhì),這導(dǎo)致人們之間的信任度嚴重降低,交易成本急劇升高.在這種情況下,為了保證概念的三指等價,要簽訂合同、要有擔(dān)保、要買保險,以至于設(shè)立對沖基金,發(fā)展至今甚至要自產(chǎn)自銷.當概念的三指不等價時,就需要更加復(fù)雜的場景計算.
一旦三指不等價,AI三大流派都面臨巨大的問題.符號主義目標是指名正確,保證不了其指物指心正確.連接主義目標是指心正確,保證不了其指物指名正確.行為主義目標是指物正確,保證不了其指心指名正確.在三指等價時,AI至少是努力不騙人的;而在三指不等價時,有時AI可就會或有意或無意的騙人.本文題目中的“暗”就是指這一點.面對這一難題,三大流派都會出現(xiàn)巨大的困難.對于人來說,概念的三指不等價會帶來麻煩,但并不是不能處理.人本來就能夠在悖論中生存,但機器顯然不行.
當面臨悖論時,未來的人工智能怎么辦?這是人工智能面臨的重大理論問題,本文不再展開討論.
本文的結(jié)論有2點:第一,圖靈測試是思想實驗,不是工程實驗,能夠工程實驗的是閉式圖靈測試.因此,凡是建立在原始圖靈測試通過假設(shè)之上的概念都是不成立的.第二,AI的基本假設(shè)是概念的指心指物指名功能等價,這與現(xiàn)實有時會發(fā)生劇烈的沖突,在人機對話研究中這一點特別明顯.所以,目前對AI來說,確確實實需要更加深入的理論研究,AI的理論假設(shè)已經(jīng)面臨巨大的挑戰(zhàn).
本文主要思想來自作者在CNCC2019會士論壇的報告,是個人的一些不太成熟的看法,不一定正確.如果有錯誤的地方,歡迎批評指正!