曹淑紅

摘 要：面對(duì)人工智能強(qiáng)勢(shì)介入社會(huì)治理、經(jīng)濟(jì)運(yùn)行和家庭生活的迅猛態(tài)勢(shì)，大家對(duì)機(jī)器思維的智能化、擬人化隱憂也在日漸加重。由于機(jī)器思維具有“自主思維”的能力，可以自主進(jìn)行“趨利避害”的行為選擇。所以，我們無法設(shè)計(jì)它的“應(yīng)然性”，也無法控制它的“實(shí)然性”。那么，我們創(chuàng)造的這種人工智能將會(huì)“奴役”我們這些創(chuàng)造者，這是一種合乎邏輯的存在。為避免這種結(jié)果的出現(xiàn)，必須堅(jiān)守AI領(lǐng)域中的“人類中心主義”，必須有AI研究的禁區(qū)和紅線，如非類人的人工智能、非邏輯的情感機(jī)器人和人機(jī)一體發(fā)展等，要保證這些紅線不被突破，AI行業(yè)的自律約定和國(guó)際標(biāo)準(zhǔn)的他律建設(shè)勢(shì)在必行。

關(guān)鍵詞：人工智能；機(jī)器思維；實(shí)然性；應(yīng)然性

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671-0037（2018）5-29-3

DOI：10.19345/j.cxkj.1671-0037.2018.05.007

Abstract： Facing the strong intervention of artificial intelligence into social governance， economic operation and family life， people are increasingly worried about the intelligence and personification of machine thinking. Because machine thinking has the ability of "independent thinking"， it can make the behavior selection of "seeking advantages and avoiding disadvantages" independently. Therefore， we cannot design its "contingency"， nor control its "reality". The artificial intelligence we create will then "enslave" us creators， which is logical. In order to avoid the occurrence of this result， we must stick to "anthropocentrism" in the AI field， must have restricted area and red line for AI research， such as non-humanoid artificial intelligence， illogical emotional robot and the man-machine integrated development， etc. To ensure that those red lines are not breached， self-discipline convention and discipline construction of international standards in AI industry are imperative.

Key words： artificial intelligence； machine thinking； reality； contingency

近年來，人工智能（Artificial Intelligence，簡(jiǎn)稱AI）進(jìn)入尋常生活的步伐越來越快，在一個(gè)國(guó)家的產(chǎn)業(yè)結(jié)構(gòu)調(diào)整中所扮演的角色也越來越重要。面對(duì)人工智能強(qiáng)勢(shì)介入社會(huì)治理、經(jīng)濟(jì)運(yùn)行和家庭生活的迅猛態(tài)勢(shì)，大家一方面為自身能夠擺脫思維的勞累與體能上的乏力而歡欣鼓舞，另一方面也對(duì)AI的智能化、擬人化越來越擔(dān)憂，其痛點(diǎn)集中在機(jī)器思維的應(yīng)然性與實(shí)然性上。

1 應(yīng)然性與實(shí)然性的哲學(xué)寓意與在AI中的解讀

應(yīng)然性、實(shí)然性是哲學(xué)領(lǐng)域的范疇，與或然性、必然性處于同一個(gè)層次并相互關(guān)聯(lián)。對(duì)應(yīng)然性最為通俗的理解可以是：我們的研究對(duì)象“應(yīng)該怎么樣”。顯然，這是在技術(shù)倫理層面上的探討。例如，對(duì)克隆技術(shù)的發(fā)展應(yīng)該設(shè)定禁行的邊界，它不能進(jìn)入克隆人的領(lǐng)域。對(duì)于實(shí)然性的理解可以是：我們的研究對(duì)象“能夠怎么樣”。顯然，這是在技術(shù)實(shí)踐層面上的探討。例如，精準(zhǔn)醫(yī)療中用分子靶向攻克癌癥的技術(shù)，能否一勞永逸。

科學(xué)、技術(shù)、哲學(xué)和倫理永遠(yuǎn)都是相伴而行。人工智能作為科學(xué)與技術(shù)的共生體，逃避不了應(yīng)然性和實(shí)然性對(duì)它的追問。人工智能應(yīng)該怎么樣？可以肯定的是它應(yīng)該模擬、延伸和擴(kuò)展人的智能，不能肯定的是它是否應(yīng)該取代或者控制人的智能。

再?gòu)膶?shí)然性層面來展開。在人工智能已經(jīng)踐行的“機(jī)器識(shí)別”和“智能模擬”兩大領(lǐng)域中，無不顯示出超強(qiáng)的能力。如指紋和掌紋的識(shí)別、人臉識(shí)別、視網(wǎng)膜和虹膜識(shí)別都超越了人類自身所具有的識(shí)別能力。再如遺傳編程、智能搜索、定理證明、自動(dòng)程序設(shè)計(jì)、攻守博弈、智能控制、語言和圖像理解等方面更使人類對(duì)世界的認(rèn)知、改造與控制達(dá)到了空前的地步。在舉世關(guān)注的、挑戰(zhàn)人類尊嚴(yán)的“人機(jī)大戰(zhàn)”中，象棋、圍棋棋段高手的屢戰(zhàn)屢敗似乎已說明：由人自己創(chuàng)造的機(jī)器，卻成為自己的“掘墓人”。這種由“自我”向“非我”的異化，然后“非我”又奴役了“自我”，確實(shí)是“自我”的悲哀與無奈[1]。

這種隱憂來自于對(duì)AI中最為關(guān)鍵的“機(jī)器思維”實(shí)然性困惑：它可以必然地“征服”人類的智慧嗎？它可以肆意地奴役我們?nèi)吮旧韱幔?/p>

2 機(jī)器感知與機(jī)器思維

眾所周知，人的認(rèn)知過程可以分為兩個(gè)階段。第一個(gè)階段是由感覺、直覺再到表象的感性認(rèn)識(shí)階段，其中主要以非邏輯的方式來認(rèn)知對(duì)象。第二個(gè)階段是由概念、判斷到推理的理性認(rèn)識(shí)階段，這主要以邏輯的方式來認(rèn)知對(duì)象。

AI中也存在這兩個(gè)對(duì)應(yīng)的階段。第一階段是機(jī)器感知（Machine Cognition）。它包括機(jī)器的聽覺、視覺和觸覺等。這是由很多常規(guī)傳感器采集信息，之后通過復(fù)雜程序處理所形成的、非基本感官所能得到的“印象”。像計(jì)算機(jī)視覺、計(jì)算機(jī)模式、計(jì)算機(jī)識(shí)別和計(jì)算機(jī)對(duì)人類自然語言的理解等，都屬于機(jī)器感知的內(nèi)容。第二階段是機(jī)器思維（Thinking Machine）。這是在機(jī)器感知所得到的“印象”中，通過特定的邏輯算法推導(dǎo)出的、在“印象”中蘊(yùn)涵但卻沒有得到展現(xiàn)的結(jié)論[2]。在這個(gè)過程當(dāng)中，它具有“自動(dòng)擇優(yōu)”和“自動(dòng)糾錯(cuò)”的功能，因此其結(jié)論不僅僅是“科學(xué)的”，而且也是“可靠的”。它可被認(rèn)作是機(jī)器的行為由“實(shí)然性”向“必然性”的進(jìn)化。在當(dāng)前的AI中，如計(jì)算機(jī)學(xué)習(xí)、計(jì)算機(jī)下棋、計(jì)算機(jī)作曲、計(jì)算機(jī)繪畫、計(jì)算機(jī)設(shè)計(jì)、計(jì)算機(jī)證明、計(jì)算機(jī)編程等都屬于機(jī)器思維的行為體現(xiàn)與結(jié)果展示。

由此看來，我們不必為機(jī)器感知而憂慮，因?yàn)樗膶?shí)然性已經(jīng)內(nèi)在地被規(guī)定為是一個(gè)信息輸入、處理與輸出的機(jī)械過程，它將成為我們?nèi)祟惙浅Ｓ杏玫墓ぞ?，來為人的思維提供支持。同時(shí)，機(jī)器感知的應(yīng)然性也是由我們?nèi)祟愃茉O(shè)計(jì)和掌控的，我們可以給它設(shè)定“軌道”與“邊境”，讓機(jī)器感知在我們認(rèn)為適合活動(dòng)的范圍內(nèi)活動(dòng)。

但是，機(jī)器思維卻非如此。由于它具有“自主思維”的能力，可以自主地進(jìn)行“趨利避害”，從而產(chǎn)生一種“自主行動(dòng)”的能力。所以，我們?nèi)祟悷o法設(shè)計(jì)它的“應(yīng)然性”，也無法控制它的“實(shí)然性”。一旦計(jì)算機(jī)的自我學(xué)習(xí)、自我編程都進(jìn)入了“自由”的層次，那么，我們?nèi)斯に鶆?chuàng)造的這種智能將會(huì)“奴役”人類。顯然這是一種合乎邏輯的存在。在此，我們不禁要問：我們還要為未來的人工智能鼓與呼嗎？

3 當(dāng)前我們能做什么，應(yīng)做什么，不應(yīng)做什么？

我是什么？我能做什么？我應(yīng)做什么？是德國(guó)古典哲學(xué)家康德的三個(gè)著名追問?？档抡J(rèn)為“我是什么”的要旨是通過對(duì)人性的追問，獲得人主體性的尊嚴(yán)和價(jià)值合理性的根據(jù)?！拔夷茏鍪裁础本褪俏覀兘裉焖接懙膶?shí)然性問題，是對(duì)人作為自我主體的能力的追問，表示我們是否能夠擁有一種認(rèn)知事物與采取某一特定行動(dòng)的行為能力。而“我應(yīng)做什么”則是我們正在探討的應(yīng)然性問題，這是基于我們行為的價(jià)值關(guān)切與后果評(píng)判[3]。

在這里，我們必須明確：能做的未必就是應(yīng)做的?？档碌倪@三個(gè)追問，是我們永遠(yuǎn)無法回避且關(guān)乎我們自身存在與前途的問題?！澳茏鍪裁础迸c“應(yīng)做什么”的追問已經(jīng)成為每一次科學(xué)技術(shù)新突破的熱門話題。像對(duì)生物學(xué)中克隆人技術(shù)和醫(yī)學(xué)中換頭顱手術(shù)等問題的“能做什么”與“應(yīng)做什么”的關(guān)切，像對(duì)基因組計(jì)劃和超級(jí)病毒研制中“能做什么”與“應(yīng)做什么”的討論，像對(duì)人工智能“能做什么”與“應(yīng)做什么”的憂慮，都成為揮之不去的熱點(diǎn)與焦點(diǎn)。

值得慶幸的是，在人工智能的領(lǐng)域，當(dāng)前仍處于朦朧未分的混沌階段。很多研究者還沒有將機(jī)器感知與機(jī)器思維進(jìn)行界分，真正意義上的機(jī)器思維初見端倪，我們?nèi)斯頌槿斯ぶ悄堋傲⒎ā?，?guī)定它“應(yīng)做什么”和“不應(yīng)做什么”還完全來得及。

3.1 AI領(lǐng)域中必須堅(jiān)守“人類中心主義”

雖然幾百年來裝備制造業(yè)的野蠻瘋長(zhǎng)帶來了環(huán)境退化、能源枯竭的惡果，大家都在呼吁“自然中心主義”的回歸。但是，以AI元素為支撐的智能制造和智能制造中的機(jī)器感知并不是以環(huán)境和能源為代價(jià)的，二者是人類知識(shí)與智慧的集成，因此，它有天然的“人類中心主義”特征。要謹(jǐn)防這種天然特征的退化，要讓我們?nèi)祟惖闹R(shí)與智慧能夠在機(jī)器思維過程中仍然成為主導(dǎo)的力量，并能夠一直處于“獨(dú)立自決”的地位。

3.2 在國(guó)家層面必須對(duì)AI的發(fā)展進(jìn)行技術(shù)預(yù)測(cè)

技術(shù)預(yù)測(cè)已經(jīng)在技術(shù)研發(fā)和技術(shù)后果的預(yù)判中越來越起到先決的作用。它不僅僅能夠使研發(fā)者提前預(yù)知其研發(fā)對(duì)象在未來的時(shí)空中的特殊功能與應(yīng)用的領(lǐng)域，而且也能夠預(yù)測(cè)一旦研發(fā)成功和投入使用所帶來的對(duì)行業(yè)、對(duì)社會(huì)甚至是對(duì)人的心理結(jié)構(gòu)所產(chǎn)生的沖擊波。由此來決定我們是否“做”或“不做”，如果“做”又“如何做”等這些應(yīng)然性行為。顯然，這是一個(gè)龐大的系統(tǒng)工程，特別是像AI領(lǐng)域的技術(shù)預(yù)測(cè)，會(huì)涉及社會(huì)、經(jīng)濟(jì)、文化和心理等方方面面，絕非一個(gè)企業(yè)或者一個(gè)行業(yè)的專家所能覆蓋。因此，應(yīng)該在國(guó)家層面組織技術(shù)、政治學(xué)、經(jīng)濟(jì)學(xué)、管理學(xué)、法學(xué)、醫(yī)學(xué)、生物學(xué)、社會(huì)學(xué)和倫理學(xué)界的精英，組成AI技術(shù)預(yù)測(cè)專家委員會(huì)或者智庫(kù)，定期對(duì)AI技術(shù)發(fā)展前景、AI產(chǎn)品的發(fā)展趨勢(shì)進(jìn)行公告，以指導(dǎo)AI行業(yè)的發(fā)展，或者對(duì)AI的研發(fā)方向和領(lǐng)域做出“可做”或“不可做”的建議。

3.3 AI研發(fā)領(lǐng)域應(yīng)當(dāng)有行業(yè)的自律

行業(yè)自律尤為重要，因?yàn)樾袠I(yè)最為清楚其發(fā)展到了何種層次，其未來有何種伸展方向，這種方向可以變革何種對(duì)象，等等。當(dāng)前，行業(yè)專家們將AI領(lǐng)域分為強(qiáng)人工智能和弱人工智能兩大類。強(qiáng)人工智也可以分成兩類，第一類是類人的人工智能，即機(jī)械地思考和推理，就像我們?nèi)祟愐粯印５诙愂欠穷惾说娜斯ぶ悄?，即機(jī)器自我產(chǎn)生了和我們完全不一樣的知覺和意識(shí)，使用和我們完全不一樣的推理方式。而弱人工智能“弱”則是因?yàn)檫@些機(jī)器并不擁有人的智能，只不過它的“行為”看起來像是智能化和擬人化的，它沒有自主意識(shí)與自主思維的能力。為了避免我們落入被強(qiáng)人工智能“奴役”的地步，在AI領(lǐng)域必須建立全球化的行業(yè)協(xié)會(huì)，通過行業(yè)協(xié)會(huì)來識(shí)別AI專家的研究類型，并通過“行規(guī)”來對(duì)AI專家的行為進(jìn)行管控。屬于弱人工智能領(lǐng)域的專家，可以盡其研發(fā)自由；而對(duì)于強(qiáng)人工智能領(lǐng)域的人工智能的研發(fā)，可以受限地進(jìn)行。其限度應(yīng)在邏輯思維領(lǐng)域之內(nèi)，不應(yīng)進(jìn)入非邏輯思維的領(lǐng)域。

3.4 AI研發(fā)領(lǐng)域應(yīng)當(dāng)有國(guó)際標(biāo)準(zhǔn)的他律

在AI領(lǐng)域，以美國(guó)、日本為代表的先驅(qū)者和領(lǐng)跑者已經(jīng)觸發(fā)了產(chǎn)業(yè)狂潮，智能芯片、智能機(jī)器人、智能通信、智能交通、智能教育、智能社交等，已經(jīng)深度地在解構(gòu)和重構(gòu)原有的產(chǎn)業(yè)和市場(chǎng)。盡管當(dāng)前絕大部分還是屬于弱人工智能的領(lǐng)域，但是其前沿已經(jīng)觸及“紅線”。比如說，在有心理認(rèn)同、情感共鳴和非邏輯思維能力的情感機(jī)器人的研發(fā)領(lǐng)域，有不少的資訊在宣稱，已經(jīng)取得了關(guān)鍵突破。例如，日本舉國(guó)研發(fā)的“感性工學(xué)”，使個(gè)人機(jī)器人（Personal Robot）產(chǎn)品系列問世。其中取名“小IF”的情感機(jī)器人，可從聲音中發(fā)現(xiàn)對(duì)方感情的微妙變化，然后通過自己的表情變化和對(duì)話來表達(dá)喜怒哀樂。再如，“人機(jī)一體發(fā)展”的研究試圖彌合人與機(jī)器的界限，實(shí)現(xiàn)人體的機(jī)器化和機(jī)器的人體化。其最主要的點(diǎn)位在于，將智能芯片植入大腦，使兩者在邏輯與情感上對(duì)接，使芯片信息和算法與人腦信息和算法對(duì)接，從而實(shí)現(xiàn)電腦與人腦的融合，形成超級(jí)大腦。一旦這種研發(fā)成功并且被應(yīng)用于國(guó)家競(jìng)爭(zhēng)的格局之中，那改變的將是整個(gè)人類生活與相處的基本法則，顛覆的將是整個(gè)人類的社會(huì)結(jié)構(gòu)。因此，僅僅有行業(yè)的自律是遠(yuǎn)遠(yuǎn)不夠的，必須要有在全球領(lǐng)域通行的具有強(qiáng)制性的國(guó)際立法來禁止任何一個(gè)國(guó)家或者財(cái)團(tuán)嘗試這種研究。

參考文獻(xiàn)：

[1] 互動(dòng)百科.機(jī)器感知[EB/OL].（2011-12-12）[2018-04-06].http：//www.baike.com/wiki/機(jī)器感知.

[2] 唐紅麗.科技與倫理：“能做什么”和“應(yīng)做什么”的博弈[EB/OL].（2017-12-03）[2018-04-06].https：//zhidao.baidu.com/question/1887946912538226308.html.

[3] 360百科.情感機(jī)器人[EB/OL].（2018-04-06）[2018-04-06].https：//baike.so.com/doc/5416643-5654788.html.