志剛

人工智能對人類是善意還是惡意？由于人工智能根本沒完成自己技術(shù)上從0到1的過程，所以確實這問題的結(jié)果仍然是開放式的。為理解這有點矛盾的狀況我們先梳理下人工智能的發(fā)展?fàn)顟B(tài)。

過去和未來那些可能的里程碑

《超級智能：路線圖、危險性與應(yīng)對策略》這書里提到一件有意思的事情：20世紀(jì)50年代后期的一些專家認(rèn)為：如果能造出成功的下棋機(jī)器，那么就一定能夠找到人類智能的本質(zhì)所在。但結(jié)果通常是：這種機(jī)器一旦被造出來之后，人們就不稱其為人工智能了。隨后作者列出了人工智能發(fā)展史上一些里程碑性的事情。

西洋跳棋——超越人類，1952年，阿瑟·塞繆爾寫過一個跳棋程序，并在1955年吸收了機(jī)器學(xué)習(xí)技術(shù)，從而改良了該程序。這是第一個玩起游戲來比程序編寫者都好的程序。1994年，跳棋程序“奇努克”（CHINOOK）打敗了人類衛(wèi)冕冠軍，這是機(jī)器程序第一次在競技游戲中贏得官方世界冠軍。2002年喬納森？謝弗和他的小組“解決號”跳棋程序總是計算出最好的棋步，最終打了個平局。

黑白棋——超越人類，1997年，Logistello程序跟當(dāng)時的世界冠軍村上健的對戰(zhàn)結(jié)果是6戰(zhàn)6勝。

國際象棋——超越人類，1997年，深藍(lán)計算機(jī)打敗了當(dāng)時的國際象棋世界冠軍加里？卡斯帕羅夫?？ㄋ古亮_夫承認(rèn)見識到了人工智能在某些棋步上具備真正的智能以及創(chuàng)造力。從那時起，國際象棋程序就一直不斷進(jìn)步。

橋牌——高手水平，2005年，訂約橋牌軟件就已經(jīng)能夠同最好的橋牌高手對弈。

《危險邊緣》益智問答——超越人類，2010年IBM的沃森超級計算機(jī)在《危險邊緣》游戲中擊敗了了肯·詹寧斯和布萊德·拉特這兩名擂主冠軍?！段ｋU邊緣》是以提問有關(guān)歷史、文學(xué)、運動、地理、流行音樂、流行文化、科學(xué)以及其他領(lǐng)域細(xì)節(jié)問題而著稱的電視益智節(jié)目?！段ｋU邊緣》游戲的題目一般都需要猜字謎的方式來發(fā)現(xiàn)線索。

撲克——發(fā)揮不穩(wěn)，電腦玩家在玩德州撲克時還沒能超越人類玩家，但是在一些類似的撲克游戲中卻超越了人類水平。

圍棋——很高的業(yè)余水平，2012年，Zen系列圍棋程序能夠達(dá)到6段水平，這個程序主要運用了蒙特卡洛樹搜索法和機(jī)器學(xué)習(xí)技術(shù)。圍棋程序此后每年提升一段的速度向前發(fā)展。照這個速度看，圍棋程序可能在未來10年內(nèi)擊敗人類世界冠軍。

這意味著從游戲的視角看，除了圍棋，人工智能基本已經(jīng)超越或者達(dá)到了人類的水平。這里更有意思的事情是，如果把這張表延伸到未來，領(lǐng)域也不局限在游戲，按照我的推斷這種里程牌會是下面這個樣子：

自動駕駛——徹底的自動駕駛很可能在10年左右的時間里實現(xiàn)。根據(jù)報道到2015年為止，Google的自動駕駛汽車已經(jīng)安全行駛了百萬英里。各方預(yù)測在這樣的基礎(chǔ)上，再有5～10年自動駕駛應(yīng)該可以獲得普遍應(yīng)用，我們采用保守的數(shù)值。自動駕駛之所以必須被放到里程碑里是因為從智能的角度看人類日常的工作生活中比駕駛更復(fù)雜的事情其實不多，如果可以搞定駕駛，那理論上第一產(chǎn)業(yè)、第二產(chǎn)業(yè)甚至第三產(chǎn)業(yè)中的簡單工作都是可以通過人工智能搞定的。第三產(chǎn)業(yè)中的簡單工作是說類似餐飲、運輸行業(yè)中的各種工作。在那個時間點上，我們就可以更清楚的看到第一產(chǎn)業(yè)、第二產(chǎn)業(yè)中幾乎沒人的景象，雖然即使是今天這在局部也已經(jīng)逐漸成為現(xiàn)實。

沃森類系統(tǒng)在醫(yī)療行業(yè)全面展開——IBM已經(jīng)在做這件事情，所以這里的關(guān)鍵點不在于采用不采用，而在于什么時間點沃森這樣的系統(tǒng)可以成為醫(yī)療中必須的一個環(huán)節(jié)。這個點之所以有意義在于，沃森的全面展開意味著醫(yī)院里所有和數(shù)據(jù)相關(guān)的工作被人工智能接管。這個時間點之所以有意義在于它意味著人工智能成為真正的專家系統(tǒng)，隨后（或者同時）它就可以擴(kuò)展到法律、管理、財務(wù)等領(lǐng)域。從沃森獲得危險邊緣冠軍這事來看，這件事的瓶頸很可能不在于技術(shù)，而在于接受程度。如果拿數(shù)據(jù)庫被接受的速度做類比，那這產(chǎn)品也可能在5～10年內(nèi)走到各家醫(yī)院里去。

人工智能成為所有金融公司的標(biāo)準(zhǔn)工具——這點可以更形象點的表述成類似Palantir的服務(wù)滲透到所有金融公司。這意味著非行業(yè)的可數(shù)據(jù)化的各種工作已經(jīng)可以在人與人工智能的配合下完成。只要能搞定金融，那就可以搞定幾乎所有其它企業(yè)。這事情已經(jīng)有很多公司再做，并且已經(jīng)有很大的規(guī)模，所以也可能在5～10年內(nèi)達(dá)成。

類人機(jī)器人出現(xiàn)——很像電影《我，機(jī)器人里面》描述的那種正常的機(jī)器人，這種機(jī)器人沒有自我意識，但有足夠的智能和行動力可以完成所有人類需要完成的工作，甚至可以包括戰(zhàn)爭。如果說1～3主要消滅的是低端的以及和數(shù)據(jù)深度相關(guān)的工作，那這類機(jī)器人幾乎可以消滅所有的工作。人類到此理論上可以得到解脫。這個項目上差的比較遠(yuǎn)，如果認(rèn)為前幾項可以在10年內(nèi)實現(xiàn)，那這項應(yīng)該會在它們后面。至于后面多久確實難以推斷，但這種機(jī)器人是一定可以實現(xiàn)的，雖然我們不太確定是20年后，還是30年后，但它的技術(shù)脈絡(luò)與前三者一脈相承，所以說是一定可以實現(xiàn)的。

人工智能 “1”

很多人可能難以相信，但上面那些看著已經(jīng)波瀾壯闊的里程碑其實只是人工智能從0到1過程中的產(chǎn)物。

很多技術(shù)的發(fā)展都要經(jīng)歷從0到1，再從1到100的過程。比如說福特造出第一輛T型車可以認(rèn)為是汽車從0到1的過程，此后100年直到現(xiàn)在可以認(rèn)為是汽車從1到100的過程。此后的汽車雖然也有發(fā)動機(jī)、傳動系統(tǒng)和四個輪子，但其精密程度要遠(yuǎn)高于當(dāng)年的版本。計算機(jī)一樣有這過程，如前所述，其理論奠基于圖靈，圖靈之后馮·諾依曼真的設(shè)計了一套體系結(jié)構(gòu)把這東西做出來了，到馮·諾依曼為止可以認(rèn)為計算機(jī)走完了自己從0到1的過程。此后才有從電子管計算機(jī)到晶體管計算機(jī)，再到大規(guī)模集成電路使用后的計算機(jī)，其形態(tài)也就由比房子還打到現(xiàn)在手機(jī)那么大，但幾乎無所不能。

如果拿人工智能與上述兩者相類比，我們可以發(fā)現(xiàn)人工智能根本還沒走完從0到1的過程。人工智能既沒有清楚的理論基礎(chǔ)，大家也不知道智能究竟是什么，所以才有先達(dá)到某個目標(biāo)，比如在下棋上戰(zhàn)勝人類，接下來就認(rèn)為這也不算什么智能的情形出現(xiàn)。人工智能的內(nèi)在發(fā)展思路也多次發(fā)生變遷，比如最開始人們認(rèn)為這種智能依賴于一種物理符號系統(tǒng)，這種系統(tǒng)要通過處理符號組成的數(shù)據(jù)結(jié)構(gòu)來起作用。人類似乎是這樣，但這顯然只是一種現(xiàn)象，在這層面上并不能產(chǎn)生真的智能。接下來也考慮過遺傳算法，這是按照生物進(jìn)化的過程來做程序，讓程序有某種隨機(jī)變化，并用一個選擇過程（生物的優(yōu)勝劣汰）來保持似乎有用的變化，但限于各種“如果怎樣，否則怎樣”的這種組合太多，在當(dāng)時這也沒產(chǎn)生什么有價值結(jié)果。

再后來至少一部分人開始轉(zhuǎn)向神經(jīng)網(wǎng)絡(luò)，這方向出現(xiàn)在很早的20世紀(jì)60年代，但那時是非主流，直到20世紀(jì)80年代才受到重視，很多科學(xué)家認(rèn)為這和人工智能節(jié)節(jié)敗退有關(guān)。神經(jīng)網(wǎng)絡(luò)研究者嘗試在連接中查找智能，因為大腦由神經(jīng)元組成，這是顯然的事實。近來極其火熱的深度學(xué)習(xí)就在這方向上，但這方向也還沒完成從0到1的過程。只是在特定的領(lǐng)域取得了極為令人矚目的成績比如語音識別、圖像識別。這領(lǐng)域的大牛YannLeCun在發(fā)表演講的時候曾經(jīng)專門提到了深度學(xué)習(xí)的幾個關(guān)鍵限制，具體來講這包括：

缺乏理論基礎(chǔ)。沒這個深度學(xué)習(xí)方法只能常常被視為黑盒，大多數(shù)的結(jié)論確認(rèn)都由經(jīng)驗而非理論來確定。 缺乏推理能力。深度學(xué)習(xí)技術(shù)缺乏表達(dá)因果關(guān)系的手段，缺乏進(jìn)行邏輯推理的方法。

缺乏短時記憶能力。與深度學(xué)習(xí)相比人類的大腦有著驚人的記憶功能。

缺乏執(zhí)行無監(jiān)督學(xué)習(xí)的能力。無監(jiān)督學(xué)習(xí)在人類和動物的學(xué)習(xí)中占據(jù)主導(dǎo)地位，我們通過觀察能夠發(fā)現(xiàn)世界的內(nèi)在結(jié)構(gòu)，而不是被告知每一個客觀事物的名稱。

這是2015年6月演講中提到的內(nèi)容，InfoQ對此進(jìn)行了比較完整的報道。從這種現(xiàn)實來看，我們確實很難講人工智能完成了從0到1的過程，而只能說還處在一種盲人摸象的狀態(tài)，雖然摸到的面積越來越大。

但與汽車或計算機(jī)不同的是，一般大家認(rèn)為人工智能從1到100的過程會發(fā)生的非?？欤幌衿囮戧懤m(xù)續(xù)發(fā)展了100年，計算機(jī)發(fā)展了半個多世紀(jì)。如果我們真能搞定某些基礎(chǔ)問題，那人工智能的從1到100的過程確實可能在幾年，甚至幾天內(nèi)實現(xiàn)?；ヂ?lián)網(wǎng)為此準(zhǔn)備了充分的素材和基礎(chǔ)設(shè)施。

如果人通用型的強(qiáng)人工智能得以實現(xiàn)，那就會面臨下一個從0到1的過程，由無意識到有意識的過程。

大白到底會不會來？

所謂的人工智能從正常人的視角來看其實有兩個明顯不同的分支，這會導(dǎo)致兩種完全不同的大白：

一個分支更像黑客帝國路線，有一個萬能的矩陣，所有章魚都是是這個矩陣的載體。我們經(jīng)常提到的人工智能由于是數(shù)據(jù)驅(qū)動的所以基本都是這個方向，比如IBM的Watson。

一個分支則是大白的路線，每個機(jī)器人有自己的個性，雖然它可以從龐大的云端數(shù)據(jù)庫里獲得信息，但它是獨立的個體，有自己的個性和溫度。后者更貼近人類的狀態(tài)，從本能上我們不太會喜歡前者，因為這樣一個東西如果有足夠的智能那會是一種完全超出我們理解的東西（經(jīng)常說的超級智能就是指這個），雖然科學(xué)家可能喜歡。

理論上講，這兩者都是有可能的，畢竟人從懵懂無知到學(xué)富五車其實并不需要太多的數(shù)據(jù)，但很不幸的是如果按照當(dāng)前的研究方向發(fā)展下去，那種有個性的大白是不太會來到現(xiàn)實里來的。現(xiàn)在各種機(jī)遇機(jī)器學(xué)習(xí)的人工智能都需要龐大的數(shù)據(jù)量做支撐，這樣一來即使做一個本地的版本放到機(jī)器人里去，那也更像是黑客帝國里的章魚而不是有個性有溫度的大白。

當(dāng)然人工智能本身也還在不停的變動中，所以也許有一天，當(dāng)前這條路碰到瓶頸，科學(xué)家們會轉(zhuǎn)而追求另一種形式，那樣的話，大白才有可能真的來到我們身邊。

要想認(rèn)清這點有必要考察一下實現(xiàn)人工智能的實現(xiàn)方式以及人腦的基本運作方式。

現(xiàn)在實現(xiàn)各種人工智能的方法簡單的可以概括成建立可以進(jìn)行學(xué)習(xí)的多層網(wǎng)絡(luò)，接下來用數(shù)據(jù)來訓(xùn)練這網(wǎng)絡(luò)，數(shù)據(jù)越多這網(wǎng)絡(luò)處理圖像識別等的效果就越好。效果和數(shù)據(jù)量成正比。

但人腦卻并不是這樣，一般認(rèn)為大腦皮層是人類智慧的來源，每一層有大概2毫米厚，一共有六層，和疊加的六層撲克牌厚度相類似。有一種觀點認(rèn)為大腦各個區(qū)域?qū)嶋H上能起的作用是一致的，之所以會不同的區(qū)域能復(fù)雜不同的事情是因為不同區(qū)域使用的計算方法不同。這和電腦類似，雖然看著電腦能做的事情五花八門，但底層都是0和1的運算，但接下來就不一樣了。大腦里面的軸突建立各種輸入模式，于是我們看到了五光十色的世界。認(rèn)知過程中和計算機(jī)很不同的是大腦似乎是記憶身邊這世界的本質(zhì)特征，接下來看到新東西的時候先從記憶中提取這種本質(zhì)特征，再加上些處理來應(yīng)付各種各樣的情形。

這樣一比較我們就知道實現(xiàn)這大白和章魚背后所牽涉的東西不同。要實現(xiàn)大白，那其實需要有感知并且及時的對這種感知進(jìn)行理解、記憶、學(xué)習(xí)，個體的獨立和發(fā)展非常重要。這和當(dāng)前的主流發(fā)展路線很不一樣，所以按照數(shù)據(jù)驅(qū)動的思路，更可能的產(chǎn)品只會是黑客帝國里的章魚。

人工智能實在是比較奇妙的技術(shù)，即使仍然處在從0到1的過程，其背后的波瀾壯闊已經(jīng)隱約可見。它當(dāng)然會帶給我們近乎等距的天堂地獄，但最終這智能什么樣，人類仍然還有選擇權(quán)。