王曉

AlphaGo與人工智能威脅論

去年3月，AlphaGo以4：1戰(zhàn)勝李世乭，一度引發(fā)了世界范圍內(nèi)對(duì)于“人機(jī)大戰(zhàn)”的狂熱關(guān)注;今年1月，一個(gè)名為“MASTER”的神秘棋手60盤連勝狂掃各路棋壇高手，后被證實(shí)是AlphaGo的升級(jí)版;5月，AlphaGo以3：0戰(zhàn)勝世界排名第一的天才棋手柯潔，“世界第一圍棋高手”正式易主成為一臺(tái)計(jì)算機(jī)。許多科學(xué)界與企業(yè)界的精英人士公開表示，這是AI發(fā)展的里程碑事件，紛紛寄期望于AI來解決目前企業(yè)甚至社會(huì)管理中的眾多疑難問題。與此同時(shí)，包括埃隆·馬斯克、斯蒂芬·霍金等人在內(nèi)的許多科技界人士開始公開宣稱擔(dān)心AI崛起并威脅人類，與眾多人工智能專家聯(lián)名簽署了一封禁止開發(fā)人工智能武器的公開信。

實(shí)際上，自從二戰(zhàn)美國(guó)政府在參與研發(fā)原子彈的科學(xué)家們事先毫不知情的情況下，悍然在廣島和長(zhǎng)崎投放了兩顆原子彈之后，科學(xué)家們對(duì)于技術(shù)的發(fā)展可能會(huì)威脅世界安全甚至人類生存的反思從未停止。當(dāng)時(shí)，由于機(jī)器過去的性能表現(xiàn)已經(jīng)能夠被用于調(diào)整機(jī)器的未來行為（維納在其劃時(shí)代的巨著《控制論》中將其稱為“反饋”），已經(jīng)出現(xiàn)了人們口中所說的“會(huì)學(xué)習(xí)”的機(jī)器，自動(dòng)化也開始從軍事領(lǐng)域向工商企業(yè)中滲透。自動(dòng)炮火指揮儀與自動(dòng)巡航導(dǎo)彈的出現(xiàn)，甚至引發(fā)了科學(xué)家們對(duì)于“按鈕”戰(zhàn)爭(zhēng)[1]的思考：如果一臺(tái)會(huì)學(xué)習(xí)的機(jī)器學(xué)會(huì)了編寫讓“自己按下‘按鈕”的程序，它們是否會(huì)不惜一切——甚至是己方全軍覆沒的代價(jià)，來按下“按鈕”以實(shí)現(xiàn)預(yù)定義的“勝利”目標(biāo)？如果是這樣，勝利還有意義嗎？

AI的崛起會(huì)不會(huì)威脅人類？

“意義”也是區(qū)別人類與機(jī)器之不同的重要一點(diǎn)。在AlphaGo戰(zhàn)勝柯潔之后，圈內(nèi)便開始流行這樣一句話：“柯潔輸了會(huì)流淚，但AlphaGo贏了卻不會(huì)笑。”對(duì)于機(jī)器來說，它們只是完成了預(yù)定義的一個(gè)目標(biāo)，而實(shí)現(xiàn)這一目標(biāo)的意義卻無從判斷。這也是馬斯克等人擔(dān)心AI技術(shù)會(huì)產(chǎn)生的威脅的原因之一，技術(shù)本身無所謂對(duì)錯(cuò)，但使用技術(shù)的人卻有好壞之分。

人工智能與智能機(jī)器的前塵往事：遺失的控制論歷史

人工智能這一術(shù)語，往往被認(rèn)為是在1956年達(dá)特茅斯學(xué)院的一次會(huì)議上提出來的，當(dāng)時(shí)約翰·麥卡錫對(duì)人工智能的定義是：“制造智能機(jī)器的科學(xué)與工程。”（the science and engineering of making intelligent machines）由此就不得不提及另外一個(gè)概念“智能機(jī)器”。在維納于1948年出版了他劃時(shí)代的巨著《控制論》之后，關(guān)于機(jī)器是否能夠獲得生命以及機(jī)器能否獲得智能的問題，即引發(fā)了大量、熱烈的討論與思考。假設(shè)機(jī)器能夠獲得智能，那么接下來的問題便是：機(jī)器的智能是否有可能超越人類的智能？當(dāng)時(shí)，戰(zhàn)爭(zhēng)的陰霾仍然籠罩在幸存下來的人們身上。這也引發(fā)了20世紀(jì)60年代科學(xué)家們關(guān)于智能機(jī)器是否會(huì)威脅人類生存的討論。

持否定態(tài)度的人們認(rèn)為，機(jī)器不能擁有任何程度的創(chuàng)造力，除非有事先輸入，否則它無法產(chǎn)生任何輸出。當(dāng)然，維納嚴(yán)厲地批評(píng)了擁有這類思想的人們，并指出：“機(jī)器能夠并肯定會(huì)超越它們的設(shè)計(jì)者的某些局限性，并且當(dāng)機(jī)器實(shí)現(xiàn)時(shí)，它們可能既是高效的又是危險(xiǎn)的?！盵2]使用奴隸和奴隸主來比喻機(jī)器和人的關(guān)系，維納說到，我們不可能既要求一個(gè)奴隸非常聰明，又要求他完全服從他的主人。因此，維納的觀點(diǎn)是認(rèn)同機(jī)器智能會(huì)超越人類智能并有可能威脅人類安全的。

在提出上文觀點(diǎn)的同時(shí)，維納同時(shí)指出：“原則上，我們并不能制造出我們永遠(yuǎn)都不了解其行為因素的機(jī)器?！盵3]60年后的今天，深度學(xué)習(xí)成為了當(dāng)下最火的一種人工智能技術(shù)，它證明，即便我們不能夠解釋技術(shù)背后的機(jī)理，也能得出我們想要的結(jié)果。一方面，這一事實(shí)極大地鼓舞了許多希望借助該技術(shù)解決某些難點(diǎn)問題的人們;另一方面，無論是投資理財(cái)、醫(yī)療救護(hù)還是軍事行動(dòng)，人類都不希望僅僅依靠一個(gè)“黑匣子”來做出決策。

實(shí)際上，維納的《控制論》包含三個(gè)核心的思想：控制、反饋與人機(jī)交互?？刂剖侵赶到y(tǒng)能夠與環(huán)境交互進(jìn)而塑造環(huán)境的能力;反饋描述了一種“使用機(jī)器過去的性能表現(xiàn)調(diào)整未來行為的一種屬性”;[4]人機(jī)交互，使得人與機(jī)器共同組成了一個(gè)整體，一個(gè)“伺服系統(tǒng)”。在當(dāng)時(shí)大眾看來，控制和反饋，也許有些抽象、理論化和難以理解，但是第三個(gè)思想，“人機(jī)交互”，卻激發(fā)了豐富的想象：機(jī)器能否活過來？機(jī)器能否獲得智能？既然機(jī)器能夠擴(kuò)展人的體能，那它是否也會(huì)擴(kuò)展人類的智能？既然能用人的思想來理解機(jī)器（擬人化的機(jī)器），那能不能用機(jī)器的思想來理解人呢（機(jī)械化的人體）？這些所有的問題，衍生了包括人工智能、機(jī)器人、機(jī)械大腦、VR等等在內(nèi)的整個(gè)控制論學(xué)科群。當(dāng)學(xué)術(shù)界在對(duì)控制論的研究范疇、應(yīng)用范疇等問題進(jìn)行討論時(shí)，美國(guó)政府和企業(yè)界已經(jīng)極大地推動(dòng)了控制論在軍事和工業(yè)生產(chǎn)中的應(yīng)用。前者催生了大陸級(jí)別的高空放射炮塔SAGE，后者引發(fā)了“自動(dòng)化工廠不招人”的嚴(yán)峻就業(yè)問題。

第二次世界大戰(zhàn)帶來了一個(gè)明顯的啟示：擁有領(lǐng)先生產(chǎn)能力的國(guó)家將會(huì)首先獲得戰(zhàn)爭(zhēng)的勝利。但是這對(duì)于美蘇冷戰(zhàn)期間對(duì)太空和深海等極端環(huán)境的探索卻毫無用處。因此，新的思考出現(xiàn)了，“可否借助自動(dòng)化改變?nèi)祟惖纳眢w，使其更好的探索極端環(huán)境，拓展國(guó)家疆土？”[5]由此，控制論的新產(chǎn)物出現(xiàn)了——賽博格。隨后十多年間，美國(guó)空軍、海軍和陸軍相繼展開賽博格的相關(guān)研究，卻并沒有取得可實(shí)際應(yīng)用的進(jìn)展。如果不能改造人類身體，那么可否在地面建立虛擬極端環(huán)境，“訓(xùn)練”身體以逐漸適應(yīng)環(huán)境？在這一想法的引導(dǎo)下，美國(guó)軍方的第一款VR設(shè)備VCASS（全稱為Visually Coupled Airborne Systems Simulator，視覺耦合機(jī)載系統(tǒng)模擬器）面世了。硬件設(shè)備的發(fā)展開始推動(dòng)人們探索機(jī)器內(nèi)部的世界——賽博空間。隨著計(jì)算機(jī)技術(shù)的發(fā)展，許多人開始敏銳地意識(shí)到，盡管單個(gè)機(jī)器的內(nèi)部空間擴(kuò)展了個(gè)人的思想和意識(shí)，但人與人、人與機(jī)器、機(jī)器與機(jī)器之間的通信才是催生更大的智能的動(dòng)力所在。在線社區(qū)、搜索引擎、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等概念相繼誕生。借助機(jī)器進(jìn)行的人類通信也引發(fā)了對(duì)新問題的思考，如何保證個(gè)人隱私不被濫用，如何安全地進(jìn)行在線交易，如何利用現(xiàn)實(shí)以及虛擬世界中的通信設(shè)備在戰(zhàn)爭(zhēng)之前就通過輿論戰(zhàn)來控制民意，從而不動(dòng)一兵一卒就能取得戰(zhàn)爭(zhēng)的勝利，等等，進(jìn)一步促進(jìn)了當(dāng)下科學(xué)界對(duì)于大數(shù)據(jù)、社會(huì)計(jì)算、國(guó)務(wù)管理的研究。因此可以說，維納的《控制論》是當(dāng)今整個(gè)智能科技蓬勃發(fā)展的精神之源、力量之泉。

機(jī)器擴(kuò)展人類

從廣義的角度來說，許多機(jī)器都是人類體能的擴(kuò)展。汽車、飛機(jī)、輪船、潛艇甚至宇宙飛船，拓展了人類腿腳的可到達(dá)范圍;斧頭、螺絲刀、電鋸甚至筆，擴(kuò)展了人類手的應(yīng)用范圍;傳聲筒、軍隊(duì)號(hào)角以及電話，擴(kuò)展了人類語言的傳播范圍;臺(tái)式機(jī)、筆記本以及各種智能設(shè)備，不僅開始擴(kuò)展我們大腦計(jì)算的能力，這些設(shè)備所收集的無所不在的感知數(shù)據(jù)也成為了計(jì)算機(jī)處理的“原料”，進(jìn)一步增強(qiáng)了機(jī)器的智能。一定程度上，我們所制造的工具，已經(jīng)成為了我們身體器官的延展。

除了直接使用工具來擴(kuò)展人類能力之外，60年代也出現(xiàn)了一些使用機(jī)械來直接擴(kuò)展人類軀體的探討。這是因?yàn)?，美蘇的軍備競(jìng)賽促進(jìn)了人類勢(shì)力在外太空的擴(kuò)張，但同時(shí)，人類的身軀卻無法適應(yīng)真空極端環(huán)境，因此有些軍事科學(xué)家提出了改造人的身體以適應(yīng)極端環(huán)境的想法。雖然這一想法并未完全實(shí)現(xiàn)，但10年之后，科學(xué)家們開始意識(shí)到，既然難以改造人類身體以適應(yīng)極端環(huán)境，那么是否可以在地面建立模擬極端環(huán)境，讓人類逐步適應(yīng)呢？而這一想法則進(jìn)一步推動(dòng)了虛擬現(xiàn)實(shí)（Virtual-Reality， VR）的發(fā)展。

機(jī)械化擴(kuò)展人類物理軀體的想法，在20世紀(jì)70年代達(dá)到了一個(gè)高潮。隨著美國(guó)在越南戰(zhàn)場(chǎng)節(jié)節(jié)失利，一方面，美國(guó)陸軍開始新型機(jī)械“馱獸”的研發(fā)，以幫助美軍在越南的森林、沼澤和稻田中應(yīng)對(duì)新的意想不到的戰(zhàn)術(shù)問題;另一方面，在越戰(zhàn)中經(jīng)受物理與精神傷害的士兵被送回國(guó)內(nèi)后，亟須重新“鍛造”，從而有能力開始新的生活。

盡管大多數(shù)的科學(xué)研究專注于機(jī)械化進(jìn)步對(duì)于人類體能的擴(kuò)展，但科幻小說已經(jīng)開始設(shè)想機(jī)器快速進(jìn)化并戰(zhàn)勝人類的情景。庫(kù)爾特·馮內(nèi)古特發(fā)表于1952年的《自動(dòng)鋼琴》（Player Piano），描述了在機(jī)器人替代部分腦力勞動(dòng)后，人類幡然醒悟進(jìn)行起義，但最終失敗的故事。1955年，弗蘭克·萊利的《賽博和福爾摩斯大法官》（The Cyber and Justice Holmes）則探討了未來的法院系統(tǒng)，智能高效的機(jī)器取代了人類法官。這甚至引起了獲得諾貝爾文學(xué)獎(jiǎng)的伯特蘭·羅素的反思：人類的存在是否必要？（Are Human Beings Necessary？）在這樣的歷史背景下，自然而然地出現(xiàn)了一些新的反思：當(dāng)機(jī)器接管之后，人類會(huì)滅亡嗎？英國(guó)星際航行協(xié)會(huì)前主席、曾被授予卡林加獎(jiǎng)的亞瑟·克拉克對(duì)于這個(gè)問題進(jìn)行了深入的探討，他指出，生物進(jìn)化，已經(jīng)讓位于一個(gè)更為快速的過程，技術(shù)進(jìn)化。“直白而殘酷地說，機(jī)器將會(huì)接管一切”。[6]當(dāng)然，關(guān)于機(jī)器與人類關(guān)系的討論，一直充斥在整個(gè)機(jī)器發(fā)展的歷程之中。

在日本動(dòng)漫《攻殼機(jī)動(dòng)隊(duì)》中，機(jī)械化擴(kuò)展人類物理軀體的想法成為了現(xiàn)實(shí)

機(jī)器對(duì)于人類能力的擴(kuò)展，當(dāng)然不僅僅限于人類的體能，同時(shí)可適用于人類的智能。特別是隨著計(jì)算機(jī)存儲(chǔ)和計(jì)算能力的提升，這一機(jī)器對(duì)于人類智能的擴(kuò)展愈加明顯。最早意識(shí)到這一問題的人是約瑟夫·卡爾·羅·利克萊德（J. C. R. Licklider），他曾經(jīng)擔(dān)任過早期半自動(dòng)地面防空系統(tǒng)（SAGE）的咨詢顧問。在這個(gè)大型系統(tǒng)中看到的機(jī)器與機(jī)器連接和交互所產(chǎn)生的自動(dòng)且精準(zhǔn)的控制后，他產(chǎn)生了通過計(jì)算機(jī)構(gòu)建“思維中心網(wǎng)絡(luò)”的想法。20世紀(jì)50年代末，利克萊德就已經(jīng)看到，對(duì)于SAGE以及當(dāng)時(shí)的許多自動(dòng)化系統(tǒng)，很大程度上，都是人類在幫助機(jī)器，而不是真正的人機(jī)共生。他在1960年發(fā)表的一篇文章中指出了人機(jī)關(guān)系發(fā)展的新方向：“讓人感到希望的是，不久之后，人類的大腦就能和計(jì)算的機(jī)器緊密地耦合在一起了?！盵7]

20世紀(jì)60年代初，在寫給“星際計(jì)算機(jī)網(wǎng)絡(luò)的成員和分支機(jī)構(gòu)”的一文中，利克萊德正式提出了構(gòu)建一個(gè)由計(jì)算機(jī)連接而成的網(wǎng)絡(luò)的設(shè)想，也就是他所說的由一個(gè)個(gè)“思維中心”組成的網(wǎng)絡(luò)。但這一網(wǎng)絡(luò)，幾乎花了整整20年才成長(zhǎng)為后來大家所熟知的“互聯(lián)網(wǎng)”。

人類增強(qiáng)機(jī)器

從某些方面看來，機(jī)器要比人類優(yōu)秀得多，因?yàn)闄C(jī)器人會(huì)比人類更快、更精確地完成任務(wù)，而且不會(huì)生病、不會(huì)罷工、不會(huì)酗酒，極大程度上它會(huì)成為定制化的優(yōu)秀員工。但從生物進(jìn)化的觀點(diǎn)，我們是風(fēng)雅的、有情懷、有直覺且具有創(chuàng)造力的;相比之下，機(jī)器是死板的、冷冰冰的、數(shù)學(xué)公式化的而且重復(fù)乏味?！拔覀儭?，一定程度上來說，是美學(xué)家;而機(jī)器，則是沒有生命且程序化的，不管它們?cè)诖鎯?chǔ)和計(jì)算能力上高出人類多少倍。

最早的時(shí)候，機(jī)器被寫在卡片上的指令驅(qū)動(dòng)進(jìn)行工作，那時(shí)，雖然很多人擔(dān)心機(jī)器會(huì)造成“失業(yè)”的現(xiàn)象，但本質(zhì)上人們對(duì)于什么是機(jī)器做的事情、什么是人類做的事情，都是很清楚的。近年來，隨著人工智能等技術(shù)的發(fā)展，關(guān)于兩者之間的功能分界線，變得越來越模糊不清了。許多關(guān)于機(jī)器能否獲得智能的討論，都提到了“圖靈測(cè)試”的概念。這一術(shù)語最早出現(xiàn)于英國(guó)數(shù)學(xué)家、邏輯學(xué)家、現(xiàn)代計(jì)算機(jī)之父阿蘭·圖靈一篇名為《可計(jì)算的機(jī)器及其智能》（Computational Machinery and Intelligence）的文章，文章開篇即提出了這樣一個(gè)問題：“機(jī)器能夠思考嗎？”由于難以對(duì)“思考”進(jìn)行定義，圖靈提出了“模仿游戲”的概念，并聲稱它在某種程度上與智能等價(jià)。自此之后，通過“模仿游戲”[8]便成為了衡量機(jī)器是否是智能的一個(gè)標(biāo)準(zhǔn)。

了解圖靈測(cè)試的人們都知道，圖靈實(shí)際上是把機(jī)器理解人類語言（文本）的能力，即人-機(jī)文本通信，作為了衡量機(jī)器智能的標(biāo)準(zhǔn)。近年來，隨著機(jī)器逐漸有了聽覺、視覺以及觸覺，許多學(xué)者專家都開始爭(zhēng)論，聽懂人類的講話、識(shí)別物體的能力或者操縱物理世界中事物的能力，也應(yīng)該作為評(píng)價(jià)機(jī)器是否智能的一部分，這又分別促進(jìn)了語音識(shí)別、圖形圖像學(xué)以及微觸覺傳感技術(shù)的發(fā)展。不知有多少人還記得，2016年2月23日波士頓動(dòng)力公司（Boston Dynamics）在YouTube上發(fā)布的一段視頻中，Atlas推開玻璃門揚(yáng)長(zhǎng)而去的背影，是多么的逆天。

近20年來，機(jī)器不斷向人發(fā)起挑戰(zhàn)的另外一個(gè)領(lǐng)域，是下棋。從最開始的跳棋，[9]到后來的象棋和最近的圍棋，賺足了世人的眼球。本質(zhì)上，這三種棋類游戲，都是完全信息、確定性并且零和博弈的。這就導(dǎo)致，只要機(jī)器有足夠的存儲(chǔ)能力和計(jì)算能力，終究有一天，總會(huì)戰(zhàn)勝人類。相比較之下，人類的世界要復(fù)雜得多，尤其是商業(yè)和社會(huì)行為，充滿了多樣、復(fù)雜且不確定性，即便是擁有宇宙最強(qiáng)武器“銀河水滴”而且使用腦電波進(jìn)行交流的三體文明來到地球，也無法在短時(shí)間內(nèi)遏制或毀滅人類，更不要說目前水平的人工智能了。[10]

AlphaGo在與樊輝、李世乭、柯潔等人進(jìn)行對(duì)戰(zhàn)之前，已經(jīng)得到了數(shù)量眾多的計(jì)算機(jī)工程師、圍棋高手、軟件測(cè)試員經(jīng)年累月的幫助、練習(xí)和“指導(dǎo)”，一定程度上可以說，不是一臺(tái)機(jī)器戰(zhàn)勝了一個(gè)世界頂級(jí)圍棋選手，而是一臺(tái)機(jī)器背后的許許多多的男人和女人一起，戰(zhàn)勝了一個(gè)擁有血肉之軀的凡人。在這種場(chǎng)景下，還是機(jī)器擴(kuò)展了人類嗎？不是的，是人類增強(qiáng)了機(jī)器。

最近，這一趨勢(shì)隨著目前社交媒體與社會(huì)網(wǎng)絡(luò)的興起變得愈加明顯了。目前公認(rèn)的人工智能發(fā)展的一大瓶頸，是常識(shí)問題。很多情況下，這是由人類語言本身所具有的歧義性所導(dǎo)致的。因此，理解人們說話時(shí)的上下文語境就成為了衡量機(jī)器智能的標(biāo)準(zhǔn)之一。理解上下文語境又包括兩個(gè)步驟：一是語音識(shí)別，二是語義理解。機(jī)器在第一步上已經(jīng)做得非常好了，這一領(lǐng)域國(guó)內(nèi)最具代表性的應(yīng)用是“訊飛聽見”;然而，機(jī)器在第二步卻依然尚未取得明顯的進(jìn)步。目前的許多個(gè)人的人工助理，Siri、Contana或者小冰，只能識(shí)別簡(jiǎn)單的句子或“命令”。但是，隨著越來越多的人機(jī)交互接口提供語音輸入與輸出的功能，機(jī)器在與人類進(jìn)行交互的同時(shí)，也在學(xué)習(xí)人類的語言。大規(guī)模人類語音輸入的出現(xiàn)，開始為機(jī)器的語義理解提供大量新的、真實(shí)的甚至實(shí)時(shí)的訓(xùn)練素材。

本質(zhì)上，許多時(shí)候機(jī)器難以理解常識(shí)問題的關(guān)鍵在于，它并不能完全理解我們所生活的世界。就像陪伴了“80后”整個(gè)兒童年代的一首歌中唱的：

打雷要下雨，雷歐，（什么？）下雨要打傘，雷歐，（這我也知道！）天冷穿棉襖，雷歐，雷誒歐，天熱扇扇子。智慧就是，（說啊?。┻@么簡(jiǎn)單。

歌中描述的都是對(duì)于人類很常見的情景，也是人類在面臨這些狀況時(shí)自然而然就知道怎么做的情景。但是，如果機(jī)器并不怕下雨，也不怕冷，更不怕熱，那么它如何在面臨這種環(huán)境時(shí)表現(xiàn)出人類所謂的“智能”？

另一方面，無所不在的社會(huì)網(wǎng)絡(luò)與便攜式智能設(shè)備相遇后，也碰撞出了新的火花——人肉搜索、“眾包”以及多種通過超大規(guī)模人類在碎片化時(shí)間內(nèi)的勞動(dòng)，開始創(chuàng)造出巨大的社會(huì)和經(jīng)濟(jì)效益。人類開始主動(dòng)地將知識(shí)貢獻(xiàn)出來，幫助人工智能技術(shù)以及智慧機(jī)器，獲取常識(shí)、演化成長(zhǎng)。反過來，成長(zhǎng)并連通的機(jī)器，也在為人類提供更加智能的服務(wù)，如基于位置、喜好、個(gè)人經(jīng)歷的個(gè)性化推薦服務(wù)等，開始組建成為大型的社會(huì)機(jī)器。正如Tim Berners-Lee與Mark Fischetti于1999年出版的一本書中所言：“借助計(jì)算機(jī)，我們能夠在網(wǎng)絡(luò)上創(chuàng)造出抽象的社會(huì)機(jī)器：由人類進(jìn)行創(chuàng)造性工作而機(jī)器完成管理任務(wù)的過程……”[11]

社會(huì)機(jī)器的降臨

網(wǎng)絡(luò)時(shí)代最為著名的定律有兩個(gè)，一是描述硬件設(shè)備演化發(fā)展的摩爾定律;二是描述軟件網(wǎng)絡(luò)演化發(fā)展的梅特卡夫定律。前者揭示了互聯(lián)網(wǎng)時(shí)代信息技術(shù)進(jìn)步的速度;后者闡明了互聯(lián)網(wǎng)時(shí)代社會(huì)與經(jīng)濟(jì)價(jià)值發(fā)展的速度。梅特卡夫定律能夠明確告訴我們的一點(diǎn)就是，網(wǎng)絡(luò)上的個(gè)體數(shù)量越多，網(wǎng)絡(luò)的價(jià)值也就越大。顯然，“眾包”就是這樣一個(gè)例子，一個(gè)網(wǎng)絡(luò)中的每個(gè)人所做的是非常小的一部分工作，共同努力就能創(chuàng)造出巨大的內(nèi)容輸出。這類情況最著名的一個(gè)例子是Wikipedia，目前已有超過200種語言版本，僅它的英文版網(wǎng)站就有超過500萬篇文章，總文章數(shù)超過3800萬篇，通過網(wǎng)站部署的350多種網(wǎng)絡(luò)Bots來進(jìn)行異常發(fā)現(xiàn)、維護(hù)和管理。

除此之外，還有另外一種利用人類共同合作來獲益的方法。《科學(xué)》雜志信息科學(xué)領(lǐng)域唯一的編委James Hendler將其稱為“人類計(jì)算”。[12]借助人類的輸入，保障機(jī)器（及其內(nèi)在的人工智能算法與技術(shù)）能夠獲得優(yōu)良的“輸入原料”，進(jìn)而使得機(jī)器產(chǎn)生更好的“輸出”，從而幫助人類完成某些任務(wù)。值得一提的是，中國(guó)科學(xué)院自動(dòng)化研究所的王飛躍研究員在2001年時(shí)已經(jīng)觀察到了這一現(xiàn)象，并將其命名為“人肉搜索”（Human Flesh Search）。也是計(jì)算機(jī)科學(xué)中為數(shù)不多的由我國(guó)學(xué)者提出的原創(chuàng)性概念。今天，這種模式已經(jīng)被廣泛用于大型自然災(zāi)害發(fā)生之后的尋人和救援等工作中。顯然，以無所不在的網(wǎng)絡(luò)，以社會(huì)計(jì)算[13]和動(dòng)態(tài)網(wǎng)群組織（CMOs）[14]為基礎(chǔ)，融合人類與機(jī)器優(yōu)勢(shì)協(xié)同執(zhí)行任務(wù)的社會(huì)機(jī)器已然初現(xiàn)形態(tài)。

另外一種常見的社會(huì)機(jī)器的形態(tài)，被稱為“目的性游戲”（Games with a purpose， GWAP）。最早的一款游戲，被稱作ESP，這一游戲的思想是對(duì)圖片“打標(biāo)簽”，但并不是像某些主流的圖像分享網(wǎng)站如Flicker或Instagram那樣的做法，讓人們上傳自己的照片。很多情況下，人們?cè)谧约旱纳缃幻襟w平臺(tái)上上傳照片并打上“我的男朋友”或“最好的姐妹”等標(biāo)簽，其實(shí)對(duì)于除了擁有者之外的人來講，并沒有任何用處。這也是機(jī)器所缺乏的常識(shí)的一種。而ESP，通過設(shè)計(jì)一種競(jìng)技游戲的機(jī)制來讓人們主動(dòng)對(duì)圖像打上“有用的”標(biāo)簽，并進(jìn)行排行。這樣就利用人類的工作將幾百萬張圖片進(jìn)行了高質(zhì)量的標(biāo)注，而智能機(jī)器或人工智能算法也能利用這些高質(zhì)量的標(biāo)注進(jìn)行進(jìn)一步的訓(xùn)練和學(xué)習(xí)。

近年來，這樣的設(shè)計(jì)也被用于城市道路狀況監(jiān)督、環(huán)境監(jiān)測(cè)以及舉報(bào)不法行為等，這些設(shè)計(jì)，顯然只用到了很少的AI技術(shù)，但卻正在為更強(qiáng)大的AI技術(shù)提供輸入。AI，已經(jīng)開始依賴于人們使用社會(huì)機(jī)器時(shí)產(chǎn)生的大量時(shí)間和空間數(shù)據(jù)，創(chuàng)造出更多、更大的突破。

AI = 智能的自動(dòng)化

美國(guó)AAAI協(xié)會(huì)的前主席Nils Nilsson曾與John McCarthy對(duì)AI做出了這樣一種解釋：AI = Automation of Intelligence

該見解不僅與維納的控制論思想一脈相承，也解釋了從工程角度，人工智能的實(shí)質(zhì)就是知識(shí)自動(dòng)化。

去年，一部名為《西部世界》的美劇，席卷全球，為當(dāng)下正熱的人工智能又澆了一鍋熱油，也引發(fā)了全世界范圍內(nèi)對(duì)于未來的人機(jī)關(guān)系的探討。劇中，所有的機(jī)器人接待員最終獲得生命及智能，根據(jù)內(nèi)置的機(jī)制與設(shè)定的“目標(biāo)”，能夠在面臨不同境地時(shí)做出符合目標(biāo)的決策。當(dāng)然，《西部世界》目前只是文學(xué)上對(duì)機(jī)器智能的夢(mèng)想，但生命和智能的確一直是人類最美好、最重要的兩類追求。讓機(jī)器獲得智能，一定程度上就是讓機(jī)器根據(jù)輸入的知識(shí)，借助智能算法，如當(dāng)下流行的長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）、深度神經(jīng)網(wǎng)絡(luò)（DNN）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）、深度信念網(wǎng)絡(luò)（DBN）等，來解決知識(shí)型工作中遇到的問題。歸根結(jié)底，是讓機(jī)器圍繞特定的目標(biāo)/任務(wù)，結(jié)合數(shù)據(jù)處理、知識(shí)提取、算法分析、模型構(gòu)建等形成決策制定流程，實(shí)現(xiàn)知識(shí)自動(dòng)化。

經(jīng)過約 200 年的發(fā)展，人類社會(huì)基本完成了工業(yè)化建設(shè)，并從工業(yè)時(shí)代迅速向知識(shí)時(shí)代轉(zhuǎn)移，智能產(chǎn)業(yè)隨之崛起。就像工業(yè)時(shí)代必須依靠工業(yè)自動(dòng)化一樣，知識(shí)自動(dòng)化將是發(fā)展知識(shí)時(shí)代智能產(chǎn)業(yè)的基礎(chǔ)與關(guān)鍵。近年來，隨著網(wǎng)絡(luò)化的虛擬空間成為與現(xiàn)實(shí)化的物理空間平行的一個(gè)實(shí)實(shí)在在的新空間，數(shù)據(jù)成為這一空間中最為重要的“礦藏”資源。未來產(chǎn)業(yè)一定是圍繞數(shù)據(jù)的處理、知識(shí)的加工、智能的自動(dòng)化建設(shè)而成，就像圍繞地下礦藏的挖掘、加工和制造形成的大型現(xiàn)代企業(yè)一樣。在新的產(chǎn)業(yè)中，成百上千的算法被集成到一起，形成“數(shù)據(jù)清洗廠”、“信息加工廠”、“知識(shí)生成廠”，甚至“決策制定廠”，使得它們面對(duì)具體問題時(shí)具有深度知識(shí)的敏捷性，針對(duì)具體問題時(shí)具有深度分析的聚焦能力，同時(shí)具有自適應(yīng)精準(zhǔn)實(shí)時(shí)地向目標(biāo)收斂的能力，實(shí)現(xiàn)智能的自動(dòng)化。[15]

然而，無論人類還是機(jī)器，都無法單獨(dú)實(shí)現(xiàn)這點(diǎn)。機(jī)器，需要借助人類對(duì)于環(huán)境、對(duì)于其他個(gè)體、對(duì)于世界所擁有的常識(shí)知識(shí);而人類，則需要機(jī)器更大的存儲(chǔ)和更快的計(jì)算能力，進(jìn)行決策。就像是深藍(lán)戰(zhàn)勝卡斯帕羅夫之后，人與計(jì)算機(jī)在國(guó)際象棋游戲中產(chǎn)生的合作。1997年，計(jì)算機(jī)登上世界象棋冠軍的寶座，導(dǎo)致卡斯帕羅夫開始探索由個(gè)體人類與個(gè)體計(jì)算機(jī)組成的“半人馬”[16]國(guó)際象棋比賽模式。“半人馬”展示了一種人類能夠基于自己的象棋知識(shí)進(jìn)行決策，并借助計(jì)算機(jī)進(jìn)行計(jì)算的混合力量，十多年來，它的表現(xiàn)逐漸超越了世界上最優(yōu)秀的人類個(gè)體玩家與計(jì)算機(jī)個(gè)體玩家。然而，到了2012年左右，隨著計(jì)算機(jī)在存儲(chǔ)和計(jì)算能力上得到了極大的提升，“半人馬”開始輸給越來越強(qiáng)大的專門下象棋的計(jì)算機(jī)了。就在最近，出現(xiàn)了更高形式的“自由體”[17]國(guó)際象棋玩家，2016年時(shí)，它已經(jīng)能夠打敗世界上最好的象棋機(jī)器了?？雌饋?，機(jī)器（包括硬件的和軟件的）和人類協(xié)同合作組成的團(tuán)隊(duì)，創(chuàng)造了任何單獨(dú)一方都無法打敗的極其強(qiáng)大的“社會(huì)機(jī)器”。

（作者單位：中國(guó)科學(xué)院自動(dòng)化研究所）