一只大黑貓

助手還是新主人

“攻殼”中有一個(gè)疑惑，是人在控制電子腦，還是電子腦控制了人體，進(jìn)而滲透人類社會(huì)?；蛘哒f(shuō)，人和電腦，誰(shuí)是主人，誰(shuí)是助手。

毫無(wú)疑問(wèn)，人工智能的初衷必然是協(xié)助人類工作。電腦的最初形態(tài)是計(jì)算用的機(jī)器，不僅沒有智能，而且只能完成外部賦予的直接指令。由于計(jì)算過(guò)程往往包含一系列連續(xù)操作，必須借助穿孔卡或紙帶盤等裝置，讓機(jī)器依次讀取，這就成了后來(lái)人們習(xí)慣稱呼的“程序”。隨后，程序載體發(fā)展為磁帶、磁盤、光盤，一直到閃存卡等新介質(zhì)，容量越來(lái)越大，程序也變得更加復(fù)雜，最終形成了如今豐富多彩的軟件大家庭。

然而，運(yùn)行這種程序的電腦并不會(huì)“思考”。程序是人事先編好的，電腦只是根據(jù)輸入演算并輸出結(jié)果，不知道這些結(jié)果“好”或“不好”，也不需要知道。例如常用的桌面PC機(jī)或手機(jī)，上面運(yùn)行著Windows、iOS或安卓環(huán)境，其下又有眾多軟件和APP，人們用它買票或炒股，無(wú)論買沒買到，或賺錢賠錢，機(jī)器都照常輸出信息，不理會(huì)用戶開心或郁悶，機(jī)器自身也不會(huì)對(duì)這些結(jié)果敏感?？傊@類軟硬件都不具有“人工智能”。

不只是計(jì)算用機(jī)器

隨著電子技術(shù)發(fā)展，電腦的運(yùn)算和存儲(chǔ)能力越來(lái)越強(qiáng)，人們的要求也越來(lái)越多，開始希望它不僅能計(jì)算，還能進(jìn)一步輔助決策。開發(fā)出用于決策的程序借助了數(shù)學(xué)和管理科學(xué)的進(jìn)步，在這兩個(gè)領(lǐng)域各有一門將決策化為運(yùn)算的學(xué)科，分別是 “運(yùn)籌學(xué)”和“線性規(guī)劃”，利用它們就能算出最佳資源配比。

運(yùn)籌和規(guī)劃實(shí)際上仍然是做計(jì)算，但很快有研究者想到把它們用于電腦本身，從而使電腦具有一定自我分析和評(píng)估能力，這就產(chǎn)生了人工智能的雛形。很難說(shuō)最初開發(fā)人工智能的研究者是不是為了玩游戲，因?yàn)殡娮佑螒蛑械姆峭婕医巧∟PC）正是這種自我分析評(píng)估能力的典型應(yīng)用。這些角色像人一樣觀察和判斷環(huán)境，自主選擇攻擊、防御或逃走，在保證自身存活的前提下盡最大努力打擊對(duì)手。它們的行為看起來(lái)有點(diǎn)像人，或者說(shuō)，比一個(gè)純粹程序更有“智慧”。

比人更聰明

最近，在玩游戲這個(gè)領(lǐng)域中，人類遭到來(lái)自電腦的一次強(qiáng)力挑戰(zhàn)。從2016年到2017年1月，人工智能棋手“阿爾法狗”（AlphaGo）在一系列網(wǎng)上快棋賽中擊敗了包括中國(guó)棋圣聶衛(wèi)平、年輕圍棋冠軍柯潔、韓國(guó)冠軍李世石等在內(nèi)的幾乎所有世界頂級(jí)棋手，以至網(wǎng)上有人高呼“圍棋的末日到了”。

那么，這只奇怪的圍棋“高狗”是怎么回事？它真比人更聰明嗎？

這要看從哪個(gè)角度說(shuō)。

一方面，圍棋是相對(duì)簡(jiǎn)單的決策游戲，棋子沒有強(qiáng)弱之分，作用只和落子位置有關(guān)，棋盤也是簡(jiǎn)單縱橫格，勝負(fù)直接由占據(jù)格點(diǎn)數(shù)來(lái)決定。在這種情況下，開發(fā)程序評(píng)估勝負(fù)，進(jìn)而決定落子，理論上不難實(shí)現(xiàn)。因此，如果“狗”有能力對(duì)每步都完整演算，達(dá)到絕不犯錯(cuò)的“圍棋上帝”水平，必能贏過(guò)所有人。然而，這不現(xiàn)實(shí)，哪怕用最好的超級(jí)計(jì)算機(jī)，也無(wú)法在比賽允許的幾十秒思考時(shí)間內(nèi)從第一步推演到最后。

另一方面，在計(jì)算速度、深度和對(duì)棋局記憶力上，人類普遍水平并不高，棋手更多依靠對(duì)局經(jīng)驗(yàn)和感覺來(lái)“模糊”決策。既然是模糊的，就有一定機(jī)會(huì)犯錯(cuò)誤。高手對(duì)弈比的常常是誰(shuí)先犯錯(cuò)、誰(shuí)犯錯(cuò)多和誰(shuí)的錯(cuò)誤更大?！鞍柗ü贰痹谒膶?duì)局評(píng)估軟件中加上了和人類棋手相似的整體判斷功能，從而擁有了模糊決策能力。這種模糊決策能力依賴所謂的“訓(xùn)練”機(jī)制，即通過(guò)和不同人多次對(duì)弈積累經(jīng)驗(yàn)，進(jìn)而產(chǎn)生與人類似的“大局觀”。它的具體實(shí)現(xiàn)技術(shù)并未公開，只提到和“神經(jīng)網(wǎng)絡(luò)”有關(guān)。作為一只不知疲憊的電子“狗”，在不到一年的時(shí)間里，它已和網(wǎng)上成百上千人交手，積累了遠(yuǎn)超普通棋手的經(jīng)驗(yàn)，更能借助自身超強(qiáng)的計(jì)算力進(jìn)行相當(dāng)于棋手復(fù)盤的內(nèi)部高速模擬對(duì)抗，棋力長(zhǎng)進(jìn)速度非凡。從這個(gè)角度上說(shuō)，“狗”的確比人更聰明。

這樣還算是人嗎

僅僅在下圍棋上碾壓人類并不是人工智能開發(fā)的目標(biāo)，也不是“災(zāi)難”。早在計(jì)算機(jī)還只是計(jì)算用機(jī)器的時(shí)代，就有人組織過(guò)打算盤和電子計(jì)算的速度比賽，結(jié)果也是人類完敗，但并沒改變計(jì)算機(jī)是工具，人是使用者的地位。人們開發(fā)工具正是為了補(bǔ)足自身弱勢(shì)，以便更有效地征服自然，因此比人強(qiáng)才是工具正確的發(fā)展方向，讓電腦具備智能，不過(guò)是提高效率的一個(gè)步驟。

機(jī)械延伸人的體力，傳統(tǒng)計(jì)算機(jī)幫助計(jì)算并存儲(chǔ)資料，人工智能提高決策效率，但這還遠(yuǎn)遠(yuǎn)不夠，人們需要更多、更強(qiáng)的工具來(lái)滿足日益增長(zhǎng)的需求。例如，人的壽命有限，漫長(zhǎng)學(xué)習(xí)和工作中積累的經(jīng)驗(yàn)難免隨生命消逝而去，無(wú)法完全傳給后人。如何解決這些問(wèn)題？幻想作品中有答案。在“攻殼”里，人類意識(shí)可以上傳到運(yùn)算和感知能力更強(qiáng)，壽命也不受有機(jī)體代謝約束的電子矩陣中，實(shí)現(xiàn)“固態(tài)”化。唯一的問(wèn)題是，這樣還算是“人”嗎？

另一個(gè)經(jīng)常提出的問(wèn)題則是，當(dāng)機(jī)器有了決策能力和權(quán)限，會(huì)不會(huì)因?yàn)楸热藦?qiáng)大和聰明就否定人類地位，甚至把人變成它們的奴隸呢？

養(yǎng)貓的人有時(shí)會(huì)發(fā)現(xiàn)，貓能記住主人的腳步聲，可以根據(jù)主人情緒選擇上來(lái)?yè)湟粋€(gè)還是遠(yuǎn)遠(yuǎn)躲到沙發(fā)下觀望，有些貓甚至?xí)甸_冰箱門找食物。但這算有“智能”嗎？普遍認(rèn)為是否定的，只有更高級(jí)的，基于“理性”的行為才算。“阿爾法狗”在圍棋上所表現(xiàn)出超人的分析決策水平，稱之為有一定智能并不為過(guò)，但它的能力也是片面的。

智能的另一個(gè)側(cè)面是自我意識(shí)及其在決策中的表達(dá)，比如說(shuō)，選擇對(duì)自己最有利的行為方向。最關(guān)鍵的，假如機(jī)器真有智能，就像人從幼兒起學(xué)習(xí)接觸世界、理解世界和以人的姿態(tài)在世界上活動(dòng)一樣，人類仍有能力并且應(yīng)該通過(guò)教育使機(jī)器與人類和諧相處，這比單純擔(dān)心機(jī)器反叛或研究如何限制人工智能研究更有價(jià)值。