●布賴·恩勒夫金

人工智能面臨的最大挑戰(zhàn)不是技術(shù)

●布賴·恩勒夫金

人工智能如今隨處可見(jiàn)，它已經(jīng)扎根于我們的生活。人工智能以這樣或那樣的方式觸及我們生活的大多數(shù)方面，從在網(wǎng)上決定購(gòu)買什么書(shū)籍或機(jī)票，到我們的求職申請(qǐng)是否成功，再到我們是否獲得了一筆銀行貸款，甚至罹患癌癥后要接受何種治療方法，都離不開(kāi)它。

所有這些事情，甚至包括其他更多的事情，現(xiàn)在都可以由復(fù)雜的軟件系統(tǒng)以基本上全自動(dòng)的方式來(lái)決定。人工智能在過(guò)去幾年當(dāng)中實(shí)現(xiàn)的巨大進(jìn)步相當(dāng)引人注目，它有可能會(huì)在很多方面讓我們的生活變得更加美好。

在剛剛過(guò)去的幾年中，人工智能的崛起已經(jīng)成為不可避免的趨勢(shì)。大量的資金被投入到人工智能初創(chuàng)公司中。許多現(xiàn)有的科技公司，包括亞馬遜、臉書(shū)和微軟在內(nèi)的一些巨頭，都開(kāi)設(shè)了新的研究實(shí)驗(yàn)室。毫不夸張地說(shuō)，現(xiàn)在軟件就意味著人工智能。

人工智能已經(jīng)在多項(xiàng)實(shí)踐活動(dòng)中證明了自己，從給照片貼標(biāo)簽到診斷疾病。有人預(yù)測(cè)它帶來(lái)的巨變堪比互聯(lián)網(wǎng)，甚至更大。我們?cè)儐?wèn)了一組技術(shù)專家，這個(gè)人工智能無(wú)處不在的快速變化的世界對(duì)人類來(lái)說(shuō)意味著什么？值得注意的是，他們當(dāng)中幾乎所有人的反應(yīng)都圍繞著道德問(wèn)題。

人工智能可以讓機(jī)器人執(zhí)行更復(fù)雜的任務(wù)，例如日本的這個(gè)機(jī)器人在商店里服務(wù)客人

谷歌的研究總監(jiān)、機(jī)器學(xué)習(xí)領(lǐng)域的先驅(qū)彼得·諾維格說(shuō)，受數(shù)據(jù)驅(qū)動(dòng)的人工智能技術(shù)是該公司最近取得的眾多勝利成果背后的推動(dòng)力，現(xiàn)在關(guān)鍵的問(wèn)題是找出確保這些新系統(tǒng)讓整個(gè)社會(huì)得到改善的方法，而不僅僅是讓控制它們的人受益。他說(shuō)：“人工智能已被證明在實(shí)踐任務(wù)領(lǐng)域相當(dāng)有效，從給照片貼標(biāo)簽，到理解口頭和書(shū)面的自然語(yǔ)言，再到幫助辨別疾病，現(xiàn)在的挑戰(zhàn)是確保每個(gè)人都能從這項(xiàng)技術(shù)當(dāng)中受益?！?/p>

一個(gè)重要問(wèn)題在于，這種軟件的復(fù)雜性常常意味著不可能確切搞清楚某種人工智能系統(tǒng)行為方式背后的原因。根據(jù)目前人工智能的運(yùn)行方式，它建立在一項(xiàng)非常成功的被稱為機(jī)器學(xué)習(xí)的技術(shù)基礎(chǔ)上，你無(wú)法揭開(kāi)蓋子，一探里面的究竟。所以我們選擇相信它。那么我們的挑戰(zhàn)就是要想出新的辦法來(lái)監(jiān)控或者審核人工智能目前正在發(fā)揮重大作用的眾多領(lǐng)域。

對(duì)哈佛大學(xué)法學(xué)院的互聯(lián)網(wǎng)法律學(xué)教授喬納森·齊特林來(lái)說(shuō)，目前存在的一個(gè)威脅是，計(jì)算機(jī)系統(tǒng)變得越來(lái)越復(fù)雜，這可能使它們無(wú)法獲得必要的監(jiān)督。他說(shuō)：“隨著我們的系統(tǒng)在技術(shù)的幫助下變得越來(lái)越復(fù)雜而且緊密耦合，我擔(dān)心人類的自主性會(huì)減弱。如果我們‘設(shè)置完畢就不再管它’，我們可能會(huì)對(duì)某個(gè)系統(tǒng)的發(fā)展進(jìn)化方式感到后悔，并哀嘆沒(méi)有一個(gè)明確的位置來(lái)考慮道德因素。”

人工智能技術(shù)將可以讓機(jī)器人完成更復(fù)雜的工作，例如日本這種為顧客提供服務(wù)的售貨機(jī)器店員。我們專家組的其他人也表達(dá)了同樣的憂慮。北卡羅來(lái)納州杜克大學(xué)人類與自主性實(shí)驗(yàn)室的主管米西·卡明斯問(wèn)道：“我們將如何能夠證明這些系統(tǒng)是安全的？”卡明斯曾是美國(guó)海軍的首位女性戰(zhàn)斗機(jī)飛行員之一，目前是一位無(wú)人機(jī)專家。

在許多工廠，人類已經(jīng)和機(jī)器人一起工作

人工智能需要監(jiān)督，但目前還不清楚要怎樣做到這一點(diǎn)?？魉狗Q：“目前，我們還沒(méi)有想出被大家普遍接受的辦法。而且，在沒(méi)有一個(gè)行業(yè)標(biāo)準(zhǔn)對(duì)這些系統(tǒng)進(jìn)行測(cè)試的情況下，這些技術(shù)也很難被廣泛推行。”

然而，在這樣一個(gè)瞬息萬(wàn)變的世界，監(jiān)管機(jī)構(gòu)常常發(fā)現(xiàn)自己要扮演追趕者的角色。在很多關(guān)鍵領(lǐng)域，比如說(shuō)刑事司法系統(tǒng)和醫(yī)療保健領(lǐng)域，相關(guān)公司已經(jīng)在探索利用人工智能做出假釋決定或者診斷疾病的有效性。但是，一旦把決定權(quán)交給機(jī)器，我們就面臨失控的風(fēng)險(xiǎn)，誰(shuí)敢保證這個(gè)系統(tǒng)每一次都能做出正確決定？

微軟研究院首席研究員達(dá)娜·博伊德稱，關(guān)于那些正在被寫(xiě)進(jìn)這種系統(tǒng)的價(jià)值觀以及誰(shuí)將最終為它們負(fù)責(zé)，有一些很嚴(yán)肅的問(wèn)題。她說(shuō)：“監(jiān)管機(jī)構(gòu)、民間社會(huì)和社會(huì)理論家越來(lái)越強(qiáng)烈地希望看到這些技術(shù)是公平并且符合道德準(zhǔn)則的，但這些想法充其量不過(guò)是模糊的概念?！?/p>

存在道德問(wèn)題困擾的其中一個(gè)領(lǐng)域是工作場(chǎng)所。人工智能技術(shù)將使機(jī)器人承擔(dān)更復(fù)雜的工作并替代更多的工人。例如，蘋(píng)果公司和三星集團(tuán)的供貨商富士康科技集團(tuán)已經(jīng)宣布，該公司打算用機(jī)器人替代六萬(wàn)名工廠工人。還有福特汽車位于德國(guó)科隆的工廠，讓機(jī)器人和工人一起并肩工作。

在許多工廠，人類已經(jīng)在和機(jī)器人一起工作，有人認(rèn)為，這種被取代的感覺(jué)可能給精神健康帶來(lái)沖擊。更重要的是，如果自動(dòng)化程度的提高給就業(yè)造成重大影響，也可能給人類的精神健康帶來(lái)沖擊。生物倫理學(xué)家、美國(guó)前總統(tǒng)巴拉克·奧巴馬的前醫(yī)療顧問(wèn)伊齊基爾·伊曼紐爾稱：“如果要找出給人們的生活帶來(lái)意義的事情，你會(huì)發(fā)現(xiàn)有三樣：有意義的關(guān)系、強(qiáng)烈的興趣和有意義的工作。有意義的工作是構(gòu)成個(gè)人身份的一個(gè)非常重要的元素。”他指出，在工廠倒閉導(dǎo)致就業(yè)崗位流失的地區(qū)，出現(xiàn)自殺、藥物濫用和抑郁癥的風(fēng)險(xiǎn)可能增大。

由此導(dǎo)致的結(jié)果是我們可能需要更多的倫理學(xué)家。麻省理工學(xué)院的法律和倫理學(xué)專家凱特·達(dá)林稱：“公司會(huì)追隨市場(chǎng)激勵(lì)的方向，這不是一件壞事，但正因?yàn)檫@一點(diǎn)，我們不能指望他們遵守道德標(biāo)準(zhǔn)。如果有適當(dāng)?shù)谋O(jiān)管，會(huì)起到幫助作用。在私底下或者每當(dāng)我們擁有一項(xiàng)新技術(shù)的時(shí)候，我們已經(jīng)發(fā)現(xiàn)了這個(gè)問(wèn)題，而且想出了應(yīng)對(duì)它的辦法?！?/p>

達(dá)林指出，包括谷歌在內(nèi)的許多知名大公司已經(jīng)設(shè)置了倫理委員會(huì)，用來(lái)監(jiān)督他們?nèi)斯ぶ悄芗夹g(shù)的開(kāi)發(fā)和部署。有觀點(diǎn)認(rèn)為這種現(xiàn)象應(yīng)該變得更普遍。她說(shuō)：“我們不想扼殺創(chuàng)新，但可能已經(jīng)到了大家都希望創(chuàng)建一些這類組織的時(shí)候?！?/p>

對(duì)于谷歌倫理委員會(huì)的成員以及該機(jī)構(gòu)實(shí)際職能的詳細(xì)情況，我們還知之甚少。但是去年9月，臉譜、谷歌和亞馬遜聯(lián)合推出了一個(gè)名叫OpenAI的非營(yíng)利組織，針對(duì)人工智能帶來(lái)的大量安全性和隱私性問(wèn)題，研究解決方案。這是一個(gè)致力于研究和推動(dòng)開(kāi)放源人工智能為所有人謀福利的組織。谷歌的諾維格稱：“公開(kāi)研究機(jī)器學(xué)習(xí)技術(shù)以及通過(guò)公開(kāi)刊物和開(kāi)放源代碼傳播這種技術(shù)是非常重要的一點(diǎn)，這樣我們都能共享研究成果。”

如果我們想要研究行業(yè)和道德標(biāo)準(zhǔn)并完全搞清楚什么是利害攸關(guān)的東西，那么創(chuàng)建一個(gè)由倫理專家、技術(shù)專家和企業(yè)領(lǐng)導(dǎo)人組成的顧問(wèn)團(tuán)隊(duì)就是非常重要的一件事。我們要解決的問(wèn)題是如何利用人工智能技術(shù)在我們已經(jīng)做到最好的基礎(chǔ)上讓人類社會(huì)變得更美好。齊特林稱：“我們要做的是少擔(dān)心科幻小說(shuō)中機(jī)器人接管地球的局面，多想想如何運(yùn)用技術(shù)幫助人類思考和做決策，而不是完全取代人類的自主性?！?/p>

（摘自英國(guó)廣播公司新聞網(wǎng)）

（編輯/華生）