布賴·恩勒夫金

人工智能如今隨處可見，它已經(jīng)扎根于我們的生活。人工智能以這樣或那樣的方式觸及我們生活的大多數(shù)方面，從在網(wǎng)上決定購買什么書籍或機(jī)票，到我們的求職申請是否成功，再到我們是否獲得了一筆銀行貸款，甚至罹患癌癥后要接受何種治療方法，都離不開它。

所有這些事情，甚至包括其他更多的事情，現(xiàn)在都可以由復(fù)雜的軟件系統(tǒng)以基本上全自動的方式來決定。人工智能在過去幾年當(dāng)中實現(xiàn)的巨大進(jìn)步相當(dāng)引人注目，它有可能會在很多方面讓我們的生活變得更加美好。

在剛剛過去的幾年中，人工智能的崛起已經(jīng)成為不可避免的趨勢。大量的資金被投入到人工智能初創(chuàng)公司中。許多現(xiàn)有的科技公司，包括亞馬遜、臉書和微軟在內(nèi)的一些巨頭，都開設(shè)了新的研究實驗室。毫不夸張地說，現(xiàn)在軟件就意味著人工智能。

人工智能已經(jīng)在多項實踐活動中證明了自己，從給照片貼標(biāo)簽到診斷疾病。有人預(yù)測它帶來的巨變堪比互聯(lián)網(wǎng)，甚至更大。我們詢問了一組技術(shù)專家，這個人工智能無處不在的快速變化的世界對人類來說意味著什么？值得注意的是，他們當(dāng)中幾乎所有人的反應(yīng)都圍繞著道德問題。

谷歌的研究總監(jiān)、機(jī)器學(xué)習(xí)領(lǐng)域的先驅(qū)彼得·諾維格說，受數(shù)據(jù)驅(qū)動的人工智能技術(shù)是該公司最近取得的眾多勝利成果背后的推動力，現(xiàn)在關(guān)鍵的問題是找出確保這些新系統(tǒng)讓整個社會得到改善的方法，而不僅僅是讓控制它們的人受益。他說：“人工智能已被證明在實踐任務(wù)領(lǐng)域相當(dāng)有效，從給照片貼標(biāo)簽，到理解口頭和書面的自然語言，再到幫助辨別疾病，現(xiàn)在的挑戰(zhàn)是確保每個人都能從這項技術(shù)當(dāng)中受益?！?/p>

一個重要問題在于，這種軟件的復(fù)雜性常常意味著不可能確切搞清楚某種人工智能系統(tǒng)行為方式背后的原因。根據(jù)目前人工智能的運(yùn)行方式，它建立在一項非常成功的被稱為機(jī)器學(xué)習(xí)的技術(shù)基礎(chǔ)上，你無法揭開蓋子，一探里面的究竟。所以我們選擇相信它。那么我們的挑戰(zhàn)就是要想出新的辦法來監(jiān)控或者審核人工智能目前正在發(fā)揮重大作用的眾多領(lǐng)域。

對哈佛大學(xué)法學(xué)院的互聯(lián)網(wǎng)法律學(xué)教授喬納森·齊特林來說，目前存在的一個威脅是，計算機(jī)系統(tǒng)變得越來越復(fù)雜，這可能使它們無法獲得必要的監(jiān)督。他說：“隨著我們的系統(tǒng)在技術(shù)的幫助下變得越來越復(fù)雜而且緊密耦合，我擔(dān)心人類的自主性會減弱。如果我們‘設(shè)置完畢就不再管它，我們可能會對某個系統(tǒng)的發(fā)展進(jìn)化方式感到后悔，并哀嘆沒有一個明確的位置來考慮道德因素?！?/p>

人工智能技術(shù)將可以讓機(jī)器人完成更復(fù)雜的工作，例如日本這種為顧客提供服務(wù)的售貨機(jī)器店員。我們專家組的其他人也表達(dá)了同樣的憂慮。北卡羅來納州杜克大學(xué)人類與自主性實驗室的主管米西·卡明斯問道：“我們將如何能夠證明這些系統(tǒng)是安全的？”卡明斯曾是美國海軍的首位女性戰(zhàn)斗機(jī)飛行員之一，目前是一位無人機(jī)專家。

人工智能需要監(jiān)督，但目前還不清楚要怎樣做到這一點。卡明斯稱：“目前，我們還沒有想出被大家普遍接受的辦法。而且，在沒有一個行業(yè)標(biāo)準(zhǔn)對這些系統(tǒng)進(jìn)行測試的情況下，這些技術(shù)也很難被廣泛推行?！?/p>

然而，在這樣一個瞬息萬變的世界，監(jiān)管機(jī)構(gòu)常常發(fā)現(xiàn)自己要扮演追趕者的角色。在很多關(guān)鍵領(lǐng)域，比如說刑事司法系統(tǒng)和醫(yī)療保健領(lǐng)域，相關(guān)公司已經(jīng)在探索利用人工智能做出假釋決定或者診斷疾病的有效性。但是，一旦把決定權(quán)交給機(jī)器，我們就面臨失控的風(fēng)險，誰敢保證這個系統(tǒng)每一次都能做出正確決定？

微軟研究院首席研究員達(dá)娜·博伊德稱，關(guān)于那些正在被寫進(jìn)這種系統(tǒng)的價值觀以及誰將最終為它們負(fù)責(zé)，有一些很嚴(yán)肅的問題。她說：“監(jiān)管機(jī)構(gòu)、民間社會和社會理論家越來越強(qiáng)烈地希望看到這些技術(shù)是公平并且符合道德準(zhǔn)則的，但這些想法充其量不過是模糊的概念。”

存在道德問題困擾的其中一個領(lǐng)域是工作場所。人工智能技術(shù)將使機(jī)器人承擔(dān)更復(fù)雜的工作并替代更多的工人。例如，蘋果公司和三星集團(tuán)的供貨商富士康科技集團(tuán)已經(jīng)宣布，該公司打算用機(jī)器人替代六萬名工廠工人。還有福特汽車位于德國科隆的工廠，讓機(jī)器人和工人一起并肩工作。

在許多工廠，人類已經(jīng)在和機(jī)器人一起工作，有人認(rèn)為，這種被取代的感覺可能給精神健康帶來沖擊。更重要的是，如果自動化程度的提高給就業(yè)造成重大影響，也可能給人類的精神健康帶來沖擊。生物倫理學(xué)家、美國前總統(tǒng)巴拉克·奧巴馬的前醫(yī)療顧問伊齊基爾·伊曼紐爾稱：“如果要找出給人們的生活帶來意義的事情，你會發(fā)現(xiàn)有三樣：有意義的關(guān)系、強(qiáng)烈的興趣和有意義的工作。有意義的工作是構(gòu)成個人身份的一個非常重要的元素。”他指出，在工廠倒閉導(dǎo)致就業(yè)崗位流失的地區(qū)，出現(xiàn)自殺、藥物濫用和抑郁癥的風(fēng)險可能增大。

由此導(dǎo)致的結(jié)果是我們可能需要更多的倫理學(xué)家。麻省理工學(xué)院的法律和倫理學(xué)專家凱特·達(dá)林稱：“公司會追隨市場激勵的方向，這不是一件壞事，但正因為這一點，我們不能指望他們遵守道德標(biāo)準(zhǔn)。如果有適當(dāng)?shù)谋O(jiān)管，會起到幫助作用。在私底下或者每當(dāng)我們擁有一項新技術(shù)的時候，我們已經(jīng)發(fā)現(xiàn)了這個問題，而且想出了應(yīng)對它的辦法。”

達(dá)林指出，包括谷歌在內(nèi)的許多知名大公司已經(jīng)設(shè)置了倫理委員會，用來監(jiān)督他們?nèi)斯ぶ悄芗夹g(shù)的開發(fā)和部署。有觀點認(rèn)為這種現(xiàn)象應(yīng)該變得更普遍。她說：“我們不想扼殺創(chuàng)新，但可能已經(jīng)到了大家都希望創(chuàng)建一些這類組織的時候。”

對于谷歌倫理委員會的成員以及該機(jī)構(gòu)實際職能的詳細(xì)情況，我們還知之甚少。但是去年9月，臉譜、谷歌和亞馬遜聯(lián)合推出了一個名叫OpenAI的非營利組織，針對人工智能帶來的大量安全性和隱私性問題，研究解決方案。這是一個致力于研究和推動開放源人工智能為所有人謀福利的組織。谷歌的諾維格稱：“公開研究機(jī)器學(xué)習(xí)技術(shù)以及通過公開刊物和開放源代碼傳播這種技術(shù)是非常重要的一點，這樣我們都能共享研究成果?！?/p>

如果我們想要研究行業(yè)和道德標(biāo)準(zhǔn)并完全搞清楚什么是利害攸關(guān)的東西，那么創(chuàng)建一個由倫理專家、技術(shù)專家和企業(yè)領(lǐng)導(dǎo)人組成的顧問團(tuán)隊就是非常重要的一件事。我們要解決的問題是如何利用人工智能技術(shù)在我們已經(jīng)做到最好的基礎(chǔ)上讓人類社會變得更美好。齊特林稱：“我們要做的是少擔(dān)心科幻小說中機(jī)器人接管地球的局面，多想想如何運(yùn)用技術(shù)幫助人類思考和做決策，而不是完全取代人類的自主性。”

（摘自英國廣播公司新聞網(wǎng)）（編輯/華生）