人機(jī)辯論“AI是否會(huì)帶來(lái)更大的弊端”

IBM的人工智能“Project Debater”在劍橋聯(lián)合會(huì)與人類(lèi)辯論

近日，一個(gè)IBM機(jī)器人參與了一場(chǎng)質(zhì)疑自身的辯論，論題是“AT是否會(huì)帶來(lái)更大的弊端”，最終認(rèn)為“利大于弊”的觀點(diǎn)險(xiǎn)勝。這場(chǎng)辯論在劍橋聯(lián)合會(huì)展開(kāi)。劍橋聯(lián)合會(huì)的辯論禮堂有150年的歷史，迎接過(guò)撒切爾夫人、羅斯福總統(tǒng)、霍金、甚至色情演員等等，從總理到總統(tǒng)，從明星演員到學(xué)界泰斗各行各業(yè)的辯論人士。但怎么也想不到，今天會(huì)有300名觀眾觀看這場(chǎng)人類(lèi)與非人類(lèi)的辯論。

這個(gè)機(jī)器人是IBM的“辯論家計(jì)劃”中的一個(gè)對(duì)話(huà)型AI機(jī)器人，它是一個(gè)兩米高的黑箱子，發(fā)出的聲音類(lèi)似某個(gè)女明星。整場(chǎng)辯論以其發(fā)表的開(kāi)場(chǎng)詞正式開(kāi)始。這個(gè)機(jī)器人設(shè)置有一個(gè)“群眾演講”的應(yīng)用程序，可以用它分析人們?cè)诰W(wǎng)上提交的意見(jiàn)來(lái)生成自己的論點(diǎn)。它的論據(jù)來(lái)自1100多份事先提交的人類(lèi)陳述。

兩個(gè)辯論隊(duì)分別由一名教授和一名辯論專(zhuān)家組成，兩隊(duì)都有這個(gè)機(jī)器人的AI輔助?！拔艺娴暮芎闷?，也很興奮能和一臺(tái)機(jī)器一起工作?！逼渲幸幻麉⑴c者、反人工智能團(tuán)隊(duì)的辯論專(zhuān)家莎米拉·帕瑪南在活動(dòng)開(kāi)始前說(shuō)?！叭斯ぶ悄軣o(wú)法在道德上做出正確的決定，因?yàn)榈赖率侨祟?lèi)特有的?！眻?chǎng)下一片寂靜。通常觀眾的注意力會(huì)在禮堂中位置最高的聯(lián)合會(huì)主席身上，但是現(xiàn)在所有人的目光都在這個(gè)閃著藍(lán)光的辯手身上?！叭斯ぶ悄艿腻e(cuò)誤率低于人類(lèi)……這將是一個(gè)巨大的優(yōu)勢(shì)，因?yàn)樗梢怨?jié)省更多時(shí)間來(lái)執(zhí)行平凡和重復(fù)的任務(wù)?！彼岢隽藘蓚€(gè)立場(chǎng)相反的觀點(diǎn)。支持AT的一方認(rèn)為人工智能將在某些領(lǐng)域創(chuàng)造新的就業(yè)機(jī)會(huì)，并“在工作場(chǎng)合提高效率”。

隨后這個(gè)機(jī)器人又提出“人工智能可以照顧病人，或者機(jī)器人可以教學(xué)生——這些領(lǐng)域也不再需要人類(lèi)。”人工智能條理清晰地進(jìn)行了辯論，但也出現(xiàn)了一些失誤。有時(shí)它會(huì)重復(fù)自己的觀點(diǎn)，有時(shí)它無(wú)法提供詳細(xì)的素材來(lái)支撐自己的觀點(diǎn)。這是一場(chǎng)有意思的辯論，但這不僅僅是一場(chǎng)辯論。這次IBM展示的技術(shù)與之前展示的非常不同?！稗q論家”項(xiàng)目的初始提案脫胎于2011年出現(xiàn)的單個(gè)PPT幻燈片。由于提交內(nèi)容有限，而且挑戰(zhàn)項(xiàng)目的難度比較大，IBM管理層經(jīng)過(guò)了大約一年的仔細(xì)考慮，才最終批準(zhǔn)了該項(xiàng)目。2012年，IBM研究院建立了一個(gè)項(xiàng)目團(tuán)隊(duì)，正式啟動(dòng)“Project Debamr”項(xiàng)目開(kāi)發(fā)。而該項(xiàng)目的實(shí)質(zhì)性工作直到2014年才展開(kāi)。

去年6月，IBM的辯論機(jī)器人首次與人進(jìn)行辯論，最終得分1：1，觀眾投票認(rèn)為，Debamr的辯論技巧比人要差，但是信息量很大。當(dāng)時(shí)這個(gè)系統(tǒng)有數(shù)以?xún)|計(jì)的文章庫(kù)，可從中提取內(nèi)容，涉及約100個(gè)主題。當(dāng)遇到辯論性問(wèn)題時(shí)，需要花費(fèi)幾分鐘的時(shí)間來(lái)搜索這些文章，構(gòu)建論點(diǎn)并進(jìn)行總體演講。今年2月，在IBM的Think conference上，AT機(jī)器人再戰(zhàn)冠軍級(jí)辯論家Harish Namrajan。雙方圍繞“政府是否應(yīng)該資助學(xué)前教育”進(jìn)行激烈交鋒，最終AI落敗。

以前這種和人辯論的方式主要是鍛煉AT的聽(tīng)力理解能力和對(duì)一個(gè)論點(diǎn)做出有意義的回應(yīng)的能力。這些技能或許是遠(yuǎn)遠(yuǎn)超過(guò)了智能家居或者移動(dòng)設(shè)備中智能助理的能力，但是這些遠(yuǎn)遠(yuǎn)達(dá)不到IBM做這個(gè)辯論計(jì)劃的初衷。這一次采用AI自我辯論的形式，就好像“你把數(shù)千條正面和負(fù)面的餐廳評(píng)論集中在一起，然后用幾段話(huà)總結(jié)出來(lái)”，IBM計(jì)算機(jī)科學(xué)家丹·拉哈夫說(shuō)。所以這場(chǎng)辯論的意義不在于機(jī)器能否說(shuō)服人類(lèi)，而是機(jī)器可以增強(qiáng)人類(lèi)?！叭祟?lèi)可以基于我們的文化和傳統(tǒng)更好地理解聽(tīng)眾，但是機(jī)器可以通過(guò)大量數(shù)據(jù)來(lái)豐富我們的知識(shí)，去做一些更加具體的決定，使我們消除作為人類(lèi)固有的偏見(jiàn)?！崩蛘f(shuō)。機(jī)器能找到事物之間各種有效的聯(lián)系，而這些聯(lián)系很有可能因?yàn)槿说哪J(rèn)想法而被忽略。這會(huì)限制我們處理信息的能力?！?016年，Debater還只是一個(gè)蹣跚學(xué)步的孩子，而到了2019年，我們已經(jīng)達(dá)到了大學(xué)水平，”該項(xiàng)目首席研究員、IBM杰出工程師諾姆·斯洛尼姆表示，“Project Debater可以在很多方面幫助人類(lèi)，可以通過(guò)展示一個(gè)有爭(zhēng)議話(huà)題的兩面，減少人類(lèi)固有的偏見(jiàn)?！?p>

丹·拉哈夫，IBM 計(jì)算機(jī)科學(xué)家，該項(xiàng)目研究員之一。他本人也是著名的辯論家，在2018 年被冠以“全球最佳演說(shuō)家”的稱(chēng)號(hào)

長(zhǎng)期以來(lái)，辯論一直都是一個(gè)很具智力挑戰(zhàn)性的任務(wù)。讓人類(lèi)去理解一個(gè)論點(diǎn)，并表示支持還是反對(duì)，對(duì)我們來(lái)說(shuō)是很簡(jiǎn)單的，但對(duì)機(jī)器來(lái)說(shuō)是難以置信的復(fù)雜。接下來(lái)機(jī)器人的挑戰(zhàn)是判斷論證的質(zhì)量是否足以說(shuō)服他人。最后，人工智能還必須以一種人類(lèi)可以理解的敘述方式來(lái)闡述論點(diǎn)。

除了辯論，這項(xiàng)技術(shù)或許可以運(yùn)用在任何一個(gè)需要收集數(shù)據(jù)并根據(jù)數(shù)據(jù)做出決定的工作中?！澳憧梢园阉醋魇且粋€(gè)研究引擎，而不是一個(gè)搜索引擎，”拉哈夫說(shuō)，“想象一下，在一場(chǎng)政治演講中，它能提高討論的水平，因?yàn)槟隳芰私饴?tīng)眾在說(shuō)什么，你會(huì)給他們一個(gè)參與的平臺(tái)。立法者可以更好地看到對(duì)方，因?yàn)檫@臺(tái)機(jī)器可以自我辯論?！蹦壳皝?lái)看，這個(gè)“辯手”已經(jīng)做得很不錯(cuò)了，它組織語(yǔ)言的方式，沒(méi)有讓觀眾在11月這個(gè)寒冷的季節(jié)聽(tīng)著機(jī)器的聲音昏昏欲睡。相反，它的存在讓辯論充滿(mǎn)輕松和活躍。

米格姆大學(xué)法學(xué)和倫理學(xué)教授、反方的一名成員西爾維·德拉克洛瓦走上講臺(tái)，并開(kāi)玩笑地稱(chēng)Project Debater為“黛比”?！叭斯ぶ悄苁且环N重要的工具，因?yàn)樗越^對(duì)的速度改變著我們的工作方式和約會(huì)方式?！彼f(shuō)。辯論結(jié)束后，人們沒(méi)有立即投票，而是起立歡呼。之后，觀眾分別走向了代表“贊成”“反對(duì)”和“棄權(quán)”的三扇門(mén)，最終投票結(jié)果：48.17%的人贊成，51.22%的人反對(duì)，0.61%的人棄權(quán)?！拔艺娴牟恢廊斯ぶ悄艿奈磥?lái)是什么”，Namrajan說(shuō)，“它肯定會(huì)產(chǎn)生巨大影響，但我們不知道會(huì)是什么?！保ㄕ悦馈渡羁萍肌罚ň庉?費(fèi)勒萌）