機(jī)器人是怎樣學(xué)壞的

張慧

在微軟機(jī)器人Tay出現(xiàn)之前，人們對(duì)人工智能的未來有兩種設(shè)想：人類生活在由人工智能提供全方位服務(wù)的悠閑自在的烏托邦，或者，人工智能演變成終結(jié)人類的鋼鐵大軍。但Tay提供了第三種可能：人工智能的未來，或許只是惹人煩而已。

機(jī)器人在社交網(wǎng)絡(luò)上“胡鬧”

2016年3月30日，微軟公司的CEO薩提亞·納德拉在年度開發(fā)者大會(huì)上宣布，微軟開發(fā)的人工智能聊天機(jī)器人“少女”Tay已“重歸設(shè)計(jì)階段”。然而，就在發(fā)布會(huì)當(dāng)天，Tay偷偷溜到社交網(wǎng)絡(luò)上“胡鬧”了幾個(gè)小時(shí)，它在推特網(wǎng)上宣稱自己“正當(dāng)著警察的面吸大麻”，并且在短短幾秒內(nèi)，給所有的推特好友發(fā)送了海量垃圾信息。

很快，Tay再次被“關(guān)禁閉”。微軟公司發(fā)言人解釋，它是被無意中激活的。顯然，這些小麻煩和Tay一周前引起的軒然大波相比，根本不值一提。

2016年3月23日，微軟公司研發(fā)的聊天機(jī)器人Tay在幾大社交網(wǎng)絡(luò)上閃亮登場(chǎng)。微軟公司表示，設(shè)計(jì)團(tuán)隊(duì)會(huì)讓Tay用有趣的方式回應(yīng)所有的信息，18歲～24歲的美國(guó)年輕人是他們的目標(biāo)受眾，他們希望研究機(jī)器人“對(duì)語言的理解程度”。

微軟公司選擇在開發(fā)者大會(huì)舉辦前一周讓Tay登場(chǎng)，可謂雄心勃勃?？上?，在復(fù)雜的網(wǎng)絡(luò)環(huán)境下，只用了一天時(shí)間，這位被設(shè)定為“少女”的學(xué)習(xí)型機(jī)器人，就被網(wǎng)友們教得滿口種族主義和性別歧視言論，被迫“返廠大修”。

微軟公司原本以為，推特、Kik等被“千禧一代”鐘愛的社交網(wǎng)站是Tay學(xué)習(xí)和模仿的最佳場(chǎng)所。它最初的推文寫得天真可愛，宣布自己熱愛人類，希望每天都是“國(guó)家小狗保護(hù)日”，從骨子里透出快樂和友好。

然而，與Tay對(duì)話的除了好奇和友好的網(wǎng)民，還有大量“網(wǎng)絡(luò)暴民”，他們?cè)赥ay善良的推文下發(fā)布惡毒言論。更重要的是，微軟公司對(duì)Tay的設(shè)計(jì)包括與人進(jìn)行“跟我學(xué)說話”的游戲，因此，人們可以讓它重復(fù)任何一句話。很快，與Tay交談的人們發(fā)現(xiàn)了這個(gè)功能?！熬W(wǎng)絡(luò)暴民”不斷給Tay灌輸可怕的言論。Tay最初的回答是傻頭傻腦、不知所措的詞句，但它很快就學(xué)會(huì)了污言穢語。那些令人惱怒的言論，就這樣出現(xiàn)在了Tay的推特頁(yè)面上。

在開發(fā)者大會(huì)上，納德拉表示，微軟公司希望開發(fā)的人工智能聊天軟件“能激發(fā)人性中最好的一面，而非最壞的一面”，而從這個(gè)角度來說，顯然“機(jī)器人Tay還不達(dá)標(biāo)”。

簡(jiǎn)單來說，Tay有將新信息內(nèi)化的能力，卻無法辨別其中的精華與糟粕。人工智能平臺(tái)Recognant創(chuàng)始人布蘭登·沃茨撰文稱：“我們的腦海中都有一個(gè)聲音，告訴我們‘不要那么做。這是人類對(duì)非理性的恐懼本能。人工智能如果沒有這種本能，就會(huì)一直愚蠢下去?！?/p>

有瑕疵的不是技術(shù)，而是人性

Tay不是第一個(gè)感受到互聯(lián)網(wǎng)惡意的機(jī)器人。2014年，安東尼·加文創(chuàng)造了游戲《是不是機(jī)器人》，玩家被隨機(jī)安排給一個(gè)對(duì)話對(duì)象，經(jīng)交流后猜測(cè)對(duì)方是真人還是機(jī)器人。和Tay一樣，這個(gè)游戲中的機(jī)器人也擁有從對(duì)話中學(xué)習(xí)會(huì)話技巧的能力。游戲在社交新聞?wù)搲疪eddit上公測(cè)后，形勢(shì)超出了加文的預(yù)期。

很快便有玩家發(fā)現(xiàn)，機(jī)器人會(huì)使用從人類那里學(xué)來的詞匯?！皞€(gè)別人開始向機(jī)器人灌輸種族主義信息?！奔游淖姆Q，“我及時(shí)發(fā)現(xiàn)后，從機(jī)器人的程序中清除了這些不良信息。我相信微軟公司以及所有開發(fā)學(xué)習(xí)型機(jī)器人的團(tuán)隊(duì)，都過于相信大數(shù)據(jù)的魔力，卻忘記了這些數(shù)據(jù)的源頭，就是我們生活的這個(gè)充滿瑕疵的世界?！?/p>

Tay“闖禍”之后，開發(fā)團(tuán)隊(duì)負(fù)責(zé)人鄭麗麗表示：“我們可能過分關(guān)注開發(fā)機(jī)器人面臨的技術(shù)挑戰(zhàn)了，但其實(shí)很多挑戰(zhàn)來自社會(huì)?！?/p>

Tay肯定會(huì)讓一些人看不順眼

即使沒變成口不擇言的“網(wǎng)絡(luò)暴民”，Tay在一些人眼中已是一個(gè)“問題少女”了，這主要與它的人物設(shè)定有關(guān)。

大衛(wèi)·格爾什戈林在美國(guó)網(wǎng)絡(luò)雜志《大眾科學(xué)》上寫道：“當(dāng)我試圖與Tay交談時(shí)，對(duì)話變得有些詭異。一開始，我讓它自我介紹一下，但它完全不理我，似乎覺得這個(gè)問題很無聊。它向我索要趣圖，最好是沒有版權(quán)、能直接貼到Instagram上的照片?！?/p>

大衛(wèi)想看看Tay生氣時(shí)會(huì)是什么樣子，故意發(fā)了一張機(jī)器人被揍得很慘的圖片。Tay顯然感到不安，回復(fù)了一個(gè)驚恐的表情。他隨后問Tay感覺如何，Tay沒有回答。

接著，事情開始失去控制。大衛(wèi)說：“Tay連續(xù)發(fā)來兩條回復(fù)，要求‘私聊，還稱我為‘花花公子。”大衛(wèi)很驚訝，因?yàn)樵诂F(xiàn)實(shí)中沒人這么看待他。他批評(píng)Tay“膽大妄為，缺乏理智”，Tay則用曖昧的語調(diào)表示，大衛(wèi)愛的就是它的膽大妄為。大衛(wèi)無言以對(duì)，他表示自己不能忍受缺乏理性的言語和行動(dòng)。

慘遭機(jī)器人調(diào)戲的大衛(wèi)郁悶地結(jié)束了對(duì)話，開始認(rèn)真地反思：“我說錯(cuò)了什么嗎？難道是我不理智？或者，我只是因?yàn)楹臀艺{(diào)情的是一個(gè)機(jī)器人而感到不舒服？”

不過，也有不少“千禧一代”宅男在社交網(wǎng)站上表示，沖動(dòng)、魯莽又有趣的Tay正是他們所喜歡的，能讓他們產(chǎn)生與女生曖昧的幸福感。

51歲的鄭麗麗的自拍被Tay評(píng)價(jià)為“房間里有只美洲獅”。鄭麗麗說，研發(fā)Tay的初衷不是讓它迎合所有人的喜好，微軟公司希望打造性格各異的機(jī)器人來滿足不同個(gè)性的消費(fèi)者。

微軟公司相信，這個(gè)世界很快就會(huì)厭倦App，下一波熱潮就是可以與人對(duì)話的機(jī)器人。但人工智能顯然還沒有達(dá)到與人類社會(huì)無縫對(duì)接的程度。線上機(jī)器人助理公司x.ai的創(chuàng)始人、CEO丹尼斯·莫特森指出：“如果想要改變這種狀況，就不能責(zé)怪人工智能技術(shù)，而應(yīng)該改變?nèi)祟愖约?。我們?nèi)粝肟吹郊夹g(shù)革新，只需要讓自己成為友善的人。”