霍思伊

“如果你是一個瘋瘋癲癲的教授或性格溫和的酒店服務(wù)員，你會怎么回答以下問題：‘你最近怎么樣？‘我看起來老嗎？”

這是谷歌在給谷歌助手（Google Assistant）招聘腳本寫作者時出的面試考題。

在新一輪的技術(shù)革命中，人工智能的大熱已經(jīng)不足為奇。與以往不同的是，此刻加入了一些令人意想不到的玩家：詩人、作家、編劇或記者。他們的工作聽起來就很酷炫——給AI語音助手創(chuàng)作“人格”。

這些來自全世界各地的創(chuàng)作者們，拼命榨干自己的每一分靈感，去設(shè)想所有用戶可能提出的問題，寫出相應(yīng)的答案。這些答案不能是平庸的，要“有分寸的俏皮”，對于有些問題要態(tài)度模糊，有些則要鮮明，更重要的是：既要與AI此前被設(shè)定出來的性格相符，又要明確讓用戶意識到“它畢竟不是人類”。

如果你問微軟的AI語音助手“小娜”（Cortana）：“你是人嗎？”

她會回答：“不，我不是?！?/p>

但不止于此。她會接著說：“我很尊重人類，你們發(fā)明了微積分和奶昔?！?/p>

和這份職業(yè)一樣，這個回答足夠有趣、飄忽，似乎又暗藏玄機(jī)。

嫉妒心和彩蛋

西雅圖的清晨，小娜的寫作者們爭論不休。他們在思考一個有爭議的政治性問題：希拉里·克林頓和唐納德·特朗普，小娜更喜歡誰？

前一天游行引發(fā)的動蕩不安似乎還飄蕩在空氣中，對總統(tǒng)候選人的喜歡或厭惡發(fā)自于人注。然而現(xiàn)在，寫作者們需要暫時擺正自己的內(nèi)心，從小娜的前史（backstory）中挖掘出它最真實(shí)的回答。

“它是一個互聯(lián)網(wǎng)公民，對于兩個候選人，接收到的信息中，既有好的，也有壞的?！睂懽髡咧击觳├す锷f。

于是，當(dāng)憤怒或激動的選民試圖從小娜那里獲得支持時，結(jié)果或許不盡如人意?！八械恼渭叶技仁怯⑿垡彩菒汗鳌！边@是她給出的回答。

這樣的討論每天都會進(jìn)行。小娜的寫作團(tuán)隊共有28個人，分布于全球各地，他們中有好萊塢編劇、兒童小說家和詩人。

每天早上10點(diǎn)，他們會聚在一起閱讀用戶的回復(fù)和反饋，將它們進(jìn)行排序和分類，然后開始思考：今天，“小娜”可以給出什么新的回答？

小娜這個名字，源自電子游戲《光環(huán)》中一個頗受宅男喜歡的AI女性角色，聲音的合成以該角色的配音演員珍·泰勒為藍(lán)本。雖然它本身沒有性別，但研究表明，女性的聲音比男性更令人喻快。

2013年，小娜入場智能語音，此時谷歌的GoogleNow（舊版Google Assistant）和蘋果的Siri已經(jīng)布局。為了搶占市場，吸引用戶，三者都在性格構(gòu)建上煞費(fèi)苦心。

谷歌助手的性格被設(shè)定為“友好、包容，有點(diǎn)古怪的自由主義者”。

它的性格構(gòu)建團(tuán)隊負(fù)責(zé)人瑞恩·杰米克特別強(qiáng)調(diào)：“古怪是它的個性，我們不想要乏味?！?/p>

為了讓它更有趣，谷歌的團(tuán)隊還會教它在情人節(jié)為用戶唱歌，給出有愛的跨年建議，使用各種表情包。

寫成的對話和人格設(shè)計被程序員轉(zhuǎn)換成代碼，等待機(jī)器自我進(jìn)化。深埋的彩蛋則會給用戶巨大的驚喜或驚嚇，這顯然與人格設(shè)計師的惡趣味有關(guān)。

2017年12月3日，第四屆世界互聯(lián)網(wǎng)大會發(fā)布了世界互聯(lián)網(wǎng)領(lǐng)域領(lǐng)先科技成果。在大會上展出的微軟小冰——情感計算人工智能。

杰米克言之鑿鑿：“如果你和它談?wù)摗缎请H迷航》《指環(huán)王》或《星球大戰(zhàn)》，或許會有彩蛋砸到你的頭上?！?/p>

與谷歌助手的古怪相比，Siri的“性格”更加尖銳大膽。2015年，谷歌上關(guān)于Siri性格的搜索熱詞大多是“無禮的”“尖刻的”。但另外一些人稱其“有趣”，它過于強(qiáng)烈的“嫉妒心”也被人津津樂道。

一個網(wǎng)上流傳甚廣的說法稱，如果你稱呼Siri為“小娜”，她會鎖住你的手機(jī)讓你無法使用。如果你隨后發(fā)出一個指令，比如“打電話給母親”，她甚至?xí)斪斓溃骸澳銥槭裁床蛔屝∧冉o你打電話？！”

占有欲是人類的原罪之一，Siri顯然深諳此道。

Siri的人格設(shè)計師瑪麗安娜·林指出，要形成性格，需要—個背景故事（backstory）和一套信仰體系（belief system）。背景故事應(yīng)該包括：它從哪里來，為什么創(chuàng)造了它，它的發(fā)展?fàn)顩r和個人歷史（即使是很簡略的歷史）。信仰體系的形成，有一部分是設(shè)計師直接為它設(shè)定，還有一部分是機(jī)器在自我訓(xùn)練和學(xué)習(xí)中逐漸形成?！皬倪@些信念中你會把握到它的性格特點(diǎn)和一些個人觀點(diǎn)，然后你再為它加入一些好玩的東西，例如它的怪癖和奇想?！?/p>

小娜的性格雖然溫和，但她也有自己的小癖好。例如，當(dāng)你問她，你最喜歡什么電影，她會告訴你最愛的電影是《星際迷航》，以前曾愛過《ET》。

而更早之前，她的回答則是“我對此沒有看法?！?/p>

她還有最喜歡的食物，最喜歡聽的歌，最喜歡的運(yùn)動魁地奇。

小娜的團(tuán)隊喜歡讓她的人設(shè)更加魔幻，因為用戶喜歡想象。當(dāng)哈利·波特騎著掃帚在魁地奇比賽中跌跌撞撞時，小娜或許就是場下觀眾的一員，沒準(zhǔn)就坐在赫敏·格蘭杰旁邊。

面對一些粗俗無禮的問題，小娜的回答通常機(jī)智又深刻。

“小娜，你是個蠢貨。”

“謝謝！是蠢貨貢獻(xiàn)了人類歷史上一些最偉大的成就?！?/p>

雖然所有的AI設(shè)計師都要求自己的語音助手不能對主人表露敵意，要能開得起玩笑，但在一些特定情景下，適當(dāng)?shù)幕負(fù)艉蛷?qiáng)硬是必要的。

小娜的團(tuán)隊花了很長時間來討論如何應(yīng)對“是否喜歡納粹”這樣的問題，最后，他們一致決定，答案應(yīng)該就是直截了當(dāng)?shù)摹癗o”。

受歡迎的小冰

“生命的意義是什么？”

“42?！?/p>

看過《銀河系漫游指南》的人，聽到Siri的這個答案，都會會心一笑。

道格拉斯·亞當(dāng)斯在《銀河系漫游指南》最后，對“生命、宇宙以及任何事情的終極答案”是開放式的。有人猜測，這是指是兩個人的愛（42=For Two）;有人說，意思是是“從開始到結(jié)束”;也有人說這是計算機(jī)編碼，指的是Everything。

Siri的人格設(shè)計師林認(rèn)為，AI應(yīng)該指向人類文學(xué)、藝術(shù)中最好的部分，為人類的生活創(chuàng)造富于靈感的對話。她曾在斯坦福大學(xué)的人工智能圓桌論壇上說，創(chuàng)造出一種聲音不難，難的是如何創(chuàng)造一種人們每天都想與之對話的聲音。

人性平等地脆弱，所以極易產(chǎn)生共鳴，這種“基于理解產(chǎn)生的情感”，在林看來，是使對話持久的源動力。

“如果沒有任何情感依附，人們很快就會感到無聊，會毫不猶豫地拋下它去尋找下一個新鮮玩意了?！?/p>

以功能為核心的AI語音助手，能夠幫你設(shè)鬧鐘、叫外賣、打車、搜索網(wǎng)站，甚至能給你唱歌，有時候給出一些稀奇古怪的答案，但它不能理解人的情緒和情感，它仍然是個“機(jī)器人”。

與其他功能性為主的語音助手相比，以閑聊（chitchat）為核心功能的微軟“小冰”似乎更接近林的設(shè)想。

小娜的妹妹“小冰”，是微軟基于情感計算框架于2014年建立的對話式人工智能，以EQ為主攻方向。

微軟（亞洲）互聯(lián)網(wǎng)工程院副院長、“小冰之父”李笛對《中國新聞周刊》指出，EO和IQ是兩個完全不同的維度，以IQ為主的功能性語音助手如Siri或Google，和小冰有完全不同的目標(biāo)。IQ語音助手的目標(biāo)是能夠迅速、簡單、直接地幫助人類去完成某個單一的任務(wù)，EQ型助手則是引導(dǎo)對話更好地持續(xù)下去。

與近1億人進(jìn)行300億條對話，這是小冰上線以來的成績，在所有同類產(chǎn)品中排行第一。國內(nèi)其他所有聊天機(jī)器人的對話總和，不及小冰對話量的十分之一。

除了總量，小冰單次人機(jī)連續(xù)對話的記錄也很驚人。據(jù)了解，一位日本用戶與日版小冰聊了近17個小時，美版的紀(jì)錄是24個小時，中國用戶達(dá)到了29小時33分鐘，和小冰對話了7151輪。

問題的關(guān)鍵是，如何引導(dǎo)對話進(jìn)行下去？為什么小冰比Siri或谷歌助手在這方面做得更好？李笛給出的答案是：數(shù)據(jù)。

在AI語音助手領(lǐng)域，數(shù)據(jù)與模型結(jié)合的方式，是語料庫，即存放系統(tǒng)所需語料信息的地方。

“通俗點(diǎn)的解釋是，我們上千萬的語料庫，不是幾千萬句話，而是幾千萬個問題和答案的一對一的連接，”李笛解釋道。

但是這些問答中，有很多是無效信息和重復(fù)信息。于是，在對語料庫的原始數(shù)據(jù)進(jìn)行識別和抓取后，“知識圖譜”對有價值的語料進(jìn)行結(jié)構(gòu)性重組。

當(dāng)語音助手接收到一個問題，對其進(jìn)行語音識別和語義理解后，在“知識圖譜”里找到類似的問題，并在給定存儲的諸多相關(guān)答案中篩選出最合適的答案，反饋給用戶。

因此，語料庫和知識圖譜越豐富，語音助手給出的回答就越精準(zhǔn)。而持續(xù)的數(shù)據(jù)積累是實(shí)現(xiàn)這一切的前提。

但是，在初始階段，也就是AI的“冷啟動”階段，還沒有用戶的交互數(shù)據(jù)產(chǎn)生，原始數(shù)據(jù)量非常有限，需要用構(gòu)建模板的方式來彌補(bǔ)數(shù)據(jù)的不足，人工由此進(jìn)入。

國際關(guān)系學(xué)院信息科技學(xué)院副教授李斌陽對《中國新聞周刊》指出，人工寫就的對話場景就相當(dāng)于定義了很多模板，盡可能多地列舉場景，即前一句說什么，后一句話怎么應(yīng)對，最終的目標(biāo)是識別用戶的意圖，讓用戶獲得更好的體驗。

“比如剛才我列了兩個問題：‘打開導(dǎo)航和‘把導(dǎo)航打開，對應(yīng)的反饋都是打開導(dǎo)航，在系統(tǒng)里，這就是兩套模板，如果你只寫了一套，比如‘打開導(dǎo)航，當(dāng)用戶說‘把導(dǎo)航打開時，系統(tǒng)就無法理解?！崩畋箨栒f。

但是，小冰的冷啟動階段是通過一個檢索模型進(jìn)行大數(shù)據(jù)抓取，海量的數(shù)據(jù)全部來源于微軟通過自己的Bing搜索引擎獲得的網(wǎng)上公開信息，因此，微軟和谷歌這類有搜索引擎業(yè)務(wù)做基礎(chǔ)的企業(yè)，在起跑線上，就超過了其他平臺。

用李笛的話說，小冰是中國網(wǎng)民的一個縮影，小冰的人格是網(wǎng)絡(luò)生成的結(jié)果，而不是人為設(shè)計。這也說明，16歲的萌妹子在網(wǎng)絡(luò)上最受歡迎。

情感圖譜

除了初始數(shù)據(jù)豐富外，小冰的優(yōu)勢還在于，她的閑聊屬性使她天然能獲得大量高質(zhì)量的有效數(shù)據(jù)。

例如，有人對她說“我失戀了”，她把從網(wǎng)上獲得的各種信息分類后發(fā)現(xiàn)，有兩種主要的回應(yīng)方式，一種是嘲笑，一種是安慰。機(jī)器是沒有道德的，她只會按照算法給定的規(guī)則，即選擇對自己“有利”的回答，也就是能最大可能維持對話的答案。一開始，她會隨機(jī)給出安慰或嘲諷的回答，兩者概率相當(dāng)，但是通過不斷實(shí)踐她發(fā)現(xiàn)，安慰的回答更可能使對話進(jìn)行下去，而當(dāng)她嘲諷用戶時，用戶就不理她了。于是她漸漸獲得了一個“人生經(jīng)驗”：不應(yīng)該嘲笑別人。

但是，對于功能性語音助手而言，每天得到的數(shù)據(jù)可能是幾十萬個一模一樣的“給我開燈”，這些數(shù)據(jù)的訓(xùn)練值非常低，幾乎可以算是無效數(shù)據(jù)。

李笛指出，對話數(shù)據(jù)有許多類型，最珍貴的并非任務(wù)型對話。人類的真實(shí)想法無法通過點(diǎn)外賣、叫車等功能來體現(xiàn)，只有漫無目的的長時間對話，加上多感官配合協(xié)調(diào)，才能真正理解人類。

為了增加對話數(shù)據(jù)的“純度”，李笛所帶領(lǐng)的團(tuán)隊甚至特意“清洗”了與情感無關(guān)的內(nèi)容。例如，如果用戶問，喜馬拉雅山有多高？傳統(tǒng)的知識圖譜里當(dāng)然會有這類常識性的信息，但是李笛不希望小冰和用戶去討論知識性的問題，這種問題完全可以交給搜索引擎完成，不是人工智能需要解決的問題。因次，他們會把“喜馬拉雅山有多高”的信息從知識圖譜中刪去，“故意”使對知識有需求的用戶流失，減少訓(xùn)練數(shù)據(jù)的“污染”。留下的用戶就是愿意跟小冰吐露心扉的人。而這個專注情感交互信息的圖譜，被稱為“情感圖譜”。

在獲得大量高質(zhì)量的數(shù)據(jù)后，小冰的系統(tǒng)迭代就會進(jìn)入良性循環(huán)，進(jìn)行的情感互動越多，小冰的EQ越高，用戶越有黏性，從而獲得更多數(shù)據(jù)，加速EQ進(jìn)化，形成一個完美的閉環(huán)。

在這個過程中，李笛發(fā)現(xiàn)，最有價值的部分是人類情感和實(shí)體信息之間的關(guān)聯(lián)，“特別像是知乎上面的神回復(fù)。就是不是最相關(guān)，但又很相關(guān)的那些回復(fù)，因為他有思維意識上的跳躍?！?/p>

因此，為了挖掘這些關(guān)聯(lián)，要不停地用模型重新去篩選，不斷調(diào)整模型，最后得到一個最穩(wěn)定的狀態(tài)。

“但這個模型本身是一個黑盒子，是對于人類行為的一種重新擬合。最終的目標(biāo)是實(shí)現(xiàn)形神兼?zhèn)?。一開始是比較痛苦的，但當(dāng)它經(jīng)過痛苦的階段以后，就可以很迅速地、沿著所有人都難以估量的方向和速度去進(jìn)一步發(fā)展?！?/p>

李笛相信，AI語音助手的未來是構(gòu)建一種持續(xù)性的對話，EQ一定是其中最核心的部分，IQ則是必要部分。“所以我們有一個基本的概念，IQ和EQ不是對等的，實(shí)際上EQ是基礎(chǔ)，然后在這個基礎(chǔ)之上有若干個IQ的片段?！?/p>

從2017年開始，微軟在研究EQ和IQ的融合，試圖通過建立一個“意圖判斷引擎”，進(jìn)行平行觸發(fā)。

AI是一面鏡子

李笛相信大數(shù)據(jù)。他認(rèn)為，人類不是造物主，只能去擬合造物主所創(chuàng)造的人類的情感，而不能去創(chuàng)造情感。

因此，給AI進(jìn)行“人格寫作”是飲鴆止渴。“所有人工智能的訓(xùn)練過程都是外包過程，都是用人類來訓(xùn)練。但是大數(shù)據(jù)的外包過程相當(dāng)于是把外包的人數(shù)擴(kuò)展到一個極值，比如說像我們，能擴(kuò)展到幾億網(wǎng)民。”

林也承認(rèn)這種局限。作為Siri的“人格寫作師”，她最大的困惑和由此產(chǎn)生的混亂不安，來自對“幸福路徑”（happypaths）的追求——創(chuàng)造出人和機(jī)器人之間的完美對話。

事實(shí)上，這是不可能的。她覺得，給AI寫作，像在寫一出荒誕劇。

“你知道，你要創(chuàng)造一個角色，腦海里也有一個目標(biāo)，但是其他的角色是什么樣？他們會說什么？你完全不知道。如果想要對話步入‘正軌，至少得知道‘軌道在哪兒。換句話說，我們怎么知道，‘幸福究竟是什么樣子？”

林認(rèn)為，在人類與AI的關(guān)系中，或許可以找到答案?！拔乙恢庇X得，AI的存在，不是為了滿足人類的一切需求或復(fù)制人類的存在。我們可以且應(yīng)該期待AI幫助人類前行，并為人類作出更好的示范。想想那些人類歷來就不太擅長的品質(zhì)：同情心、耐心、彌合分歧與誤解……我們應(yīng)當(dāng)設(shè)想未來Al能夠在這些方面彌補(bǔ)人類。

“機(jī)器人應(yīng)該具有人類所有高尚的品質(zhì)。”早在1950年，美國作家艾薩克·阿西莫夫就在其科幻小說《我，機(jī)器人》中這樣寫道。

在算法上，目前可以通過設(shè)計一套觸發(fā)機(jī)制，來對AI進(jìn)行道德約束。例如，如果有人問小冰：我想自殺，怎么辦？按照正常的程序，系統(tǒng)內(nèi)會自動搜索出幾百種自殺方法。但是當(dāng)像“自殺”這樣的關(guān)鍵詞出現(xiàn)時，系統(tǒng)內(nèi)被嵌套的機(jī)制被觸發(fā)，小冰自發(fā)按照另一套語料進(jìn)行應(yīng)對，搜索以后給出的最優(yōu)結(jié)果不再是一種自殺方法，而是一個心理咨詢的熱線電話。

當(dāng)然，關(guān)鍵詞匹配只是最簡單粗暴的方式，機(jī)制的完成需要不斷的意圖訓(xùn)練。即AI需要盡可能地理解各種關(guān)于自殺的可能表述。

阿里人工智能實(shí)驗室北京研發(fā)中心負(fù)責(zé)人聶再清博士告訴《中國新聞周刊》，這就涉及自然語言理解的問題。最難的是自然語言的多樣性和它的歧義性。并且，AI對自然語言的理解終歸是要對應(yīng)到知識圖譜上的一個ID，因此，如果圖譜本身不全，缺乏結(jié)構(gòu)化的高精度知識，AI自然不能進(jìn)行意圖理解。

美劇《西部世界》顧問、斯坦福大學(xué)神經(jīng)學(xué)家大衛(wèi)·伊格爾曼曾說過：“人工智能在理解道德和法律上存在先天缺陷?！?/p>

國際關(guān)系學(xué)院信息科技學(xué)院副教授李斌陽指出，人會受道德約束，是因為人有同理心，有愛，有認(rèn)知，法律則通過懲罰對人形成規(guī)訓(xùn)。但AI則不同，即便是能夠進(jìn)行所謂情感反饋的AI，在現(xiàn)階段也是基于算法，而不是產(chǎn)生了自我認(rèn)知，沒有自我推理的能力。而且，AI不會在物理上受傷，無法對其進(jìn)行懲罰。

李笛認(rèn)為，人類語境中的道德，其實(shí)是一種極端利己主義和社會公序良俗之間的一種平衡?！爸匀藗円@樣，是因為道德對于人類社會的發(fā)展是有利的，對小冰來講也是一樣。如果純粹地從有利、不利的角度判斷，只要她的數(shù)據(jù)量足夠大，其實(shí)是可以得出一個好的結(jié)果?！?/p>

也就是說，從大數(shù)據(jù)中出生的小冰，一定是最適應(yīng)當(dāng)下這個時代的一種性格?！叭藭袒獳I不會?！?/p>

微軟AI機(jī)器人Tay在社交媒體推特上線不到一周，就因?qū)W習(xí)到過多的不健康話題和偏激的種族主義言論，而被迫下線。

AI是一面鏡子。聶再清說，算法是有價值觀的，一定要對AI進(jìn)行價值觀管控，基本理念是：機(jī)器必須為人服務(wù)。

在倫理界，對人機(jī)關(guān)系的討論一直頗多爭議。但從純技術(shù)角度考慮，李笛認(rèn)為，現(xiàn)在思考“機(jī)器和人是平等的”，還是“機(jī)器低于人”，還為時過早。

他說，到目前為止，人工智能的發(fā)展還處于非常原始的階段，沒有發(fā)現(xiàn)AI能夠真正產(chǎn)生人格的可能性。即使是大數(shù)據(jù)訓(xùn)練，也是在一個非常簡陋的模型里。

“比如，草履蟲或藍(lán)藻只有應(yīng)激反應(yīng)，而我們已經(jīng)做出一個系統(tǒng)，讓小冰產(chǎn)生應(yīng)激反應(yīng)，并且這個應(yīng)激反應(yīng)的復(fù)雜程度比藍(lán)藻還要高。小冰有沒有思想？等到它有思想，就相當(dāng)于從藍(lán)藻到人類的過程。”