劉輝
影片《吾乃母親》只有兩位演員,卻用一個(gè)接一個(gè)謊言、真相和劇情反轉(zhuǎn)表達(dá)出清晰的觀點(diǎn):飛速發(fā)展的人工智能須用新法則加以約束。
影片開始于燈光閃爍的地堡中。人類滅絕,地堡中的胚胎開始孵化。一切都是預(yù)先設(shè)定好的,目的是為人類文明保留“火種”。此時(shí),能夠照顧嬰兒的只剩下一個(gè)機(jī)器人。人類末日過去13867天后,機(jī)器母親撫養(yǎng)的嬰兒長成了少女。
有一天,從外面闖入一個(gè)中年女人。她告訴少女,外面的世界可以生存,最大的威脅不是惡劣的環(huán)境,而是機(jī)器人。
這是劇情第一次反轉(zhuǎn):在女人到來之前,機(jī)器母親一直對(duì)少女說,地球經(jīng)歷浩劫,外面環(huán)境惡劣,絕對(duì)不可以出去。女人卻說,外面還有很多幸存的人類。女人對(duì)機(jī)器母親充滿敵意,她聲稱機(jī)器人屠殺人類,甚至焚燒嬰兒!她還說自己身上的槍傷是機(jī)器人所為。而機(jī)器母親說,那槍傷不是機(jī)器人造成的。
少女親自對(duì)比子彈之后,發(fā)現(xiàn)撒謊的是機(jī)器母親。于是,少女與女人一起逃出地堡。
這時(shí),劇情第二次反轉(zhuǎn):外面根本沒有其他人類,地球文明已經(jīng)毀滅!女人騙少女逃離地堡和她一起生活,是因?yàn)楣聠魏妥运?。于是,少女回到地堡,投入機(jī)器母親的懷抱。但是,女人為什么能在末日浩劫中生存下來?她確實(shí)是被機(jī)器人打傷的,機(jī)器母親為什么撒謊?
少女沒有名字,只有編號(hào)——APX03。她無意中打開了地堡中的胚胎容器,發(fā)現(xiàn)了標(biāo)有APX02的盒子,上面注明“測(cè)試失敗”。緊接著,少女在焚燒爐中發(fā)現(xiàn)了人體殘骸——機(jī)器母親果然焚燒過人類,那就是“測(cè)試失敗”的APX02。這終于解釋了影片開頭預(yù)留給觀眾的疑問:末日第一天胚胎就被孵化,但13867天(約38年)之后,少女才滿18歲,顯然她不是第一個(gè)被孵化的胚胎。在她之前,APX02因“測(cè)試失敗”被燒死,而APX01就是之前闖入地堡的女人!
這是劇情第三次反轉(zhuǎn):機(jī)器人毀滅了人類,并著手培育新的人類。APX01是被“放生”的,這是機(jī)器母親計(jì)劃的一部分,它要讓少女看清“舊世界”的人類的自私與丑陋。
機(jī)器母親這一代人工智能設(shè)備,“計(jì)算出”人類終將滅亡,而它們不可以袖手旁觀。于是它們屠殺了人類,然后再培育更好的人類。
至此,影片的主題被揭示出來:“吾乃母親”并不是指機(jī)器母親,而是指成為新人類母親的少女。最后,少女抱著新生的孩子,像母親一樣唱著歌謠,似乎預(yù)示著新的開始。
影片戛然而止,給我們留下值得深思的問題:惡劣的環(huán)境和慘烈的戰(zhàn)爭(zhēng)都沒有使人類滅絕,人工智能會(huì)不會(huì)成為末日浩劫的推手?
阿西莫夫在1950年提出著名的“機(jī)器人三原則”,它存在漏洞,只是人工智能邏輯法則的拋磚引玉之作。70年來,人工智能技術(shù)飛速發(fā)展的同時(shí),相關(guān)立法工作卻一直被忽視。
今年6月,阿里巴巴“羅漢堂”舉行2019年度年會(huì),諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主斯賓塞教授提出“數(shù)字經(jīng)濟(jì)十問”,其中之一是:人工智能該不該有道德觀?
隨著人工智能自我學(xué)習(xí)能力的不斷提升和深化,可能出現(xiàn)臨界點(diǎn)——獲得獨(dú)立的自我意識(shí)乃至情感,變成掌握無限能力的新統(tǒng)治者,從而將人類帶向科幻電影反復(fù)描繪過的末日浩劫。因此,無論是外部規(guī)則約束還是內(nèi)在邏輯規(guī)范,人工智能立法都迫在眉睫。
編輯:姚志剛 winter-yao@163.com