文/溫杰

未雨綢繆
——人工智能專家呼吁禁止發(fā)展殺手機(jī)器人

文/溫杰

8月21日，國際人工智能聯(lián)合會(huì)議（IJCAI）在澳大利亞墨爾本召開。在開幕式上，特斯拉公司的伊隆·馬斯克和谷歌公司的穆斯塔法·蘇萊曼牽頭，與來自26個(gè)國家的116名機(jī)器人和人工智能領(lǐng)域的專家聯(lián)合提交了一封公開信，共同呼吁禁止使用自主攻擊武器。

這封公開信獲得了多名在機(jī)器人領(lǐng)域聲名顯赫的人物的支持，并且著重強(qiáng)調(diào)了緊急行動(dòng)的必要性，促使聯(lián)合國推遲了原計(jì)劃在21日召開的一個(gè)會(huì)議，專門來評估這一問題。目前，聯(lián)合國已經(jīng)投票決定，開始正式討論無人機(jī)、坦克和機(jī)槍等武器的發(fā)展和使用問題。

這不是IJCAI第一次作為討論致命性自主武器系統(tǒng)的平臺。兩年前，人工智能和機(jī)器人公司的一些創(chuàng)始人在布宜諾斯艾利斯召開的會(huì)議上，曾經(jīng)向聯(lián)合國致公開信，呼吁聯(lián)合國阻止目前正在進(jìn)行中的殺人機(jī)器人軍備競賽。這封公開信把無需人類指令便能夠選擇并攻擊目標(biāo)的人工智能武器與無人機(jī)、巡航導(dǎo)彈等人類選擇打擊目標(biāo)的武器進(jìn)行了區(qū)分。

在信中，這些技術(shù)領(lǐng)袖在常規(guī)武器公約的審查會(huì)議上警告說，繼火藥和核武器后，這一領(lǐng)域的軍備競賽可能會(huì)引發(fā)“第三次戰(zhàn)爭革命”。他們在信中寫道：“一旦研制成功，致命自主武器將使武裝沖突擴(kuò)大到前所未有的規(guī)模，而且戰(zhàn)爭進(jìn)展的速度也比人類理解得更快。這些自主武器可能成為恐怖行動(dòng)的代名詞，會(huì)成為獨(dú)裁者和恐怖分子對無辜平民使用的武器，也有可能被黑客所利用，做出我們不愿看到的行為。”

盡管機(jī)器人士兵仍處于紙上談兵階段，可是計(jì)算能力和人工智能的迅速進(jìn)步，增加了軍方在20年內(nèi)把機(jī)器人士兵派上戰(zhàn)場的可能性。在這封公開信中，這些創(chuàng)始人表示，雖然對軍隊(duì)作戰(zhàn)人員來說，人工智能技術(shù)可以令戰(zhàn)場更加安全，但這種不受人類控制的武器會(huì)引發(fā)全球性人工智能軍備競賽。技術(shù)領(lǐng)袖們認(rèn)為，留給人類采取行動(dòng)的時(shí)間并不多，“潘多拉的盒子”一旦打開，就很難關(guān)上了。

人工智能技術(shù)正在讓自主武器系統(tǒng)變得更加致命

此前，專家曾經(jīng)警告說，人工智能技術(shù)已經(jīng)達(dá)到了一個(gè)重要階段，即自主化武器將在今后幾年內(nèi)就可以投入部署和使用，而非人們想象的還需要數(shù)十年。

專家們憂慮，具有自主作戰(zhàn)能力的攻擊型武器會(huì)降低戰(zhàn)爭的門檻，甚至有可能導(dǎo)致更多平民喪生。

在今年的會(huì)議上，這些創(chuàng)始人呼吁把“缺乏道義的”致命自主武器系統(tǒng)加入到聯(lián)合國在1983年生效的《特定常規(guī)武器（CCW）公約》禁用的武器清單中。這份清單包括化學(xué)武器和蓄意使人失明的激光武器。無障礙機(jī)器人公司的創(chuàng)始人瑞安·蓋瑞比表示：“與仍然處于科幻領(lǐng)域的人工智能表現(xiàn)不同，自主武器系統(tǒng)正處于發(fā)展的尖端，具有非常現(xiàn)實(shí)的潛力，有可能對無辜百姓造成重大傷害，并引發(fā)全球不穩(wěn)定”。

作為這封公開信的簽名者之一，馬斯克多次警告對人工智能前瞻性規(guī)范的必要性，呼吁國際社會(huì)出臺新的規(guī)定，確保公眾的安全。他將人工智能系統(tǒng)稱為人類面臨的最大生存威脅，認(rèn)為如果該系統(tǒng)決定優(yōu)先打擊是獲得勝利的最可能途經(jīng)，那么它就有可能選擇發(fā)動(dòng)一場戰(zhàn)爭。9月4日，馬斯克在推特上發(fā)布了個(gè)人觀點(diǎn)：“國家間為在人工智能領(lǐng)域獲得優(yōu)勢而不斷加劇競爭，最有可能引發(fā)第三次世界大戰(zhàn)。”

不過，也有其他一些專家認(rèn)為，人工智能盡管存在巨大的破壞性潛力，但從現(xiàn)實(shí)來看仍然十分遙遠(yuǎn)。Facebook公司的首席執(zhí)行官扎克伯格認(rèn)為馬斯克的預(yù)測“相當(dāng)不負(fù)責(zé)任”，而馬斯克則回應(yīng)稱，扎克伯格對于整個(gè)問題的理解是“有限的”。

馬斯克強(qiáng)調(diào)，人工智能是關(guān)乎人類文明存亡的最根本的風(fēng)險(xiǎn)。他認(rèn)為，保持與機(jī)器智能同步的最好辦法是升級人類智能。近期，馬斯克非常罕見地在公開場合談到了通過開發(fā)腦機(jī)接口來推動(dòng)人類進(jìn)化的可能性。而他本人最新創(chuàng)建了一家神經(jīng)連接公司，主要目標(biāo)是開發(fā)“超高帶寬腦機(jī)接口”，嘗試通過機(jī)器與人類大腦相接，將生物智能與數(shù)字智能更緊密地結(jié)合，最終實(shí)現(xiàn)人類與機(jī)器的真正融合。

編輯：石堅(jiān)