胡安·格雷羅++劉夢
科技的進(jìn)步,讓未來自動(dòng)武器的自主選擇和攻擊目標(biāo)成為可能。而這種致命性自動(dòng)武器系統(tǒng)(LAWS)也被稱作“殺手機(jī)器人”,它們可能是安裝了武器系統(tǒng)的飛行器,也可能是安裝了武器平臺(tái)的微型坦克,總之,它們可以自行決定讓誰去死。
將這些殺手機(jī)器人投入戰(zhàn)場,可以在很大程度上減輕人類士兵的危險(xiǎn)和負(fù)擔(dān)。不過,也有很多人工智能專家擔(dān)心這些機(jī)器人會(huì)帶來更多的危險(xiǎn)和安全隱患,比如它們可能會(huì)被不道德行為所利用,甚至淪為黑客的操控平臺(tái)。盡管如此,近年來全球各國還是紛紛投入到了自動(dòng)化武器的研發(fā)中去。
那么,“終結(jié)者”時(shí)代真的即將來臨了嗎?
夜幕降臨,在朝鮮和韓國“三八線”附近執(zhí)勤的哨兵也開始感到疲倦,而韓國布置在此的持槍機(jī)器人卻依然警惕地監(jiān)視著方圓幾公里內(nèi)的情況,它配有高度靈敏的熱感傳感器和紅外夜視攝像頭,一旦發(fā)現(xiàn)非法入侵者,會(huì)馬上向韓國指揮中心“匯報(bào)”,在收到開火命令后,將用其攜帶的大宇K3機(jī)關(guān)槍或槍榴彈發(fā)射器射擊目標(biāo)。
這款機(jī)器人是2006年由韓國三星公司開發(fā)的型號(hào)為SGR-A1的機(jī)器人哨兵,單個(gè)造價(jià)為20萬美元,主要作用是替代傳統(tǒng)的哨兵來防范軍事區(qū)域或國境線的非法入侵者。盡管這個(gè)機(jī)器人目前還沒有自主決策能力,只能在操控人員的監(jiān)控下執(zhí)行守衛(wèi)任務(wù),但其實(shí)它已經(jīng)裝備有識(shí)別敵我的算法,可以通過語音要求目標(biāo)回復(fù)口令來區(qū)分?jǐn)澄胰藛T身份,未來在需要的情況下,它也可以自動(dòng)偵測、判斷目標(biāo)并完成自主射擊。
SGR-A1并不是唯一被用于軍事的機(jī)器人,2011年一家白俄羅斯企業(yè)就設(shè)計(jì)出了一款名為Adunok-M的無人駕駛遙控武器平臺(tái)。這款機(jī)器人擁有履帶系統(tǒng),就像一輛小型的裝甲車,它還配備有槍榴彈發(fā)射器和機(jī)關(guān)槍,可根據(jù)收到的遙控指令攻擊并摧毀800米內(nèi)的目標(biāo)。設(shè)計(jì)人員表示,它還可以根據(jù)任務(wù)的不同來選擇使用口徑為7.62毫米的輕機(jī)槍或是12.7毫米的重機(jī)槍。
除此之外,還有美國海軍陸戰(zhàn)隊(duì)的“角斗士”作戰(zhàn)機(jī)器人、以色列軍隊(duì)用于邊境安全任務(wù)的“守護(hù)者”無人駕駛戰(zhàn)車等等??梢?,無人武器系統(tǒng)的時(shí)代早已悄無聲息地來臨了。
無人駕駛航空器由美國國防部高級(jí)研究計(jì)劃局(DARPA)主導(dǎo)開發(fā)的X-47B無人戰(zhàn)斗航空器,是人類歷史上第一架無需人工干預(yù),完全由電腦操控的無人駕駛飛機(jī),也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機(jī)。
不過,究竟要達(dá)到何種自主程度,才能稱得上是完全獨(dú)立的軍事機(jī)器人呢?按照美國國防部的標(biāo)準(zhǔn),具備自主性的軍事機(jī)器人一旦被投入運(yùn)行,就必須能自動(dòng)識(shí)別并鎖定目標(biāo),然后自主決定應(yīng)該對(duì)其采取何種措施。只要能在無人操控的情況下完成這套程序的,就是合格的自主軍事機(jī)器人。目前,美國國防部的標(biāo)準(zhǔn)允許無人武器平臺(tái)具備自動(dòng)和人工操作兩種模式,但就現(xiàn)階段來說,涉及到開火等攻擊任務(wù)時(shí),這些武器平臺(tái)選用的還是人工操作模式。不過,專家們認(rèn)為,在現(xiàn)有的技術(shù)條件下,開發(fā)出成熟的致命性自主武器系統(tǒng)并不是什么難事,長則幾十年,短則幾年就會(huì)實(shí)現(xiàn)。
越來越多軍事機(jī)器人的出現(xiàn),也在國際上引發(fā)了越來越多的爭議。很多科學(xué)家認(rèn)為,這類自主武器系統(tǒng)一旦被投入運(yùn)用,將會(huì)引發(fā)繼火藥和核武器發(fā)明之后的第三次戰(zhàn)爭革命。這并不是危言聳聽,因?yàn)榫驮?015年,一臺(tái)“發(fā)狂”的機(jī)器人就“不小心”將美國一個(gè)汽車工廠的裝配工“殺死”了,隨后其家屬以意外致死罪的名義向5家涉案機(jī)器人制造商提起了訴訟。
同樣是在2015年,在倫敦舉行的一次科技大會(huì)上,著名科學(xué)家史蒂芬·霍金就發(fā)出警告稱:機(jī)器人將會(huì)控制人類。霍金說:“在未來100年內(nèi),結(jié)合人工智能的機(jī)器人將會(huì)變得比人類更聰明,屆時(shí)我們需要確保機(jī)器人與我們的目標(biāo)一致,我們的未來取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”
特斯拉公司CEO埃隆·馬斯克也持有相同觀點(diǎn)。在麻省理工學(xué)院發(fā)表演講時(shí),他將人工智能機(jī)器人描述為人類“最大的生存威脅”,他認(rèn)為,只需要5年,人工智能就可能給世界帶來極端的危險(xiǎn)。
為此,1000多名科技領(lǐng)域的專家和企業(yè)家共同發(fā)表了一封抵制自動(dòng)武器的公開信,在信函上署名的包括著名科學(xué)家史蒂芬·霍金、特斯拉公司CEO埃隆·馬斯克和蘋果公司共同創(chuàng)始人史蒂夫·沃茲尼亞克。信函中寫道:“今天人類的關(guān)鍵問題是,是否要開啟一場全球人工智能武器競賽,還是阻止它的啟動(dòng)?!?/p>
科學(xué)家們表示,由于自動(dòng)武器將使用人工智能來選擇目標(biāo),而無需人為干預(yù),所以,這種具有自主決策能力和行為能力的機(jī)器人一旦落入恐怖分子、獨(dú)裁者和軍閥手中,后果將不堪設(shè)想。盡管各國發(fā)展軍事機(jī)器人的本意是為了減少戰(zhàn)場上的傷亡,但這樣做的同時(shí)也降低了人類進(jìn)入戰(zhàn)場的門檻,甚至可能會(huì)加劇大國之間軍事力量的競爭。
停止開發(fā)殺手機(jī)器人!“停止開發(fā)殺手機(jī)器人”是2013年由幾個(gè)非政府組織發(fā)起的運(yùn)動(dòng),他們經(jīng)常組織類似活動(dòng)以引起政府和民眾對(duì)這一問題的關(guān)注,如圖就是他們?cè)趥惗嘏e行的活動(dòng)。
早在2013年,就有非政府組織發(fā)起了“停止開發(fā)殺手機(jī)器人”的活動(dòng),他們認(rèn)為致命性自動(dòng)武器系統(tǒng)的存在違背了人類的基本尊嚴(yán),讓機(jī)器人去選擇殺死誰是十分不人道的,因?yàn)闄C(jī)器人可能會(huì)被授權(quán)殺死任何顯示出潛在威脅行為的人,包括沒有武器的平民百姓。
在社會(huì)各界的努力之下,這個(gè)問題終于得到了聯(lián)合國的重視。2014年,聯(lián)合國開始討論致命性自主武器的使用問題,并考慮通過起草國際法來約束殺手機(jī)器人技術(shù)的開發(fā)和傳播。
然而,在2016年聯(lián)合國召開的特定常規(guī)武器公約討論會(huì)議上,聯(lián)合國安理會(huì)五大常任理事國之中,只有中國明確表態(tài)支持制定條約管制機(jī)器人武器,美國因?yàn)閾?dān)心受到軍事上的制約而對(duì)此持消極態(tài)度,俄羅斯、英國和法國則都沒有明確表態(tài)。
在與會(huì)的120個(gè)國家中,雖然大部分國家都表示會(huì)支持聯(lián)合國對(duì)自主武器系統(tǒng)采取合理管制,但只有19個(gè)國家明確表示了應(yīng)當(dāng)停止開發(fā)和使用致命性自主武器系統(tǒng),這其中較有影響力的國家只有阿爾及利亞、墨西哥、委內(nèi)瑞拉、巴基斯坦和埃及這五國。像日本這樣擁有先進(jìn)機(jī)器人技術(shù)的國家,因?yàn)閾?dān)心管制可能影響本國民用機(jī)器人的研發(fā),所以對(duì)管制措施抱有比較謹(jǐn)慎的態(tài)度。不過,大會(huì)最后還是決定了要設(shè)立正式的專家會(huì)議,以便后續(xù)討論“殺手機(jī)器人”的管制等問題。
是什么讓這些大國在管制自主武器的問題上表現(xiàn)得如此含混和曖昧?答案只有一個(gè),那就是利益。很顯然,這些殺手機(jī)器人在戰(zhàn)場上會(huì)比有血有肉的人類士兵更有效率,因?yàn)樗鼈兛梢匀找箲?zhàn)斗,不會(huì)感到疲倦,不需要食物和睡眠,不會(huì)受到生理?xiàng)l件限制,也不會(huì)受到情感的影響,在殺人時(shí)不會(huì)感到恐懼,也不會(huì)對(duì)敵人產(chǎn)生憐憫,它們只會(huì)機(jī)械地完成所有設(shè)定好的任務(wù)。
盡管目前這些殺手機(jī)器人造價(jià)不菲,但隨著科技的發(fā)展以及機(jī)器人零件的量產(chǎn),未來這些機(jī)器人的制作成本只會(huì)越來越低。相比之下,像美國這樣的超級(jí)大國,一旦發(fā)生了士兵傷亡事件,政府需要支付平均每人85萬美元的撫恤金給其家屬,從性價(jià)比上來說,用殺手機(jī)器人替代真人對(duì)政府更有利一些。
然而,專家們所擔(dān)心的是,一旦這些殺手機(jī)器人未來投入戰(zhàn)場,它們能否遵循公認(rèn)的交戰(zhàn)規(guī)則以及遵循倫理道德,它們能否區(qū)分?jǐn)撤降臒o辜平民和士兵,以及在敵方士兵投降后它們是否還會(huì)繼續(xù)開火,因?yàn)樗鼈儺吘共皇侨祟惪梢酝耆刂频臒o人機(jī),而是具有完全自主性的殺手機(jī)器人。
地空自主武器系統(tǒng)
盡管致命性自主武器系統(tǒng)可能給世界帶來種種的危險(xiǎn),但出于軍事利益的考量,許多國家還是在大力研發(fā)并投入使用自主武器。
其中,韓國和以色列都已開始使用地空半自動(dòng)防空導(dǎo)彈系統(tǒng),美國也開發(fā)出了X-47B無人戰(zhàn)斗航空器,這是人類歷史上第一架無需人工干預(yù),完全由電腦操控的無人駕駛飛機(jī),也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機(jī)。
對(duì)此,俄羅斯也不甘示弱,在俄羅斯最新式的T-14阿瑪塔主戰(zhàn)坦克上也運(yùn)用了無人炮塔的設(shè)計(jì),同時(shí)設(shè)置了全向光電和雷達(dá)探測器以及兩類攔截彈,是迄今為止應(yīng)用主動(dòng)防護(hù)技術(shù)程度最高的坦克,可有效壓制當(dāng)代西方最常用的三代主戰(zhàn)坦克。
英國也開發(fā)了類似美國X-47B式的無人戰(zhàn)斗機(jī)“雷電之神”,該機(jī)運(yùn)用了三重飛行管理系統(tǒng),其中包括飛行導(dǎo)航、引導(dǎo)和控制系統(tǒng),地面控制系統(tǒng)以及情報(bào)、監(jiān)視和偵察管理系統(tǒng),同時(shí)還應(yīng)用了包括隱形技術(shù)和自動(dòng)控制技術(shù)在內(nèi)的尖端技術(shù),是英國戰(zhàn)略無人機(jī)實(shí)驗(yàn)計(jì)劃的一個(gè)重要部分。
除了陸地和空中自主武器系統(tǒng),各國也在競相發(fā)展海上自主武器系統(tǒng),因?yàn)楹I献灾魑淦鞑粌H能長時(shí)間在水上或水下自主航行,還具備智能化控制能力,可實(shí)施對(duì)重要海域近距離情報(bào)偵察、環(huán)境數(shù)據(jù)搜集、水上或水下持久偵察監(jiān)視、反潛戰(zhàn)、水雷對(duì)抗、后勤支援等諸多任務(wù),已經(jīng)成為全球海軍裝備的一個(gè)重要發(fā)展方向。
美國是最早開始發(fā)展海上自主武器系統(tǒng)的國家,且技術(shù)一直處于全球領(lǐng)先地位。由美國國防部高級(jí)研究計(jì)劃局(DARPA)主導(dǎo)研發(fā)的“海上獵人”是一種專用無人艇,雖然艇上無人值守,但它可以兼容遠(yuǎn)程監(jiān)控控制站,并且可以35節(jié)(64千米/小時(shí))的速度持續(xù)航行48個(gè)小時(shí)。
在歐洲,法國泰雷茲公司和英國ASV公司也在共同開發(fā)一款滿足未來離艦反水雷(MCM)作戰(zhàn)任務(wù)的無人水面航行器。這款航行器可以在任何軍事平臺(tái)、艦艇、岸上或港口部署,并且可以搭載包括無人潛水器、拖曳式聲納在內(nèi)的多種反水雷系統(tǒng),同時(shí)它還具有優(yōu)異的慢速牽引能力,和傳統(tǒng)的裝備相比,它可靠性更高,制造成本更低,將成為未來水雷戰(zhàn)中的關(guān)鍵制勝因素。
盡管各國發(fā)展致命性自主武器系統(tǒng)的本意,都是為了保護(hù)本國的士兵不要受到傷害,但任由這些殺手機(jī)器人發(fā)展,很可能給人類帶來更大的威脅,因?yàn)樗鼈儾皇苋魏蔚赖?、法律和?zé)任上的約束,隨時(shí)可能做出超出人類控制之外的生死決定。
目前,控制這場危機(jī)的最好辦法就是出臺(tái)相關(guān)的國際法律來約束自主武器的使用,但這需要世界各國的共同努力。而現(xiàn)在,我們只有祈禱,希望“終結(jié)者”的時(shí)代永遠(yuǎn)不要來臨。
[譯自西班牙《真有趣》]