徐能武 葛鴻昌

[內(nèi)容提要] 隨著新科技革命的發(fā)展，人工智能在軍事領(lǐng)域的應(yīng)用日益廣泛并催生一系列致命性自主武器，因而對(duì)國(guó)際人道主義和人權(quán)、國(guó)際法以及國(guó)際軍控機(jī)制日益構(gòu)成威脅與挑戰(zhàn)。對(duì)此，國(guó)際社會(huì)應(yīng)多措并舉、折沖樽俎，大力推進(jìn)致命性自主武器系統(tǒng)軍控談判。中國(guó)應(yīng)會(huì)同有關(guān)各國(guó)一道，積極推動(dòng)聯(lián)合國(guó)多重機(jī)構(gòu)提前多層次、主導(dǎo)性介入談判過(guò)程，明確強(qiáng)調(diào)通過(guò)友好協(xié)商尋求各方都能接受的方案，積極支持成立確保透明、問(wèn)責(zé)和法治原則的多邊國(guó)際監(jiān)管體系，穩(wěn)步推進(jìn)致命性自主武器系統(tǒng)軍控的艱難談判。

習(xí)近平總書(shū)記在中共十九大報(bào)告中號(hào)召“加快建設(shè)制造強(qiáng)國(guó)，*本文為國(guó)際軍事合作辦公室資助課題“致命性自主武器系統(tǒng)軍控研究”的階段性研究成果。加快發(fā)展先進(jìn)制造業(yè)，推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合”，*習(xí)近平：《決勝全面建成小康社會(huì) 奪取新時(shí)代中國(guó)特色社會(huì)主義偉大勝利——在中國(guó)共產(chǎn)黨第十九次全國(guó)代表大會(huì)上的報(bào)告》，人民出版社，2017年，第30頁(yè)。強(qiáng)調(diào)把握好人工智能革命這一重大歷史機(jī)遇。近年來(lái)，人工智能在軍事領(lǐng)域的應(yīng)用直接催生了致命性自主武器系統(tǒng)(LAWS，Lethal Autonomous Weapons Systems)，引起國(guó)際安全形勢(shì)的巨大變化。致命性自主武器系統(tǒng)正在成為一些國(guó)家追求利益的一種戰(zhàn)略手段，它所造成的嚴(yán)重威脅和挑戰(zhàn)也引起越來(lái)越廣泛的關(guān)注，因此，國(guó)際社會(huì)推動(dòng)致命性自主武器系統(tǒng)軍控談判既艱難又緊迫。致命性自主武器系統(tǒng)軍控包含一定的權(quán)利和義務(wù)，因此，相關(guān)國(guó)家的參與就意味著接受這種形式的收益與成本。聯(lián)合國(guó)作為最具權(quán)威的全球性安全機(jī)制，對(duì)于推進(jìn)致命性自主武器系統(tǒng)軍控談判具有不可或缺的建構(gòu)作用。中國(guó)應(yīng)會(huì)同各有關(guān)國(guó)家一道大力推動(dòng)聯(lián)合國(guó)等多種機(jī)構(gòu)多層次、主導(dǎo)性地介入致命性自主武器系統(tǒng)軍控談判過(guò)程，主張和堅(jiān)持通過(guò)友好協(xié)商尋求各方都能接受的方案，積極支持成立確保透明、問(wèn)責(zé)和法治原則的多邊協(xié)調(diào)機(jī)構(gòu)，穩(wěn)步推進(jìn)談判進(jìn)程，在捍衛(wèi)中國(guó)權(quán)益的同時(shí)，為維護(hù)國(guó)際安全穩(wěn)定貢獻(xiàn)智慧和力量。本文擬分析致命性自主武器系統(tǒng)的緣起及其威脅與挑戰(zhàn)，重點(diǎn)論述中國(guó)應(yīng)該如何與聯(lián)合國(guó)等機(jī)構(gòu)一起推進(jìn)相關(guān)軍控談判。

一、致命性自主武器系統(tǒng)的緣起與發(fā)展

致命性自主武器系統(tǒng)是指這樣的武器系統(tǒng)，它們具有最先進(jìn)的人工智能、機(jī)器人和自動(dòng)控制能力，不需人類干預(yù)，就能選擇目標(biāo)、決定是否進(jìn)行打擊，并能致人喪失生命。關(guān)于致命性自主武器系統(tǒng)是否已能用于實(shí)戰(zhàn)，目前尚存在爭(zhēng)議，但某些國(guó)家的特定實(shí)驗(yàn)室正在進(jìn)行有關(guān)的開(kāi)發(fā)研究，則是不爭(zhēng)的事實(shí)。2017年，在聯(lián)合國(guó)“致命性自主武器系統(tǒng)問(wèn)題政府專家組”會(huì)議上，有些代表團(tuán)認(rèn)為，完全自主武器系統(tǒng)尚不存在，但另一些代表團(tuán)則指出，存在一些前體技術(shù)，還有一些國(guó)家部署了自主性程度越來(lái)越高的技術(shù)。*United Nations,“Report of the 2017 Group of Governmental Experts on Lethal Autonomous Weapons Systems,” December 2017,p.7.2015年7月召開(kāi)的國(guó)際人工智能聯(lián)合會(huì)議曾在開(kāi)幕式上宣讀了物理學(xué)家霍金(Stephen Hawking)、語(yǔ)言學(xué)家和麻省理工學(xué)院教授諾姆·喬姆斯基(Noam Chomsky)、特斯拉(Tesla)行政總裁馬斯克和蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)等上百位專業(yè)人士的聯(lián)名公開(kāi)信，信中稱人工智能技術(shù)可使完全自主武器“無(wú)需幾十年，而是幾年內(nèi)就可以開(kāi)發(fā)應(yīng)用”。*Stuart Russell,Stephen Hawking,Elon Musk,et al ,“Autonomous Weapons: An Open Letter from AI & Robotics Researchers,” https://futureoflifeinstitute.org/open-letter-autonmous-weapons/.(上網(wǎng)時(shí)間：2018年6月5日)總體上可以確定的是，致命性自主武器系統(tǒng)正在加速走向人類，在世界上引起廣泛憂慮。

第一，科技革命推動(dòng)致命性自主武器系統(tǒng)的興起。第三次科技革命帶來(lái)的電子計(jì)算機(jī)技術(shù)、激光技術(shù)等新興科技為武器裝備自動(dòng)化程度的大幅提高提供了可能，這是致命性自主武器系統(tǒng)發(fā)展的必要基礎(chǔ)。高度自動(dòng)化的武器可在無(wú)人協(xié)助的情況下自我完成攻擊或防御動(dòng)作，但必須由人類提前預(yù)設(shè)程序，并由人對(duì)其攻擊目標(biāo)的識(shí)別、決策及其方式選擇做出特定限制和要求，這種武器無(wú)法做出自我判斷和抉擇。二戰(zhàn)時(shí)期德國(guó)研制的Fritz X導(dǎo)彈作為世界上第一代精確制導(dǎo)武器，已具有對(duì)目標(biāo)進(jìn)行一定程度的自動(dòng)搜索及打擊的能力。有學(xué)者認(rèn)為Fritz X甚至“可以稱作第一個(gè)無(wú)線電控制的無(wú)人機(jī)”。*Ty McCormick,“Lethal Autonomy: A Short History,How Killer Robots Became More Than Just Scary Science Fiction,” Foreign Policy,January 2014.二戰(zhàn)后，美國(guó)大力支持自主武器系統(tǒng)的研發(fā)并居于領(lǐng)先位置。在20世紀(jì)70年代的越南戰(zhàn)場(chǎng)，美國(guó)首次在戰(zhàn)爭(zhēng)中成功使用激光制導(dǎo)的“智能炸彈”完成對(duì)敵軍目標(biāo)的打擊，同時(shí)部署了無(wú)人偵察機(jī)通過(guò)遠(yuǎn)程遙控在一定范圍內(nèi)進(jìn)行情報(bào)的拍攝、搜集，發(fā)揮了自主武器的獨(dú)特優(yōu)勢(shì)。1980年，美國(guó)開(kāi)始投入使用“密集陣”近防系統(tǒng)。該系統(tǒng)運(yùn)用高性能的計(jì)算機(jī)進(jìn)行一系列程序設(shè)定，具有快速開(kāi)火、電腦控制、雷達(dá)引導(dǎo)等特征，但被預(yù)設(shè)為“只參與瞄準(zhǔn)防御點(diǎn)內(nèi)及預(yù)定速度范圍之間行進(jìn)的目標(biāo)”*Vincent Boulanin and Maaike Verbruggen,“Mapping The Development of Autonomy in Weapon Systems,” Stockholm International Peace Research Institute,November 2017,p.38.，不具備差別對(duì)待目標(biāo)的能力?？梢哉f(shuō)，這些早期致命性自主武器系統(tǒng)主要用于根據(jù)預(yù)先設(shè)定的程序?qū)δ繕?biāo)進(jìn)行識(shí)別和打擊，自動(dòng)化、無(wú)人化的優(yōu)勢(shì)減少了人員的直接參與，但在選擇和決策過(guò)程中仍完全依靠人類，自主化程度和處理問(wèn)題的能力處于較低水平。

第二，人工智能加速致命性自主武器系統(tǒng)的發(fā)展。進(jìn)入21世紀(jì)以來(lái)，隨著人工智能的飛速發(fā)展和國(guó)際安全形勢(shì)的日益嚴(yán)峻，智能化的無(wú)人作戰(zhàn)系統(tǒng)作為維護(hù)國(guó)家安全的“護(hù)身符”“殺手锏”，逐步走向更廣闊的現(xiàn)實(shí)戰(zhàn)場(chǎng)。智能模擬、精確識(shí)別、深度學(xué)習(xí)及大數(shù)據(jù)處理等關(guān)鍵技術(shù)的突破，助推致命性自主武器系統(tǒng)實(shí)現(xiàn)了飛躍式發(fā)展。從2002年起，美國(guó)開(kāi)始綜合采用無(wú)人機(jī)和傳統(tǒng)空襲的方式在也門(mén)戰(zhàn)場(chǎng)進(jìn)行秘密定點(diǎn)清除行動(dòng)。*Amrit Singh,“Death by Drone,Open Society Foundations,” Open Society Justice Initiative,August 2015,p.31.2002年11月，美國(guó)“捕食者”無(wú)人機(jī)在薩那東部精準(zhǔn)獵殺基地組織頭目阿布·阿里(Abu Ali)及其他5名武裝分子，無(wú)人機(jī)從此成為美國(guó)反恐戰(zhàn)場(chǎng)上的常備武器。2006年，韓國(guó)在武裝智能機(jī)器人領(lǐng)域取得進(jìn)展，并將其部署在朝韓邊境的非軍事區(qū)。它是一款由三星設(shè)計(jì)的SGR-1機(jī)槍機(jī)器人，裝有熱量和運(yùn)動(dòng)探測(cè)器，可識(shí)別2英里以外的潛在目標(biāo)并對(duì)目標(biāo)進(jìn)行全自動(dòng)跟蹤和定位。其配備的5.5毫米機(jī)槍和40毫米榴彈發(fā)射器可經(jīng)人授權(quán)后進(jìn)行射擊。*Mark Prigg,“Who Goes There? Samsung Unveils Robot Sentry That Can Kill From Two Miles Away,” Daily Mail,September 15,2014.2013年7月，美國(guó)諾思羅普·格魯曼公司研制的X-47B無(wú)人機(jī)創(chuàng)造了“第一次實(shí)現(xiàn)自主戰(zhàn)機(jī)從航母甲板彈射起飛”*Clay Dillow,“What The X-47B Reveals about the Future of Autonomous,” Flight Popular Science,July 6,2013.的歷史，為美軍隨后的“艦載無(wú)人空中加油系統(tǒng)”項(xiàng)目奠定了技術(shù)基礎(chǔ)。

智能化無(wú)人作戰(zhàn)系統(tǒng)使海軍裝備的自主性大幅提升。美國(guó)在2016年5月測(cè)試的“海上獵手”號(hào)無(wú)人反潛戰(zhàn)艦長(zhǎng)約132英尺，最高航速可達(dá)27節(jié)，可在無(wú)人操作的情況下在海上連續(xù)航行數(shù)月。美國(guó)媒體稱其因獵潛能力可成為“敵軍潛艇的噩夢(mèng)”。*Cillian Zeal,“US Military Unveils Monstrous Drone Warship ‘Sea Hunter’,” Western Journal,February 6,2018.憑借雄厚的軍工科研能力和豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)，俄羅斯在無(wú)人戰(zhàn)車(chē)領(lǐng)域占據(jù)領(lǐng)先優(yōu)勢(shì)。由俄羅斯國(guó)防出口公司自行研發(fā)的“天王星-9”無(wú)人戰(zhàn)車(chē)2016年9月首次披露。其配備多種傳感器，激光告警系統(tǒng)及熱敏和光學(xué)相機(jī)，能夠自行探測(cè)和獲取4英里外的目標(biāo)。操作員在1.8英里內(nèi)的移動(dòng)載具中既可對(duì)其進(jìn)行人工操作，也可設(shè)置預(yù)定程序。*Daniel Brown,“ Russia Says It Has Deployed Its Uran-9 Robotic Tank to Syria — Here’s What It Can Do,” Business Insider,May 15,2018.這些無(wú)人戰(zhàn)車(chē)成為俄羅斯參與敘利亞地緣博弈的重要工具。

由此可見(jiàn)，人工智能革命引發(fā)的技術(shù)浪潮推動(dòng)武器裝備朝著擬人化、自主化方向發(fā)展，實(shí)現(xiàn)檢測(cè)、識(shí)別、跟蹤、交會(huì)等一系列行為的自我處理。這樣的致命性自主武器系統(tǒng)已經(jīng)遍布海、陸、空、太空等各個(gè)領(lǐng)域，賦予武器裝備解決簡(jiǎn)單問(wèn)題的權(quán)限，進(jìn)一步減少對(duì)操作人員數(shù)量和技能水平的依賴，極大地提高了作戰(zhàn)效能。

第三，大國(guó)戰(zhàn)略誘導(dǎo)致命性自主武器系統(tǒng)的研發(fā)。人工智能革命正在改變戰(zhàn)爭(zhēng)的基本態(tài)勢(shì)。為追逐在新一輪軍事競(jìng)爭(zhēng)中的領(lǐng)先位置，各大國(guó)爭(zhēng)相制定相關(guān)戰(zhàn)略和政策，鼓勵(lì)本國(guó)致命性自主武器系統(tǒng)的研發(fā)，提升人工智能的軍事化應(yīng)用程度，以圖占據(jù)世界新軍事革命的制高點(diǎn)。美、俄、英、以色列、韓等擁有高科技軍事力量的國(guó)家正在研發(fā)減少人類參與的致命性自主武器系統(tǒng)。其將研發(fā)出的新技術(shù)很可能使完全自主機(jī)器人變?yōu)楝F(xiàn)實(shí)。

早在2007年，美國(guó)國(guó)防部就在其無(wú)人系統(tǒng)路線圖中寫(xiě)道，對(duì)于處理器技術(shù)來(lái)說(shuō)，最終目標(biāo)是用同等或更快的思維速度、更強(qiáng)的記憶能力以及訓(xùn)練和經(jīng)驗(yàn)所獲得的反應(yīng)等機(jī)械傳真取代操作員。*US Department of Defense,“Unmanned Systems Roadmap 2007-2032,” December 2007,p.53.2009年5月18日，美國(guó)空軍發(fā)布了《無(wú)人機(jī)系統(tǒng)飛行計(jì)劃2009-2047》，為未來(lái)40年的無(wú)人機(jī)發(fā)展謀篇布局，其中強(qiáng)調(diào)“完全自主”是未來(lái)無(wú)人機(jī)系統(tǒng)所需的綜合能力之一。*Headquarters,United States Air Force,“United States Air Force Unmanned Aircraft Systems Flight Plan 2009-2047,” May 2009,p.50.2018年3月，美國(guó)在提交給聯(lián)合國(guó)“致命性自主武器系統(tǒng)問(wèn)題政府專家組”會(huì)議的立場(chǎng)文件中稱，“致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)可以提高國(guó)家在運(yùn)用武力時(shí)降低平民傷亡風(fēng)險(xiǎn)的能力……相比于貶低或禁止致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)，美國(guó)應(yīng)鼓勵(lì)相關(guān)創(chuàng)新?！?The United States of America,“Humanitarian Benefits of Emerging Technologies in the Area of Lethal Autonomous Weapon Systems,” March 2018,p.6.俄羅斯在人工智能領(lǐng)域同樣不甘示弱。俄軍在2015年制訂了一項(xiàng)雄心勃勃的研發(fā)計(jì)劃并獲得軍事工業(yè)委員會(huì)的支持，它預(yù)定在未來(lái)十年30%的戰(zhàn)斗力將由遠(yuǎn)程遙控自主機(jī)器人平臺(tái)組成。*Tamir Eshel,“Russian Military to Test Combat Robots in 2016,” Defense Update,December 31,2015.有專家稱，“俄羅斯近幾年正試圖追趕美國(guó)和中國(guó)在機(jī)器人、無(wú)人機(jī)及其他潛在的自主武器方面的發(fā)展進(jìn)度”。*John Dyer,“Ivan the Terminator: Russia Is Showing Off Its New Robot Soldier,” Vice News,May 26,2016.這種大國(guó)間在自主武器領(lǐng)域的軍備競(jìng)賽極易打開(kāi)致命性自主武器系統(tǒng)的魔盒，將世界拖入“終結(jié)時(shí)代”。

同時(shí)，致命性自主武器系統(tǒng)可為國(guó)家削減戰(zhàn)斗人員，降低戰(zhàn)爭(zhēng)消耗，實(shí)現(xiàn)武器裝備的代際超越。這為對(duì)內(nèi)承受資源人口壓力、對(duì)外面臨和平安全威脅的國(guó)家提供了新的戰(zhàn)略思路。例如，日本和以色列擁有高度先進(jìn)的技術(shù)部門(mén)并面臨獨(dú)特的人口挑戰(zhàn)，對(duì)致命性自主武器系統(tǒng)的研發(fā)可能有更大興趣。*Greg Allen Taniel Chan,“Artificial Intelligence and National Security,” Belfer Center for Science and International Affairs,July 2017,p.21.大國(guó)在戰(zhàn)略上的隱蔽性和技術(shù)上的先進(jìn)性很可能讓致命性自主武器系統(tǒng)越來(lái)越多地悄然生發(fā)。

二、致命性自主武器系統(tǒng)發(fā)展的威脅與挑戰(zhàn)

人工智能軍事化蘊(yùn)藏的風(fēng)險(xiǎn)也開(kāi)始引發(fā)廣泛關(guān)注。如霍金所言，人工智能的發(fā)展“要么是人類歷史上最好的事，要么是最糟的”。*John Koetsier,“ Stephen Hawking Issues Stern Warning On AI: Could Be ‘Worst Thing’ For Humanity,” Forbes,November 6,2017.一批知名科學(xué)家和技術(shù)專家多次發(fā)出呼吁，要求國(guó)際社會(huì)采取實(shí)質(zhì)性舉措限制這一危險(xiǎn)進(jìn)程，特別是限制那些致命性自主武器系統(tǒng)的發(fā)展和應(yīng)用。特斯拉創(chuàng)始人埃隆·馬斯克甚至警告，國(guó)家間人工智能的軍備競(jìng)賽，有可能成為第三次世界大戰(zhàn)的起因。*Jasper Hamill,“ Elon Musk Fears Global Artificial Intelligence Arms Race Could Spark World War 3,” The Sun,September 4,2017.

第一，對(duì)國(guó)際人道主義和人權(quán)的威脅和挑戰(zhàn)。首先，致命性自主武器系統(tǒng)無(wú)需人類干預(yù)自行決策的特點(diǎn)，割斷了戰(zhàn)場(chǎng)上人與人的情感關(guān)聯(lián)，使得國(guó)際人道主義在戰(zhàn)爭(zhēng)中難以落實(shí)。根據(jù)人道主義的相關(guān)原則，人類在發(fā)動(dòng)攻擊時(shí)會(huì)對(duì)目標(biāo)人群產(chǎn)生一定同情心理，并在綜合考慮可能面臨的法律、情感和道德后果后作出決定。對(duì)戰(zhàn)爭(zhēng)態(tài)勢(shì)的判定和戰(zhàn)場(chǎng)慘烈程度的認(rèn)知必然導(dǎo)致戰(zhàn)斗人員決策行為的即時(shí)改變。而致命性自主武器系統(tǒng)“決策的去人類化”特征可能帶來(lái)與實(shí)際使用武力的物理和心理上的距離，會(huì)減輕人的關(guān)切，甚至使部署致命性自主武器系統(tǒng)的人員察覺(jué)不到這種關(guān)切。*Human Rights Council Twenty-third Session,“Report of the Special Rapporteur on Extrajudicial,Summary or Arbitrary Executions,Christof Heyns,” United Nations General Assembly,April 9,2013,p.11.這會(huì)造成致命性自主武器因缺少情感和道德考量而無(wú)法節(jié)制非人道行為，同時(shí)有關(guān)決策層因無(wú)需考慮自身人員傷亡情況而極有可能加大戰(zhàn)爭(zhēng)的搏殺力度，引發(fā)亂殺濫殺等人道主義災(zāi)難。

其次，作為非生命體的致命性自主武器系統(tǒng)自我決定剝奪個(gè)體的生命這一舉動(dòng)就是對(duì)人權(quán)的踐踏。“在戰(zhàn)斗中部署致命性自主武器系統(tǒng)透露出一種觀念：即被其瞄準(zhǔn)的任何人都不值得具有生命狀態(tài)的操作員去考慮，該人的生命和尊嚴(yán)因此遭受剝奪?！?Erin Hunt and Piotr Dobrzynski,“The Right to Dignity And Autonomous Weapon Systems,” CCW Report,April 2018,Vol.6,No.3,p.5.人類在戰(zhàn)爭(zhēng)中也會(huì)存在肆意侵犯生命權(quán)的行為，但這仍然被視為是人類思維和價(jià)值非?；捏w現(xiàn)?，F(xiàn)有社會(huì)中的人權(quán)法和道德都可對(duì)人類的相關(guān)行為產(chǎn)生約束效果。現(xiàn)有的科技水平仍無(wú)法為致命性自主武器系統(tǒng)提供與人類相似的認(rèn)知水平，幫助其準(zhǔn)確感知平民與非戰(zhàn)斗狀態(tài)下之戰(zhàn)斗人員的區(qū)別。放寬自主決策的權(quán)限可能是充分利用致命性自主武器系統(tǒng)的唯一途徑，但這會(huì)造成系統(tǒng)失控的狀態(tài)，增加平民成為擊殺目標(biāo)的可能性。致命性自主武器系統(tǒng)在缺少價(jià)值觀判斷的情況下蓄意擊殺個(gè)人無(wú)疑是對(duì)人類生命權(quán)的褻瀆。

最后，致命性自主武器系統(tǒng)也可能對(duì)其他人權(quán)帶來(lái)負(fù)面影響。彼得·阿薩羅(Peter Asaro)就表達(dá)了對(duì)生命權(quán)之外的踐踏其他人權(quán)的關(guān)注，“譬如逮捕、拘留及行動(dòng)限制；搜查、監(jiān)視及跟蹤；驅(qū)逐出境；驅(qū)逐和喪失抵押品贖回權(quán)；拒絕給予醫(yī)療保險(xiǎn)、公眾集會(huì)、出版和言論自由及選舉的權(quán)利”。*彼得·阿薩羅著，韓陽(yáng)譯：“論禁止自主武器系統(tǒng)：人權(quán)、自動(dòng)化以及致命決策的去人類化”，《紅十字國(guó)際評(píng)論》，2012年第2期，第201頁(yè)。致命性自主武器系統(tǒng)在做出是否擊殺目標(biāo)的決定之前，首先要完成搜索、檢測(cè)、識(shí)別、跟蹤、瞄準(zhǔn)等一系列確認(rèn)動(dòng)作。這在當(dāng)前戰(zhàn)爭(zhēng)尤其是反恐戰(zhàn)爭(zhēng)中戰(zhàn)場(chǎng)界限模糊不清的情況下很可能持續(xù)相當(dāng)?shù)臅r(shí)間，對(duì)公民的私人生活造成影響。它在一定程度上是侵犯隱私權(quán)的表現(xiàn)。希瑟·羅夫(Heather Roff)還曾認(rèn)為，空中致命性自主武器系統(tǒng)在發(fā)現(xiàn)目標(biāo)時(shí)只能夠在是否擊殺中進(jìn)行選擇，如果選擇擊殺，則既剝奪了生命權(quán)同時(shí)也侵犯了該人員的公平審判權(quán)。*Heather Roff,“Banning and Regulating Autonomous Weapons,” Bulletin of the Atomic Scientists,November 24,2015.

第二，對(duì)戰(zhàn)爭(zhēng)法的威脅和挑戰(zhàn)。由于與人類存在本質(zhì)性的差異，致命性自主武器系統(tǒng)雖然在戰(zhàn)場(chǎng)上發(fā)揮戰(zhàn)斗人員的實(shí)際作用，卻無(wú)法受到戰(zhàn)爭(zhēng)法的相關(guān)約束和影響。如果其違反了法律，做出部署人員無(wú)意實(shí)施的違法行為，誰(shuí)應(yīng)負(fù)法律責(zé)任則是不明確的，由此造成“追責(zé)缺口”。*Thompson Chengeta,“Accountability Gap,Autonomous Weapon Systems and Modes of Responsibility in International Law,” Mar 2016,p.1.有學(xué)者認(rèn)為，在系統(tǒng)部署過(guò)程中，“有可能負(fù)有法律責(zé)任者包括軟件程序員、硬件制作或出售人員、軍事指揮官、部署武器系統(tǒng)的下級(jí)人員和政治領(lǐng)導(dǎo)人?！?Human Rights Council Twenty-third Session,“ Report of the Special Rapporteur on Extrajudicial,Summary or Arbitrary Executions,Christof Heyns,” p.14.但是，詳細(xì)的名單無(wú)法為明確的責(zé)任劃分提供建議，反會(huì)因責(zé)任人眾多而削弱法律應(yīng)有的懲罰與勸誡效果，使受害者的權(quán)益得不到應(yīng)有的保障，有損司法問(wèn)責(zé)制度的權(quán)威，進(jìn)而無(wú)法對(duì)戰(zhàn)爭(zhēng)中的平民和潛在受害者繼續(xù)提供有效保護(hù)。

致命性自主武器系統(tǒng)是否符合戰(zhàn)爭(zhēng)法的要求也是人們關(guān)心的議題?！度諆?nèi)瓦四公約第一附加議定書(shū)》第36條為新武器的法律審查提供了指導(dǎo)方針，即“研究、開(kāi)發(fā)、獲取或采用一種新的武器、作戰(zhàn)手段或方法時(shí)，締約國(guó)一方有義務(wù)斷定在某些或所有情況下，該新的武器、作戰(zhàn)手段或方法是否為本議定書(shū)或適用于該締約一方的任何其他國(guó)際法規(guī)則所禁止?！边@項(xiàng)規(guī)定的目的是防止在任何情況下使用違反國(guó)際法的武器，并對(duì)在某些情況下違反國(guó)際法的武器的使用施加限制，在研發(fā)、獲得及放入國(guó)家“武器庫(kù)”之前確定其合法性。*K.Lawand et al,“Guide to the Legal Review of New Weapons,Means and Methods of Warfare,” ICRC,Geneva,2006,p.4.當(dāng)前學(xué)界對(duì)于致命性自主武器系統(tǒng)是否符合戰(zhàn)爭(zhēng)法的爭(zhēng)論焦點(diǎn)在于其是否符合馬頓斯條款——即“受到來(lái)源于既定習(xí)慣、人道原則和公眾良心要求的國(guó)際法原則的保護(hù)和支配。”*International Committee of the Red Cross,“Protocol Additional to the Geneva Conventions of 12 August 1949,And Relating to the Protection of Victims of International Armed Conflicts (Protocol I),of 8 June 1977,” June 1997,p.240.只是在致命性自主武器系統(tǒng)出現(xiàn)前，誰(shuí)也無(wú)法確切回答其是否服從人道主義規(guī)范。

區(qū)分原則和相稱性規(guī)則是在戰(zhàn)爭(zhēng)中必須遵守的兩項(xiàng)基本原則。區(qū)分原則要求無(wú)論何時(shí)均應(yīng)該在平民與戰(zhàn)斗員、民用物體與軍事目標(biāo)之間做出區(qū)分。相比之下，在評(píng)估武器系統(tǒng)本質(zhì)上是不分青紅皂白時(shí)，檢查其目標(biāo)識(shí)別性能顯得尤為重要。*Autonomous Weapon Systems under International Law,Geneva Academy,November 2014,p.22.人類需要時(shí)刻把握戰(zhàn)場(chǎng)態(tài)勢(shì)和環(huán)境態(tài)勢(shì)以做出相對(duì)準(zhǔn)確的判斷。慣于以計(jì)算機(jī)處理定量數(shù)據(jù)的致命性自主武器系統(tǒng)很難理解相關(guān)的標(biāo)準(zhǔn)，極有可能違反戰(zhàn)爭(zhēng)法規(guī)定。相對(duì)稱性規(guī)則評(píng)判要求，即使某一武器符合區(qū)分標(biāo)準(zhǔn)，它的使用也必須涉及對(duì)預(yù)期平民傷害(對(duì)平民或民用物體)的評(píng)估，以確定預(yù)期的軍事優(yōu)勢(shì)，對(duì)平民的傷害不能大于預(yù)期的軍事收益。這同樣考驗(yàn)致命性自主武器系統(tǒng)對(duì)具體情境下價(jià)值的判斷和主觀考量，給人類社會(huì)帶來(lái)巨大的風(fēng)險(xiǎn)和挑戰(zhàn)。致命性自主武器系統(tǒng)迫使人類重新思考戰(zhàn)爭(zhēng)法的主體界定、適用范圍和基本原則等內(nèi)容，使原本趨于完備的戰(zhàn)爭(zhēng)法面臨嚴(yán)峻考驗(yàn)。

第三，對(duì)國(guó)際軍控機(jī)制的威脅與挑戰(zhàn)。當(dāng)前，自主武器朝著多樣化、智能化方向加速發(fā)展，致命性自主武器系統(tǒng)呼之欲出。毫無(wú)疑問(wèn)，哪個(gè)國(guó)家率先研發(fā)出在掌控范圍內(nèi)的致命性自主武器系統(tǒng)，哪個(gè)國(guó)家就將在世界新軍事革命中占據(jù)優(yōu)勢(shì)地位。雖然各國(guó)都懷有對(duì)致命性自主武器系統(tǒng)失控泛濫的隱憂，但仍在暗自角力，力爭(zhēng)取得領(lǐng)先性優(yōu)勢(shì)。美國(guó)國(guó)防部前副部長(zhǎng)沃克曾在接受采訪時(shí)說(shuō)：“我們可能會(huì)遇到一個(gè)比我們更愿意把權(quán)力下放給機(jī)器的競(jìng)爭(zhēng)對(duì)手，隨著競(jìng)爭(zhēng)的展開(kāi)，我們將不得不就如何才能贏得競(jìng)爭(zhēng)做出決定?！?“David Ignatius and Pentagon’s Robert Work Talk About New Technologies to Deter War,” Washington Post,March 30,2016.俄羅斯總統(tǒng)普京也曾說(shuō)，誰(shuí)主導(dǎo)人工智能這一領(lǐng)域，誰(shuí)就可以成為世界的霸主。*Patrick Caughill,“ Vladimir Putin: Country That Leads in AI Development ‘Will Be the Ruler of the World’,” Futurism,September 2,2017.作為新一輪軍備競(jìng)賽的焦點(diǎn)對(duì)象，致命性自主武器系統(tǒng)相關(guān)的軍控談判同樣會(huì)逐漸增多。聯(lián)合國(guó)《特定常規(guī)武器公約》會(huì)議建立的“致命自動(dòng)武器系統(tǒng)監(jiān)管專家組”(GGE)主要負(fù)責(zé)此類談判，各大國(guó)借此展開(kāi)的博弈必將挑戰(zhàn)原有軍控機(jī)制確立的部分原則。

致命性自主武器系統(tǒng)可以幫助國(guó)家“在沒(méi)有軍事傷亡的情況下進(jìn)行戰(zhàn)爭(zhēng)，這將消除戰(zhàn)爭(zhēng)發(fā)生的最大威懾”。*Jason Borenstein,“The Ethics of Autonomous Military Robots,” Studies in Ethics,Law,and Technology,Vol.2,Issue 1,2008,p.8.相關(guān)國(guó)家的領(lǐng)導(dǎo)人將較少地顧忌發(fā)動(dòng)戰(zhàn)爭(zhēng)導(dǎo)致本國(guó)軍事人員傷亡帶來(lái)的國(guó)內(nèi)負(fù)面社會(huì)效應(yīng)，這極大降低了戰(zhàn)爭(zhēng)的門(mén)檻。在戰(zhàn)爭(zhēng)中先發(fā)制人的國(guó)家還可以將戰(zhàn)場(chǎng)推進(jìn)到對(duì)手的領(lǐng)地，最大程度減緩本國(guó)因沖突造成的損失。這無(wú)疑會(huì)增強(qiáng)國(guó)家對(duì)外擴(kuò)張的野心，降低國(guó)際間局勢(shì)的穩(wěn)定性，削弱軍控機(jī)制的協(xié)調(diào)能力。

同時(shí)，致命性自主武器系統(tǒng)的研發(fā)具有相對(duì)隱秘性。任何掌握人工智能及大數(shù)據(jù)處理等技術(shù)的實(shí)驗(yàn)室都可以在一定時(shí)間內(nèi)制造具有相當(dāng)自主程度的武器。商業(yè)公司利用規(guī)模經(jīng)濟(jì)和自由市場(chǎng)幫助自主系統(tǒng)和機(jī)器人技術(shù)向民用領(lǐng)域滲透，增加了這種武器系統(tǒng)軍控性質(zhì)的監(jiān)管和核查難度。韓國(guó)科學(xué)技術(shù)院2018年2月與韓國(guó)十大財(cái)團(tuán)之一的韓華集團(tuán)旗下韓華系統(tǒng)公司合作，設(shè)立人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無(wú)人水下交通等領(lǐng)域的人工智能技術(shù)。全球30多個(gè)國(guó)家和地區(qū)的研究人員對(duì)此一致予以反對(duì)，認(rèn)為韓國(guó)科學(xué)技術(shù)院的舉措將加劇軍備競(jìng)賽，令人遺憾。*Andrea Shalal,“ Researchers to Boycott South Korean University Over AI Weapons Work,” U.S.News,April 4,2018.此外，由于不擴(kuò)散政策可能針對(duì)的瓶頸點(diǎn)相對(duì)較少，致命性自主武器系統(tǒng)有可能被更多的國(guó)家和非國(guó)家行為體所利用，這對(duì)軍備控制會(huì)產(chǎn)生巨大副作用。*Jürgen Altmann and Frank Sauer,“Autonomous Weapon Systems and Strategic Stability,” Survival,Vol.59,No.5,October 2017,pp.125-126.一旦恐怖分子獲取或自行研制致命性自主武器系統(tǒng)，現(xiàn)行的國(guó)際秩序和人類命運(yùn)將遭到災(zāi)難性的破壞。

三、中國(guó)在相關(guān)軍控事務(wù)中可以有所作為

致命性自主武器系統(tǒng)的軍控現(xiàn)狀表明，國(guó)際社會(huì)加強(qiáng)了致命性自主武器系統(tǒng)的監(jiān)管，并就防止由其應(yīng)用可能導(dǎo)致的人道主義災(zāi)難或?qū)θ祟愖饑?yán)的損害形成一定共識(shí)，但對(duì)于如何推動(dòng)相關(guān)軍控談判以及法律制度建構(gòu)則沒(méi)有任何進(jìn)展，個(gè)別國(guó)家甚至不顧國(guó)際社會(huì)的反對(duì)而乘隙加大力度研發(fā)各種形式的致命性自主武器系統(tǒng)，加劇了不安全感。中國(guó)作為聯(lián)合國(guó)安理會(huì)常任理事國(guó)的一員和新興大國(guó)，理應(yīng)在相關(guān)軍控事務(wù)中發(fā)揮積作用，樹(shù)立中國(guó)作為負(fù)責(zé)任大國(guó)的良好形象，以維護(hù)中國(guó)和平發(fā)展的外部環(huán)境與世界秩序的安全、穩(wěn)定。

第一，推動(dòng)聯(lián)合國(guó)多重機(jī)構(gòu)提前多層次主導(dǎo)性介入。致命性自主武器系統(tǒng)的研發(fā)及應(yīng)用不僅影響著未來(lái)戰(zhàn)爭(zhēng)形態(tài)和平民安全等，而且涉及可能侵犯人的尊嚴(yán)，不同社會(huì)主體對(duì)其正負(fù)功能爭(zhēng)議較大，加之其包含的許多無(wú)法預(yù)測(cè)的后果，使得聯(lián)合國(guó)作為維護(hù)和平與安全的全球性國(guó)際安全機(jī)制，主導(dǎo)致命性自主武器系統(tǒng)軍控有著其他國(guó)際行為主體不具備的優(yōu)勢(shì)，也為世界各國(guó)捍衛(wèi)主權(quán)和國(guó)際法提供了一個(gè)不可替代的平臺(tái)。

首先，明確主張由聯(lián)合國(guó)主導(dǎo)軍控談判。對(duì)于致命性自主武器系統(tǒng)軍控存在的廣泛復(fù)雜爭(zhēng)議表明，其現(xiàn)實(shí)推進(jìn)需要聯(lián)合國(guó)所具有的整體性視野。反對(duì)軍控者認(rèn)為，如果致命性自主武器系統(tǒng)能被方便地用于反恐行動(dòng)，或許將減少由此類恐怖活動(dòng)造成的平民傷亡。致命性自主武器系統(tǒng)駐防時(shí)間比人長(zhǎng)得多，并可承受加速力等其他障礙，減少無(wú)必要的傷亡。致命性自主武器系統(tǒng)不受某些可能破壞保護(hù)生命的人類弱點(diǎn)的制約，不會(huì)出于報(bào)復(fù)、恐慌、憤怒、鄙視、偏見(jiàn)或害怕而行動(dòng)，也不會(huì)故意通過(guò)酷刑、強(qiáng)奸等對(duì)平民施加傷害。同時(shí)，自由追求科學(xué)研究的重要性也是人們不愿意規(guī)范人工智能在軍事領(lǐng)域研發(fā)及應(yīng)用的一個(gè)重要原因。

贊成軍控者則認(rèn)為，這一領(lǐng)域的“技術(shù)攀行”(Technology Climbing)幾乎可以在讓人毫無(wú)察覺(jué)的情況下發(fā)展到對(duì)人類核心價(jià)值觀和國(guó)際安全體系帶來(lái)嚴(yán)重危險(xiǎn)的局面。致命性自主武器系統(tǒng)在戰(zhàn)場(chǎng)上選擇的背后有種種相互矛盾的因素，這就使得機(jī)器人很難計(jì)算，也難以真正具備區(qū)分合法與非法命令的能力。致命性自主武器系統(tǒng)及其應(yīng)用所引發(fā)的復(fù)雜社會(huì)影響和熱烈爭(zhēng)議，必然要求相關(guān)國(guó)家、國(guó)際組織以及民間社會(huì)等充分利用聯(lián)合國(guó)這一全球性國(guó)際安全機(jī)制來(lái)全方位考慮對(duì)其進(jìn)行有效軍控的問(wèn)題。因此，任何國(guó)家的國(guó)內(nèi)單邊立法應(yīng)符合聯(lián)合國(guó)框架下建立的致命性自主武器系統(tǒng)軍控機(jī)制原則精神的要求。

其次，支持聯(lián)合國(guó)多種機(jī)構(gòu)介入軍控談判。中國(guó)應(yīng)繼續(xù)支持聯(lián)合國(guó)作為全球性國(guó)際安全機(jī)制，由其多種機(jī)構(gòu)和部門(mén)按照職責(zé)分工，恰當(dāng)、適時(shí)地推進(jìn)致命性自主武器系統(tǒng)軍控。聯(lián)合國(guó)人權(quán)理事會(huì)(U.N.Human Rights Council)作為聯(lián)合國(guó)大會(huì)下屬的政府間機(jī)構(gòu)，主要負(fù)責(zé)在全球范圍內(nèi)加強(qiáng)促進(jìn)和保護(hù)人權(quán)的工作，解決侵犯人權(quán)的問(wèn)題。因此，各國(guó)可充分利用聯(lián)合國(guó)人權(quán)理事會(huì)這一平臺(tái)就致命性自主武器系統(tǒng)對(duì)國(guó)際人權(quán)法和人道主義法的嚴(yán)峻挑戰(zhàn)展開(kāi)詳盡的探討，達(dá)成更廣泛的共識(shí)，并磋商軍控事宜。與此同時(shí)，中國(guó)應(yīng)積極參加聯(lián)合國(guó)裁軍研究所有關(guān)致命性自主武器系統(tǒng)軍控的研究和探討。中國(guó)應(yīng)同其他各國(guó)一道盡快推動(dòng)設(shè)立在日內(nèi)瓦的裁軍談判會(huì)議(U.N.Conference on Disarmament)作為唯一的多邊裁軍談判機(jī)構(gòu)，盡快啟動(dòng)致命性自主武器系統(tǒng)軍控談判，將有關(guān)談判要點(diǎn)和進(jìn)展情況納入年度工作計(jì)劃和工作報(bào)告，按時(shí)向聯(lián)合國(guó)大會(huì)提供相關(guān)建議，并提交致命性自主武器系統(tǒng)軍控專題工作報(bào)告。

與此同時(shí)，中國(guó)應(yīng)積極推動(dòng)由國(guó)際知名專家組成的聯(lián)合國(guó)裁軍事務(wù)咨詢委員會(huì)(U.N.Advisory Committee on Disarmament)將致命性自主武器系統(tǒng)軍控納入定期召開(kāi)會(huì)議，并盡快向聯(lián)合國(guó)秘書(shū)長(zhǎng)提供咨詢意見(jiàn)；推動(dòng)負(fù)責(zé)處理裁軍與國(guó)際安全問(wèn)題的聯(lián)合國(guó)大會(huì)裁軍和國(guó)際安全委員會(huì)(U.N.First Committee，Disarmament and International Security of General Assembly of the United Nations)，適時(shí)為致命性自主武器系統(tǒng)軍控問(wèn)題制定議程、做出決策，審議并通過(guò)有關(guān)裁軍與軍控決議；由附屬于聯(lián)大的審議機(jī)構(gòu)——裁軍審議委員會(huì)(U.N.Disarmament Commission)審議致命性自主武器系統(tǒng)軍控問(wèn)題并向聯(lián)合國(guó)大會(huì)提出建議。應(yīng)積極推動(dòng)聯(lián)合國(guó)秘書(shū)處設(shè)有裁軍事務(wù)廳(U.N.Office for Disarmament Affairs)，搜集致命性自主武器系統(tǒng)軍控方面的信息，加大調(diào)查研究，提出軍控咨詢，協(xié)調(diào)各國(guó)立場(chǎng)，為有關(guān)致命性自主武器系統(tǒng)軍控會(huì)議提供技術(shù)支持等。

再次，參與聯(lián)合國(guó)提前多層次介入軍控談判。中國(guó)作為聯(lián)合國(guó)安理會(huì)常任理事國(guó)，應(yīng)積極參與聯(lián)合國(guó)有關(guān)機(jī)構(gòu)和部門(mén)組織開(kāi)展的推進(jìn)致命性自主武器系統(tǒng)軍控相關(guān)活動(dòng)。中國(guó)應(yīng)主動(dòng)派出相關(guān)專家參與聯(lián)合國(guó)人權(quán)理事會(huì)召集的討論致命性自主武器系統(tǒng)問(wèn)題專家組活動(dòng)，探討審查機(jī)器人技術(shù)及其與國(guó)際人權(quán)和人道主義法律相符的問(wèn)題，以及暫時(shí)中止有關(guān)致命性自主武器系統(tǒng)若干活動(dòng)的方式途徑等。中國(guó)應(yīng)積極參與日內(nèi)瓦聯(lián)合國(guó)辦事處舉行的有關(guān)致命性自主武器系統(tǒng)的會(huì)議，與有關(guān)專家和領(lǐng)導(dǎo)人共同討論關(guān)于未來(lái)武器潛在的管制辦法，并表明中國(guó)支持致命性自主武器系統(tǒng)軍控的基本態(tài)度和關(guān)切要點(diǎn)。中國(guó)應(yīng)積極參與聯(lián)合國(guó)在日內(nèi)瓦舉行的《特定常規(guī)武器公約》締約國(guó)專家會(huì)議，探討致命性自主武器系統(tǒng)所引發(fā)的法律、道德與社會(huì)問(wèn)題。

同時(shí)，中國(guó)裁軍大使可依據(jù)情勢(shì)和軍控實(shí)際進(jìn)程，在《特定常規(guī)武器公約》(CCW)締約國(guó)大會(huì)闡明中國(guó)基本立場(chǎng)和觀點(diǎn)。中國(guó)有關(guān)代表可充分利用《特定常規(guī)武器公約》的國(guó)際會(huì)議、公約審議大會(huì)、締約國(guó)會(huì)議以及各次專家組會(huì)議，和聯(lián)合國(guó)裁軍研究所、國(guó)際紅十字委員會(huì)、非政府組織，以及相關(guān)領(lǐng)域的專家和學(xué)者圍繞致命性自主武器系統(tǒng)引發(fā)的技術(shù)與應(yīng)用關(guān)切，倫理與道德關(guān)切以及未來(lái)的發(fā)展之路進(jìn)行探討。中國(guó)公開(kāi)支持聯(lián)合國(guó)《特定常規(guī)武器公約》會(huì)議關(guān)于建立“致命自動(dòng)武器系統(tǒng)監(jiān)管專家組”(GGE)的決定，并派出相應(yīng)專家積極參加2017年11月召開(kāi)的 GGE第一次會(huì)議和2018年4月GGE第二次會(huì)議。今后，中國(guó)應(yīng)繼續(xù)就致命性自主武器系統(tǒng)軍控問(wèn)題充分交流探討，了解前沿動(dòng)態(tài)，把握各國(guó)關(guān)切和分歧要點(diǎn)。*徐徐：“聯(lián)合國(guó)試圖就殺手機(jī)器人使用達(dá)成協(xié)議”， 《中國(guó)科學(xué)報(bào)》，2015年4月15日。中國(guó)應(yīng)充分利用聯(lián)合國(guó)系統(tǒng)內(nèi)就禁止致命性自主武器系統(tǒng)展開(kāi)討論的機(jī)會(huì)，參與交流，提出關(guān)切要點(diǎn)，表明原則立場(chǎng)，呼吁國(guó)際社會(huì)加強(qiáng)在這一問(wèn)題領(lǐng)域的國(guó)際安全合作，努力推進(jìn)對(duì)致命性自主武器系統(tǒng)的國(guó)際監(jiān)管，盡快就此形成法律文書(shū)。*Mark Prigg,“UN to Debate ‘Killer Robot’ Ban Next Year as Experts Warn Time Is Running out to Stop AI Weapons,” Daily Mail,December 16,2016.

第二，主張尋求友好協(xié)商基礎(chǔ)上各方都能接受的方案。致命性自主武器系統(tǒng)作為現(xiàn)代科技前沿技術(shù)——人工智能軍事應(yīng)用的典型代表，圍繞其功能作用的爭(zhēng)議分歧較大，不同國(guó)際行為主體由于自身權(quán)益追求、權(quán)力地位和認(rèn)知觀念等的不同，對(duì)于推進(jìn)致命性自主武器系統(tǒng)軍控談判有著不同立場(chǎng)、觀點(diǎn)和看法，因此，通過(guò)友好協(xié)商找到各方都能接受的方案，以協(xié)調(diào)各國(guó)行動(dòng)，反對(duì)霸權(quán)國(guó)家單方面主導(dǎo)規(guī)則的制訂，切實(shí)加強(qiáng)國(guó)際合作顯得尤為關(guān)鍵。

首先，在充分討論交流中兼顧、權(quán)衡各類意見(jiàn)、觀點(diǎn)。事實(shí)上，中國(guó)也在相關(guān)場(chǎng)合反復(fù)表明這一立場(chǎng)，“中國(guó)高度重視并積極參與國(guó)際社會(huì)有關(guān)‘致命性自主武器系統(tǒng)’討論，主張各國(guó)應(yīng)對(duì)此進(jìn)行深入研究，在全面、充分討論基礎(chǔ)上，尋求妥善解決辦法?！?中國(guó)常駐聯(lián)合國(guó)代表團(tuán)孫磊參贊在2016年聯(lián)合國(guó)裁審會(huì)實(shí)質(zhì)性會(huì)議一般性辯論中的發(fā)言，2016年4月4日。對(duì)致命性自主武器系統(tǒng)軍控，有些人認(rèn)為這一武器系統(tǒng)不可能在戰(zhàn)場(chǎng)決策方面超越人類，永遠(yuǎn)不能達(dá)到國(guó)際人道主義法律或國(guó)際人權(quán)法的要求，即使能夠達(dá)到，作為一個(gè)原則問(wèn)題，也不能給予致命性自主武器系統(tǒng)以生殺予奪的權(quán)力。因此，他們大聲疾呼應(yīng)一概禁止這一武器系統(tǒng)的開(kāi)發(fā)、生產(chǎn)和使用。

另外一些人則認(rèn)為，這類技術(shù)進(jìn)步，只要控制在適當(dāng)?shù)慕缦迌?nèi)，是合法的軍事進(jìn)步，在有些情況下甚至能夠有助于讓武裝沖突更加節(jié)制，減少當(dāng)事各方的人員犧牲。按照這種論點(diǎn)，完全擯棄這種技術(shù)就等于沒(méi)有適當(dāng)?shù)乇Ｗo(hù)生命。第三種論點(diǎn)則認(rèn)為，正是因?yàn)橹旅宰灾魑淦飨到y(tǒng)不是人類，它們?cè)谀承┪ｋU(xiǎn)情況中的表現(xiàn)可能會(huì)超越人類。同時(shí)，通過(guò)編制程序，致命性自主武器系統(tǒng)可借由外形、熱信號(hào)、空速閾值等特征識(shí)別敵對(duì)目標(biāo)，從而可以做到遵守國(guó)際人道主義法中的攻擊相稱原則。因此，這些人強(qiáng)調(diào)，對(duì)致命性自主武器系統(tǒng)的軍控并不是全面禁止，而是加強(qiáng)國(guó)際有效監(jiān)管。

其次，在漸次達(dá)成共識(shí)中比較、考量各種方式、措施。目前，對(duì)于致命性自主武器系統(tǒng)及其應(yīng)用還存在諸多不確定性，因此，在漸次達(dá)成共識(shí)的基礎(chǔ)上規(guī)范、控制這類開(kāi)發(fā)中的武器系統(tǒng)需要依據(jù)實(shí)際情況比較、考量各種不同的方式、措施。一方面，根據(jù)現(xiàn)有相關(guān)國(guó)際軍控體系，對(duì)于新武器系統(tǒng)開(kāi)發(fā)應(yīng)援引《1949年8月12日日內(nèi)瓦四公約關(guān)于保護(hù)國(guó)際性武裝沖突受難者的第一議定書(shū)》第36條規(guī)定，雖然不能要求各國(guó)披露其審查的結(jié)果，但確保對(duì)諸如致命性自主武器系統(tǒng)等新武器出現(xiàn)加強(qiáng)管控的一個(gè)辦法是鼓勵(lì)各國(guó)更加對(duì)外開(kāi)放本國(guó)遵循第36條審查的程序。

另一方面，中國(guó)應(yīng)同國(guó)際社會(huì)一道推動(dòng)各種非政府組織和公眾展開(kāi)致命性自主武器系統(tǒng)要不要軍控以及如何軍控的各種形式的探討。在具有拘束力的法律文書(shū)一時(shí)難以達(dá)成的情況下，中國(guó)應(yīng)積極參與推動(dòng)有關(guān)國(guó)際組織制訂、出臺(tái)一些有意義的軟法律文書(shū)，包括相關(guān)宣言、行為準(zhǔn)則、政府間對(duì)話、情報(bào)共享和建立信任措施及框架公約等，以便盡可能規(guī)范、控制致命性自主武器系統(tǒng)的出現(xiàn)和部署。對(duì)致命性自主武器系統(tǒng)進(jìn)行積極軍控的措施還應(yīng)該包括預(yù)先研討、規(guī)范對(duì)此類武器的可能受害者進(jìn)行援助的規(guī)定。

再次，在多方協(xié)調(diào)行動(dòng)中對(duì)比、明確各方權(quán)利和義務(wù)。致命性自主武器系統(tǒng)軍控涉及到相關(guān)科學(xué)家和技術(shù)專家、制造廠商、政府決策者、部隊(duì)指揮官、戰(zhàn)士，以及普通民眾等，因此，此類武器系統(tǒng)軍控談判應(yīng)在多方協(xié)調(diào)行動(dòng)的基礎(chǔ)上，設(shè)定明確各方不同的權(quán)利、義務(wù)的議題，展開(kāi)具有實(shí)質(zhì)意義的探討和規(guī)范制定。對(duì)于相關(guān)致命性自主武器系統(tǒng)程序員和制造商而言，讓開(kāi)發(fā)程序員和制造商承擔(dān)責(zé)任存在法律障礙，比如美國(guó)大多數(shù)武器制造商擁有豁免權(quán)。軍控條約應(yīng)明確人工智能和機(jī)器人專家合法地研發(fā)、制造機(jī)器人的權(quán)利和義務(wù)，明確規(guī)范政府決策者對(duì)于急速發(fā)展的人工智能的軍事應(yīng)用，必須承擔(dān)起內(nèi)審義務(wù)。如果不能確定開(kāi)發(fā)出來(lái)后能否加以限制，就應(yīng)該要求“先行禁止”。

部隊(duì)指揮官、戰(zhàn)士等作為此類武器的主要使用者，按照國(guó)際刑法規(guī)定，大多數(shù)情況下不必承擔(dān)武器傷害引發(fā)的責(zé)任。如果人類操作者事先知道致命性自主武器系統(tǒng)使用的危害和風(fēng)險(xiǎn)，那么他們必須對(duì)機(jī)器人自主行動(dòng)造成的負(fù)面結(jié)果負(fù)責(zé)。對(duì)于廣大民眾而言，因這種不受人類控制的武器系統(tǒng)發(fā)展不僅會(huì)引發(fā)“全球性人工智能軍備競(jìng)賽”，而且會(huì)在任何難以想象的情況下危及自身和親人的生命，因此，呼吁規(guī)范、限制致命性自主武器系統(tǒng)的開(kāi)發(fā)和使用是其權(quán)利和責(zé)任。

第三，支持成立確保透明、問(wèn)責(zé)和法治原則的多邊國(guó)際監(jiān)管體系?，F(xiàn)階段致命性自主武器系統(tǒng)軍控最緊迫的任務(wù)是對(duì)其實(shí)現(xiàn)有效的國(guó)際監(jiān)管，為此，中國(guó)應(yīng)大力支持聯(lián)合國(guó)和國(guó)際社會(huì)在推進(jìn)軍控的過(guò)程中，適時(shí)地成立確保透明、問(wèn)責(zé)和法治原則的多邊國(guó)際監(jiān)管體系。致命性自主武器系統(tǒng)軍控現(xiàn)實(shí)目標(biāo)應(yīng)定位為國(guó)際監(jiān)管體系既能對(duì)因使用致命性自主武器系統(tǒng)而可能造成的附帶損害加以限制，又能對(duì)此類武器的開(kāi)發(fā)和擴(kuò)散加以監(jiān)管。

首先，應(yīng)支持聯(lián)合國(guó)人權(quán)理事會(huì)呼吁建立軍控國(guó)際商定框架。從致命性自主武器系統(tǒng)軍控的實(shí)踐歷程來(lái)看，聯(lián)合國(guó)人權(quán)理事會(huì)既是較早討論這一軍控問(wèn)題的聯(lián)合國(guó)機(jī)構(gòu)，也是相對(duì)適宜組織有關(guān)探討的機(jī)構(gòu)。為此，中國(guó)應(yīng)積極支持聯(lián)合國(guó)人權(quán)理事會(huì)呼吁全體國(guó)家宣布并在國(guó)內(nèi)至少暫停測(cè)試、生產(chǎn)、組裝、轉(zhuǎn)讓、采購(gòu)、部署和使用致命性自主武器系統(tǒng)，直到建立一個(gè)關(guān)于致命性自主武器系統(tǒng)軍控的國(guó)際商定的框架。

中國(guó)應(yīng)和國(guó)際社會(huì)一道，吁請(qǐng)人權(quán)理事會(huì)優(yōu)先組建一個(gè)致命性自主武器系統(tǒng)高級(jí)別專家小組，由來(lái)自法律、機(jī)器人、計(jì)算機(jī)科學(xué)、軍事行動(dòng)、外交、沖突管理、道德和哲學(xué)等不同領(lǐng)域的專家組成。專家小組應(yīng)總結(jié)有關(guān)致命性自主武器系統(tǒng)方面的技術(shù)推進(jìn)情況；評(píng)估與致命性自主武器系統(tǒng)有關(guān)的法律、道德和政策問(wèn)題；提出一個(gè)框架建議，使國(guó)際社會(huì)能夠有效地處理有關(guān)致命性自主武器系統(tǒng)的法律和政策問(wèn)題，并就此提出具體的實(shí)質(zhì)性和程序性建議。專家小組在工作中應(yīng)努力推進(jìn)具有廣泛基礎(chǔ)的國(guó)際對(duì)話；評(píng)估現(xiàn)有規(guī)范致命性自主武器系統(tǒng)的國(guó)際和國(guó)內(nèi)法律框架的有效性和不足之處；就如何適當(dāng)推進(jìn)軍控工作提出建議。

其次，應(yīng)支持聯(lián)合國(guó)促進(jìn)建立各國(guó)武器審查的國(guó)際透明機(jī)制?！度諆?nèi)瓦四公約第一議定書(shū)》第36條要求每一締約國(guó)判定，使用其研究、發(fā)展、取得或采用的任何新武器、作戰(zhàn)手段和方法，是否在某些或所有情況下，為國(guó)際法所禁止。評(píng)估新武器的合法性有助于確保各國(guó)武裝部隊(duì)能夠根據(jù)該國(guó)承擔(dān)的國(guó)際義務(wù)從事敵對(duì)行動(dòng)。為此，2001年第28屆紅十字與紅新月國(guó)際大會(huì)上為《日內(nèi)瓦四公約》締約國(guó)所通過(guò)的《人道行動(dòng)日程》(Humanitarian Agenda)所準(zhǔn)備的文件《新武器、作戰(zhàn)手段和方法法律審查指南：1977年〈第一附加議定書(shū)〉第36條實(shí)施措施》，要求各國(guó)對(duì)所有新武器、作戰(zhàn)手段和方法進(jìn)行嚴(yán)格與全面的審查，從而確保其合法性。

因此，在致命性自主武器系統(tǒng)軍控尚未簽署國(guó)際法律文書(shū)前，中國(guó)應(yīng)和其他各國(guó)一道積極支持聯(lián)合國(guó)裁軍和軍控機(jī)構(gòu)推進(jìn)各國(guó)形成致命性自主武器系統(tǒng)審查的國(guó)際透明機(jī)制。所有相關(guān)聯(lián)合國(guó)機(jī)構(gòu)和組織在與活躍在致命性自主武器系統(tǒng)領(lǐng)域的各方互動(dòng)時(shí)，應(yīng)視情強(qiáng)調(diào)有必要在開(kāi)發(fā)致命性自主武器系統(tǒng)的各個(gè)方面充分透明；爭(zhēng)取各國(guó)內(nèi)部武器審查程序進(jìn)一步對(duì)國(guó)際透明。各國(guó)至少應(yīng)在所遵循的程序(如果不是實(shí)質(zhì)性結(jié)果)上對(duì)國(guó)際社會(huì)透明，承諾盡可能?chē)?yán)格地進(jìn)行審查；加大有關(guān)國(guó)際討論和政府間對(duì)話，交流各自最佳做法。

再次，應(yīng)支持國(guó)際社會(huì)各群體組織成立多樣化軍控協(xié)調(diào)機(jī)制。人工智能領(lǐng)域的科學(xué)家和技術(shù)專家因?qū)θ灾骷夹g(shù)發(fā)展前沿及其功能影響較熟悉，是較早提出應(yīng)關(guān)注致命性自主武器系統(tǒng)軍控這一問(wèn)題的國(guó)際社會(huì)群體之一。2009年9月，英國(guó)謝菲爾德大學(xué)機(jī)器人、人工智能專家諾爾·夏基(Noel Sharkey)領(lǐng)導(dǎo)建立了非政府間團(tuán)體“國(guó)際機(jī)器人武器控制委員會(huì)”(The International Committee for Robot Arms Control)，多次與人權(quán)觀察組織和其他組織(目前包括來(lái)自22個(gè)國(guó)家的47個(gè)組織)聯(lián)合進(jìn)行“停止殺手機(jī)器人活動(dòng)”，并努力說(shuō)服《特定常規(guī)武器公約》締約國(guó)采取相關(guān)行動(dòng)。

2013年11月，國(guó)際裁軍聯(lián)盟和人權(quán)組織呼吁，聯(lián)合國(guó)《特定常規(guī)武器公約》日內(nèi)瓦會(huì)談必須抓住機(jī)遇，禁止研發(fā)名為“殺手機(jī)器人”的完全自主武器。2016年9月，全球最大的五大科技巨頭谷歌、亞馬遜、臉書(shū)、IBM和微軟聯(lián)合制定首個(gè)成熟的人工智能道德標(biāo)準(zhǔn)，并打算成立一個(gè)人工智能行業(yè)組織，目的是確保人工智能有利于人類而不傷害人類。中國(guó)應(yīng)繼續(xù)支持相關(guān)專家積極參與國(guó)際社會(huì)成立的各群體組織，并一起推動(dòng)有關(guān)致命性自主武器系統(tǒng)軍控多樣化協(xié)調(diào)機(jī)制的完善，以及其與聯(lián)合國(guó)相關(guān)國(guó)際機(jī)制的對(duì)接，從而做到既匯聚各方智慧，形成軍控共識(shí)，又促進(jìn)有效國(guó)際法律文書(shū)的早日達(dá)成。

結(jié) 語(yǔ)

基于致命性自主武器系統(tǒng)及其應(yīng)用所致影響的復(fù)雜性和深刻性，以及其與各國(guó)國(guó)家安全利益的深度關(guān)聯(lián)性，中國(guó)應(yīng)旗幟鮮明地倡導(dǎo)由聯(lián)合國(guó)主導(dǎo)致命性自主武器系統(tǒng)的軍控進(jìn)程。目前，關(guān)于這一武器系統(tǒng)的應(yīng)用可能造成的影響還在討論中而沒(méi)有形成一致認(rèn)識(shí)，因此，有關(guān)軍控的推進(jìn)迫切需要加強(qiáng)國(guó)際監(jiān)管，先應(yīng)勒住這匹奔騰的“野馬”，防止其脫韁而逃，以免造成今后難以逆轉(zhuǎn)的可怕后果。同時(shí)，依照現(xiàn)有國(guó)際法和軍控機(jī)制，在國(guó)內(nèi)、國(guó)家間和國(guó)際層面開(kāi)展一項(xiàng)包容各方的進(jìn)程，以決定如何著手處理這一問(wèn)題。中國(guó)應(yīng)推動(dòng)國(guó)內(nèi)審查新武器機(jī)制的完善努力，并適時(shí)啟動(dòng)致命性自主武器系統(tǒng)軍控機(jī)制建構(gòu)的談判議程。為啟動(dòng)這一程序，需要由聯(lián)合國(guó)相應(yīng)機(jī)構(gòu)組織政府專家組討論、撰寫(xiě)長(zhǎng)期的選擇辦法和機(jī)制框架草案。加強(qiáng)軍控談判中的戰(zhàn)略溝通，并平等地向所有成員提供一些公正的信息，可減少信息的不對(duì)稱性，從而有助于消除不確定性，增大安全合作的機(jī)會(huì)。與此同時(shí)，“相比集體領(lǐng)導(dǎo)而言，多元領(lǐng)導(dǎo)是描述這種有差異的、采取主動(dòng)行為進(jìn)程的恰當(dāng)詞語(yǔ)?！?羅伯特·基歐漢、約瑟夫·奈著，門(mén)洪華譯：《權(quán)力與相互依賴》(第3版)，北京大學(xué)出版社，2002年，第244頁(yè)。為維護(hù)該安全領(lǐng)域的戰(zhàn)略力量平衡，在具體條件許可的情況下，中國(guó)應(yīng)積極推動(dòng)聯(lián)合國(guó)主導(dǎo)下的多元領(lǐng)導(dǎo)，反對(duì)任何霸權(quán)企圖，在維護(hù)戰(zhàn)略穩(wěn)定性的前提下，建構(gòu)致命性自主武器系統(tǒng)軍控機(jī)制?！?/p>