李錚

自主武器系統(tǒng)雖然在國際上沒有一個公認的定義，只有一些紅十字國際委員會和一些國際人道組織的相關解釋。但顧名思義，自主武器系統(tǒng)就是將武器與人工智能自主系統(tǒng)相結合而制造出的一類兼具殺傷性與智能自主性的武器?？v觀人類的武器發(fā)展史，其實就是利用科技的進步不斷提升武器智能的過程。在許多軍事題材游戲中，玩家可以架設自動的機槍、榴彈發(fā)射器攻擊敵人，這些武器一旦架設就會自主攻擊不需要操作，而且一次攻擊就能造成大規(guī)模的殺傷。虛擬游戲中玩家對這類武器的熱衷也從側面反映了自主武器系統(tǒng)為何在現(xiàn)代戰(zhàn)爭中受到青睞。美國于2001年的阿富汗戰(zhàn)爭中就已經(jīng)開始釆用自主武器系統(tǒng)進行攻擊、防御、警戒以及偵察。其后在長達十數(shù)年的戰(zhàn)爭中，美國以及以色列在巴勒斯坦、阿富汗、伊拉克等地區(qū)設置了大量自主武器系統(tǒng)。為了避免士兵的傷亡以及追求自動的打擊，自主武器系統(tǒng)慢慢成為了戰(zhàn)場上常見的武器。美國如今很少使用大量的地面部隊進行部署，而是利用大量的自主武器系統(tǒng)取代戰(zhàn)斗人員。自主武器系統(tǒng)逐漸成為了現(xiàn)代戰(zhàn)場的主要武器并取得了巨大戰(zhàn)果，但是對自主武器系統(tǒng)廣泛和隨意地使用也帶來嚴重的國際人道法問題。許多國際組織對于自主武器系統(tǒng)的問題進行調查并發(fā)表報告。本文將具體探究自主武器系統(tǒng)引發(fā)的國際人道法問題及其對策。

什么是自主武器系統(tǒng)

自主武器系統(tǒng)通指一類智能機器人武器系統(tǒng)，一經(jīng)啟動，即可在無需人類操作員進一步干預的情況下選擇和打擊目標，其核心因素在于機器人在挑選目標和使用殺傷力時可以自主“選擇”。

自主武器系統(tǒng)的技術要求非常高。從開發(fā)到部署往往需要耗費大量的科技力量與資金。自主武器系統(tǒng)主要基于高級的人工智能技術，這也從根本上把自主武器系統(tǒng)和遙控武器區(qū)分開來。遙控武器，如武裝無人機以及一些安裝在裝甲車上的遙控武器站。雖然此類武器可以在千百千米之外的地區(qū)執(zhí)行偵查或攻擊任務，但其行動仍然處于人類操作員的控制之下，仍不具有自主選擇和行為的能力。

相比之下，自主武器系統(tǒng)集合了大量的人工智能技術，其類似于一個高級智能的機器人，可以根據(jù)不同的時間、地點、天氣、戰(zhàn)場態(tài)勢等因素進行動態(tài)的自我判斷以作出應對，從某種意義上已將人類的決策排除在外。但是自主武器系統(tǒng)和人類的不同之處在于，它們還不具有自覺遵守戰(zhàn)場法則的思維能力。雖然人類在這方面投入了相當多的資金及努力，但這類系統(tǒng)尚未完全理想化，而若就此將其投入戰(zhàn)場，必然會導致與人類戰(zhàn)爭法則的沖突并引發(fā)爭議。

2010年，英國航空航天公司為他們新研發(fā)的無人機舉辦了一場盛大的發(fā)布會。這次的無人機不再是“遙控武器”，而是名為“塔蘭尼斯”的完全自主無人機，造價高達1.4億英鎊，它可以深入敵方腹地搜集情報、轟炸、抵御敵方戰(zhàn)機的攻擊。這架飛機只是武器自主化的其中一個例子，就像曾擔任英國國防部采購部長的德雷森爵士所說：“無需人類信息指令，能夠獨立做決定的機器將徹底改變現(xiàn)代戰(zhàn)爭?！?/p>

與傳統(tǒng)的有人操作的武器系統(tǒng)相比，自主武器系統(tǒng)有許多獨有特點。

與有人操作的武器系統(tǒng)相比，自主武器系統(tǒng)的一大特征就是能夠自主戰(zhàn)斗。自主武器系統(tǒng)雖然技術含量較高，但是一旦掌握技術即可量產(chǎn)，體積大小也可以視需要而定;操作和維護相對簡單，襲擊準確度高且自身目標小，不易被發(fā)現(xiàn)。最重要的一點就是即使被擊毀也不會造成士兵的傷亡，沒有人員損失。整體來說，自主智能系統(tǒng)的發(fā)展經(jīng)歷著兩個顯著的變化趨勢：一是由偵察觀測型系統(tǒng)向攜帶機槍、火箭的武裝攻擊型武器系統(tǒng)的轉變;二是由后臺地面同步人工操控的半智能武器系統(tǒng)向完全自主化武器系統(tǒng)的轉變。

當武器無需人類指令，將徹底改變未來戰(zhàn)爭

自主武器系統(tǒng)在戰(zhàn)場環(huán)境適應方面具有更加優(yōu)秀的性能。自主武器系統(tǒng)可以投放到幾乎所有惡劣的環(huán)境之中執(zhí)行戰(zhàn)斗任務，如有必要人們也可以通過攝像頭觀察其戰(zhàn)斗或偵察情況。并且自主武器系統(tǒng)能夠不用考慮人類身體機能而長時間地戰(zhàn)斗。英國研發(fā)的智能戰(zhàn)斗機器人可以無間斷工作3天，從中可以看出自主武器系統(tǒng)能夠不受人體極限的限制，也不用考慮惡劣天氣和極端環(huán)境對人產(chǎn)生的影響。

由此可見，自主武器系統(tǒng)在軍事上有著巨大的優(yōu)勢。

自主武器系統(tǒng)的國際人道法探究

自主武器系統(tǒng)提高了武力投射力（保存已方士兵的生命），并加倍放大武力（以更少的人做更多的事），既能節(jié)省人力和財政資源，又能提高駐防時間，并可承受高加速度等其他人類難以逾越的障礙。國際上早已存在相關人道主義條約來對戰(zhàn)爭中武器的使用進行限制，然而隨著科技的發(fā)展，武器也飛速地升級，武器發(fā)展的速度已經(jīng)超越了條約制定的速度。那么新武器自身的合法性該如何確定是一大問題。涉及武器限制與禁止的國際條約，主要有1868年的《圣彼得堡宣言》、1899年的《海牙諸宣言》、1907年的《海牙諸公約》。此外，類似的對特定武器作出了限制和禁止的國際文件還有：1925 年的《禁止在戰(zhàn)爭中使用窒息性、毒性及其他氣體的日內瓦議定書》、1972 年的《生物武器公約》、1976 年的《禁止為軍事或任何其他敵對目的使用改變環(huán)境的技術的公約》、1980年的《常規(guī)武器公約》、五個議定書（《關于無法檢測碎片的議定書》《關于地雷、餌雷和其他裝置的議定書》《關于燃燒武器的議定書》《關于致盲的激光武器議定書》《戰(zhàn)爭遺留爆炸物議定書》）、1993年的《化學武器公約》、1997年的《禁止使用殺傷性地雷的公約》，以及《國際刑事法院羅馬公約》等。這些國際條約明確了需要被限制或禁止的特定武器的類型，是對新武器進行審查時應首先考慮的國際法規(guī)則。

《日內瓦公約》等協(xié)定，都從國際人道主義出發(fā)，對軍事攻擊加以限定

而這些條約所針對的一些武器，隨著時間推移，在現(xiàn)代人看來已經(jīng)十分老舊，無法稱之為“新武器”。惟一明確規(guī)定對新武器、新的作戰(zhàn)手段和方法進行法律審查的國際法規(guī)則是1977年《日內瓦公約第一附加議定書》第36條。該條規(guī)定的主要目的是在對新武器、新的作戰(zhàn)手段和方法的研究、發(fā)展、取得或者采用之前就審查他們的合法性。但時至今日，自主武器系統(tǒng)并未被徹底審查合法性，也未在國際公約中被禁止。

如果以國際人道法的原則為參照，國際人道法的四個基本原則是區(qū)分原則、軍事必要原則、不必要痛苦原則和比例原則。跟一項新武器相關的原則主要是區(qū)分原則和不必要痛苦原則。區(qū)分原則要求在戰(zhàn)爭和武裝沖突中始終對戰(zhàn)斗員與平民、軍事目標與民用物體加以區(qū)別，是國際人道法的根本原則。所以相應的，國際人道法禁止使用武器進行不分青紅皂白的攻擊，這也是《日內瓦公約第一附加議定書》中規(guī)定的;還有就是禁止使用會造成不必要痛苦的武器，如膨脹子彈、燃燒武器、激光致盲武器等。從這兩條原則的字面來看，自主武器系統(tǒng)既不是不分青紅皂白的武器也不是導致不必要痛苦的武器，因為自主武器系統(tǒng)主要是作為一個平臺搭載機槍、榴彈發(fā)射器為武器，機槍榴彈都是合法武器，從某種意義上來說，自主武器系統(tǒng)只是把武器的載體由人換成了一個“人工智能體”。所以根據(jù)國際人道法的基本原則，自主武器系統(tǒng)與一般武器的區(qū)別是自主武器系統(tǒng)沒有操作人員而是依靠自身的“大腦”進行判斷與戰(zhàn)斗。所以自主武器系統(tǒng)從國際人道法來看，應當歸類為合法武器，或者說是并沒有受到禁止的武器。當然，這一切的前提是其在戰(zhàn)爭中能夠以遵守國際人道法原則的方式使用，因為在實際的戰(zhàn)場使用中，自主武器系統(tǒng)對國際人道法造成了許多挑戰(zhàn)也帶來了爭議。

致命決策去人類化的挑戰(zhàn)自主武器系統(tǒng)帶來的“致命決策的去人類化”將對人道主義帶來根本性的挑戰(zhàn)。所謂人道，正是作為人所特有的一種最基本的天性，會同情，會憐憫，會判斷。而國際法，尤其是國際人道法，則為人類之間使用武力互相傷害保留了謹慎的缺口并提供了必要的規(guī)則。而如果自主武器系統(tǒng)被大量引入戰(zhàn)場代替人類，人們只需要把它們部署到戰(zhàn)場，接著就可以在千里之外看著它們自動地撕碎敵人，這么一來戰(zhàn)爭似乎就成為了與電子游戲一般，自主武器系統(tǒng)對待敵人就如同我們對待游戲中的敵人一般冷酷無情。自主武器系統(tǒng)的出現(xiàn)則將這種致命決策去人類化的弊端推到了極致，人們在心理上對武力的判斷以及實際中帶來的殺傷的距離將會進一步擴大，甚至磨滅人之所以為人所具有的基本的關切。因而，自主武器系統(tǒng)的致命決策去人類化對國際人道法造成了沖擊，其合法性問題不得不被認真審視。

自主武器系統(tǒng)的法律地位模糊關于自主武器系統(tǒng)的法律地位存在著爭議。自主武器系統(tǒng)和當今造成巨大爭議的無人機不同，無人機并不是一個類似全智能機器人的、能擁有自己的意識判斷的機器，而是由大量的工作人員在后臺遙控操作。與之相比自主武器系統(tǒng)擁有自己的判斷力，不需要人在后臺操作即可自行戰(zhàn)斗。

這樣就引申出一個問題：自主武器系統(tǒng)究竟應當被視為武器，還是戰(zhàn)斗員呢？在詞典中，武器被認為是“被設計或用于造成身體傷害或死亡的工具”，或是“在沖突或對抗中贏得優(yōu)勢或者保衛(wèi)自身的一種手段”。無論是從詞義出發(fā)還是從一般的理解出發(fā)，武器都首先被理解為使用武力的工具，其本質就是工具，不具有自主意識，其使用的違法與否絕大多數(shù)情況下取決于使用者的意志。相對而言，戰(zhàn)斗員在《日內瓦第一附加議定書》中第43條定義為“有權直接參加敵對行動的沖突一方的武裝部隊成員（除第三公約第33條的規(guī)定所包括的醫(yī)務人員和隨軍牧師外）”。

按照上述理論來看，如果把自主武器系統(tǒng)當作武器，那么就忽視了它們的自主性，因為他們不需要完全按照使用者的意志來運行;可如果把它們定義為戰(zhàn)斗員，那么會引發(fā)一個矛盾，就是他們如何來遵守現(xiàn)今的國際人道法以及戰(zhàn)爭法則？畢竟它們不是人類，很多情勢的判斷真的難以用人工智能來取代。更重要的，如果將自主戰(zhàn)斗系統(tǒng)視為戰(zhàn)斗員，那么戰(zhàn)爭責任的追究也是難以進行的。國際刑法的一個重要的特征就是追究個人刑事責任，由犯有國際刑事犯罪的自然人承擔相應的國際法責任，而自主武器系統(tǒng)是一臺機器，要如何對它進行追責？就算追責，是部署它的士兵的責任還是設計編程者的責任呢？很顯然在如今的責任機制下自主武器系統(tǒng)的法律地位十分模糊。

去人類化的自主武器系統(tǒng)不會憐憫、同情

違背區(qū)分原則國際人道法四原則之一的區(qū)分原則，是指“沖突方必須時刻區(qū)分平民和戰(zhàn)斗員，只針對作戰(zhàn)人員進行襲擊，不可以針對平民直接襲擊?！弊灾魑淦飨到y(tǒng)雖然是按照精準、高智能辨別等標準來設計，但現(xiàn)實中自主武器系統(tǒng)的攻擊范圍并不是只針對到個人。和一般士兵一樣，自主武器系統(tǒng)也以機槍榴彈甚至火炮進行攻擊，士兵尚且不能完全的區(qū)分一切形勢，何況是一臺機器？所以說自主武器系統(tǒng)并不能夠保證自己的殺傷效果，因此會導致大量無辜的平民隨著襲擊目標一起被殺傷。正如德國代表團在聯(lián)合國《常規(guī)武器公約》專家會議上的意見中指出的那樣：“平民與戰(zhàn)斗員的區(qū)分是最低標準的要求，然而一個合格的戰(zhàn)斗員還必須在戰(zhàn)員與傷員間、甚至是將要施行自殺式炸彈襲擊的暴徒和身懷六甲的孕婦間作出區(qū)分，而這些區(qū)分都必須結合實時相關的情勢和環(huán)境進行判斷。”如今的自主武器系統(tǒng)還無法達嚴格的區(qū)分標準。

雖然我們不能否認，自主武器系統(tǒng)畢竟攜帶的都是常規(guī)的武器，也不是大規(guī)模殺傷性武器，所以造成的傷害相較于有人操縱的導彈炸彈確實小了很多。但這只是就現(xiàn)時狀況而言，一旦技術成熟，人們很可能把坦克、飛機等重型武器全部智能化，這么一來情況將更加嚴重。由于許多國家在部署自主武器系統(tǒng)的時候并不在意會產(chǎn)生的后果，比如平民死傷，也不公布每一次自主武器系統(tǒng)造成的平民傷亡結果。根據(jù)國際人權調查機構與民間組織的調查顯示，美國和以色列的自主武器系統(tǒng)誤傷了大量平民，這種情況嚴重違背了國際人道法下的區(qū)分原則。

違背比例原則所謂比例原則，適用于針對合法軍事目標但可能造成附帶損害的襲擊。根據(jù)《日內瓦公約第一議定書》的規(guī)定，禁止“可能附帶使平民生命受損失、平民受傷害、平民物體受損害，或三種情形均有而且與預期的具體和直接軍事利益相比損害過分的襲擊”。這就要求在攻擊前，武裝沖突的一方必須將預期平民傷亡與行動的預期軍事效果進行衡量，而這則主要取決于對價值和當時具體環(huán)境的主觀評價，對一次攻擊是否遵守相稱性規(guī)則的要求需要進行個案評估，它取決于具體情景，也要考慮到總體環(huán)境因素。

對于自主武器系統(tǒng)攻擊的爭議主要在于，其附帶造成的平民傷亡與平民物體的損害過于巨大。如今的自主武器系統(tǒng)一般用于特種作戰(zhàn)，針對的是一些武裝分子，尤其是首腦或重要人物，打擊的目標數(shù)量并不龐大。如此一來，為了小數(shù)量的目標很可能造成大規(guī)模平民的傷亡，違反了比例原則。因為自主武器系統(tǒng)不是人，不會擔心自己的安危，只會不斷進攻，且面對的是他國的人員，也不需要考慮太多因素，在取得戰(zhàn)果的同時造成了太多不必要的傷亡。

自主武器系統(tǒng)與國際人道法的應對策路

如前所述，自主武器系統(tǒng)作為法律意義上的一種合法武器，之所以引起爭端就是因為它在投入實際作戰(zhàn)的時候挑戰(zhàn)了國際人道法的一些必要原則。主要是自主武器系統(tǒng)的法律地位及責任認定模糊不清且矛盾重重，其次是涉嫌違反區(qū)分原則和比例原則，造成了過多的平民傷亡和非軍事物體的毀損。根據(jù)當今的現(xiàn)實情況考慮，英美及以色列等國繼續(xù)發(fā)展并部署自主武器系統(tǒng)幾乎不可能被禁止，自主武器系統(tǒng)短時間內也不可能被認定為非法武器。那么國際社會可以從人道法的的角度努力，來盡力減少傷亡。

第一，增強預防措施規(guī)則的法律效力。即指在攻擊時采取預防措施，減少附帶的平民傷亡。預防措施規(guī)則除了規(guī)定根據(jù)區(qū)分原則查明目標能否被攻擊、根據(jù)比例原則是否發(fā)動攻擊、以及其他將平民人身傷亡和民用物體毀損最小化的措施外，還特別要求“在選擇攻擊手段和方法時，采取一切可能的預防措施，以期避免，并無論如何，減少平民生命附帶受損失、平民受傷害和民用物體受損害”。

對自主武器系統(tǒng)要加以約束，守住最基本的人道底線

第二，完善責任機制。因為自主武器系統(tǒng)帶來的最大爭議就是責任人的問題，根據(jù)現(xiàn)有情況，責任處于無人承擔的境地。這樣等于是自主武器系統(tǒng)的攻擊獲得了一種事實上的豁免權，這是值得擔憂的問題。所以應當制定一套完善的責任機制，如指揮官責任，這不僅需要國際人道法，也需要國際刑法方面的共同完善。

結語

從表面上看，自主武器系統(tǒng)在本質上和一般的武器載體沒有區(qū)別。從自主武器系統(tǒng)作為一種新武器的角度來講，其在當前新武器的審查機制下是合法的武器。但之所以引發(fā)爭議，是因為它們在執(zhí)行攻擊行動時的一些行為觸犯了國際人道法或其他國際法規(guī)定。

就好比坦克或戰(zhàn)機可以作為完全合法的武器參加戰(zhàn)斗，然而一旦在戰(zhàn)斗中隨意襲擊了民宅，就違反了國際人道法，是非法行為。所以不僅是武器本身合法與否的問題，更重要的是使用其所做之事的合法性。

自主武器系統(tǒng)也是這樣的一種情況，如果在符合國際人道法的情況下使用，那么沒有人會質疑它的合法性。但在現(xiàn)實中經(jīng)常發(fā)生違反區(qū)分原則和比例原則造成大量平民傷亡的結果，更可怕的是責任竟然無人承擔。放任這種情況很可能造成更嚴重的后果。科技水平造成的影響也許更可能是法律責任的真空，當自主武器系統(tǒng)的部署導致道德責任的真空，從而挑戰(zhàn)人道與道德底線的時候，此時自主武器系統(tǒng)給人類帶來的，不過是虛假的安全感。

可怕的不是違法的東西，畢竟你可以從根源扼殺它，真正可怕的是用違法的方式使用合法的東西，因為這往往讓人防不勝防?？偟膩碚f，使用自主武器系統(tǒng)作戰(zhàn)目前是合法的，但在使用自主武器系統(tǒng)執(zhí)行攻擊任務時應確保這種行為符合國際人道法基本原則的要求。所以國際社會仍應努力制定新的條約來約束這一情況。面對越來越多的新武器出現(xiàn)，各國也應當完善新的合法性審查機制，完善對各類武器的法律約束，完善責任機制。還有一點，普及國際人道法來使其深入人心也是重要的，使國際人道法成為一種深入人心的觀念，其實現(xiàn)將更有保障。哪怕有一天人工智能技術完全成熟，人們也能守住最基本的人道底線。

責任編輯：劉靖鑫