人工智能技術(shù)國際法問題研究

摘要：人工智能技術(shù)在軍事上的運用產(chǎn)生了自主武器。自主武器的自主性使它區(qū)別于其他普通武器。法律上模糊的規(guī)定和自主武器自身的特性，使得自主武器的合法性無法判斷。自主武器投入戰(zhàn)場會帶來潛在的威脅，國際法必須做出相應的規(guī)制。

關(guān)鍵詞：自主武器;法律地位;合法性;國際法規(guī)制

中圖分類號：D995文獻標識碼：A ? ?文章編號：1003-2177（2020）01-0007-04

1問題的提出

人工智能技術(shù)日臻成熟，推動了我們生活發(fā)生極大的變化，如乘坐無人掌控方向盤的無人駕駛汽車、穿戴型智能讀取人體神經(jīng)信號的可穿戴型機器人等。人工智能技術(shù)，一方面如同傳統(tǒng)科技一樣強化或補足了人類生理能力的某些限制，另一方面，它獲得了原本由人類所獨享的某些智力上的能力，尤其是建立在大數(shù)據(jù)基礎(chǔ)上的深度學習而來的分析能力和決策能力，擁有著強大“自省”能力。[1]正是這種強大的自省與學習能力，使人工智能類技術(shù)類產(chǎn)品區(qū)別于以往普通產(chǎn)品。雖然科學技術(shù)的進步是無法阻擋的，但擁有“自省”能力的人工智能產(chǎn)品，就像一枚硬幣的正反兩面，在給我們帶來的生活便利的同時也讓我們對這些智能產(chǎn)品將來未知的行為產(chǎn)生恐慌。這種典型恐慌的代表就是具有人工智能技術(shù)的自主武器。當擁有自省與學習特性的自主武器被運用到戰(zhàn)場上時，它是傳統(tǒng)的武器地位嗎？它可以自主來決定殺人嗎？它符合國際法的要求嗎……自主武器將會引發(fā)人們一系列的爭論。

2 自主武器的法律地位之爭

無論是冷兵器時期士兵手中直接揮舞的刀劍，還是熱兵器時期被用來近距離瞄準射擊的火藥槍，以及信息化時期全方位遠距離攻擊的飛機、電子武器，武器一直處于人類直接的掌控之中。即使武器的打擊范圍與距離越來越大、靈活性也越來越強，扣動扳機、按下射擊按鈕的關(guān)鍵時刻，還是獨屬于人類。但當人工智能技術(shù)運用到軍事武器上，似乎這一切都發(fā)生了變化。自主武器它的典型特征是一旦啟動，就無需人的干預而選擇和打擊目標。此時的自主武器，自主決策自主完成打擊，已經(jīng)超越人類的控制范圍，它具有了區(qū)別于一般武器的獨特性。此時，我們將如何對它定義，就成了我們認識它的第一步。

2.1 普通武器

自主武器之所以引發(fā)人類的廣泛討論，是因為它的零傷亡優(yōu)點和良好的環(huán)境適應能力，這使得它成為繼火藥與核武器發(fā)明之后的創(chuàng)造性武器。在當前的國際法上，并不存在對這個革命性武器做出明確定義的法律文件。目前武器的分類方法，只有武器與作戰(zhàn)手段、方法兩類?！度諆?nèi)瓦四公約關(guān)于保護國際性武裝沖突受難者的附加議定書（第一議定書）》（以下稱“第一議定書”）第36條對這兩種分類有所涉及。如何檢驗自主武器是否符合以上兩種分類方法，目前是不得而知的。目前多數(shù)學者的觀點認為，即使智能武器擁有自主性，它仍是可以進行自我約束的武器。因為，就人類的法律地位來看，如果將人工智能擬制為法律主體會導致人類價值的貶值以及物對人的侵蝕、異化，應該盡力避免[2]，自主武器反客為主挑戰(zhàn)人的主體地位。我們將致命性決策權(quán)交由智能無人作戰(zhàn)系統(tǒng)來掌控，實際上是對人的統(tǒng)治地位的嚴重挑戰(zhàn)，這樣會貶低人格，對人的生命權(quán)與尊嚴產(chǎn)生深遠的影響。從武器所具有的能力來看，自主武器是將環(huán)境中的數(shù)據(jù)轉(zhuǎn)化為有目的的計劃和行動，在以后每次執(zhí)行行動的時候，所依據(jù)的數(shù)據(jù)會越來越大，打擊的精確性也會越來越低，這也必然會導致其每次決策的模糊性提高，導致它的安全性就會降低。更為嚴重的是，自主武器附帶了戰(zhàn)爭屬性之后，殺傷力和毀滅程度是難以想象的。[3]擁有強大打擊能力的自主武器，突破傳統(tǒng)武器法律地位的后果是無法想象的。那些與打擊目標相似的建筑物或者人，都可能由于自主武器打擊決策的模糊性而成為攻擊對象。此外，我們應該將問題聚焦在人身上而非是技術(shù)身上，自主武器只是在技術(shù)上較傳統(tǒng)武器有所發(fā)展，并未突破其武器的本質(zhì)。

2.2 機器人殺手/戰(zhàn)斗員

自主武器的自主性能來源于數(shù)據(jù)與算法，這種自主性的來源根本無法與人類相比較。的確，如果我們賦予它殺人機器人/戰(zhàn)斗員的身份，讓它具有與人類似的地位，那么將來當它發(fā)生違法國際法的行為時，它就需要像戰(zhàn)斗員一樣承擔相應的責任，這對于自主武器來說意義并不大。換句話說，國際法也從來沒有試圖讓自主武器來承擔責任。并且如果賦予自主武器以戰(zhàn)斗員身份，那些關(guān)于戰(zhàn)斗員應該享有的福利，是否同樣應該賦予自主武器呢？這些問題在目前都將無法獲得答案。但有學者認為每個智能系統(tǒng)在不斷演進與變化，都表現(xiàn)出一定的自主性，因此不能把智能裝備看成簡單武器，它的自主決策能力可以把先進的武器系統(tǒng)從被動的軍事材料的類別提升到自動戰(zhàn)斗人員。根據(jù)《第一議定書》第43條第2款規(guī)定的戰(zhàn)斗員是有權(quán)直接參加敵對行動。但遺憾的是，該規(guī)定并未說明戰(zhàn)斗員必須是自然人，至于那些具有與人類戰(zhàn)斗員類似的自主武器是否屬于戰(zhàn)斗員行列，國際法目前無法給出清晰的回答，自主武器是否可以成為將來戰(zhàn)場上的戰(zhàn)斗員，進行戰(zhàn)斗也是不清晰的。同樣，將自主武器也可以視為“機器人殺手”。機器人殺手與人類在決策與行動上類似，和戰(zhàn)斗員無異。因此，從這些方面來看，將自主武器劃歸為具有人的特性的戰(zhàn)斗員/機器人殺手并無不妥。是否將自主武器視為一般的戰(zhàn)斗員/機器人殺手是人們爭論分歧較大的一點。

從自主武器自身的特性來看，將它視為機器人殺手/戰(zhàn)斗員似乎沒有問題。但是，值得注意的是目前的法律體系是以人為中心建立起來的，如果將自主武器的法律地位看作與人類相同，這就會威脅人類的主體地位，對人格的侵蝕，甚至是對人類尊嚴的踐踏。因此，雖然法律上未明確說明戰(zhàn)斗員必須是自然人的身份，但結(jié)合法律立法的背景以及人的主體地位來看，將自主武器視為普通武器的法律地位，仍然是我們治理自主武器的前提，自主武器的法律地位應當與普通的常規(guī)武器一樣。將來自主武器發(fā)展到完全的自主的時候，發(fā)展幾乎與人類的特性一樣的時候，可以考慮賦予自主武器以獨立的法律地位，但不是現(xiàn)在。

3 自主武器的合法性判斷

目前為止，國際法上也依然不存在一個明確的標準來衡量武器的合法性，這就使得自主武器的合法性沒有一個定論。結(jié)合國際法的實踐，判斷自主武器合法性主要表現(xiàn)在兩個方面：一是自主武器自身的合法性;二是自主武器在被人類使用時的合法性。

3.1 自主武器自身合法性判斷

自主武器合法性的判斷主要通過兩個方面來看，一是從武器的審查標準與自身的功能來看，《第一議定書》第36條沒有設(shè)立禁止自主武器的標準，并且自主武器投入到戰(zhàn)場上，會減少戰(zhàn)斗員不必要的痛苦和傷亡，因此，自主武器在現(xiàn)行法律框架下是合法的。[4]二是從自主武器是否具有“可預測性”來看，[5]人工智能的本質(zhì)是數(shù)據(jù)與算法的結(jié)合，[6]自主武器將來會在戰(zhàn)場上面臨各種復雜的環(huán)境并且不斷的學習，這就意味著將來它的行動難以被人們預測。一旦戰(zhàn)爭爆發(fā)，戰(zhàn)爭的發(fā)展方向就有可能不再受到人類的控制。那些投入戰(zhàn)場的自主武器，不將僅僅是軍事一方的災難，而更可能會成為全人類共同的災難。由此，從自主武器的不可預測性所帶來的惶恐，使得人們對它的合法性產(chǎn)生懷疑。更甚者，自主武器流入黑市是遲早的事情，落入恐怖分子手中，那些想要控制更多平民的獨裁者手中，希望進行種族清洗的軍閥等，自主武器也是暗殺、顛覆國家的很好武器。[7]從自主武器的自身來看，法律沒有對自主武器這類新型的武器進行準確的定義，自主武器本身既有積極的一面，也有消極的一面，但消極的一面似乎給人類帶來更大的代價。將來自主武器無法被人類預測與控制，人們是無法接受的。

3.2武器在使用時的合法性判斷

自主武器在使用上的合法性判斷，主要涉及到的是自主武器在使用的過程中是否會遵守國際人道法上的基本原則與規(guī)定，主要涉及到的是區(qū)分原則和比例原則。

3.2.1 區(qū)分原則

在武裝沖突中，區(qū)分原則是一項重要的原則，國際法院在關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見中，甚至將區(qū)分原則作為首要核心原則。區(qū)分原則要求對戰(zhàn)斗員與平民之間區(qū)分，和軍民混用設(shè)施進行區(qū)分。區(qū)分原則使武裝沖突對平民的影響降到最低，禁止以平民為目標及不加區(qū)分的進行攻擊。

在戰(zhàn)爭中準確做到區(qū)分面臨著兩種困難。第一，對平民與戰(zhàn)斗員之間的判斷，涉及到很多需要解釋與分析的因素，如對戰(zhàn)爭行為的解釋。在傳統(tǒng)的戰(zhàn)爭中，戰(zhàn)斗員都有自己明顯區(qū)別平民的標志，如穿戴特定戰(zhàn)斗裝備、在戰(zhàn)斗期間公開攜帶槍支等，人們對平民與戰(zhàn)斗員進行區(qū)分是容易的。但是如果混淆這種明顯的標志，比如，沒有明顯標志的平民加入戰(zhàn)爭、尤其是軍事安保公司的加入，美國軍隊依靠私人承包商來維護軍隊，這些軍事安保公司實際上是軍事上的重要合作者。他們是否應該與平民一樣受到保護，是值得商榷的，尤其現(xiàn)在，針對戰(zhàn)爭的含義越來也越來模糊，在非國際性對抗沖突蔓延的形勢下，人們往往需要對戰(zhàn)爭行為的進行具體的解釋才能判斷出哪些是戰(zhàn)斗員、哪些是平民。第二，隨著軍民融合現(xiàn)場的產(chǎn)生，具有“軍民兩用”性質(zhì)的設(shè)施大量出現(xiàn)，這些設(shè)施在平時是歸于民用，只是在戰(zhàn)時才會被征用為軍用設(shè)施，或者只是在戰(zhàn)時的某一時刻被利用，它們與平民的生活息息相關(guān)，如果一旦被攻擊，對平民的生活將造成很大的影響。但是有的學者認為，不能過分強調(diào)對于軍民兩用的保護，也沒必要對其進行區(qū)分，因為這樣會導致一方過度使用此類方法以躲避軍事攻擊，影響戰(zhàn)爭的效力。[8]自主武器的發(fā)展是否會克服以上兩種困難是不確定的，這就導致人類無法放心的認為自主武器可以合法的進入戰(zhàn)場。

3.2.2 比例原則

在國際人道法中，比例原則要求在進行軍事行動過程中需要對平民和軍民兩用設(shè)施的攻擊傷害程度降到最低?？偟膩碚f，它需要對軍事利益、損害范圍界定以及合乎比例性評估三個方面都需要進行思考。

比例原則要求所取得軍事利益必須大于軍事行動所造成的損害，否則這種軍事行動是不被允許的。[9]比例原則作為一種價值判斷，它具有靈活性與內(nèi)涵豐富性的特性。對于攻擊是否符合比例，指揮官擁有較大的自由裁量權(quán)?，F(xiàn)在存在的問題是，國際法對比例原則的規(guī)定比較模糊，沒有給出準確的判斷標準。[10]機器沒有情景意識，它是否可以像人類那樣，做出符合道德價值的判斷。自主武器系統(tǒng)是否按比例使用武力，取決于它的裝備以及其規(guī)劃和設(shè)計所允許的能力。人類的智能是否可以遷移到自主武器身上，目前還不得而知。因此，在不得而知的情況下，我們也無法判斷自主武器的行為是否符合比例原則。

綜上，自主武器合法性無法判斷的原因主要表現(xiàn)在兩個方面，一個是法律上原因，另一個是自主武器自身發(fā)展的原因。法律上對自主武器自身是否合法沒有做出判斷和提供一些判斷的標準。自身原因是自主武器的發(fā)展究竟會到智能到什么地步，是不確定的，它是否會遵從比例原則和區(qū)分原則是無法判斷的。由此，目前自主武器的合法性判斷是無法做出的，它的合法性與否取決于將來自主武器發(fā)展程度與遵守法律的情況。

4 自主武器的國際法規(guī)制之爭

現(xiàn)在來看，我們宜將自主武器視為普通武器的法律地位，由于它的合法性無法判斷和投入戰(zhàn)場的潛在危害性，國際法必須對自主武器進行合理的規(guī)制。目前國際社會針對自主武器國際法規(guī)制的方式，主要幾種在以下幾種方式。

4.1 制定專門規(guī)制自主武器的框架性公約

“條約必須遵守”，有效的條約對各當事國具有拘束力。當事國不得以國內(nèi)法規(guī)定為由拒絕履行條約義務(wù)。國際社會主張針對自主武器達成一項專門的國際條約，就是看上了條約強大的約束作用。此外，達成一項新的條約，也意味著考慮到了自主武器的自主性，將它與其他普通的武器有所區(qū)別。特殊情形特殊對待。支持制定條約國家認為，考慮到人工智能技術(shù)正在不斷的發(fā)展，人們對自主武器的很多方面還未了解清楚，該國際條約不宜規(guī)定的過于全面，開始可以制定框架性公約，隨著人工智能技術(shù)進步不斷完善與發(fā)展公約的內(nèi)容。反對者認為，達成框架性的公約對于各個國家根本沒有約束力，自主武器在國際法上的發(fā)展仍然是出于不確定狀態(tài)。并且有學者認為現(xiàn)在預先禁止自主武器還為時尚早，因為技術(shù)還不太成熟。是否制定條約，以及制定什么樣的條約，目前國際社會還在激烈的討論之中。

4.2 制定公約附加議定書

1980年聯(lián)合國通過了《特定常規(guī)武器公約》（CWW）目的是為了停止使用被認可為過度不人道與濫殺濫傷作用的武器。該公約雖然僅僅包含11個條文，它的5個附加議定書卻在限制特定武器上發(fā)揮著巨大的作用?？v觀這個五個議定書，均是針對特定具有較大危害性的某一種類武器的限制。促進武器使用向著更符合人道的方向發(fā)展。這種使用附加議定書的方式比制定統(tǒng)一公約的好處是，它可以隨著科技與武器形態(tài)變化，隨時添加具體規(guī)制的武器。此外，采用此種方式，有利于締約國根據(jù)自己國際的實際情況，選擇參考某個具體的議定書，給國家一定的選擇性。但它也存在著困難，自主武器雖然具有普通武器的地位，但它與普通常規(guī)武器已經(jīng)有所區(qū)別，它是否可以被納入到《特定常規(guī)武器公約》之內(nèi)，接受《常規(guī)武器公約》的約束是不明確的。雖然，2016年《常規(guī)武器公約》締約國第五次審議大會決定成立政府專家組，討論自主武器的話題一直持續(xù)召開至今。但這也并不意味著，國際社會一定會在《常規(guī)武器公約》框架下達成規(guī)制自主武器的議定書。

4.3 達成任何規(guī)制自主武器的協(xié)定或公約時機還不成熟

目前的人工智能仍然是在發(fā)展階段，還遠遠未達到強人工智能階段，人工智能技術(shù)正處于不斷的探索之中?？紤]到人工智能技術(shù)在民用產(chǎn)品上的廣泛，現(xiàn)在就考慮規(guī)制該技術(shù)，會阻礙人工智能技術(shù)在民用領(lǐng)域的發(fā)展。就像很多專家、學者討論至今也沒有討論出合適的解決辦法。就像有的學者所主張的那樣，我們根本不知道要盤點什么，因為在許多情況下，我們將試圖預測不存在的系統(tǒng)的開發(fā)，在可預見的未來不太可能存在，而且可能永遠不會存在。因此，達成任何規(guī)制自主武器的協(xié)定與公約時機還未成熟。

自主武器在投入戰(zhàn)場上可以減少士兵的投入，減少士兵的痛苦，這兩個特點是對很多國家是有誘惑力的。同樣，它會降低戰(zhàn)爭發(fā)動的門檻，但是最大的缺點，也是很多國家不敢嘗試的一個重要原因是，它在戰(zhàn)場會是否會遵守國際法是不得而知的。如果我們不能控制一個自主武器的行動，也不能預測它的行動方向，就貿(mào)然的就將它投入到戰(zhàn)場上，這對于很多其他國家來說是極其不負責任的。因此，無論自主武器的合法性是否可以判斷，將來它的法律地位如何，我們對自主武器的規(guī)制是必要的。結(jié)合目前人工智能技術(shù)發(fā)展來看，人們確實還沒有完全認識自主武器的方方面面，所以制定一個框架性的條約是一個合適的選擇。相比于一步到位的議定書做法，它給當事國更多認識自主武器的機會，有機會等待自主武器的進一步的發(fā)展。相比于不制定任何規(guī)制文件的做法，它提供給當事國逐漸形成共識的機會，為以后自主武器的治理奠定了基礎(chǔ)。因此，目前比較有效的自主武器的國際法規(guī)制的方式，是各事國達成一項框架性條約，并且之后隨著自主武器的發(fā)展逐步的進行完善。

5 結(jié)語

自主武器在軍事上的運用改變了傳統(tǒng)武裝沖突的形式。它的自主性一方面加快了戰(zhàn)爭的勝利，另一方面也給人類帶來嚴重的威脅。自主武器與人具有相似的自主學習能力，但從目前智能技術(shù)的發(fā)展和法律體系的構(gòu)建來看，還是應該將它視為普通武器的地位。自主武器缺乏天然的基本道德情感與場景分析能力，導致它的合法性受到質(zhì)疑，自主武器將來在猶如戰(zhàn)場是否會違反比例原則、區(qū)分原則現(xiàn)在不得而知，這就使得它的合法性無法判斷。它是否會遵守國際法，有待進一步的驗證。無論合法性與法律地位如何，國際社會針對此類自主武器的自主性和給將來潛在的威脅，必要對它進行一定的規(guī)制。規(guī)制方式就是制定一項框架的條約，隨著自主武器的發(fā)展再逐步達成規(guī)制的共識。

參考文獻

[1]陳景輝.人工智能的法律挑戰(zhàn)：應該從哪里開始[J].比較法研究，2018（05）：136-148.

[2]龍文懋.人工智能法律主體地位的法哲學思考[J].法律科學（西北政法大學學報），2018，36（05）：24-31.

[3]馬治國，徐濟寬.人工智能發(fā)展的潛在風險及法律防控監(jiān)管[J].北京工業(yè)大學學報（社會科學版），2018，18（06）：

65-71.

[4]THOMAS Bradan T. Autonomous Weapon Systems：The Anatomy of Autonomy and the Legality of Lethality[J].Houston Journal of International Law，2015（37）：

235-274.

[5]SCHULLER Alan L. At the Crossroads of Control： The Intersection of Artificial Intelligence in Autonomous Weapon Systems with International Humanitarian Law[J]， Harvard National Security Journal，2017（8）：379-425.

[6]張凌寒.風險防范下算法的監(jiān)管路徑研究[J].交大法學，2018（04）：49-62.

[7]GUIORA Amos N. Accountability and Decision Making an Autonomous Warfare： Who Is Responsible[J].Utah Law Review ，2017：393-422.

[8]周江.論武裝沖突法中的區(qū)分原則[J].現(xiàn)代法學，2012，34

（03）：143-153.

[9]朱文奇.國際人道法[M].北京：中國人民大學出版社，2007.

[10]李強.論武裝沖突中比例原則的適用[J].西安政治學院學報，2017，30（02）：93-99.

（編輯：董坡）

作者簡介：張玉玲（1990—），女，河北邯鄲人，碩士研究生，研究方向：國際法。