文力浩，龍 坤

（國防科技大學(xué) 文理學(xué)院，湖南 長沙410073）

0 引 言

安全通常是指主體既沒有外在威脅也沒有內(nèi)在疾患的客觀狀態(tài)。當(dāng)安全的主體是國家時就構(gòu)成了國家安全，其內(nèi)涵可界定為：一個國家處于沒有危險的客觀狀態(tài)，即“國家既無外部威脅又無內(nèi)部混亂和疾患的客觀狀態(tài)”[1]。軍事安全是國家安全的重要組成部分，是指“國家不受外部軍事入侵和戰(zhàn)爭威脅的狀態(tài)，以及保障這一持續(xù)安全狀態(tài)的能力”[2]。隨著以深度學(xué)習(xí)為代表的人工智能第三次浪潮的到來，人工智能技術(shù)不斷發(fā)展應(yīng)用，在圍棋、智力問答、“星際爭霸”游戲等過去被認(rèn)為人類專屬的智慧領(lǐng)域一路攻城略地，對經(jīng)濟(jì)、政治、教育、醫(yī)療、軍事等帶來了深刻影響，同時引發(fā)了人工智能如何變革國家安全的熱烈討論。例如，牛津大學(xué)哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）擔(dān)憂人工智能會給人類帶來“生存威脅”[3]（existential threat）。著名企業(yè)家埃隆·馬斯克（Elon Musk）大膽預(yù)言，世界各國在人工智能領(lǐng)域開展軍備競賽可能引發(fā)第三次世界大戰(zhàn),俄羅斯總統(tǒng)普京（Vladimir Putin）則在公開場合聲明，在人工智能領(lǐng)域占據(jù)領(lǐng)導(dǎo)地位的國家將主宰世界。

歷史上，軍事領(lǐng)域向來是對科學(xué)技術(shù)最為敏感、也是競爭和對抗最為激烈的領(lǐng)域。技術(shù)是一把雙刃劍，作為一項(xiàng)新興顛覆性技術(shù)，人工智能在軍事安全領(lǐng)域既帶來了諸多機(jī)遇，也帶來了風(fēng)險和挑戰(zhàn)。本文擬從機(jī)遇和挑戰(zhàn)兩個維度出發(fā)，重點(diǎn)考察人工智能對于軍事安全領(lǐng)域的影響，并在此基礎(chǔ)上提出治理建議。

1 人工智能為強(qiáng)化軍事安全帶來的機(jī)遇

當(dāng)前，人工智能正逐步走向軍事應(yīng)用領(lǐng)域，推動信息化戰(zhàn)爭向智能化戰(zhàn)爭加速轉(zhuǎn)變，給軍事安全帶來不可忽視的影響。概括來看，人工智能為維護(hù)軍事安全帶來的機(jī)遇主要有以下幾個方面。

1.1 降低軍事人員執(zhí)行作戰(zhàn)任務(wù)的危險性

機(jī)器人的非生命性、有效性、隱蔽性等特點(diǎn)使得它能夠替代人類從事許多危險工作而無悖于人類倫理道德。早在上個世紀(jì)中期機(jī)器人誕生之初，阿西莫夫就提出了“機(jī)器人三定律”，從本質(zhì)上詮釋了機(jī)器人為人類服務(wù)的工具性。處處充滿危險的戰(zhàn)場正是機(jī)器人大展身手的“舞臺”，機(jī)器人逐步“參軍”走上作戰(zhàn)一線勢所必然。本世紀(jì)以來，隨著人工智能技術(shù)的快速進(jìn)步，軍用智能機(jī)器人迎來了發(fā)展的“黃金時期”，排爆機(jī)器人、搬運(yùn)機(jī)器狗等智能機(jī)器人不斷問世，在偵查監(jiān)視、后勤保障、排雷排爆等軍事任務(wù)領(lǐng)域得到廣泛應(yīng)用，為降低軍人戰(zhàn)場危險性和提升作戰(zhàn)效能發(fā)揮了重要作用。比如美軍研制的“大狗機(jī)器人”能夠有效輔助戰(zhàn)士搬運(yùn)物資、進(jìn)行伴隨保障。俄軍正在大力研制可以駕駛汽車的類人機(jī)器人，擬組建能夠與人類并肩作戰(zhàn)的機(jī)器人部隊(duì)。我國目前也已經(jīng)研制了多種可供戰(zhàn)場使用的機(jī)器人，比如排爆機(jī)器人“靈蜥”、四足步行機(jī)器人“大狗”等。隨著智能機(jī)器人自主性的逐步提升，它們將在越來越多的任務(wù)場景中輔助和替代人類，降低軍人在執(zhí)行作戰(zhàn)任務(wù)中的風(fēng)險。

1.2 提升軍事情報(bào)分析效率

隨著信息技術(shù)的發(fā)展，人類正在迎來一個“數(shù)據(jù)爆炸”的時代。目前地球上兩年所產(chǎn)生的數(shù)據(jù)比之前積累的所有數(shù)據(jù)都要多。瀚如煙海的數(shù)據(jù)給情報(bào)人員帶來了極大的困難和挑戰(zhàn)，僅憑增加人力不僅耗費(fèi)大量錢財(cái)，問題也得不到根本解決。與此同時，伴隨大數(shù)據(jù)技術(shù)和并行計(jì)算的發(fā)展，人工智能在情報(bào)領(lǐng)域日益展現(xiàn)出非凡能力。目前，美軍已經(jīng)敏銳地捕捉到了人工智能在軍事情報(bào)領(lǐng)域的巨大應(yīng)用潛力，成立了“算法戰(zhàn)跨職能小組”。該小組的首要職能就是利用機(jī)器視覺、深度學(xué)習(xí)等人工智能技術(shù)在情報(bào)領(lǐng)域開展目標(biāo)識別和數(shù)據(jù)分析，提取有效情報(bào)，將海量的數(shù)據(jù)轉(zhuǎn)換為有價值的情報(bào)信息，為打擊ISIS 等恐怖組織提供有力的技術(shù)支撐。機(jī)器算法的快速、準(zhǔn)確、無疲勞等特點(diǎn)使其在大數(shù)據(jù)分析領(lǐng)域大展身手，展現(xiàn)出遠(yuǎn)超人類的能力。因此，美國防部聯(lián)合人工智能中心主任沙納漢中將就直言不諱地表示，算法就是“世界上最優(yōu)秀、訓(xùn)練最有素的數(shù)據(jù)分析師”[4]。

1.3 提升軍事網(wǎng)絡(luò)攻防能力

網(wǎng)絡(luò)空間已經(jīng)成為繼陸、海、空、天之外的“第五維空間”，是國家利益拓展的新邊疆、戰(zhàn)略博弈的新領(lǐng)域、軍事斗爭的新戰(zhàn)場。習(xí)近平主席在中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組第一次會議上指出，“沒有網(wǎng)絡(luò)安全就沒有國家安全”[5]。網(wǎng)絡(luò)攻防是軍事安全領(lǐng)域中的重要一環(huán)，基于人工智能技術(shù)的自動漏洞挖掘可以顯著提升軍事系統(tǒng)的網(wǎng)絡(luò)防御能力。目前，網(wǎng)絡(luò)防御領(lǐng)域存在兩大問題：一是網(wǎng)絡(luò)技術(shù)人才短缺；二是當(dāng)前的網(wǎng)絡(luò)防御系統(tǒng)面對未知漏洞表現(xiàn)不佳。人工智能的新發(fā)展為提升網(wǎng)絡(luò)防御水平提供了新途徑，主要體現(xiàn)在網(wǎng)絡(luò)系統(tǒng)漏洞自動化檢測和自主監(jiān)視系統(tǒng)等方面。以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)技術(shù)有望使得網(wǎng)絡(luò)防御系統(tǒng)不僅能從以往的漏洞中學(xué)習(xí)，而且能在監(jiān)視數(shù)據(jù)中不斷提升對未知威脅的應(yīng)對能力。有研究表明，人工智能可以從大量網(wǎng)絡(luò)數(shù)據(jù)中篩選出可疑信息，以此增強(qiáng)網(wǎng)絡(luò)防御能力。比如“蒸餾網(wǎng)絡(luò)”公司（Distil Networks）就利用機(jī)器學(xué)習(xí)算法來防御人類難以察覺的高級持續(xù)性威脅（APT）網(wǎng)絡(luò)攻擊。目前，美國亞利桑那州立大學(xué)的科學(xué)家已經(jīng)研發(fā)出了一種能夠識別“零日漏洞”的機(jī)器學(xué)習(xí)算法，并能夠追蹤其在黑客界的流動軌跡。麻省理工學(xué)院（MIT）“計(jì)算機(jī)科學(xué)和人工智能”實(shí)驗(yàn)室的研究人員也啟動了PatternEx研究項(xiàng)目，意在構(gòu)建一個機(jī)器學(xué)習(xí)系統(tǒng)，預(yù)期每天能檢查36 億行日志文件，監(jiān)測85%的網(wǎng)絡(luò)攻擊，并在投入使用時進(jìn)行自動學(xué)習(xí)和采取防御措施[6]。美國國防部高級研究計(jì)劃局正計(jì)劃將人工智能用于網(wǎng)絡(luò)防御，重點(diǎn)發(fā)展的功能包括在投入使用之前自動檢測軟件代碼漏洞以及通過機(jī)器學(xué)習(xí)探測網(wǎng)絡(luò)活動中的異常情況等。

1.4 為軍事訓(xùn)練和培訓(xùn)提供新方式

人工智能為軍事訓(xùn)練和培訓(xùn)也提供了新方式。在作戰(zhàn)訓(xùn)練領(lǐng)域，人工智能技術(shù)與虛擬現(xiàn)實(shí)技術(shù)相結(jié)合能夠極大提升模擬軟件的逼真度和靈活性，為針對特定戰(zhàn)場環(huán)境開展大規(guī)模仿真訓(xùn)練提供高效手段，真正實(shí)現(xiàn)“像訓(xùn)練一樣戰(zhàn)斗，像戰(zhàn)斗一樣訓(xùn)練”。首先，通過收集衛(wèi)星圖像、街景數(shù)據(jù)、甚至是無人機(jī)拍攝的三維圖像，虛擬現(xiàn)實(shí)程序能夠在人工智能的幫助下快速、準(zhǔn)確地生成以全球任何一處場景為對象的綜合訓(xùn)練環(huán)境（STE），幫助士兵進(jìn)行更有針對性的預(yù)先演練，提升士兵執(zhí)行特定任務(wù)的能力。其次，人工智能賦能軍事訓(xùn)練模擬軟件在不降低真實(shí)度的情況下快速生成訓(xùn)練環(huán)境、設(shè)計(jì)交戰(zhàn)對手，擺脫了以往軍事訓(xùn)練耗費(fèi)大量人力物力布置訓(xùn)練場景的傳統(tǒng)模式。再次，人工智能具備的自主性使得模擬軍事訓(xùn)練不會以可預(yù)測模式進(jìn)行，士兵必須使用各種設(shè)備和不同策略在復(fù)雜多樣的環(huán)境中戰(zhàn)斗，有利于提升士兵和指揮官在作戰(zhàn)中的應(yīng)變能力。最后，人工智能通過在模擬對戰(zhàn)中與人類反復(fù)交手從而迭代學(xué)習(xí)，系統(tǒng)借助大量復(fù)盤模擬可以不斷完善應(yīng)對方法，為參謀人員提供參考借鑒。這一過程類似于與AlphaGo進(jìn)行圍棋對戰(zhàn)。換言之，人工智能不僅可以扮演模擬軍事訓(xùn)練中人類的強(qiáng)大對手，還可以在每次勝利時向人類傳授一種針對這次戰(zhàn)役或行動的新策略。除此之外，人工智能在軍事訓(xùn)練的其他領(lǐng)域也有著廣泛應(yīng)用。目前，一個名為“神探夏洛克”（SHERLOCK）的智能輔導(dǎo)系統(tǒng)已經(jīng)被用于美國空軍的培訓(xùn)中。這個系統(tǒng)能夠?yàn)槊绹哲娂夹g(shù)人員提供如何操作電子系統(tǒng)對飛行器進(jìn)行診斷的培訓(xùn)。同時，南加州大學(xué)的信息科學(xué)學(xué)院已經(jīng)研制出了一個基于替身的訓(xùn)練程序，能夠?yàn)榕神v海外的軍人提供跨文化交流訓(xùn)練。

1.5 給軍事理論和作戰(zhàn)樣式創(chuàng)新帶來新的啟發(fā)

誠如恩格斯所言：“一旦技術(shù)上的進(jìn)步可以用于軍事目的，他們便立刻幾乎強(qiáng)制地，而且往往是違背指揮官的意志而引起作戰(zhàn)方式上的改變甚至變革。”[7]技術(shù)進(jìn)步作用于軍事領(lǐng)域必然引起作戰(zhàn)方式的改變甚至變革，這是恩格斯100 多年前就向人們揭示的軍事技術(shù)發(fā)展規(guī)律，人工智能技術(shù)當(dāng)然也不例外。總體來看，以人工智能技術(shù)為支撐的智能化武器裝備較傳統(tǒng)武器裝備具有突防能力強(qiáng)、持續(xù)作戰(zhàn)時間長、戰(zhàn)術(shù)機(jī)動性好、訓(xùn)練周期短以及綜合成本低等顯著優(yōu)勢。智能化無人系統(tǒng)可采用小型化甚至微型化設(shè)計(jì)，使用復(fù)合材料和隱身技術(shù)，以隱蔽方式或集群方式接近目標(biāo)，讓敵人難以察覺或無法防范。無人武器系統(tǒng)還可以突破人類生理局限，裝備的性能指標(biāo)和運(yùn)轉(zhuǎn)時長只需考慮制造材料、各類機(jī)械電子設(shè)備的承受極限和動力能源的攜帶量，不但使得系統(tǒng)在機(jī)動、承壓方面能力得到革命性提升，并且能夠?qū)崿F(xiàn)遠(yuǎn)距離偵察打擊和在目標(biāo)區(qū)域的長時間存在。同樣重要的是，與傳統(tǒng)武器系統(tǒng)操控訓(xùn)練周期一般長達(dá)數(shù)年不同，無人系統(tǒng)操控員僅需數(shù)月或一年左右的訓(xùn)練即可遠(yuǎn)程操控“捕食者”“死神”等無人武器參加實(shí)戰(zhàn)，更多作戰(zhàn)人員不必直接踏上戰(zhàn)場，有望大大降低戰(zhàn)死率和隨之而來的社會輿論壓力。基于人工智能技術(shù)軍事化應(yīng)用的上述特點(diǎn)，近年來美軍提出了以算法較量為核心的算法戰(zhàn)、無人武器系統(tǒng)蜂群式作戰(zhàn)、具有高度自適應(yīng)性的“馬賽克戰(zhàn)”等一系列新作戰(zhàn)樣式?？梢灶A(yù)見的是，隨著人工智能技術(shù)的進(jìn)一步發(fā)展，智能化條件下的軍事理論和作戰(zhàn)樣式創(chuàng)新不會停止。

總而言之，人工智能可以幫助軍事力量更加精準(zhǔn)高效地運(yùn)轉(zhuǎn)，同時降低人類面臨的生命危險。人工智能在無人作戰(zhàn)、情報(bào)搜集與處理、軍事訓(xùn)練、網(wǎng)絡(luò)攻防、智能化指揮控制決策等軍事領(lǐng)域的廣泛運(yùn)用具有“改變游戲規(guī)則”的顛覆性潛力，有望重塑戰(zhàn)爭形態(tài)，改寫戰(zhàn)爭規(guī)則，推動智能化戰(zhàn)爭的加速到來。中央軍委科技委主任劉國治中將等專家認(rèn)為，人工智能必將加速軍事變革進(jìn)程，對部隊(duì)體制編制、作戰(zhàn)樣式、裝備體系和戰(zhàn)斗力生成模式等帶來根本性變化，甚至?xí)l(fā)一場深刻的軍事革命[8]。

2 人工智能給軍事安全帶來的風(fēng)險和挑戰(zhàn)

人工智能作為一種科學(xué)技術(shù)，同樣具備“雙刃劍”屬性。人工智能一方面為人類社會發(fā)展進(jìn)步和維護(hù)軍事安全提供了新的動力和機(jī)遇，另一方面也帶來了一系列威脅與挑戰(zhàn)。綜而觀之，人工智能給軍事安全帶來的威脅和挑戰(zhàn)主要有以下幾個方面。

2.1 人工智能軍事應(yīng)用帶來的非預(yù)期事故

人工智能的軍事應(yīng)用存在諸多不確定性，容易帶來非預(yù)期事故的發(fā)生。這主要由以下兩點(diǎn)原因所致：一是由于人工智能內(nèi)部的脆弱性問題（internal vulnerbility）。當(dāng)前，人工智能還停留在弱人工智能階段，而弱人工智能系統(tǒng)的特點(diǎn)在于它們接受了非常專門的任務(wù)訓(xùn)練，例如下棋和識別圖像。戰(zhàn)爭可以說是最復(fù)雜的人類活動之一，巨量且不規(guī)律的物體運(yùn)動仿佛為戰(zhàn)場環(huán)境蒙上了一層“迷霧”，難以看清和預(yù)測戰(zhàn)爭全貌。在這種情況下，系統(tǒng)的應(yīng)用環(huán)境無時無刻都在發(fā)生變化，人工智能系統(tǒng)可能將難以適應(yīng)。因此，當(dāng)前弱人工智能存在的根本脆弱性（brittleness）很容易損害系統(tǒng)的可靠性。交戰(zhàn)雙方部署的人工智能系統(tǒng)交互產(chǎn)生復(fù)雜聯(lián)系，這種復(fù)雜性遠(yuǎn)遠(yuǎn)超出一個或多個弱人工智能系統(tǒng)的分析能力，進(jìn)一步加劇了系統(tǒng)的脆弱性，發(fā)生事故和出錯的概率將大大增加。此外，人工智能算法目前還是一個“黑箱”，可解釋性不足，人類很難預(yù)測它的最終結(jié)果，也容易帶來很多非預(yù)期事故。二是外部的攻擊利用問題（external exploitation)。研究人員已證明，圖像識別算法容易受到像素級“毒”數(shù)據(jù)的影響，從而導(dǎo)致分類問題。針對開源數(shù)據(jù)訓(xùn)練的算法尤其容易受到這一挑戰(zhàn)，因?yàn)閷κ衷噲D對訓(xùn)練數(shù)據(jù)進(jìn)行“投毒”，而其他國家又可能將這些“中毒”數(shù)據(jù)用于軍事領(lǐng)域的算法訓(xùn)練。目前對抗性數(shù)據(jù)問題（adversarial data）已經(jīng)成為一個非常嚴(yán)峻的挑戰(zhàn)。此外，黑客攻擊還可能導(dǎo)致在安全網(wǎng)絡(luò)上訓(xùn)練的算法被利用。當(dāng)訓(xùn)練數(shù)據(jù)受到污染和“投毒”，就很可能產(chǎn)生與設(shè)計(jì)者意圖不符的人工智能應(yīng)用系統(tǒng)，導(dǎo)致算法偏見乃至更多非預(yù)期事故的發(fā)生。最后，人機(jī)協(xié)同也是一個很大的難題。無論是強(qiáng)化學(xué)習(xí)、深度學(xué)習(xí)，還是專家系統(tǒng)都不足以完全準(zhǔn)確地反映人類的直覺、情感等認(rèn)知能力。人工智能的軍事運(yùn)用是“人—機(jī)—環(huán)境”綜合協(xié)同的過程，機(jī)器存在可解釋性差、學(xué)習(xí)性弱、缺乏常識等短板，或?qū)⒎糯蟀l(fā)生非預(yù)期事故乃至戰(zhàn)爭的風(fēng)險[9]。

2.2 人工智能軍備競賽的風(fēng)險

與核武器類似，由于人工智能可能對國家安全領(lǐng)域帶來革命性影響，世界各國將會考慮制定非常規(guī)政策[10]。目前，世界各國（尤其是中、美、俄等軍事大國）都認(rèn)識到人工智能是強(qiáng)化未來國防的關(guān)鍵技術(shù)，正在加大人工智能領(lǐng)域的研發(fā)力度，并竭力推進(jìn)人工智能的軍事應(yīng)用，力圖把握新一輪軍事技術(shù)革命的主動權(quán)，全球人工智能軍備競賽態(tài)勢初露端倪。具體而言，美國將人工智能視為第三次抵消戰(zhàn)略的核心，建立“算法戰(zhàn)跨職能小組”，籌劃基于人工智能的算法戰(zhàn)。2018 年7 月，美國防部設(shè)立專門的人工智能機(jī)構(gòu)——聯(lián)合人工智能中心（JAIC），大力推動軍事人工智能應(yīng)用。2019 年2 月12 日，美國防部正式出臺美軍人工智能戰(zhàn)略，并將聯(lián)合人工智能中心作為推進(jìn)該戰(zhàn)略落地的核心機(jī)構(gòu)。美國2021 財(cái)年國防授權(quán)法案草案中也特別強(qiáng)調(diào)對人工智能、5G、高超聲速等關(guān)鍵技術(shù)進(jìn)行投資，建議對人工智能投資8.41 億美元，對“自主性”（autonomy)投資17 億美元。這些舉措都體現(xiàn)出美國積極推動人工智能軍事化、在人工智能領(lǐng)域謀求新式霸權(quán)的意圖。俄羅斯在這一領(lǐng)域也不甘落后。2017 年1 月，普京要求建立“自主機(jī)器復(fù)合體”（Autonomous Robotic Complexs）為軍隊(duì)服務(wù)。中國政府則于2017 年7 月20 日出臺《新一代人工智能發(fā)展規(guī)劃》，正式將發(fā)展人工智能上升到國家戰(zhàn)略高度。軍事領(lǐng)域也在通過“軍民融合”戰(zhàn)略加快“軍事智能化發(fā)展”步伐，“促進(jìn)人工智能技術(shù)軍民雙向轉(zhuǎn)化，強(qiáng)化新一代人工智能技術(shù)對指揮決策、軍事推演、國防裝備等的有力支撐，推動各類人工智能技術(shù)快速嵌入國防創(chuàng)新領(lǐng)域”[11]。

鑒于人工智能強(qiáng)大而泛在的技術(shù)本質(zhì)以及軍事領(lǐng)域?qū)τ趶?qiáng)大技術(shù)的強(qiáng)烈需求，人工智能走向軍事應(yīng)用是難以阻擋的趨勢，當(dāng)前各國競相推動人工智能軍事化和發(fā)展人工智能武器便是其現(xiàn)實(shí)體現(xiàn)。大國間在人工智能領(lǐng)域的軍備競賽將會危及全球戰(zhàn)略穩(wěn)定，對國家安全帶來嚴(yán)重威脅，埃隆·馬斯克關(guān)于人工智能軍備競賽可能引發(fā)第三次世界大戰(zhàn)的預(yù)言并非危言聳聽。如同所有軍備競賽一樣，人工智能領(lǐng)域的軍備競賽本質(zhì)上都是無政府狀態(tài)下安全困境的體現(xiàn)，如果缺乏信任和有效的軍備控制措施，這將成為一場“危險的游戲”，直到一方把另一方拖垮或雙方共同卷入戰(zhàn)爭，上演一場智能時代的“零和博弈”。

2.3 擴(kuò)展威脅軍事安全的行為體范圍和行為手段

傳統(tǒng)上，威脅軍事安全的主要行為體是主權(quán)國家的軍隊(duì)，但隨著網(wǎng)絡(luò)和人工智能技術(shù)的發(fā)展，這一行為體范圍正在拓展。以網(wǎng)絡(luò)攻擊為例，根據(jù)攻防平衡理論，重大軍事技術(shù)的出現(xiàn)將對攻防平衡產(chǎn)生重大影響，而有的軍事技術(shù)天然偏向于進(jìn)攻方。當(dāng)前，人工智能技術(shù)的發(fā)展對提升網(wǎng)絡(luò)攻擊能力同樣提供了極大機(jī)遇。可以預(yù)見，人工智能與深度學(xué)習(xí)的結(jié)合有望使得“高級持續(xù)威脅”系統(tǒng)成為現(xiàn)實(shí)。在這種設(shè)想下，網(wǎng)絡(luò)攻擊方能夠利用APT 系統(tǒng)24 小時不間斷地主動搜尋防御方的系統(tǒng)漏洞，“耐心”等待對方犯錯的那一刻[12]。隨著人工智能逐步應(yīng)用，將有越來越多的物理實(shí)體可以成為網(wǎng)絡(luò)攻擊的對象。例如，不法分子可經(jīng)由網(wǎng)絡(luò)侵入軍用自動駕駛系統(tǒng)，通過篡改代碼、植入病毒等方式使得軍用無人車失去控制，最終車毀人亡。又比如通過入侵智能軍用機(jī)器人，控制其攻擊己方的人員或裝備。同時，人工智能與網(wǎng)絡(luò)技術(shù)結(jié)合可能進(jìn)一步降低網(wǎng)絡(luò)攻擊的門檻。當(dāng)智能化網(wǎng)絡(luò)攻擊系統(tǒng)研制成功，只要擁有足夠多的資金便能有效提升自己的網(wǎng)絡(luò)攻擊能力，而不需要太高的技術(shù)要求。因此，未來恐怖分子利用人工智能進(jìn)行網(wǎng)絡(luò)攻擊或攻擊自主系統(tǒng)的算法、網(wǎng)絡(luò)等，繼而誘發(fā)軍事系統(tǒng)產(chǎn)生故障（如軍用無人車、無人機(jī)撞擊己方人員），或者直接損壞軍事物聯(lián)網(wǎng)實(shí)體設(shè)備等，都會對軍事安全產(chǎn)生很大威脅。

此外，人工智能的發(fā)展應(yīng)用還將催生新的威脅軍事安全的方式和手段。人工智能表現(xiàn)出諸多與以往技術(shù)不一樣的特點(diǎn)，也自然會帶來威脅軍事安全的新手段，深度偽造（deepfakes）就是其中的典型代表，該技術(shù)為煽動敵對國家間的軍事沖突提供了新途徑。例如，A 國雇傭代理黑客使用人工智能技術(shù)制作“深度偽造”視頻或音頻材料，虛構(gòu)B 國密謀針對C 國采取先發(fā)制人打擊，并將這段“深度偽造”材料故意向C 國情報(bào)部門秘密透露，引發(fā)C 國的戰(zhàn)略誤判，迫使其采取對抗手段。B 國面對這種情況也將不得不采取措施予以應(yīng)對，一場由A 國借助人工智能技術(shù)策劃的針對B、C 兩國的惡意情報(bào)欺詐就完成了。當(dāng)前，“深度偽造”技術(shù)的發(fā)展速度遠(yuǎn)超相關(guān)的檢測識別技術(shù)，“開發(fā)深度偽造技術(shù)的人要比檢測它的人多100 到1000 倍”[13]，這給各國安全部門抵御人工智能增強(qiáng)下的信息欺詐和輿論誘導(dǎo)制造了很多困難。此外，運(yùn)用人工智能系統(tǒng)的軍隊(duì)也給自身帶來了新的弱點(diǎn)，“算法投毒”、對抗性攻擊、誤導(dǎo)和誘騙機(jī)器算法目標(biāo)等都給軍事安全帶來了全新挑戰(zhàn)。

2.4 人工智能產(chǎn)生的跨域安全風(fēng)險

人工智能在核、網(wǎng)絡(luò)、太空等領(lǐng)域的跨域軍事應(yīng)用也將給軍事安全帶來諸多風(fēng)險。例如，人工智能運(yùn)用于核武器系統(tǒng)將增加大國核戰(zhàn)風(fēng)險。一方面，人工智能應(yīng)用于核武器系統(tǒng)可能會強(qiáng)化“先發(fā)制人”的核打擊動機(jī)。核武器是大國戰(zhàn)略威懾的基石，人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊將對核武器的可靠性構(gòu)成新的威脅，在戰(zhàn)時有可能極大削弱國家威懾力、破壞戰(zhàn)略穩(wěn)定。因此，盡管目前人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊能力的有效性并不確定，危機(jī)中仍將大大降低對手間的風(fēng)險承受能力，增加雙方“先發(fā)制人”的動機(jī)。信息對稱是智能化條件下大國間進(jìn)行良性競爭的基礎(chǔ)和保障，但現(xiàn)實(shí)情況往往是，在競爭激烈的戰(zhàn)略環(huán)境中，各國更傾向于以最壞設(shè)想來揣測他國意圖并以此為假設(shè)進(jìn)行斗爭準(zhǔn)備，尤其當(dāng)面對人工智能賦能下的愈加強(qiáng)大的針對核武器系統(tǒng)的網(wǎng)絡(luò)攻擊能力，“先下手為強(qiáng)”確乎成為國家尋求自保的有效手段。另一方面，人工智能技術(shù)在核武器系統(tǒng)領(lǐng)域的應(yīng)用還將壓縮決策時間。人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊幾乎發(fā)生在瞬間，一旦使核武器系統(tǒng)癱瘓，國家安全將失去重要屏障，給予決策者判斷是否使用核武器的壓力將激增。尤其在一個國家保持“基于預(yù)警發(fā)射”（lauch-on-warning)的情況下，核武器系統(tǒng)遭到人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊時幾乎無法進(jìn)行目標(biāo)探測并且發(fā)出警報(bào)，更不可能在短時間內(nèi)進(jìn)行攻擊溯源和判定責(zé)任歸屬，決策時間壓縮和態(tài)勢判斷困難會使決策者承受巨大壓力，極有可能造成戰(zhàn)略誤判，給世界帶來災(zāi)難。

人工智能與網(wǎng)絡(luò)的結(jié)合會極大提升國家行為體和非國家行為體的網(wǎng)絡(luò)能力，同時也會催生出一系列新的問題。首先，人工智能技術(shù)的網(wǎng)絡(luò)應(yīng)用將提升國家行為體的網(wǎng)絡(luò)攻擊能力，可能會加劇網(wǎng)絡(luò)領(lǐng)域的沖突。如前所述，基于人工智能的APT 攻擊可使得網(wǎng)絡(luò)攻擊變得更加便利，溯源問題也變得更加困難。與此同時，人工智能的網(wǎng)絡(luò)應(yīng)用可能會創(chuàng)造新的缺陷。目前人工智能的主要支撐技術(shù)是機(jī)器學(xué)習(xí)，而機(jī)器學(xué)習(xí)需要數(shù)據(jù)集來訓(xùn)練算法。一旦對方通過網(wǎng)絡(luò)手段注入“毒數(shù)據(jù)”（如假數(shù)據(jù)），則會使得原先的人工智能系統(tǒng)非正常運(yùn)行，可能帶來災(zāi)難性后果。其次，由于人工智能算法的機(jī)器交互速度遠(yuǎn)超人類的反應(yīng)速度，因此一旦將人工智能用于軍事領(lǐng)域的網(wǎng)絡(luò)作戰(zhàn)，還有可能帶來“閃戰(zhàn)”風(fēng)險，即人類還沒來得及完全理解，網(wǎng)絡(luò)空間的戰(zhàn)爭就已經(jīng)發(fā)生。此外，人工智能在太空領(lǐng)域的應(yīng)用可能對全球戰(zhàn)略穩(wěn)定和軍事安全帶來破壞性影響。在人工智能的加持下，傳統(tǒng)的反衛(wèi)星手段將變得更加精準(zhǔn)、更具破壞性、更難追溯，從而加大“先發(fā)制人”的動機(jī)，尋求先發(fā)優(yōu)勢。這容易破壞航天國家的軍事安全和全球戰(zhàn)略穩(wěn)定，因?yàn)楣粜l(wèi)星尤其是預(yù)警衛(wèi)星往往被視為發(fā)動核打擊的前兆。

3 結(jié) 語

總體國家安全觀強(qiáng)調(diào)，發(fā)展是安全的基礎(chǔ)和目的，安全是發(fā)展的條件和保障，二者要同步推進(jìn)，不可偏廢。既要善于運(yùn)用發(fā)展成果夯實(shí)國家安全的實(shí)力基礎(chǔ)，又要善于塑造有利于經(jīng)濟(jì)社會發(fā)展的安全環(huán)境，以發(fā)展促安全、以安全保發(fā)展[14]。因此，維護(hù)人工智能時代的軍事安全并不代表放棄人工智能的發(fā)展，反而要大力推動其應(yīng)用，使其成為維護(hù)軍事安全的重要手段和支撐，并注重化解風(fēng)險。如今，我國正處在由大向強(qiáng)發(fā)展的關(guān)鍵時期，人工智能有望成為驅(qū)動新一輪工業(yè)革命和軍事革命的核心技術(shù)。因此，我們需要搶抓此次重大歷史機(jī)遇，積極推動人工智能的研發(fā)和軍事應(yīng)用，推動軍事智能化建設(shè)穩(wěn)步發(fā)展，為建設(shè)世界一流軍隊(duì)增添科技支撐。

在當(dāng)今時代，沒有誰是一座孤島，人工智能對于軍事安全領(lǐng)域的影響是全球性的，因此推動人工智能領(lǐng)域的國際安全治理、構(gòu)建人類命運(yùn)共同體就顯得尤為重要。由于人工智能的迅猛發(fā)展，目前對于智能武器尤其是致命性自主武器系統(tǒng)的相關(guān)法律法規(guī)還并不完善，各國在如何應(yīng)對這些問題方面也沒有明確的方法、舉措和共識，但這些問題確關(guān)人類社會的未來前景和國際體系穩(wěn)定。為了維護(hù)我國的軍事安全以及整體的國家安全利益，應(yīng)當(dāng)推動人工智能技術(shù)治理尤其是安全領(lǐng)域的全球治理，在人工智能的軍事應(yīng)用邊界（如是否應(yīng)當(dāng)將其用于核武器指揮系統(tǒng)）、致命性自主武器系統(tǒng)軍備控制等領(lǐng)域開展共同磋商，在打擊運(yùn)用人工智能進(jìn)行恐怖犯罪等領(lǐng)域進(jìn)行合作，構(gòu)建人工智能時代的安全共同體和人類命運(yùn)共同體，維護(hù)國家軍事安全和人類和平福祉。