朱啟超 龍 坤

近年來，隨著人工智能技術的快速發(fā)展和應用，算法戰(zhàn)這一概念越來越受到美軍重視，并采取一系列舉措，推動算法戰(zhàn)由概念走向實戰(zhàn)應用。本文從算法戰(zhàn)的概念演變出發(fā)，探究美軍推動算法戰(zhàn)的動因，考察其在籌劃算法戰(zhàn)方面的主要布局，并對這一作戰(zhàn)概念的整體前景及美軍推進算法戰(zhàn)面臨的障礙進行分析。

算法戰(zhàn)概念的緣起與發(fā)展

“算法”通常是指描述解決問題的一系列清晰指令，“戰(zhàn)爭”則是千百年來軍隊試圖使敵方屈服于己方意志的終極手段。當“算法”遇上“戰(zhàn)爭”，會產生怎樣的化學反應？

“算法戰(zhàn)”這一概念較早見于2013年4月美國智庫項目主任詹森·希利的《震網事件預示算法戰(zhàn)時代來臨》文章中。該文指出，震網病毒是首個用算法取代人手來扣動扳機的自主武器，這預示著算法戰(zhàn)的時代或將來臨。

此后，算法戰(zhàn)這一概念日益受到美國學術界和軍方的重視。2016年9月，哈佛大學法學院發(fā)布了一份題為《戰(zhàn)爭算法問責》的研究報告，該報告將“戰(zhàn)爭算法”定義為“通過電腦代碼表達、利用構建系統(tǒng)實現以及能在戰(zhàn)爭行動中運作的算法”。2017年4月26日，美國防部明確建立算法戰(zhàn)跨職能小組，標志著美國軍方對算法戰(zhàn)這一概念的正式認可。

美軍籌劃算法戰(zhàn)的主要動因

綜合分析來看，美軍高度重視算法軍事應用的動因如下。

一是開發(fā)戰(zhàn)爭算法，破解數據爆炸式增長帶來的情報分析難題。美軍推動算法戰(zhàn)的直接誘因是軍事大數據的顯著增長給情報分析機構帶來了巨大的處理難題。隨著各類傳感器與計算機設備的高速發(fā)展和應用，全世界的數據量呈指數級增長。面對鋪天蓋地的大數據，僅憑坐在辦公室里的軍事專業(yè)分析人員已無力應付。與此同時，算力的顯著提升及機器學習算法的進步，為快速而準確地分析大數據提供了有效手段。算法的快速、準確、無疲勞等特征使之在大數據分析領域大展身手，展現出遠超人類的能力。正因如此，美國防部聯合人工職能中心主任約翰·杰克·沙納漢中將甚至稱算法是“世界上最優(yōu)秀、訓練最有素的數據分析師”。

美軍高度重視算法的軍事應用

二是牽引美軍軍事智能化進程，塑造美軍技術和信息優(yōu)勢。美軍希望通過推進算法戰(zhàn)牽引人工智能快速嵌入軍事領域，推動軍隊智能化建設，利用算法洞察戰(zhàn)爭中快速變化的風險與機遇，提升指揮決策效率，塑造信息優(yōu)勢。

美軍高層認為，信息優(yōu)勢是維持美軍優(yōu)勢地位的關鍵，美國防部必須在行動中更加有效地運用人工智能技術，以在紛繁復雜的戰(zhàn)場信息中找出最有價值的情報，驅散己方面臨的“戰(zhàn)爭迷霧”，同時增大對方的不確定性，塑造人工智能時代的新型信息優(yōu)勢。美國防部認識到，要將接收到的海量數據快速轉換為可參考的有價值情報，因此率先設立算法戰(zhàn)跨職能小組，推動其發(fā)展。

三是推動作戰(zhàn)概念創(chuàng)新，加快第三次“抵消戰(zhàn)略”落地。美軍推動算法戰(zhàn)的根本目的是通過引入人工智能這一關鍵技術，推動作戰(zhàn)概念的創(chuàng)新和作戰(zhàn)樣式的轉型，提升美軍的戰(zhàn)斗力，維持美軍優(yōu)勢地位。

美軍此次大力推進算法戰(zhàn)，延續(xù)了試圖通過構設新型作戰(zhàn)概念引領世界的傳統(tǒng)，同時也顯現出美軍對自身霸權地位衰落的焦慮感。前美國防部副部長羅伯特·沃克強調，過去美軍通過精確制導武器等塑造的技術優(yōu)勢地位正在慢慢喪失，因此美軍要籌劃第三次“抵消戰(zhàn)略”，用快速發(fā)展的新興技術塑造美軍的新一輪優(yōu)勢，而自主深度學習系統(tǒng)、人機協(xié)作、機器輔助人類作戰(zhàn)、高級人機編隊及自主武器就是這一戰(zhàn)略的五大關鍵支柱。因此，推動算法戰(zhàn)實質上也是為了推動美軍第三次“抵消戰(zhàn)略”的落地，抵消競爭對手軍事實力的提升，維持美軍在21世紀的霸權地位。

美軍籌劃算法戰(zhàn)的主要舉措

總體來看，美軍在推動算法戰(zhàn)落地方面主要有以下舉措。

頂層設計：出臺人工智能戰(zhàn)略和云戰(zhàn)略。人工智能已經上升到美國的國防和國家戰(zhàn)略高度，而算法戰(zhàn)則是美軍人工智能戰(zhàn)略的重要組成部分?！?018美國國防戰(zhàn)略》強調，國防部將大力推動人工智能和機器學習的軍事應用，以獲得軍事競爭優(yōu)勢。2019年2月，美國防部發(fā)布《美國防部2018人工智能戰(zhàn)略概要》，標志著美軍人工智能戰(zhàn)略正式出臺。該戰(zhàn)略共明確了五大戰(zhàn)略舉措，其中與算法戰(zhàn)密切相關的是第1條舉措——“利用人工智能解決美軍關鍵問題”，具體包括利用人工智能提升美軍態(tài)勢感知與決策能力、實施預測性維護和補給等。

美國防部也十分注重大數據和云計算基礎設施的發(fā)展。2018年12月國防部出臺《云戰(zhàn)略》，強調獲取數據和隨時處理數據的能力將是確保虛擬世界戰(zhàn)爭勝利的關鍵，明確推動國防部朝著企業(yè)云環(huán)境的方向發(fā)展，建立一個由一般目的（通用云）和特定目的（定制云）的云平臺組成的生態(tài)系統(tǒng)。通用云的實現方式是建立聯合企業(yè)防御基礎設施，而在通用云不能滿足任務需求的情況下，則使用定制云。顯然，這一戰(zhàn)略的實施將為美軍推動算法戰(zhàn)提供數據和計算支撐。

組織保證：建立算法戰(zhàn)相關機構。算法戰(zhàn)跨職能小組是美軍推動算法戰(zhàn)的首個專門機構。2017年4月，前美國防部副部長羅伯特·沃克簽署了一份關于主題為“專家項目”的備忘錄，指示組建算法戰(zhàn)跨職能小組，首要任務是開發(fā)分析戰(zhàn)術無人機系統(tǒng)采集的全動態(tài)視頻的戰(zhàn)爭算法，以減輕美空軍在無人機視頻數據分析領域的人力負擔，配合打擊“伊斯蘭國”組織的情報、監(jiān)視和偵察，后逐漸推廣到其他國防情報任務領域。據美國防務系統(tǒng)網站披露，美國算法戰(zhàn)跨職能小組2019年底已開發(fā)出4套智能算法，預計將很快投入實戰(zhàn)應用。

聯合人工智能中心是目前美軍推動人工智能戰(zhàn)略落地的核心機構。這一機構由美國防部于2018年6月正式成立，旨在統(tǒng)籌國防部各機構在人工智能領域的行動。目前，該機構已將算法戰(zhàn)跨職能小組并入其中，研究重點包括情報探知、預測性維護與供應以及網絡空間等領域，這些都與算法戰(zhàn)密切相關。除此之外，美國還設立了多個人工智能專門機構，軍地共同推動人工智能的發(fā)展和應用。

項目推進：出臺系列算法戰(zhàn)相關項目。美國防部將人工智能的軍事應用作為當前優(yōu)先任務之一，并出臺了大量項目。前美國防部長詹姆斯·馬蒂斯在2018年披露，美軍目前約有592個與人工智能相關的項目。其中，不乏存在與算法戰(zhàn)密切相關的一些項目，具有代表性的項目如下表所示。

美軍算法戰(zhàn)部分相關研發(fā)項目

與這些項目相伴隨的是美國防部大量的資金支持。2018年9月，美國防高級研究計劃局宣布，擬對“下一代人工智能”研究投入20億美元的資金。最新的《2021財年美國國防授權法案提議》也特別強調對人工智能等關鍵技術進行投資，建議對人工智能投資8.41億美元。

算法戰(zhàn)的前景分析

算法戰(zhàn)跨職能小組是美軍推進算法戰(zhàn)的重要部門，現已并入聯合人工智能中心

盡管美軍籌劃的算法戰(zhàn)抓住了目前人工智能顯現的巨大潛力，并在一些領域取得了顯著成效。但從未來發(fā)展看，算法戰(zhàn)這一概念及其推進仍面臨著許多問題。

算法安全面臨諸多挑戰(zhàn)。算法是算法戰(zhàn)的核心，這就使得算法的能力高低和安全與否成為成敗關鍵。當前，人工智能算法面臨諸多安全挑戰(zhàn)，主要可分為兩大類：內部的可靠性問題和外部的攻擊利用問題。

從內部來看，目前的人工智能算法仍然屬于弱人工智能階段，能夠在下棋和識別圖像等專門領域表現良好。但在戰(zhàn)爭中，如果戰(zhàn)場環(huán)境發(fā)生變化，一些針對特定任務和場景設計的人工智能系統(tǒng)就可能會出現紊亂或失誤。

從外部來看，人工智能算法還容易受到來自外界的攻擊和利用。對抗性數據是一個尤為突出的問題，用于軍事領域算法訓練的數據可能會遭受對手的“投毒”，破壞算法的效能。研究表明，圖像識別算法就十分容易受到像素級“毒”數據的影響。

此外，針對算法所在系統(tǒng)存在的漏洞進行網絡攻擊可使算法失效、紊亂乃至系統(tǒng)倒戈相向，從而給被攻擊的一方帶來戰(zhàn)術失利甚至災難性后果。

算法難以消除“戰(zhàn)爭迷霧”?！皯?zhàn)爭迷霧”是千百年來困擾戰(zhàn)爭參與者的一大難題?？藙谌S茨曾指出，“戰(zhàn)爭是不確定性的王國；作戰(zhàn)行動基于的種種因素大半掩藏在或大或小的不確定性迷霧之中”。現代戰(zhàn)爭雖然擺脫了之前信息匱乏的困境，但是也使得虛假的信息增多，從瀚如煙海的信息中捕捉到真實和有用信息變得十分困難，從而為戰(zhàn)爭蒙上了另一層迷霧。

美國推動人工智能發(fā)展的主要政府機構

雖然人工智能算法在情報搜集和分析上能夠發(fā)揮巨大效力，使得信息優(yōu)勢向技術優(yōu)勢方傾斜，但是軍事對抗系統(tǒng)復雜性的提高必然帶來新的不確定性，系統(tǒng)復雜性和不確定性相生相克的客觀規(guī)律仍然適用于這一領域。

最能說明這一問題的是近年日漸興起的深度偽造技術。該技術可通過生成對抗網絡等算法自動生成圖像、視頻以及文本等虛假信息，用于訓練的數據越多，深度偽造產品就會越逼真，甚至達到以假亂真的程度，使得眼見也不一定為實。這無疑將給戰(zhàn)場帶來更多的不確定性，令身處其中的士兵和指揮官難辨信息真假。

位于硅谷的谷歌總部

因此，人工智能算法的軍事應用仍難以消除“戰(zhàn)爭迷霧”，不確定性仍會廣泛存在于算法戰(zhàn)中。

催生新的倫理和問責困境。算法戰(zhàn)的推進離不開對致命性自主武器系統(tǒng)的研發(fā)，而這類武器系統(tǒng)的戰(zhàn)場使用將帶來新的倫理和法律問題。

在倫理方面，隨著人工智能算法逐步走向戰(zhàn)場，在未來可能到來的全面算法戰(zhàn)中，天空是呼嘯而來的無人機蜂群，地面是機器人，海下是無人潛航器甚至無人核潛艇。在毫無憐憫之心的致命性自主武器系統(tǒng)面前，被人類奉為最高價值的生命和尊嚴可能受到算法的漠視甚至踐踏。

在法律問責方面，基于人工智能算法的致命性自主武器系統(tǒng)在誤傷濫殺后還容易帶來責任真空。由于存在算法所在的人工智能系統(tǒng)因環(huán)境擾動或外部攻擊而未按照指揮官意圖行事的風險，一旦發(fā)生事故責任將容易懸置。在這種情況下，究竟是將責任歸之于算法的設計者、制造系統(tǒng)的國防承包商，還是人工智能系統(tǒng)的操作者，抑或是指揮行動的指揮官，似乎都不太合適。如何處理這些問題，也是推進算法戰(zhàn)面臨的一大挑戰(zhàn)。

美軍推進算法戰(zhàn)仍面臨諸多障礙。除了算法戰(zhàn)概念本身存在的問題之外，美軍推進算法戰(zhàn)也面臨著諸多文化、流程和人員方面的挑戰(zhàn)。

首先，硅谷科技公司與美軍的理念沖突對美軍推進算法戰(zhàn)帶來了障礙，這方面以谷歌退出Maven項目事件為主要代表。2018年3月，由于擔心人工智能技術被用于制作戰(zhàn)爭武器，有悖于公司“不作惡”的價值觀，谷歌公司3100多名員工聯名要求公司立即終止參與Maven項目，并聲明永不開發(fā)戰(zhàn)爭技術。最終，谷歌迫于壓力退出項目，并制定了谷歌人工智能原則，以平息內部抗議。

其次，美軍推進算法戰(zhàn)還面臨著安全和性能標準等流程問題。通常而言，民用和軍用的安全和性能標準是不一樣的，在民用人工智能應用中可以接受的錯誤率在作戰(zhàn)環(huán)境則可能難以接受。

再次，美國防部采購速度的緩慢性也可能使私營企業(yè)望而卻步。研究顯示，美軍從私營企業(yè)采購一項技術系統(tǒng)的過程平均需要91個月，而商業(yè)公司對人工智能這類軟件系統(tǒng)在6～9個月內就能交付產品。正因如此，有12家公司都以國防采購流程過于繁瑣為由拒絕與軍隊合作。

此外，美軍在招募和保留算法戰(zhàn)人才方面也面臨挑戰(zhàn)。相比商業(yè)公司對人工智能技術專家開出的高薪，美國防部在經濟報酬上并不占優(yōu)勢。加之一些技術工作者認為在谷歌、亞馬遜等私營企業(yè)比在體制內更能實現自己的技術理想和抱負，也對美軍吸引算法戰(zhàn)人才構成挑戰(zhàn)。

結語

美軍通過戰(zhàn)略規(guī)劃、機構設立及項目推進等措施積極籌劃算法戰(zhàn)，目的是運用人工智能算法解決目前軍隊面臨的現實難題，同時快速推動軍隊智能化建設和作戰(zhàn)理論創(chuàng)新，塑造美軍的新一輪技術優(yōu)勢，維持其軍事霸權地位。但是，算法戰(zhàn)的推進面臨著算法安全、組織流程、文化等方面的挑戰(zhàn)，難以驅散“戰(zhàn)爭迷霧”，并會帶來新的倫理和法律問責問題。

同時應當看到，人工智能算法并不能解決一切問題。盡管目前的人工智能算法在解決特定問題領域強于人類，但是在解決可編程范圍外的戰(zhàn)爭問題時，仍無法離開理性分析能力、靈活應變能力、道德分辨能力等人類智能。想要決勝未來戰(zhàn)場，既需要挖掘人工智能算法的精準、快速、冷酷等優(yōu)勢，更需要充分發(fā)揮人類士兵和指揮官在靈活應變、全局意識、情境判斷等方面的智慧，打造類似“半人馬戰(zhàn)士”的人機混合系統(tǒng)。