本刊綜合報道

AI 與智能化戰(zhàn)爭

本刊綜合報道

現代戰(zhàn)爭中，人類越來越依靠人工智能（AI）對戰(zhàn)爭局勢、走向實施研判。盡管信息化戰(zhàn)爭還在軍事領域主導，但智能化戰(zhàn)爭的帷幕已逐漸拉開。

2017年1月1日，英國《每日快報》網站報道稱，俄羅斯國防部長紹伊古在國家電視臺播放的一部紀錄片中透露，俄正在研制的巨無霸計算機可對戰(zhàn)場形勢進行全面而高速的分析，從而提前掌握戰(zhàn)機。報道說，這臺計算機采用南斯拉夫戰(zhàn)爭期間開發(fā)的技術，能夠分析艦隊所在方位與國際關系，從而就正在發(fā)展的局勢以及何時應該采取軍事行動向普京發(fā)出警報。紹伊古說：“這是一個開放的系統(tǒng)?，F在，其中的模塊可以添加或撤出。我們甚至還沒有用到其一半的潛能。它能夠讓我們進行更有效、更快的情報信息處理?！眻蟮肋€說，這臺計算機僅僅是俄羅斯晝夜不停地運行、以分析情報和數據的秘密數字防務中心的一部分。

美軍推出的第三次“抵消戰(zhàn)略”也認為，以智能化軍隊、自主化裝備和無人化戰(zhàn)爭為標志的軍事變革風暴正在來臨。為此，美國將通過發(fā)展智能化作戰(zhàn)平臺、信息系統(tǒng)和決策支持系統(tǒng)，以及定向能、高超聲速、仿生、基因、納米等新型武器，到2035年前初步建成智能化作戰(zhàn)體系，對主要對手形成新的軍事“代差”。到2050年前智能化作戰(zhàn)體系將發(fā)展到高級階段，作戰(zhàn)平臺、信息系統(tǒng)、指揮控制全面實現智能化甚至無人化，實現真正的“機器人戰(zhàn)爭”。

“第三次革命”

人工智能武器的出現，被稱為戰(zhàn)爭史上繼火藥、核武器之后的“第三次革命”。

《參考消息》于2016年9月登載了日本軍事評論家古是三春題為《世界已進入人工智能戰(zhàn)爭時代》的文章，簡要分析了為什么人工智能武器被稱為“第三次革命”：火藥的出現是“第一次革命”，不易受個人能力左右的槍支和火炮實現實用化，軍隊構成更加大眾化和大量化；核武器實用化是“第二次革命”，擁有核武器意味著可以進行以破壞整個國家為前提的戰(zhàn)略性對峙，持核國家具有國際影響力。兩次革命分別使此前的戰(zhàn)爭方式完全發(fā)生變化。人工智能也具有從根本上改變戰(zhàn)爭方式的潛力，由“人vs.人”的戰(zhàn)爭變成“機器自主性殺人”的戰(zhàn)爭。

人工智能武器的實用化和實際運用已在眼前。國防科技大學軍事專家石海明說：“在大國角逐的重要空間，表面上看似風平浪靜，但各種運用尖端科技的無人化、智能化作戰(zhàn)武器與平臺已越來越多?！?/p>

將人工智能應用到作戰(zhàn)上已有先例，層出不窮的武裝機器人系統(tǒng)和應用廣泛的無人機就是最明顯的例子。

在非戰(zhàn)爭軍事行動中，大數據技術早已廣泛使用。尤其是反恐領域，利用大數據篩查可疑分子、降低恐襲風險已經是日常反恐的重要手段。2013年波士頓馬拉松爆炸案中，恐怖分子以高壓鍋和背包為作案工具展開襲擊。事后，有人在網上同時搜索上述兩種工具，警方立即利用大數據技術捕捉相關信息，進而調查搜索者的目的，大大降低了恐襲風險。

在人工智能介入戰(zhàn)爭指揮方面，美國國防高級研究計劃局（DARPA）研制的“深綠”系統(tǒng)最為出名。五角大樓試圖仿制曾戰(zhàn)勝人類棋手的超級計算機“深藍”，利用計算機造出一個智能化輔助系統(tǒng)，幫助指揮員決策，并隨著作戰(zhàn)進程不斷調整和改進，使作戰(zhàn)效能大幅提高。

質疑：Al可能會超越人類控制

新技術的誕生總是伴隨著欣喜和擔憂。將AI應用于戰(zhàn)爭也一直是爭議的焦點，還有人將AI與核技術作比較：愛因斯坦年輕時勸羅斯?？偨y(tǒng)一定要在俄國之前發(fā)明出原子彈，而此后卻因為對核武器毀滅性力量的擔心，后半生都堅定地站在反核的隊伍中。

AI用于戰(zhàn)爭也受到一些科技權威的質疑。不少專家擔憂，先進的自動化武器可能會將人類視為威脅，從而危及人類生命安全。

2015年7月，在阿根廷召開的國際人工智能聯合會議上，包括著名天體物理學家霍金在內的上千位AI領域的專家學者簽署聲明，警告公眾軍事型AI競爭（military artificial intelligence arms race）的威脅，呼吁徹底禁止對“進攻性自動武器”(offensive autonomous weapons）的研發(fā)。

這封公開信里說到，AI技術的進展已經到了一個拐點，自動作戰(zhàn)的武器系統(tǒng)（可能是戰(zhàn)地機器人，也可能是具備高度戰(zhàn)爭智慧的導彈進攻系統(tǒng)）幾年內就能在技術上實現?！白灾餍臀淦鞑恍枰邇r或難以得到的原料，因此可以在各處普及。如果是主要軍事大國，則可以廉價批量生產。”“（自主型武器的部署）將超越人類的有效控制?！币苍S會有更多人因此而喪生。

質疑的另一個理由，是AI技術用于戰(zhàn)爭可能產生戰(zhàn)爭倫理問題。

2008年，美軍海軍研究辦公室就此發(fā)表了一份報告，認為，運用于戰(zhàn)爭的自主機器人無法承擔法律責任。根據1949年簽署的戰(zhàn)爭人道主義《日內瓦公約》要求任何襲擊需要滿足“軍事必須、參與戰(zhàn)爭者和非參戰(zhàn)者差別對待、軍事目標價值及其潛在附帶傷害的平衡”3個條件，而當前自動武器很難做出這些主觀判斷。目前國際人道法律對此類技術還沒有具體規(guī)定，國際社會也未明確支持一個限制或禁止此類武器系統(tǒng)的條約。

石海明認為：“在無人化戰(zhàn)爭中，作戰(zhàn)主體遠離戰(zhàn)場，無人化武器以一種‘非人性化’的方式殺人，沒有承擔戰(zhàn)爭危險的倫理性，也沒有對戰(zhàn)爭苦難的情感體驗，‘隔離因素’將戰(zhàn)爭的發(fā)動者與實施者區(qū)分了開來。有關戰(zhàn)爭責任的倫理問題就出現了，到底參戰(zhàn)的自主機器人是不是戰(zhàn)斗員？又應當承擔何種戰(zhàn)爭的責任？”

目前機器人還無法分辨平民和士兵，當然也無法為自己的行為負責。相關戰(zhàn)爭責任的追究也成為一個十分棘手的問題。

“人算”VS“機算”

科學家對AI用于戰(zhàn)爭的擔憂，更多地來自戰(zhàn)爭倫理層面的考慮，普通人對AI的顧慮卻來自對人類自身價值的擔憂：面對機算制造的戰(zhàn)爭挑戰(zhàn)，人類還有施謀用計的空間嗎？

答案是，未必。戰(zhàn)爭是一門藝術，而不是單純的科學。純粹程序化的設計應用到戰(zhàn)爭中時，很可能會因為程序設定而產生“盲區(qū)”。

以美軍使用的“人跡嗅探器”為例，這是一種懸掛在直升機、長著“鼻子”的雷達，它能記錄人體的體溫和氣味，并借此發(fā)現叢林中隱藏的敵軍。美軍將這些嗅探器使用到戰(zhàn)區(qū)時，卻被對手發(fā)現了嗅探器的致命缺憾：它們能探出氨，卻無法區(qū)分目標究竟是人、動物還是靜止的物體。于是美軍的對手沿著被廢棄的小道地區(qū)懸掛上水牛的尿包，循著味道而來的B-52轟炸機，真的把廢棄的小道當作敵軍進行了輪番的“無效轟炸”。

這樣的例子并不鮮見。以當前的人工智能水平，機器對目標和威脅的判斷還相對簡單初級，對臨界點的判斷可靠度難以保證。

軍事專家李路介紹，2016年6月，英國某潛艇上的一枚三叉戟Ⅱ-D5潛射洲際導彈誤射向美國本土，情急之下英國將該情況通知美國。美得到消息后卻發(fā)現，本應自動搜索、自動響應的本土反導系統(tǒng)卻毫無反應。好在導彈并未安裝核彈頭，最終在美西部無人區(qū)上空自毀。

“假如當時自動反應機制及時反應并運行了，則理應觸發(fā)核報復機制，美國的核彈將會自動射向英國，后果將不堪設想。因此，在重大問題上機器替代人做出反擊決策，可能還有較長的路要走”，李路說。

2016年4月，美國國防部副部長羅伯特·沃克在“無人駕駛”軍艦“海上獵手”號（Sea Hunter）的命名儀式上發(fā)表講述時曾專門介紹，未來可能會在“海上獵手”號上部署武器，但使用致命武器的任何操作決定必須來自于人類。（本文內容參考《科技日報》《中國航天報》36kr等媒體相關報道）