李長亮

美國企業(yè)家馬斯克日前聯(lián)合26國的116名科學家和企業(yè)家，向聯(lián)合國發(fā)表公開信，呼吁禁止發(fā)展和使用人工智能武器，并對其展開嚴格監(jiān)督。信中提到，發(fā)展人工智能武器，會帶來人類軍事史上第三次戰(zhàn)爭革命，導致武裝沖突進入前所未有的規(guī)模，且在演變速度上超越人類的理解和控制范圍。

所謂人工智能武器，是指致命自主武器系統(tǒng)，很多科幻電影中出現(xiàn)的戰(zhàn)爭機器人就屬于此類。它與普通武器根本的區(qū)別是，不需要人類的直接監(jiān)督和決策，能夠自動鎖定目標并使用潛在武力予以致命打擊。人工智能武器有利的一面顯而易見：將其投入到戰(zhàn)場，會降低成本以及保護軍事人員的生命安全。

但人工智能武器不利的一面也很可怕——一個簡單的程序，就會將其改裝成屠殺平民的恐怖機器，其危害性遠遠超過了常規(guī)武器。軍火是暴利行業(yè)，基于人工智能技術(shù)，自主化武器會給殺傷屬性帶來質(zhì)的變化，必定會誘使軍火行業(yè)鋌而走險。

目前世界上還沒有嚴格意義上的人工智能武器，人類的監(jiān)督和決策在武器使用過程中仍必不可少。比如在戰(zhàn)場上發(fā)揮了極高軍事應用價值的遠程武裝無人機，雖然高度自動化，集成控制、定位、圖像處理等多種尖端技術(shù)，也需要配備專業(yè)的軍事技術(shù)人員進行操作。但隨著人工智能技術(shù)的爆發(fā)式發(fā)展，技術(shù)問題不會再是發(fā)展人工智能武器的壁壘，美國的雷神等公司可能已經(jīng)掌握或正在開發(fā)相關技術(shù)。

戰(zhàn)爭是政治和外交的極端暴力手段，是違背人類和平發(fā)展愿望的，但在目前的人類文明發(fā)展階段，產(chǎn)生戰(zhàn)爭的根源還存在，因此軍事的發(fā)展是一個主權(quán)國家必不可少的投入。其中武器的發(fā)展，是矛和盾不斷交替進化的過程，在制造利矛的同時，要考慮其可能為敵所用的后果，要有盾牌予以應對，比如針對導彈的反導技術(shù)等等。

如果在技術(shù)上無法對某些危害極大的武器進行限制，就需要戰(zhàn)爭法規(guī)公約進行制約，保護交戰(zhàn)人員和平民免遭不必要的非法傷害，減少戰(zhàn)爭的殘酷性。到今天為止，國際社會已經(jīng)締結(jié)多個針對武器使用的條約：1925年簽訂的《日內(nèi)瓦議定書》禁止在戰(zhàn)爭中使用化學武器和生物武器；1968年由59個國家簽訂的《不擴散核武器條約》限制核能軍事化應用；1972年簽訂的《關于禁止發(fā)展、生產(chǎn)和儲存細菌(生物)及毒素武器和銷毀此種武器的公約》制約細菌毒素武器；1980年簽訂的《禁止或限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規(guī)武器公約》限制潛在大殺傷力武器；同樣，針對人工智能武器，美國國防部在2012年發(fā)布指令，允許半自主武器系統(tǒng)使用武力，但要限制其自主程度。這意味著美國政府不反對武器智能化，但要確保所有武器在人類絕對控制下。

任何武器都具有潛在的危險性，哪怕一把匕首，都會傷人性命。關鍵是看它在誰的手里，是用來維護和平，還是用來屠殺生靈。比如核武器，其對世界的威脅是毀滅性的，僅僅冷戰(zhàn)期間，美國和蘇聯(lián)擁有的核彈就足以毀滅地球若干次。但在當初國力基礎薄弱的中國，正是因為原子彈的試驗成功，大大增強了國防戰(zhàn)力，提高了在世界格局中的話語權(quán)，為世界和平作出了巨大貢獻。

世界并不太平,和平需要守護。我國應在保證安全、遵守國際公約的前提下，發(fā)展人工智能技術(shù)在軍事領域的應用，增強我國戰(zhàn)力，這也符合我軍的強軍目標。正義之師的戰(zhàn)斗力越強，對世界和平做出的貢獻就越大。▲

（作者是中科院自動化所學者）