方濱興，時(shí)金橋，王忠儒 ，余偉強(qiáng)

（1.北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院，北京 100876；2.中國網(wǎng)絡(luò)空間研究院，北京 100010；3.北京丁?？萍加邢薰荆本?100081）

一、前言

近年來，網(wǎng)絡(luò)空間安全重大事件持續(xù)爆發(fā)，網(wǎng)絡(luò)安全威脅全面泛化。斯諾登事件、烏克蘭電網(wǎng)攻擊事件、美國大選干預(yù)事件等表明，網(wǎng)絡(luò)空間安全威脅覆蓋了從物理基礎(chǔ)設(shè)施、網(wǎng)絡(luò)信息系統(tǒng)到社交媒體信息，對(duì)虛擬世界、物理世界的諸多方面構(gòu)成威脅。網(wǎng)絡(luò)空間安全已經(jīng)成為非傳統(tǒng)安全的重要組成部分。隨著人工智能（AI）第三次浪潮的興起，人工智能向諸多行業(yè)、領(lǐng)域不斷滲透并交叉融合的趨勢已經(jīng)顯現(xiàn)。人工智能因其智能化與自動(dòng)化的識(shí)別及處理能力、強(qiáng)大的數(shù)據(jù)分析能力、可與網(wǎng)絡(luò)空間安全技術(shù)及應(yīng)用進(jìn)行深度協(xié)同的特性，對(duì)網(wǎng)絡(luò)空間安全的理論、技術(shù)、方法、應(yīng)用產(chǎn)生重要影響，促進(jìn)變革性進(jìn)步。

人工智能與網(wǎng)絡(luò)空間安全的交互融合，表現(xiàn)了“伴生”“賦能”兩種效應(yīng) [1]。①網(wǎng)絡(luò)空間安全在本質(zhì)上是一種伴生學(xué)科，每一種新技術(shù)的出現(xiàn)都會(huì)引發(fā)伴生的安全問題；人工智能的伴生安全問題主要是內(nèi)生安全問題、衍生安全問題，即由于人工智能自身在脆弱性、可預(yù)測性、可解釋性等方面存在的安全隱患或問題，將自身安全問題轉(zhuǎn)移或嫁接到人工智能應(yīng)用上，使得人工智能系統(tǒng)自身或者應(yīng)用人工智能技術(shù)的系統(tǒng)產(chǎn)生新的安全威脅；攻擊者可利用對(duì)抗樣本或數(shù)據(jù)投毒技術(shù)，自動(dòng)化構(gòu)造攻擊樣本，針對(duì)現(xiàn)有智能安全系統(tǒng)開展攻擊，造成人臉識(shí)別、車牌識(shí)別等系統(tǒng)功能降級(jí)，甚至引導(dǎo)實(shí)施網(wǎng)絡(luò)攻擊、物理攻擊 [2]。②人工智能在自身發(fā)展帶來新網(wǎng)絡(luò)空間安全威脅的同時(shí)，也從攻擊、防御方面給傳統(tǒng)網(wǎng)絡(luò)空間安全提供了顯著的賦能效應(yīng)，如基于機(jī)器學(xué)習(xí)、深度搜索的人工智能方法能夠提升網(wǎng)絡(luò)攻擊能力、自動(dòng)檢測網(wǎng)絡(luò)安全防御方法、制定智能化的攻擊策略；同樣，人工智能可輔助網(wǎng)絡(luò)空間安全從被動(dòng)防御趨向主動(dòng)防御，從而更快更好地識(shí)別威脅、縮短響應(yīng)時(shí)間；網(wǎng)絡(luò)空間的時(shí)空動(dòng)態(tài)變化復(fù)雜，人工智能技術(shù)可關(guān)聯(lián)分析日志、流量等不同渠道的數(shù)據(jù)，構(gòu)造多維數(shù)據(jù)關(guān)聯(lián)與智能分析模型的資產(chǎn)庫、漏洞庫、威脅庫，實(shí)現(xiàn)對(duì)有效網(wǎng)絡(luò)攻擊的全面、準(zhǔn)確、實(shí)時(shí)檢測 [3]。

人工智能在攻防兩方面的賦能效應(yīng)，極大地推動(dòng)了網(wǎng)絡(luò)空間攻防對(duì)抗的發(fā)展，引發(fā)新的安全威脅，催生新的對(duì)抗手段。對(duì)于網(wǎng)絡(luò)安全而言，人工智能是一把“雙刃劍”；人工智能與網(wǎng)絡(luò)空間安全深度結(jié)合，給經(jīng)濟(jì)、政治、社會(huì)、國防等領(lǐng)域帶來新威脅、新問題的同時(shí)，也為各國網(wǎng)絡(luò)空間安全發(fā)展提供了新機(jī)遇。本文系統(tǒng)分析人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域應(yīng)用帶來的安全問題，重點(diǎn)研究人工智能在網(wǎng)絡(luò)攻擊細(xì)分方向的賦能效應(yīng)，總結(jié)提煉人工智能賦能網(wǎng)絡(luò)攻擊的新興威脅場景、技術(shù)發(fā)展現(xiàn)狀、未來發(fā)展趨勢，以期為相關(guān)領(lǐng)域發(fā)展提供理論參考。

二、人工智能和網(wǎng)絡(luò)空間安全深度結(jié)合帶來的國家安全問題

（一）涉及的國家安全問題與威脅

1.政治安全方面

隨著網(wǎng)絡(luò)技術(shù)的迅猛發(fā)展及廣泛運(yùn)用，網(wǎng)絡(luò)政治作為一種新的政治形態(tài)呈現(xiàn)出來。公眾可以借助多元化網(wǎng)絡(luò)通道和途徑，較為自由地進(jìn)行政治表達(dá)和參與，影響政治過程，實(shí)現(xiàn)政治權(quán)利，但也可能引發(fā)各種政治安全問題。人工智能顯著加劇了政治安全領(lǐng)域中的現(xiàn)實(shí)威脅。例如，在2018年3月曝光的“劍橋分析”事件中 [4]，商業(yè)智能公司利用臉書用戶數(shù)據(jù)進(jìn)行人物畫像，自動(dòng)推送信息以影響選民在美國大選、英國脫歐等政治事件中的投票傾向；該事件標(biāo)志著數(shù)據(jù)智能從商業(yè)領(lǐng)域擴(kuò)散至政治領(lǐng)域，使得單純的網(wǎng)絡(luò)數(shù)據(jù)安全問題上升為現(xiàn)實(shí)的政治安全隱患。

人工智能技術(shù)應(yīng)用可引發(fā)使用數(shù)字自動(dòng)化塑造政治影響等新興安全威脅 [5]。例如，應(yīng)用深度偽造技術(shù)生成逼真的捏造視頻、音頻，編造領(lǐng)導(dǎo)人丑聞，偽造新聞進(jìn)行煽動(dòng)；利用人工智能的自然語言生成技術(shù)，自動(dòng)化構(gòu)造信息并進(jìn)行定制化的虛假宣傳活動(dòng)。這類具有數(shù)字自動(dòng)化特征的深度偽造威脅，借助各類媒體傳播虛假信息，具有極強(qiáng)的傳播勢能，可實(shí)現(xiàn)大規(guī)模、潛伏性的政治操縱和控制，將顯著加劇網(wǎng)絡(luò)空間政治安全威脅的影響力和對(duì)抗復(fù)雜性。

2.經(jīng)濟(jì)社會(huì)安全方面

人工智能與網(wǎng)絡(luò)安全深度結(jié)合將威脅和影響經(jīng)濟(jì)社會(huì)安全。隨著相關(guān)行業(yè)、企業(yè)、公眾對(duì)網(wǎng)絡(luò)技術(shù)與應(yīng)用依賴性的增加，與網(wǎng)絡(luò)犯罪相關(guān)的經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)也隨之增長?！?018年全球風(fēng)險(xiǎn)報(bào)告》認(rèn)為 [6]，網(wǎng)絡(luò)攻擊問題已經(jīng)成為僅次于極端天氣、自然災(zāi)害之外的世界第三大威脅。利用人工智能、大數(shù)據(jù)技術(shù)，攻擊者可以根據(jù)出生年月、電話、親屬、位置等關(guān)鍵個(gè)人信息，“量身定制”個(gè)性化的誘餌攻擊，實(shí)現(xiàn)高度逼真的自動(dòng)化社會(huì)工程攻擊。

借助自動(dòng)化、智能化工具，網(wǎng)絡(luò)罪犯可以針對(duì)大規(guī)模目標(biāo)開展高效、隱蔽的漏洞探測掃描，完成自動(dòng)利用和攻擊。人工智能技術(shù)驅(qū)動(dòng)的智能化、自動(dòng)化、規(guī)?；簦蔀榫W(wǎng)絡(luò)犯罪提供威脅更大、傳統(tǒng)防御系統(tǒng)更難防范的技術(shù)手段與方法，所產(chǎn)生的破壞力也更強(qiáng)，嚴(yán)重威脅和影響了經(jīng)濟(jì)社會(huì)安全。

3.國防安全方面

人工智能與網(wǎng)絡(luò)攻防結(jié)合程度的不斷加深，將極大改變傳統(tǒng)信息作戰(zhàn)的方式與手段。通過智能化的態(tài)勢感知、情報(bào)分析、網(wǎng)絡(luò)攻擊與癱瘓，可形成軍事先發(fā)優(yōu)勢并引發(fā)新型軍備競賽。在網(wǎng)絡(luò)武器方面，人工智能為國家級(jí)高級(jí)可持續(xù)威脅攻擊（APT）組織提供了新的工具與手段，針對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施實(shí)施滲透性、隱蔽性更強(qiáng)的網(wǎng)絡(luò)攻擊，嚴(yán)重影響其安全穩(wěn)定運(yùn)行。

2013年，美國國防高級(jí)研究計(jì)劃局（DARPA）發(fā)起的網(wǎng)絡(luò)安全挑戰(zhàn)賽（CGC）極大推動(dòng)了自動(dòng)化網(wǎng)絡(luò)攻防技術(shù)的發(fā)展；基于人工智能的新型網(wǎng)絡(luò)戰(zhàn)武器將明顯改變網(wǎng)絡(luò)空間軍事對(duì)抗格局，加速塑造不對(duì)稱競爭優(yōu)勢。2017年，美國成立算法戰(zhàn)跨職能小組，加速將大數(shù)據(jù)、人工智能、機(jī)器學(xué)習(xí)整合到國防部項(xiàng)目，重點(diǎn)推動(dòng)戰(zhàn)場空間態(tài)勢感知、自動(dòng)化網(wǎng)絡(luò)響應(yīng)等技術(shù)研發(fā)。算法層面的突破、數(shù)據(jù)數(shù)量與質(zhì)量的提升、計(jì)算能力的增長，為人工智能在國防領(lǐng)域的應(yīng)用提供了巨大的想象空間，將構(gòu)建新的戰(zhàn)略威脅。

（二）主要國家的應(yīng)對(duì)態(tài)勢

1.美國

美國憑借傳統(tǒng)技術(shù)優(yōu)勢，積極謀求在人工智能技術(shù)方向的主導(dǎo)地位；將網(wǎng)絡(luò)安全視為重要方面，高度重視人工智能在網(wǎng)絡(luò)安全領(lǐng)域的研究與應(yīng)用，爭取建立網(wǎng)絡(luò)攻防領(lǐng)域的戰(zhàn)略優(yōu)勢。

2016年，美國《為人工智能的未來做好準(zhǔn)備》報(bào)告提出，相關(guān)機(jī)構(gòu)的計(jì)劃和戰(zhàn)略應(yīng)考慮人工智能、網(wǎng)絡(luò)安全之間的相互影響；人工智能研究機(jī)構(gòu)應(yīng)確保人工智能技術(shù)自身及生態(tài)系統(tǒng)具備應(yīng)對(duì)智能對(duì)手挑戰(zhàn)、保持安全性和恢復(fù)力的優(yōu)勢；參與網(wǎng)絡(luò)安全工作的機(jī)構(gòu)應(yīng)采用美國自有的人工智能技術(shù)來高效實(shí)現(xiàn)網(wǎng)絡(luò)安全。同年發(fā)布的《人工智能、自動(dòng)化與經(jīng)濟(jì)》報(bào)告認(rèn)為，為有效應(yīng)對(duì)人工智能自動(dòng)化對(duì)經(jīng)濟(jì)的不利影響，應(yīng)從網(wǎng)絡(luò)防御、欺詐偵察的角度發(fā)展人工智能技術(shù)；典型應(yīng)用有基于人工智能的機(jī)器學(xué)習(xí)系統(tǒng)輔助人類迅速回應(yīng)網(wǎng)絡(luò)攻擊，人工智能高效解讀數(shù)據(jù)并預(yù)防網(wǎng)絡(luò)攻擊。

2017年，哈佛大學(xué)《人工智能與國家安全》報(bào)告指出，網(wǎng)絡(luò)武器將更頻繁地用于虛擬作戰(zhàn)；機(jī)器學(xué)習(xí)在軍事系統(tǒng)中應(yīng)用，將帶來新型漏洞并催生新型網(wǎng)絡(luò)攻擊手段；人工智能網(wǎng)絡(luò)武器一旦被盜或者非法復(fù)制，將被惡意使用；不斷進(jìn)步的自動(dòng)化將使失業(yè)問題、網(wǎng)絡(luò)攻擊問題更為嚴(yán)峻，進(jìn)而影響政治穩(wěn)定和國家安全。

2018年，美國國際戰(zhàn)略研究中心發(fā)布《人工智能與國家安全，人工智能生態(tài)系統(tǒng)的重要性》，報(bào)告認(rèn)為，在網(wǎng)絡(luò)安全或防御等領(lǐng)域，人類可能無法迅速作出反應(yīng)，首先掌握人工智能應(yīng)用的國家會(huì)有顯著優(yōu)勢；在網(wǎng)絡(luò)安全方面，人工智能技術(shù)可與僵尸網(wǎng)絡(luò)配合，實(shí)施攻擊并打垮防御。

2019年，美國發(fā)布新版《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》，列出了算法對(duì)抗、數(shù)據(jù)中毒、模型反轉(zhuǎn)等威脅人工智能安全的問題；要求在人工智能系統(tǒng)全生命周期考慮安全性問題，涵蓋初始設(shè)計(jì)，數(shù)據(jù)/模型的構(gòu)建、評(píng)估、驗(yàn)證、部署、操作、監(jiān)視等環(huán)節(jié)。

2021年3月，美國人工智能國家安全委員會(huì)發(fā)布建議報(bào)告，認(rèn)為美國尚未做好防御人工智能賦能新興威脅的準(zhǔn)備；提出2025年實(shí)現(xiàn)軍事人工智能戰(zhàn)備狀態(tài)的發(fā)展目標(biāo)，建議成立技術(shù)競爭力委員會(huì)等組織機(jī)構(gòu)，確保贏得競爭并增強(qiáng)防御能力。

2.其他國家

2018年，俄羅斯發(fā)布《人工智能在軍事領(lǐng)域的發(fā)展現(xiàn)狀以及應(yīng)用前景》，明確將人工智能視為戰(zhàn)略競爭的重要領(lǐng)域，推動(dòng)人工智能元素與無人集群、無人自主系統(tǒng)反制、雷達(dá)預(yù)警系統(tǒng)的整合，支持國家軍事能力提升。

2016年，日本防衛(wèi)省發(fā)布《中長期技術(shù)規(guī)劃》，推動(dòng)發(fā)展可快速處理海量情報(bào)數(shù)據(jù)的人工智能技術(shù)、能夠應(yīng)對(duì)網(wǎng)絡(luò)攻擊的廣域分散情報(bào)通信系統(tǒng)技術(shù)，由此提升態(tài)勢感知、情報(bào)共享、電子攻防、指揮控制能力。

2018年，印度發(fā)布《人工智能國家戰(zhàn)略》，注重利用人工智能技術(shù)促進(jìn)經(jīng)濟(jì)增長并提升社會(huì)包容性，尋求適合國情的人工智能規(guī)劃部署。印度將利用人工智能技術(shù)開發(fā)武器、防御、監(jiān)視系統(tǒng)，制定人工智能發(fā)展路線圖；研究機(jī)器學(xué)習(xí)在軍兵種、網(wǎng)絡(luò)安全、核、生物資源等領(lǐng)域應(yīng)用，以自主化武器、無人監(jiān)視系統(tǒng)為代表。

三、人工智能賦能網(wǎng)絡(luò)攻擊的安全威脅場景與典型技術(shù)

（一）人工智能賦能網(wǎng)絡(luò)攻擊帶來的新型威脅場景

1.自主化、規(guī)模化的拒絕服務(wù)攻擊威脅

近年來，隨著物聯(lián)網(wǎng)（IoT）的逐步普及、工控系統(tǒng)的廣泛互聯(lián)，直接暴露在網(wǎng)絡(luò)空間的聯(lián)網(wǎng)設(shè)備數(shù)量大幅增加。Mirai IoT僵尸網(wǎng)絡(luò)分布式拒絕服務(wù)攻擊（DDoS）事件（2016年）表明，攻擊者正在利用多種手段控制海量IoT設(shè)備，將這些受感染的IoT設(shè)備組成僵尸網(wǎng)絡(luò)，發(fā)動(dòng)大規(guī)模DDoS攻擊并可造成網(wǎng)絡(luò)阻塞和癱瘓。除了呈現(xiàn)大規(guī)模攻擊的典型特點(diǎn)之外，網(wǎng)絡(luò)攻擊者越發(fā)注重將人工智能技術(shù)應(yīng)用于僵尸網(wǎng)絡(luò)攻擊，據(jù)此進(jìn)化出智能化、自主化特征。

2018年全球威脅態(tài)勢預(yù)測 [7]表明，人工智能技術(shù)未來將大量應(yīng)用在類似的蜂群網(wǎng)絡(luò)中，可使用數(shù)百萬個(gè)互連的設(shè)備集群來同步識(shí)別并應(yīng)對(duì)不同的攻擊媒介，進(jìn)而利用自我學(xué)習(xí)能力，以前所未有的規(guī)模對(duì)脆弱系統(tǒng)實(shí)施自主攻擊。這種蜂巢僵尸集群可進(jìn)行智能協(xié)同，根據(jù)群體情報(bào)自主決策采取行動(dòng)，無需僵尸網(wǎng)絡(luò)的控制端來發(fā)出命令；無中心的自主智能協(xié)同技術(shù)，使得僵尸網(wǎng)絡(luò)規(guī)?？赏黄泼羁刂仆ǖ赖南拗贫杀对鲩L，顯著擴(kuò)大了同時(shí)攻擊多個(gè)目標(biāo)的能力。人工智能賦能的規(guī)?；?、自主化主動(dòng)攻擊，向傳統(tǒng)的僵尸網(wǎng)絡(luò)對(duì)抗提出了全新挑戰(zhàn)，催生了新型網(wǎng)絡(luò)空間安全威脅。

2.智能化、高仿真的社會(huì)工程學(xué)攻擊威脅

社會(huì)工程學(xué)利用人性弱點(diǎn)來獲取有價(jià)值信息，作為攻擊方法是一種欺騙的藝術(shù)。社會(huì)工程學(xué)網(wǎng)絡(luò)攻擊雖出現(xiàn)已久，但始終是較為有效的攻擊手段；特別是魚叉式網(wǎng)絡(luò)釣魚，因成效顯著、傳統(tǒng)安全性防御機(jī)制難以阻止而成為研究關(guān)注重點(diǎn)。隨著人工智能應(yīng)用的拓展，社會(huì)工程學(xué)攻擊日益呈現(xiàn)智能化、高仿真特征。攻擊者利用社交媒體等開放獲取的個(gè)人隱私數(shù)據(jù)，自動(dòng)學(xué)習(xí)并構(gòu)造虛假信息，讓受攻擊目標(biāo)不引起懷疑而自愿上鉤。

在2016年美國黑帽大會(huì)上，網(wǎng)絡(luò)安全公司ZeroFOX的安全研究員展示了一種帶有偵察功能的社交網(wǎng)絡(luò)自動(dòng)釣魚攻擊方法 [8]；利用機(jī)器學(xué)習(xí)算法，通過網(wǎng)絡(luò)大數(shù)據(jù)挖掘個(gè)人的出生年月、電話、親屬關(guān)系、位置等關(guān)鍵信息，自動(dòng)生成定制化、高仿真的惡意網(wǎng)站/電子郵件/鏈接；模仿相關(guān)聯(lián)系人的通信內(nèi)容風(fēng)格并騙取信任，從模仿真實(shí)聯(lián)系人的地址發(fā)送出來，有效提升釣魚攻擊的有效率。利用人工智能技術(shù)，攻擊者還可創(chuàng)建逼真的低成本偽造音頻和視頻，將網(wǎng)絡(luò)釣魚攻擊空間從電子郵件擴(kuò)展到其他通信域（如電話會(huì)議、視頻會(huì)議），加劇了社會(huì)工程學(xué)攻擊威脅。

3.智能化、精準(zhǔn)化的惡意代碼威脅

隨著人工智能技術(shù)的發(fā)展，攻擊者傾向于針對(duì)惡意代碼攻擊鏈的各個(gè)攻擊環(huán)節(jié)進(jìn)行賦能，增強(qiáng)攻擊的精準(zhǔn)性，提升攻擊的效率與成功率，有效突破網(wǎng)絡(luò)安全防護(hù)體系，對(duì)防御方造成重大損失。在惡意代碼生成構(gòu)建方面，深度學(xué)習(xí)賦能惡意代碼生成相較傳統(tǒng)的惡意代碼生成具有明顯優(yōu)勢，可大幅提升惡意代碼的免殺和生存能力。在惡意代碼攻擊釋放過程中，攻擊者可將深度學(xué)習(xí)模型作為實(shí)施攻擊的核心組件之一，利用深度學(xué)習(xí)中神經(jīng)網(wǎng)絡(luò)分類器的分類功能，對(duì)攻擊目標(biāo)進(jìn)行精準(zhǔn)識(shí)別與打擊。

在2018年美國黑帽大會(huì)上，國際商業(yè)機(jī)器公司（IBM）研究院展示了一種人工智能賦能的惡意代碼DeepLocker [9]，借助卷積神經(jīng)網(wǎng)絡(luò)（CNN）模型實(shí)現(xiàn)了對(duì)特定目標(biāo)的精準(zhǔn)定位與打擊，驗(yàn)證了精準(zhǔn)釋放惡意代碼威脅的技術(shù)可行性。目前，這類攻擊手法已被攻擊者應(yīng)用于實(shí)際的高級(jí)持續(xù)性威脅攻擊，一旦繼續(xù)拓寬應(yīng)用范圍，將難以實(shí)現(xiàn)對(duì)抗防范；如果將之與網(wǎng)絡(luò)攻擊武器結(jié)合，有可能提升戰(zhàn)斗力并造成嚴(yán)重威脅和破壞。

（二）人工智能賦能網(wǎng)絡(luò)攻擊的典型技術(shù)

1.網(wǎng)絡(luò)資產(chǎn)自動(dòng)探測識(shí)別技術(shù)

網(wǎng)絡(luò)資產(chǎn)探測識(shí)別指追蹤、掌握網(wǎng)絡(luò)資產(chǎn)情況的過程。從安全攻擊的角度看，網(wǎng)絡(luò)資產(chǎn)探測識(shí)別可用于滲透（或攻擊）前的信息收集，了解目標(biāo)網(wǎng)絡(luò)內(nèi)主機(jī)的操作系統(tǒng)類型、開放端口以及所運(yùn)行的應(yīng)用程序類型與版本信息。準(zhǔn)確掌握目標(biāo)網(wǎng)絡(luò)的安全狀況，有助于選取高效的攻擊方法。

在網(wǎng)絡(luò)資產(chǎn)探測識(shí)別的人工智能應(yīng)用方面，當(dāng)前最具代表性的技術(shù)應(yīng)用是基于機(jī)器學(xué)習(xí)的操作系統(tǒng)指紋識(shí)別技術(shù)。引入機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等方法，進(jìn)行操作系統(tǒng)指紋識(shí)別，可以較短的建模時(shí)間、較高的準(zhǔn)確率，實(shí)現(xiàn)基于協(xié)議棧指紋被動(dòng)操作系統(tǒng)的識(shí)別，提高未精確匹配指紋的識(shí)別率。

2.智能社會(huì)工程學(xué)攻擊技術(shù)

自動(dòng)化社會(huì)工程學(xué)攻擊技術(shù)指利用機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等方法，實(shí)現(xiàn)釣魚式攻擊、電腦蠕蟲傳播、垃圾郵件散發(fā)等的完整攻擊過程自動(dòng)化?；谧匀徽Z言生成（NLG）的自動(dòng)化網(wǎng)絡(luò)釣魚是一種典型攻擊方法，攻擊者利用深度學(xué)習(xí)分析文本內(nèi)容，識(shí)別目標(biāo)感興趣的主題，生成目標(biāo)可能響應(yīng)的文本內(nèi)容；常用于以電子郵件、社交網(wǎng)站作為攻擊代碼傳輸載體的新型網(wǎng)絡(luò)釣魚攻擊。

在2016年第七屆新西蘭黑客大會(huì)上，意大利安全專家發(fā)布了一種自動(dòng)化網(wǎng)絡(luò)釣魚工具 [10]，在在對(duì)澳大利亞公務(wù)員的調(diào)查測試中，成功欺騙了40%的參與人員。2019年，有研究基于NLG技術(shù)構(gòu)建了高級(jí)電子郵件偽裝攻擊生成引擎 [11]，評(píng)估實(shí)驗(yàn)表明，生成的偽裝電子郵件具有更好的連貫性、更少的語法錯(cuò)誤，是效果更優(yōu)的網(wǎng)絡(luò)釣魚電子郵件攻擊手段。

3.智能惡意代碼攻擊技術(shù)

機(jī)器學(xué)習(xí)算法已經(jīng)普遍應(yīng)用于網(wǎng)絡(luò)安全檢測領(lǐng)域，然而相關(guān)檢測系統(tǒng)容易受到對(duì)抗性攻擊；攻擊者可以構(gòu)造“良性”樣本，成功繞過機(jī)器學(xué)習(xí)分類器的識(shí)別。對(duì)抗機(jī)器學(xué)習(xí)在惡意代碼中插入一部分對(duì)抗性樣本，可繞過安全產(chǎn)品的檢測；甚至根據(jù)安全產(chǎn)品的檢測邏輯，自動(dòng)化地在每次迭代中自發(fā)更改代碼和簽名形式，確保自動(dòng)修改代碼逃避反病毒產(chǎn)品檢測且功能不受影響。2018年，有研究利用深度強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)提出了一種基于對(duì)抗樣本生成的黑盒攻擊方法，用于攻擊靜態(tài)的可執(zhí)行文件（PE）殺毒引擎 [12]。這是第一個(gè)可以產(chǎn)生對(duì)抗性PE惡意代碼的研究工作，模擬真實(shí)攻擊的成功率達(dá)到90%。隨著人工智能在對(duì)抗機(jī)器學(xué)習(xí)領(lǐng)域的拓寬應(yīng)用與進(jìn)化，可以預(yù)見，基于生成對(duì)抗網(wǎng)絡(luò)的逃逸攻擊會(huì)成為對(duì)抗機(jī)器學(xué)習(xí)方面的重要方向和技術(shù)趨勢。

此外，在傳統(tǒng)惡意代碼被發(fā)布后，攻擊目標(biāo)和意圖往往是確定的，可通過逆向工程、網(wǎng)絡(luò)監(jiān)聽等方法分析得知。在人工智能技術(shù)的助力下，惡意代碼通過內(nèi)嵌深度神經(jīng)網(wǎng)絡(luò)模型，可在代碼開源的前提下依然確保攻擊目標(biāo)、攻擊意圖、高價(jià)值載荷的高度機(jī)密性，由此顯著提升攻擊的隱蔽性。此類攻擊的代表性成果是IBM研究院的DeepLocker惡意代碼。

4.自動(dòng)化漏洞挖掘與利用技術(shù)

自動(dòng)化漏洞挖掘與利用指在無人工干預(yù)的基礎(chǔ)上，自動(dòng)化挖掘軟件內(nèi)部缺陷并利用該缺陷使軟件實(shí)現(xiàn)非預(yù)期功能。2013年，DARPA發(fā)起了CGC項(xiàng)目，旨在實(shí)現(xiàn)漏洞挖掘、分析、利用、修復(fù)等環(huán)節(jié)的完全自動(dòng)化，進(jìn)而建立具備自動(dòng)化攻擊與防御能力的高性能網(wǎng)絡(luò)推理系統(tǒng)。2014—2016年，CGC比賽在漏洞自動(dòng)攻防方向進(jìn)行了嘗試，引起廣泛關(guān)注。參賽團(tuán)隊(duì)建立自動(dòng)攻擊防御系統(tǒng)，實(shí)現(xiàn)無人干預(yù)條件下的自動(dòng)尋找程序漏洞、自動(dòng)生成漏洞利用程序攻擊敵方、自動(dòng)部署補(bǔ)丁程序抵御對(duì)手攻擊的基本能力。國內(nèi)自2017年起組織開展了類似的自動(dòng)攻防比賽，促進(jìn)了相關(guān)技術(shù)發(fā)展和新型網(wǎng)絡(luò)安全系統(tǒng)構(gòu)建。

四、人工智能賦能網(wǎng)絡(luò)攻擊的技術(shù)發(fā)展趨勢

隨著人工智能與網(wǎng)絡(luò)安全的深度結(jié)合，人工智能賦能網(wǎng)絡(luò)攻擊與傳統(tǒng)網(wǎng)絡(luò)攻擊在技術(shù)與手法上相比，將使過去勞動(dòng)密集型、成本高昂的攻擊手法開始徹底轉(zhuǎn)型，朝著分布式、智能化、自動(dòng)化方向發(fā)展，從而形成更為精準(zhǔn)和快速的自動(dòng)化攻擊手法。相關(guān)技術(shù)發(fā)展趨勢有以下三點(diǎn)。

一是利用人工智能學(xué)習(xí)環(huán)境特征，增強(qiáng)攻擊的適應(yīng)性與隱蔽性。在攻擊目標(biāo)的網(wǎng)絡(luò)環(huán)境中，數(shù)據(jù)、行為等均具有一定的本地化特征。攻擊者利用人工智能對(duì)目標(biāo)網(wǎng)絡(luò)中的數(shù)據(jù)、行為等特征等進(jìn)行收集和建模，學(xué)習(xí)目標(biāo)網(wǎng)絡(luò)環(huán)境中正常的數(shù)據(jù)內(nèi)容、傳輸頻率、傳遞方法等環(huán)境特征；參考環(huán)境特征來選擇合適的攻擊手段，將攻擊數(shù)據(jù)偽裝成目標(biāo)網(wǎng)絡(luò)中具有正常特征的普通數(shù)據(jù)，將攻擊行為偽裝成目標(biāo)網(wǎng)絡(luò)中正常用戶的網(wǎng)絡(luò)行為；實(shí)現(xiàn)環(huán)境自適應(yīng)的攻擊行為、數(shù)據(jù)隱藏，提升攻擊的隱蔽性，增強(qiáng)攻擊的適應(yīng)性。

二是利用人工智能增強(qiáng)分布式協(xié)作效果，提高攻擊的魯棒性。攻擊者引入分布式智能協(xié)同算法，將傳統(tǒng)的由智能中心統(tǒng)一調(diào)度分布式攻擊實(shí)體開展協(xié)作攻擊，演化為無中心的分布式多智能攻擊實(shí)體的自主協(xié)同和群體決策，從而提高多個(gè)分布式攻擊節(jié)點(diǎn)之間的協(xié)作效率，降低對(duì)中心化協(xié)同調(diào)度的依賴性，減少攻擊反制的風(fēng)險(xiǎn)，提升攻擊的魯棒性。

三是利用人工智能實(shí)現(xiàn)攻擊方式的自我進(jìn)化，提升攻擊的有效性。攻擊者利用人工智能分析不同攻擊方式下的攻擊效果及防御方的可能應(yīng)對(duì)措施，進(jìn)而針對(duì)防御方的弱點(diǎn)自動(dòng)選擇新的攻擊機(jī)制，據(jù)此實(shí)現(xiàn)攻擊方式的智能進(jìn)化。例如，攻擊者可將防御方入侵檢測系統(tǒng)的結(jié)果作為反饋，采用人工智能技術(shù)對(duì)反饋數(shù)據(jù)進(jìn)行收集和建模分析，建立攻擊效果模型，動(dòng)態(tài)調(diào)整合適攻擊方式，規(guī)避入侵檢測系統(tǒng)。

五、人工智能賦能網(wǎng)絡(luò)攻擊威脅的應(yīng)對(duì)建議

（一）強(qiáng)化研究與應(yīng)用，推動(dòng)智能化網(wǎng)絡(luò)攻防體系建設(shè)和能力升級(jí)

著眼人工智能賦能網(wǎng)絡(luò)攻擊的威脅和影響，從防范安全威脅、構(gòu)建對(duì)等能力的視角著手，盡快開展重大關(guān)鍵技術(shù)研究。推動(dòng)“產(chǎn)學(xué)研”機(jī)構(gòu)以有效應(yīng)對(duì)人工智能賦能攻擊新型威脅場景為首要需求，從攻防兩方面進(jìn)行聯(lián)合攻關(guān)，開展智能化威脅態(tài)勢感知、自動(dòng)化漏洞挖掘與利用、智能惡意代碼等技術(shù)研究。加快人工智能技術(shù)在國家、重要行業(yè)關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)方面的體系化應(yīng)用，整體性完成智能化升級(jí)換代，大幅提升關(guān)鍵信息基礎(chǔ)設(shè)施安全保障、網(wǎng)絡(luò)安全態(tài)勢感知、網(wǎng)絡(luò)安全防御、網(wǎng)絡(luò)威懾的能力水平。為管控人工智能帶來的新型網(wǎng)絡(luò)安全威脅，應(yīng)加強(qiáng)相關(guān)法律法規(guī)建設(shè)，規(guī)范人工智能網(wǎng)絡(luò)安全健康發(fā)展，延緩并阻止與特定威脅相關(guān)的活動(dòng)。

（二）加強(qiáng)共享和利用，破解人工智能網(wǎng)絡(luò)攻防技術(shù)體系建設(shè)的數(shù)據(jù)難題

人工智能訓(xùn)練數(shù)據(jù)集既是人工智能安全研究中最有價(jià)值的數(shù)字資產(chǎn)，又是關(guān)乎人工智能安全能力建設(shè)成功與否的戰(zhàn)略資產(chǎn)。然而，目前人工智能安全訓(xùn)練數(shù)據(jù)缺乏安全、可控、可追溯的手段進(jìn)行共享利用，這成為限制人工智能攻防技術(shù)快速發(fā)展的重要因素之一。建議以國家實(shí)驗(yàn)室等權(quán)威機(jī)構(gòu)為依托，利用區(qū)塊鏈等新型技術(shù)構(gòu)建人工智能數(shù)據(jù)靶場，形成安全可信、激勵(lì)機(jī)制合理的共享利用框架，促進(jìn)人工智能數(shù)據(jù)資產(chǎn)的有效利用，落實(shí)以數(shù)據(jù)為中心的人工智能網(wǎng)絡(luò)攻防技術(shù)發(fā)展路徑。

（三）加強(qiáng)對(duì)抗和評(píng)估，促進(jìn)人工智能網(wǎng)絡(luò)攻防技術(shù)實(shí)用性發(fā)展

人工智能攻防屬于持續(xù)對(duì)抗升級(jí)的技術(shù)，實(shí)際應(yīng)用效果依賴對(duì)抗環(huán)境的全面性和真實(shí)性。然而由于科研條件尚不充分，現(xiàn)有人工智能攻防技術(shù)研究難以復(fù)現(xiàn)實(shí)際的攻防對(duì)抗環(huán)境，對(duì)人工智能自動(dòng)化攻防技術(shù)從理論走向?qū)嶋H構(gòu)成明顯制約。

建議以國家實(shí)驗(yàn)室等權(quán)威機(jī)構(gòu)為依托，構(gòu)建人工智能攻防對(duì)抗靶場，通過權(quán)威評(píng)估、技術(shù)挑戰(zhàn)賽、測試驗(yàn)證等形式，有效推動(dòng)人工智能網(wǎng)絡(luò)攻擊、自動(dòng)化漏洞發(fā)現(xiàn)與利用的效能評(píng)估和對(duì)抗分析，促進(jìn)人工智能攻防技術(shù)加速朝著實(shí)用方向發(fā)展。

六、結(jié)語

網(wǎng)絡(luò)空間安全威脅全面滲透虛擬世界和物理世界，給各國的政治、經(jīng)濟(jì)、社會(huì)和國防帶來了巨大的安全風(fēng)險(xiǎn)和挑戰(zhàn)。人工智能與網(wǎng)絡(luò)空間安全威脅的深度結(jié)合，則進(jìn)一步加劇現(xiàn)實(shí)安全威脅，催生新型安全威脅，給國家安全帶來了更加嚴(yán)峻的挑戰(zhàn)。人工智能賦能網(wǎng)絡(luò)攻擊，在大數(shù)據(jù)等關(guān)聯(lián)技術(shù)的輔助下，使網(wǎng)絡(luò)攻擊愈發(fā)呈現(xiàn)出大規(guī)模、自動(dòng)化、智能化等新的特點(diǎn)，必將帶動(dòng)和促進(jìn)網(wǎng)絡(luò)空間防御技術(shù)、手段、能力的進(jìn)化與發(fā)展。

當(dāng)前，在人工智能賦能網(wǎng)絡(luò)攻防的發(fā)端之際，誰搶先找到人工智能與網(wǎng)絡(luò)攻防在技術(shù)、數(shù)據(jù)、模型等層面的最佳結(jié)合點(diǎn)，搶先形成網(wǎng)絡(luò)攻防領(lǐng)域的“技術(shù)差”“應(yīng)用差”，誰就可能搶占網(wǎng)絡(luò)空間對(duì)抗的技術(shù)制高點(diǎn)，從而形成對(duì)抗博弈優(yōu)勢，掌握網(wǎng)絡(luò)空間主動(dòng)權(quán)和威懾力。我國應(yīng)加強(qiáng)人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的戰(zhàn)略應(yīng)用，從防范新型威脅、積極應(yīng)對(duì)挑戰(zhàn)兩個(gè)方面開展工作，著力解決人工智能在網(wǎng)絡(luò)攻防領(lǐng)域應(yīng)用中面臨的數(shù)據(jù)、對(duì)抗、評(píng)估等實(shí)際問題，推動(dòng)人工智能攻防盡快從理論研究走向?qū)嶋H應(yīng)用。識(shí)別人工智能帶來的新型網(wǎng)絡(luò)空間安全威脅，提升智能威脅感知應(yīng)對(duì)能力，確保在人工智能變革的背景下有效維護(hù)國家網(wǎng)絡(luò)空間主權(quán)，保障網(wǎng)絡(luò)空間核心利益，為國家安全和發(fā)展保駕護(hù)航。