◆但少華

人工智能安全問題及其解決方向

◆但少華

（湖北省赤壁市人民檢察院 湖北 437300）

人工智能的出現(xiàn)無疑開啟了人類歷史的新時(shí)代，它在給國家和社會(huì)帶來進(jìn)步和發(fā)展的同時(shí)，也帶來了巨大的安全威脅。如何解決新時(shí)代下人工智能的安全問題成為網(wǎng)絡(luò)信息領(lǐng)域的當(dāng)務(wù)之急。本文筆者首先對人工智能及其發(fā)展進(jìn)行介紹，然后從倫理、社會(huì)秩序、隱私以及系統(tǒng)整體性四個(gè)層面分析人工智能的信息安全威脅，最后提出人工智能安全問題的規(guī)避策略。

人工智能；安全問題；解決策略

0 引言

近年來，人工智能已經(jīng)成為了一個(gè)炙手可熱的名詞，圍棋天才柯潔大戰(zhàn)阿爾法狗和第一個(gè)擁有人類身份證的機(jī)器人索菲亞等這一系列現(xiàn)象的出現(xiàn)讓人們在感嘆人工智能給世界帶來巨大變化的同時(shí)也引起了人們對于信息安全的擔(dān)憂。一項(xiàng)新技術(shù)的出現(xiàn)，如果能夠有效利用，將會(huì)引領(lǐng)時(shí)代的進(jìn)步和發(fā)展，但是忽略了其潛在威脅，就會(huì)適得其反。人工智能技術(shù)的出現(xiàn)，也意味著一場革命，在市場競爭如此激烈的時(shí)代浪潮裹挾下，我國的人工智能是否能夠引領(lǐng)時(shí)代發(fā)展，關(guān)鍵在于如何解決人工智能的信息安全問題。

1 人工智能及其發(fā)展

從根本上說，人工智能就是一項(xiàng)信息處理系統(tǒng)，它主要通過輸入圖像或者文字信息，進(jìn)行感知、分析和學(xué)習(xí)，進(jìn)而采取恰當(dāng)?shù)男袆?dòng)解決問題。由于人工智能天生具備的信息屬性決定了其信息安全問題會(huì)全程貫穿在其應(yīng)用中。世界范圍內(nèi)的各領(lǐng)域各行業(yè)都感受到了人工智能帶來的巨大變化，政府部門在制度設(shè)計(jì)上出臺(tái)了各種政策促進(jìn)人工智能的發(fā)展，技術(shù)人員也試圖搶占技術(shù)的高點(diǎn)。我國的《新一代人工智能發(fā)展規(guī)劃》和十三五規(guī)劃都對人工智能的發(fā)展進(jìn)行了詳細(xì)的戰(zhàn)略部署。中國具有天然的市場優(yōu)勢，目前人工智能的發(fā)展態(tài)勢十分樂觀，人們?nèi)粘＋@取信息、網(wǎng)購和出行等都離不開人工智能技術(shù)的支持。2017年，麻省理工科技評論公布的全球十大突破技術(shù)之中，深度學(xué)習(xí)、刷臉支付以及自動(dòng)駕駛位列其中，而這些技術(shù)的研究者中科大訊飛、阿里巴巴、百度等都是中國企業(yè)。除此之外，我國的人工智能還被引入了政務(wù)領(lǐng)域，有效地提升了工作效率，促進(jìn)了政府服務(wù)的創(chuàng)新。

2. 人工智能信息安全威脅分析

2.1 倫理安全

隨著人工智能的發(fā)展，越來越多智能化、自動(dòng)化的設(shè)備進(jìn)入了我們的日常生活，同時(shí)它們也面臨著現(xiàn)有法律、社會(huì)規(guī)范以及倫理道德的挑戰(zhàn)。比如世界圍棋大師李世石與人工智能機(jī)器人阿爾法狗的對決，人們會(huì)擔(dān)心未來人工智能會(huì)取代人類，索菲亞成為第一個(gè)擁有人類身份的機(jī)器人，人們會(huì)擔(dān)心如果她對人造成傷害怎么辦，這些現(xiàn)象都不符合我們的傳統(tǒng)認(rèn)知。除此之外，人工智能技術(shù)的進(jìn)步，逐漸取代了那些重復(fù)性的工作，導(dǎo)致相關(guān)從業(yè)人員出現(xiàn)極大的心理恐慌。

2.2 影響社會(huì)秩序

傳統(tǒng)的信息系統(tǒng)依賴于人的操作和控制，但是人工智能技術(shù)有一個(gè)自己的“大腦”，在一定程度上可以自我控制。人工智能控制的機(jī)器人、無人駕駛汽車、無人機(jī)等設(shè)備都具備一些自主行為，一旦受到安全威脅，就會(huì)帶來極大的破壞，例如無人駕駛汽車失控后對交通系統(tǒng)造成的影響，而且人工智能系統(tǒng)設(shè)備的行為還會(huì)給同一系統(tǒng)的人員帶來諸多的干擾和麻煩，導(dǎo)致現(xiàn)有秩序的混亂。

2.3 隱私安全

人工智能催生了大數(shù)據(jù)時(shí)代，人、事、物可以實(shí)現(xiàn)綜合的管理，沒有人是一座孤島，不可避免地會(huì)與周圍的人事物產(chǎn)生聯(lián)系，在大數(shù)據(jù)的作用下，個(gè)人的家庭信息、聯(lián)系方式、賬號(hào)密碼，甚至是出行軌跡、消費(fèi)情況和健康狀況等，都可以通過智能設(shè)備、互聯(lián)網(wǎng)或者傳感設(shè)備實(shí)現(xiàn)數(shù)據(jù)的獲取，如果這些信息都被曝光，那么個(gè)人隱私安全就會(huì)受到極大的威脅。

2.4 系統(tǒng)整體性安全

人工智能系統(tǒng)中的大部分?jǐn)?shù)據(jù)都被保存在云端，通過大數(shù)據(jù)分析向控制端發(fā)出指令，進(jìn)而形成傳輸、智能處理。在此過程中，如果該人工智能系統(tǒng)受到攻擊或者設(shè)備故障，將會(huì)引發(fā)整個(gè)系統(tǒng)的危機(jī)，就算是局部的安全風(fēng)險(xiǎn)，也會(huì)在短時(shí)間內(nèi)迅速擴(kuò)散，形成更大的安全威脅。

3 人工智能安全問題的規(guī)避策略

3.1 樹立科學(xué)的安全觀念

建立起對人工智能安全問題的科學(xué)意識(shí)，消除恐慌和擔(dān)憂的情緒，更好地利用技術(shù)促進(jìn)社會(huì)的進(jìn)步和發(fā)展，是規(guī)避人工智能安全問題的重點(diǎn)。將人工智能安全問題絕對化一定程度上是在將安全風(fēng)險(xiǎn)擴(kuò)大化，相關(guān)行業(yè)人員應(yīng)該樹立起科學(xué)的觀念，辯證看待人工智能的安全問題，立足發(fā)展，認(rèn)真權(quán)衡利弊，別讓安全問題阻斷了發(fā)展的道路，應(yīng)該運(yùn)用規(guī)則的作用，以更先進(jìn)的管理手段和技術(shù)措施應(yīng)對人工智能所帶來的負(fù)面影響。

3.2 完善法律法規(guī)，制定道德準(zhǔn)則

政府應(yīng)充分發(fā)揮主導(dǎo)作用，專家作為技術(shù)宣傳的主體應(yīng)該肩負(fù)起普及人工智能信息安全相關(guān)知識(shí)的責(zé)任，公眾要積極參與其中，發(fā)揮整個(gè)社會(huì)的協(xié)同作用，針對人工智能的不同環(huán)節(jié)和應(yīng)用場景，研究人工智能安全發(fā)展方略，明確各主體的權(quán)利和義務(wù)。同時(shí)，有關(guān)部門制定相關(guān)的法律法規(guī)，劃定人工智能安全發(fā)展的邊界，并鼓勵(lì)公眾參與到倫理道德準(zhǔn)則的制定過程之中，在人工智能的科研團(tuán)隊(duì)中開展相關(guān)倫理道德的知識(shí)宣傳工作，發(fā)揮倫理道德的柔性約束作用。

3.3 確立有效的發(fā)展策略

任何一項(xiàng)技術(shù)的出現(xiàn)都會(huì)經(jīng)歷一個(gè)相對漫長的發(fā)展過程，過去很多技術(shù)都是遵循先發(fā)展后治理的原則，但是當(dāng)技術(shù)發(fā)展速度越快，產(chǎn)生的影響就會(huì)越大，滯留的問題就會(huì)越多。人工智能具備自主、智能和自適應(yīng)的特征，因此要改變發(fā)展策略，將發(fā)展和治理放在同一高度來看待，歐美各國在人工智能的發(fā)展戰(zhàn)略中將安全管控和風(fēng)險(xiǎn)治理都納入了其中，防微杜漸，這是我們需要學(xué)習(xí)和借鑒的。在新一代人工智能的發(fā)展過程中，應(yīng)該以科學(xué)的態(tài)度迎接安全挑戰(zhàn)，做好相關(guān)的安全保障措施，才能更好地促進(jìn)人工智能的發(fā)展。

3.4 創(chuàng)新加快科學(xué)普及，強(qiáng)化輿論引導(dǎo)

要構(gòu)建一個(gè)健康的人工智能發(fā)展環(huán)境，就要加大科普宣傳力度，發(fā)揮輿論的引導(dǎo)作用，傳遞正能量，讓人們認(rèn)識(shí)和了解人工智能的發(fā)展現(xiàn)狀以及取得的成果。針對人工智能是否會(huì)取代人類等一系列疑問，相關(guān)專業(yè)人士應(yīng)該進(jìn)行科學(xué)宣傳和引導(dǎo)，消除人們對人工智能的誤解，幫助他們打消疑慮，營造和諧穩(wěn)定的社會(huì)氛圍，提升全社會(huì)的科技認(rèn)知水平，讓人工智能更好地為人類服務(wù)。

3.5 人工智能的安全評估與管理

當(dāng)前人工智能正以飛快的速度向前發(fā)展，相關(guān)人士應(yīng)對其可能產(chǎn)生的危害以及危害的程度進(jìn)行科學(xué)的評估，人工智能產(chǎn)生的安全性已不容忽視。由于人工智能產(chǎn)生在出現(xiàn)問題之前沒有任何預(yù)兆，因此人們會(huì)認(rèn)為高科技所造成的后果是十分嚴(yán)重的，進(jìn)而導(dǎo)致對相應(yīng)安全問題嚴(yán)重性做出偏高的主觀評價(jià)，這也體現(xiàn)了人工智能安全評估和管理的重要性。安全評估主要著眼于那些未發(fā)生但存在發(fā)生可能性的事件，并將其數(shù)據(jù)化，計(jì)算事故發(fā)生的概率、劃分危險(xiǎn)等級，并制定相應(yīng)的安全標(biāo)準(zhǔn)和對策措施，從中選擇最佳方案，以預(yù)防事故的發(fā)生。對人工智能進(jìn)行安全評估，不僅能夠讓技術(shù)人員更加全面地認(rèn)識(shí)到研發(fā)對象的特性，設(shè)計(jì)出更加全面且安全的系統(tǒng)，同時(shí)在工程技術(shù)當(dāng)中，安全評估是安全管理的重要內(nèi)容。

4 結(jié)語

綜上所述，人工智能給人類社會(huì)帶來的深刻變革是有目共睹的，縱觀歷史，每一個(gè)經(jīng)濟(jì)繁榮時(shí)代的到來都是由新技術(shù)引領(lǐng)的。隨著人工智能技術(shù)的不斷進(jìn)步，人工智能在給人類帶來更多技術(shù)上的變革和生活上的便捷的同時(shí)，也存在著一些安全隱患。在這個(gè)智能時(shí)代背景下，我們應(yīng)該理性看待人工智能的影響，同時(shí)還要用發(fā)展的眼光看待人工智能的發(fā)展，因?yàn)樗秃帽仁且话选半p刃劍”。當(dāng)然，更重要的是，我們不應(yīng)將人工智能的安全問題丟給未來，人工智能安全問題不僅是網(wǎng)絡(luò)安全領(lǐng)域面臨的問題，更是全世界都需要解決的問題，只有真正解決了人工智能的安全問題，才能將人類引入更加光明和幸福的未來。

[1]杜嚴(yán)勇.人工智能安全問題及其解決進(jìn)路[J].哲學(xué)動(dòng)態(tài),2016.

[2]史博偉,傅曉微. 美國的國家網(wǎng)絡(luò)安全戰(zhàn)略及其借鑒意義[J].南京郵電大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2016.

[3]何哲.人工智能時(shí)代的政府適應(yīng)與轉(zhuǎn)型[J].行政管理改革,2016.

[4]郭華. 基于人工智能的網(wǎng)絡(luò)安全技術(shù)[J].電子技術(shù)與軟件工程,2017.

[5]邵江寧.基于人工智能后發(fā)制人的網(wǎng)絡(luò)安全新對策[J]. 信息安全研究,2017.