王美麗

摘要：近年來，隨著人工智能技術(shù)的不斷發(fā)展，人們開始重視人工智能的安全問題。眾所周知，人工智能在許多方面要優(yōu)于人類，而且隨著技術(shù)不斷發(fā)展，有望超過人類智能，如果人工智能失去控制，必然會帶來嚴重的安全問題。本文主要研究人工智能安全性問題以及如何控制好人工智能的發(fā)展，使其有利于人類社會，避免給人類帶來危害。

關(guān)鍵詞：人工智能；安全問題；解決思路

一、研究人工智能安全問題的必要性

（一）存在人工智能超越人類智能的可能性

機器是人類研究出來，可以說人類有著較高的智能水平，遠高于其他生物，所以才能為地球的統(tǒng)治者。近年來，人工智能技術(shù)不斷的發(fā)展，雖然人工智能是人類依靠程序設(shè)計出來，但是依靠其運行，可以在某些領(lǐng)域超出人類的表現(xiàn)。例如，人工智能阿爾法狗在圍棋戰(zhàn)中，取得勝利，見下圖。因此，人工智能逐步超越人類智能是可能的。有學(xué)者從未來學(xué)和哲學(xué)的角度，分析人工智能，人為人工智能是人類發(fā)展出來，而且有望超越人類?？萍及l(fā)展史證明了，科學(xué)家的許多寓言終將成為現(xiàn)實，從人工智能的發(fā)展來看，人們十分重視人工智能，在未來時期內(nèi)，必將迎來新一輪的高速發(fā)展。因此，可以看出，人工智能發(fā)展速度較快，在不久的將來必然會超越人類智能。

人工智能同圍棋大師進行圍棋比賽圖

（二）人工智能存在危害性而且后果嚴重

人工智能的發(fā)展，讓人們憂心忡忡，主要表現(xiàn)在，人工智能的出現(xiàn)，許多崗位利用機器取代人工操作，人類面臨下崗的可能，另一方面，人工智能超越人類智能，擺脫人類控制。較為客觀的態(tài)度是，人工智能在短時間內(nèi)不會超越人類智能。松尾豐，日本人工智能專家，提出“人工智能徹底征服人來，在現(xiàn)階段是不會產(chǎn)生的，只是人們的主觀臆想，因此，沒有必要對人工智能的未來充滿憂慮”。雖然人工智能還未全面超越人類智能，但是不受控制的人工智能同樣存在較大的危害，互聯(lián)網(wǎng)絡(luò)的發(fā)展，依靠網(wǎng)絡(luò)實現(xiàn)對人工智能的控制，同時也增加了人工智能的安全問題。例如，互聯(lián)網(wǎng)容易受到病毒和黑客的入侵，這對人工智能類產(chǎn)品有著巨大的安全隱患，如果控制不好，會帶來巨大的災(zāi)難。例如，黑客利用互聯(lián)網(wǎng)，侵入了人工智能機器人的系統(tǒng)，就等于控制了智能機器人，可能由于人為原因，帶來不可估量的后果。以當(dāng)前流行的“無人駕駛汽車”為例，無人駕駛汽車是正在興起的一項人工智能技術(shù)，已經(jīng)在深圳市試運行，如果無人駕駛汽車人工智能系統(tǒng)，遭到非法分子侵入，必然會導(dǎo)致車輛內(nèi)的人群被挾持，存在較大安全隱患。

二、解決人工智能安全問題的思路

（一）人工智能的倫理設(shè)計

倫理設(shè)計是解決人工智能存在安全隱患的基本思路。關(guān)于機器人的倫理問題，由于涉及到人權(quán)，受到許多西方學(xué)者的高度關(guān)注。所謂倫理設(shè)計，是指在機器人同人類互動中，為機器人設(shè)定道德判斷能力和行為判斷能力，讓機器人在人們預(yù)先設(shè)定的道德范疇內(nèi)行動。依靠倫理設(shè)計，機器人擁有較高的道德素質(zhì)，成為只會做好事的楷模，可以避免機器人出現(xiàn)危害人類的行為。美國學(xué)者艾倫和瓦拉赫提出，人工智能在未來會離開人類監(jiān)管，可以自主進行決定，只有采用倫理設(shè)計，設(shè)計出具有道德抉擇的機器人，才能保證人工智能的安全。當(dāng)然，人工智能的倫理設(shè)計，大多還處在理論階段，還需要不斷發(fā)展，來完善人工智能倫理設(shè)計，使其成為一種可能。隨著人工智能倫理理論的研究深入，人們可以相信，擁有道德判斷和行為判斷的人工智能系統(tǒng)，是安全可靠的。

（二）限定人工智能的應(yīng)用范圍

人工智能是一項尚未成熟，存在爭議和安全問題的技術(shù)，對其進行應(yīng)用范圍的限定，是保證社會和諧的重要舉措。以克隆技術(shù)為例，克隆技術(shù)最初在羊身上克隆成功，隨后在豬、牛、狗等動物身上相繼試驗成功。對于是否可以進行人類的克隆，有著巨大的爭議，將克隆技術(shù)應(yīng)用到人類身上，存在倫理問題，而且克隆技術(shù)尚未成熟，需要不斷完善。有學(xué)者人為，即便某天克隆技術(shù)發(fā)展成熟，也不能將其用在人類身上，為此，部分國家設(shè)立專門的法律條款，明確規(guī)定，禁止克隆人類。因此，為了保證人工智能有著良好的安全性，需要限定人工智能的應(yīng)用范圍。當(dāng)前，人工智能主要應(yīng)用在具有明確規(guī)則的領(lǐng)域，例如，各種棋類。人工智能在圍棋比賽戰(zhàn)勝人類，說明人工智能有著由于人類的學(xué)習(xí)能力和運算能力，可以輕松的完成大量數(shù)據(jù)的處理。雖然人工智能學(xué)習(xí)能力較強，但是無法做到觸類旁通，不具備將學(xué)習(xí)經(jīng)驗應(yīng)用到多個領(lǐng)域的能力。因此，人工智能轉(zhuǎn)換能力較差，雖然屬于人工智能的缺陷，但卻是保證其安全的重要方法。人工智能應(yīng)用在單一的領(lǐng)域，例如，棋類競賽、無人駕駛等領(lǐng)域，讓其在限定領(lǐng)域內(nèi)發(fā)揮其優(yōu)勢，避免由于人工智能發(fā)展過于強大，給人們帶來威脅。

（三）人工智能安全評估與管理

對人工智能產(chǎn)品進行安全評估與管理，也是解決人工智能安全問題的有效途徑。所謂安全評估是指，對人工智能產(chǎn)品可能出現(xiàn)的危害、危害程度進行量化評估，計算發(fā)生概率，劃分危害等級，并制定相應(yīng)的安全標(biāo)準以及應(yīng)對方案。依靠人工智能的安全評估，技術(shù)人員對人工智能存在危害因素進行評估，給出解決意見，設(shè)計出安全性能高的人工智能產(chǎn)品。人工技能進行安全評估，是預(yù)防人工智能安全事故的重要措施，也是人工智能實現(xiàn)安全管理的重要保障，因此，安全評估可以提升人工智能產(chǎn)品的安全系數(shù)。通常情況下，人工智能出現(xiàn)故障或者安全問題往往沒有征兆，而且會出現(xiàn)嚴重的問題，只有依靠技術(shù)人員進行相關(guān)產(chǎn)品的安全評估，才能消除人們對人工智能產(chǎn)品存在的憂慮。

三、結(jié)語

綜上所述，隨著人工智能技術(shù)的不斷發(fā)展，在未來的某天，人工智能必然會超越人類智能，同時人工智能的發(fā)展，也讓人們感受到了威脅，缺乏控制的人工智能，必然會給人類帶來巨大災(zāi)難。解決人工智能安全問題，可以從以下幾點進行：首先，人工智能的倫理設(shè)計。其次，限定人工智能的應(yīng)用范圍。最后，人工智能安全評估與管理。

參考文獻：

[1]杜嚴勇.人工智能安全問題及其解決進路[J].哲學(xué)動態(tài)，2016（9）：99104.

[2]劉飛.人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用研究[J].電子制作，2016（17）：3233.

[3]林婧.關(guān)于人工智能的淺析[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2014（10）：191192.