人工智能應(yīng)用的風(fēng)險(xiǎn)評(píng)估與應(yīng)對(duì)策略分析

葉利麗

（樂山職業(yè)技術(shù)學(xué)院，四川 樂山 614000）

0 引言

在日益革新的市場(chǎng)環(huán)境中，人工智能技術(shù)理念的提出不僅改變了行業(yè)經(jīng)濟(jì)的革新方向，還基于城市居民的日常生活提出了更多要求。人工智能并不屬于最近才出現(xiàn)的新技術(shù)，最早出現(xiàn)在上世紀(jì)五十年代中期的達(dá)特茅斯會(huì)議中，發(fā)展至今已經(jīng)成為一門新興學(xué)科，并隨著理論科技的逐步完善，在進(jìn)入21世紀(jì)后處于爆發(fā)式發(fā)展階段。在知識(shí)經(jīng)濟(jì)時(shí)代發(fā)展中，大規(guī)模增加的信息數(shù)據(jù)加快了人工智能技術(shù)的發(fā)展步伐，逐漸構(gòu)建了具有精準(zhǔn)性、個(gè)性、科學(xué)性的嵌入式業(yè)態(tài)革命，由此形成良性循環(huán)的智能可再生能源系統(tǒng)，并產(chǎn)生了強(qiáng)大的社會(huì)影響力和經(jīng)濟(jì)效益。面對(duì)這一發(fā)展趨勢(shì)，要想在未來(lái)技術(shù)革新中充分展現(xiàn)人工智能的應(yīng)用優(yōu)勢(shì)，必須要加強(qiáng)內(nèi)部風(fēng)險(xiǎn)評(píng)估力度，注重根據(jù)實(shí)際風(fēng)險(xiǎn)提出有效的解決對(duì)策。

1 基于人工智能應(yīng)用的風(fēng)險(xiǎn)評(píng)估分析

1.1 算法決策

在信息互通的時(shí)代背景下，彼此連接的數(shù)據(jù)資源池可以自動(dòng)構(gòu)成海量信息和多層微化算法，由此了解復(fù)雜的社會(huì)技能。在特定環(huán)境中，以深度學(xué)習(xí)引擎為核心的智能推理方式，改變了人類族群只有選擇的模式，雖然算法決策中包含大量故障因。但從實(shí)際角度來(lái)看，非定常性黑盒輸入很容易讓智能處理和輸出模塊處在不明確的自主狀態(tài)中，此時(shí)若是過度依賴機(jī)器進(jìn)行決策，必然會(huì)產(chǎn)生過多的安全隱患。具體體現(xiàn)在以下幾點(diǎn)：首先，社會(huì)組織、企事業(yè)單位、社會(huì)居民等在近因效應(yīng)的影響下盲目認(rèn)為，根據(jù)短時(shí)尺度的數(shù)據(jù)體驗(yàn)就能進(jìn)行精確判斷，但這種方式會(huì)清除不具備時(shí)效性和創(chuàng)新性的數(shù)據(jù)資源，由此導(dǎo)致人工智能分析期間的數(shù)據(jù)信息過于龐大和復(fù)雜。不完善的數(shù)據(jù)信息發(fā)生積聚，會(huì)導(dǎo)致過濾數(shù)據(jù)信息的質(zhì)量持續(xù)下降，相應(yīng)算法決策的有效性和真實(shí)性也會(huì)隨之減少；其次，參加人工智能技術(shù)研發(fā)和運(yùn)作的工作人員存在偏見，存在惡意微調(diào)或無(wú)意輸入錯(cuò)誤等行為意識(shí)。而人工智能技術(shù)的一次突破就代表無(wú)窮復(fù)制的取代物，融入在算法框架中的偏見和歧視，會(huì)隨著規(guī)?；l(fā)展運(yùn)用到多個(gè)領(lǐng)域；最后，目前弱人工智能處在初級(jí)階段，幾乎無(wú)法進(jìn)行逆向操作的算法在運(yùn)行期間會(huì)持續(xù)涌現(xiàn)出影響安全性能的技術(shù)問題。比如說(shuō)，可以鎖定不良行為的惡意購(gòu)物智能篩查決策程序，如果在運(yùn)行期間因?yàn)殄e(cuò)誤跟蹤辨識(shí)用戶行為而拒絕產(chǎn)品交易，那么必然會(huì)影響整體營(yíng)銷關(guān)系；黑客既能在自主學(xué)習(xí)識(shí)別算法中找到系統(tǒng)漏洞，又可以運(yùn)用現(xiàn)有受信代碼預(yù)測(cè)分析系統(tǒng)更新后可能出現(xiàn)的漏洞。

1.2 異化強(qiáng)權(quán)

在大數(shù)據(jù)時(shí)代下，人工智能逐漸被運(yùn)用到占據(jù)主導(dǎo)優(yōu)勢(shì)的特權(quán)階層中，雖然在短期內(nèi)可以得到較多效益，但長(zhǎng)此以往必然會(huì)增加社會(huì)經(jīng)濟(jì)發(fā)展的矛盾危機(jī)，對(duì)整體社會(huì)建設(shè)創(chuàng)新構(gòu)成不良影響[2]。在算法框架和智能設(shè)備逐步向著精英群體接近時(shí)，更多的經(jīng)濟(jì)效益也會(huì)向這一群體靠近。在分配模式持續(xù)革新中，現(xiàn)有社會(huì)結(jié)構(gòu)也會(huì)隨之改變，這就導(dǎo)致現(xiàn)有市場(chǎng)競(jìng)爭(zhēng)中，技術(shù)精英占據(jù)更加顯著的地位。

1.3 人格權(quán)益

在現(xiàn)今社會(huì)環(huán)境中，網(wǎng)絡(luò)數(shù)據(jù)信息的快速增長(zhǎng)也加快了社會(huì)經(jīng)濟(jì)的發(fā)展步伐。在這一背景下，隨著人工智能技術(shù)研究水平的不斷提升，各行企業(yè)依據(jù)人工智能獲取了更多數(shù)據(jù)利益，這就刺激他們?cè)趯?shí)踐發(fā)展中繼續(xù)深挖數(shù)據(jù)的潛藏價(jià)值。比如說(shuō)，網(wǎng)絡(luò)購(gòu)物平臺(tái)會(huì)根據(jù)用戶的行為習(xí)慣推薦同類商品；網(wǎng)頁(yè)系統(tǒng)可以在大量收集用戶上網(wǎng)信息后，將其提供給其他有需要的平臺(tái)。在海量零散數(shù)據(jù)處理智能識(shí)別軟件革新發(fā)展中，通過進(jìn)一步深入挖掘關(guān)鍵性隱私，整個(gè)社會(huì)族群將被長(zhǎng)期禁錮在透明化和數(shù)字化的監(jiān)獄里，這樣直接侵害了群眾的人格尊嚴(yán)、自主權(quán)和知情權(quán)。

2 如何針對(duì)人工智能的應(yīng)用風(fēng)險(xiǎn)提出有效的應(yīng)對(duì)策略

2.1 明確法律建設(shè)目標(biāo)

在數(shù)據(jù)資源和技術(shù)理念大規(guī)模增長(zhǎng)的背景下，無(wú)論是市場(chǎng)發(fā)展還是人口增加等方面所涌現(xiàn)出的紅利，為人工智能的多元化應(yīng)用提供了便利條件，更在實(shí)踐探討中累積了豐富的理論知識(shí)和技術(shù)經(jīng)驗(yàn)。具體體現(xiàn)在以下幾點(diǎn)：一方面，根據(jù)公眾權(quán)益、經(jīng)濟(jì)增長(zhǎng)、技術(shù)進(jìn)步等有關(guān)法律規(guī)定，科學(xué)處理基層群眾、社會(huì)企業(yè)、國(guó)家政府等方面的矛盾沖突；另一方面，根據(jù)可溯源性、可用性、安全性等原則，明確人工智能的法律主體和具體權(quán)責(zé)，持續(xù)探討人工智能研發(fā)課題，并提出有效的戰(zhàn)略對(duì)策。比如說(shuō)，從多維角度充分融合人工智能和海量數(shù)據(jù)，可以在一定意義上壟斷技術(shù)信息。而在這個(gè)技術(shù)平臺(tái)不斷創(chuàng)新中提出具有專業(yè)性和獨(dú)特性的服務(wù)理念，必然會(huì)引發(fā)更多的社會(huì)問題。因此，面對(duì)這一發(fā)展趨勢(shì)要積極引進(jìn)用完善的公平準(zhǔn)入和有序競(jìng)爭(zhēng)原則，避免在人工智能技術(shù)應(yīng)用期間產(chǎn)生壟斷行為。

2.2 規(guī)范數(shù)據(jù)反饋制度

人工智能產(chǎn)業(yè)可以在實(shí)踐創(chuàng)新中穩(wěn)步前進(jìn)的主要因素在于得到了社會(huì)群眾、應(yīng)用者、數(shù)據(jù)權(quán)人的認(rèn)可和支持[3]。在我國(guó)科學(xué)技術(shù)不斷革新中，人工智能理念的提出逐漸突破了傳統(tǒng)意義上的群島封閉式發(fā)展?fàn)顟B(tài)，大批量功能豐富的智能應(yīng)用技術(shù)軟件增強(qiáng)了我國(guó)在國(guó)際市場(chǎng)中的實(shí)力。因此，在經(jīng)濟(jì)全球化發(fā)展背景下，根據(jù)信息數(shù)據(jù)提出具有可行性、透明性、智能性的審核反饋制度，明確系統(tǒng)運(yùn)行算法的標(biāo)準(zhǔn)，不斷革新冗余自主檢查的機(jī)制，構(gòu)建高性能模塊分離流程與安全防御指標(biāo)，既能為網(wǎng)絡(luò)環(huán)境中的信息傳播和應(yīng)用提供良好環(huán)境，又可以支持未來(lái)人工智能技術(shù)的研發(fā)創(chuàng)新。根據(jù)近年來(lái)人工智能領(lǐng)域研究所獲取的經(jīng)驗(yàn)分析可知，在實(shí)踐發(fā)展中既要根據(jù)相關(guān)的法律規(guī)定，這樣可以保障科技企業(yè)有效公開技術(shù)部署和測(cè)試的全過程，進(jìn)而根據(jù)機(jī)器錯(cuò)誤和用戶體驗(yàn)科學(xué)調(diào)整數(shù)據(jù)設(shè)計(jì)。因此，要基于人工智能應(yīng)用現(xiàn)狀制定自動(dòng)化數(shù)據(jù)審核、反饋規(guī)范，持續(xù)優(yōu)化完善冗余自檢機(jī)制，提出高性能模塊分離流程，明確系統(tǒng)化的安全防御指標(biāo)。同時(shí)，還要立法督促科技企業(yè)公開研究智能技術(shù)的部署測(cè)試過程，注重結(jié)合用戶體驗(yàn)和機(jī)器錯(cuò)誤來(lái)調(diào)整設(shè)計(jì)參數(shù)，并嵌入高度模塊化的安全設(shè)計(jì)，嚴(yán)格遵循最小阻力路徑識(shí)別原則，避免運(yùn)用情感或意圖來(lái)管控弱勢(shì)用戶群體。

2.3 運(yùn)行責(zé)任制度

無(wú)論是完全人工智能還是應(yīng)用型人工智能，在技術(shù)革新期間都需要根據(jù)觀察環(huán)境并做出相應(yīng)的行動(dòng)。由于部分情況下的智能主體不會(huì)受人類指令所約束，而是利用數(shù)據(jù)信息進(jìn)行判斷分析，所以要想保障人工智能符合社會(huì)建設(shè)發(fā)展的法治精神，必須要充分考慮智能主體在各種情況下的反應(yīng)決策。如果只根據(jù)產(chǎn)品缺陷追究生產(chǎn)者的責(zé)任，那么無(wú)法滿足社會(huì)建設(shè)發(fā)展所遵循的公平正義原則；如果只根據(jù)使用者沒有達(dá)到合理義務(wù)而追究責(zé)任，那么很難科學(xué)劃分參與各方的權(quán)利義務(wù)，且會(huì)因?yàn)槿鄙儆行Р僮鞫苯幼璧K智能科學(xué)技術(shù)的有序發(fā)展[4]。因此，在大規(guī)模推廣人工智能技術(shù)的背景下，要提出系統(tǒng)化的特別規(guī)范，并為智能主體提供法律人格。通過優(yōu)化人工智能設(shè)計(jì)創(chuàng)造和應(yīng)用期間的規(guī)則體系明確不同階段的責(zé)任區(qū)別，有助于保障各個(gè)領(lǐng)域的智能系統(tǒng)，嚴(yán)格遵守相應(yīng)的責(zé)任制度，避免在實(shí)踐運(yùn)行期間出現(xiàn)不必要的安全風(fēng)險(xiǎn)。比如說(shuō)，與公益有關(guān)的智能系統(tǒng)要特殊對(duì)待，尤其是救援機(jī)器人、圖書管理員、智能情報(bào)員等要提出明確的登記制度、隱私保障制度、危險(xiǎn)責(zé)任制度等。

2.4 加強(qiáng)政府監(jiān)管

在人工智能風(fēng)險(xiǎn)評(píng)估中，依據(jù)政府力量正確認(rèn)識(shí)權(quán)益、經(jīng)濟(jì)、技術(shù)之間的關(guān)系，全面落實(shí)政府監(jiān)管機(jī)制，可以進(jìn)一步優(yōu)化技術(shù)應(yīng)用環(huán)境[5]。按照最優(yōu)的方式合理劃分部門權(quán)限，堅(jiān)持推廣公共參與原則，保障監(jiān)管機(jī)制在實(shí)踐落實(shí)中具有公平性、合理性、連貫性等特征，由此在兼顧人工智能技術(shù)多元性的同時(shí)避免其侵權(quán)造假。由此可見，要想在政府治理監(jiān)管中，充分展現(xiàn)人工智能技術(shù)的獨(dú)特價(jià)值，避免在發(fā)展中產(chǎn)生不必要的危害，需要從以下幾點(diǎn)入手加強(qiáng)政府監(jiān)管力度：

首先，要持續(xù)優(yōu)化數(shù)據(jù)安全體系。在大數(shù)據(jù)時(shí)代背景下，日益增加的數(shù)據(jù)信息雖然帶來(lái)了更多的發(fā)展機(jī)遇，但也增加了各領(lǐng)域運(yùn)行所面臨的風(fēng)險(xiǎn)，其中最為關(guān)鍵的就是國(guó)家保密和公民隱私等問題。因此，在全面推廣人工智能技術(shù)時(shí)，必須要從政府監(jiān)管角度入手設(shè)計(jì)完善的數(shù)據(jù)安全架構(gòu)，保障相關(guān)安全功能可以逐級(jí)分布，并優(yōu)化系統(tǒng)應(yīng)急和數(shù)據(jù)備份體系。

其次，要在融入人工智能的基礎(chǔ)上提出相應(yīng)的管理機(jī)制。明確的規(guī)章制度和機(jī)制是全面發(fā)展人工智能技術(shù)的基礎(chǔ)條件，兩者可以在廣泛利用人工智能的同時(shí)進(jìn)行有效控制。比如說(shuō)，倫理矯正機(jī)制作為當(dāng)前人工智能技術(shù)研發(fā)應(yīng)用的重要依據(jù)，可以在處理超越人類權(quán)限情況下嚴(yán)格把控，確保人工智能技術(shù)理念不會(huì)偏離人類社會(huì)文明，且可以在人類社會(huì)規(guī)則中穩(wěn)定運(yùn)行。

再次，要構(gòu)建人工智能人才培養(yǎng)體系。在加強(qiáng)人工智能應(yīng)用風(fēng)險(xiǎn)評(píng)估力度，做好相應(yīng)的監(jiān)管工作后，積極培育優(yōu)秀的人工智能人才，從而掌握經(jīng)濟(jì)建設(shè)發(fā)展的話語(yǔ)權(quán)和主動(dòng)權(quán)。通過構(gòu)建專業(yè)的人才培養(yǎng)體系，持續(xù)優(yōu)化人工智能的研究?jī)?nèi)容，注重從多角度入手進(jìn)行全面探索，不僅能獲取更多優(yōu)秀的技術(shù)型人才，還可以為各領(lǐng)域技術(shù)革新提供有效依據(jù)。

最后，要提出科學(xué)的評(píng)估機(jī)制。在人工智能應(yīng)用范圍不斷拓展中，政府所運(yùn)用的人工智能技術(shù)理念也會(huì)隨之增加，此時(shí)針對(duì)人工智能應(yīng)用情況進(jìn)行科學(xué)評(píng)估至關(guān)重要。尤其是在人工智能發(fā)展的初級(jí)階段，針對(duì)存在的風(fēng)險(xiǎn)危機(jī)提出完善的評(píng)估機(jī)制，不僅能準(zhǔn)確預(yù)測(cè)和感知人工智能技術(shù)的發(fā)展動(dòng)態(tài)，還可以將潛藏的風(fēng)險(xiǎn)降低到可控范圍內(nèi)，預(yù)防人工智能脫離人類控制。

3 結(jié)語(yǔ)

綜上所述，在人工智能技術(shù)逐漸運(yùn)用到軍事、工業(yè)、科技、日常生活等領(lǐng)域后，社會(huì)群眾在重視相關(guān)科研活動(dòng)的同時(shí)，提出了大量符合新時(shí)代發(fā)展的要求?？偟膩?lái)講，人工智能在加快社會(huì)經(jīng)濟(jì)發(fā)展步伐中的核心價(jià)值，就是在加強(qiáng)各領(lǐng)域宣傳教育力度的同時(shí)，得到社會(huì)大眾的認(rèn)可和支持，最終從可持續(xù)發(fā)展角度入手繼續(xù)探討相關(guān)課題。整合研究近年來(lái)人工智能應(yīng)用發(fā)展涌現(xiàn)出的各項(xiàng)風(fēng)險(xiǎn)可知，要想在日益革新的市場(chǎng)環(huán)境中占據(jù)重要地位，且可以在應(yīng)用研究中充分展現(xiàn)自身的獨(dú)特價(jià)值，必須要針對(duì)具體的風(fēng)險(xiǎn)評(píng)估提出有效的應(yīng)對(duì)舉措。根據(jù)上文對(duì)當(dāng)前常見的人工智能應(yīng)用風(fēng)險(xiǎn)評(píng)估分析可知，在未來(lái)發(fā)展中要從立法目標(biāo)、數(shù)據(jù)反饋、責(zé)任制度、層級(jí)稅制、政府監(jiān)管等多個(gè)角度入手進(jìn)行深入探索，只有這樣才能構(gòu)建和諧統(tǒng)一的社會(huì)秩序。