• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      人工智能與國(guó)際安全治理路徑探討

      2020-01-28 10:37:05傅瑩
      人民論壇 2020年36期
      關(guān)鍵詞:人工智能

      【摘要】目前很難就全面禁止人工智能武器達(dá)成全球共識(shí),更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國(guó)際法規(guī)范。為此,各國(guó)需要就如何進(jìn)行風(fēng)險(xiǎn)防范尋求共識(shí),共同努力構(gòu)建治理機(jī)制?,F(xiàn)階段是構(gòu)建人工智能國(guó)際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國(guó)是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國(guó)家,兩國(guó)需要在這個(gè)領(lǐng)域加強(qiáng)協(xié)調(diào)與合作。

      【關(guān)鍵詞】人工智能 國(guó)際安全治理 【中圖分類號(hào)】D815 【文獻(xiàn)標(biāo)識(shí)碼】A

      清華大學(xué)戰(zhàn)略與安全研究中心在“人工智能國(guó)際治理”框架下,于2019年6月啟動(dòng)了一項(xiàng)與美國(guó)布魯金斯學(xué)會(huì)進(jìn)行聯(lián)合研究的項(xiàng)目,研究中心主任傅瑩和美國(guó)布魯金斯學(xué)會(huì)會(huì)長(zhǎng)約翰·艾倫(John Allen)為項(xiàng)目總牽頭人。圍繞課題人工智能技術(shù)在安全領(lǐng)域的挑戰(zhàn)和治理問(wèn)題,兩國(guó)專家進(jìn)行了一系列二軌(非官方)對(duì)話和研討,在討論的基礎(chǔ)上分別就各項(xiàng)議題撰寫(xiě)了論文。據(jù)此,傅瑩和約翰·艾倫在美國(guó)Noema雜志分別發(fā)表文章,公布聯(lián)合研究成果,介紹雙方專家的討論和主要觀點(diǎn),旨在提高國(guó)際社會(huì)和兩國(guó)各界對(duì)人工智能武器化風(fēng)險(xiǎn)的認(rèn)知和警惕,并提出治理建議。

      約翰·艾倫在文章中提到,美中在人工智能等新興技術(shù)領(lǐng)域的戰(zhàn)略競(jìng)爭(zhēng)日益明顯,圍繞著“人工智能軍備競(jìng)賽”的說(shuō)法不絕于耳。為了避免不可控的軍備競(jìng)賽,他希望美中兩國(guó)專家組成的“人工智能與國(guó)際安全”研究團(tuán)隊(duì)所討論的安全關(guān)切,能夠在政府層面對(duì)話和非官方論壇中得到進(jìn)一步探討,特別是針對(duì)人工智能所構(gòu)成的國(guó)家安全風(fēng)險(xiǎn),以降低這些風(fēng)險(xiǎn)發(fā)生的可能性。他認(rèn)為現(xiàn)在正是規(guī)范智能技術(shù)發(fā)展和應(yīng)用的關(guān)鍵期。因?yàn)橐坏┻@些技術(shù)被納入到軍事體系中,呼吁限制其在國(guó)家安全領(lǐng)域的應(yīng)用將極為困難。

      以下為傅瑩文章正文:

      近年來(lái),人工智能技術(shù)的快速發(fā)展帶來(lái)了巨大機(jī)遇,但是技術(shù)革命也往往伴隨不可預(yù)知的安全挑戰(zhàn),尤其需要關(guān)注人工智能技術(shù)武器化的道德和技術(shù)風(fēng)險(xiǎn)問(wèn)題。許多國(guó)家的專家和學(xué)者呼吁禁止發(fā)展可以自主識(shí)別并擊殺人類目標(biāo)的智能武器,更不應(yīng)該容許它們執(zhí)掌人類生死。然而,全面禁止人工智能武器很難達(dá)成全球共識(shí),即便能開(kāi)啟相關(guān)討論和談判也將曠日持久。

      從目前的趨勢(shì)看,人工智能武器化是不可避免的。更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國(guó)際法規(guī)范。為此,各國(guó)需要就如何進(jìn)行風(fēng)險(xiǎn)防范尋求共識(shí),共同努力構(gòu)建治理機(jī)制。在與美方進(jìn)行二軌討論時(shí),我們的焦點(diǎn)在于如何設(shè)定人工智能賦能武器的攻擊“禁區(qū)”,如何依據(jù)國(guó)際法律和規(guī)范開(kāi)展對(duì)人工智能武器的監(jiān)管,以及如何鼓勵(lì)采取克制態(tài)度以限制對(duì)人工智能數(shù)據(jù)的軍事化濫用。

      人工智能的軍事安全挑戰(zhàn)

      人工智能賦能武器系統(tǒng)存在諸多潛在挑戰(zhàn)。一是人工智能內(nèi)在的技術(shù)缺陷使得攻擊者難以限制打擊的損害范圍,容易使得被打擊方承受過(guò)大連帶傷害,從而導(dǎo)致沖突升級(jí)。人工智能賦能武器不僅應(yīng)該在實(shí)施打擊時(shí)區(qū)分軍事目標(biāo)和民用目標(biāo),還需要防止和避免對(duì)民用目標(biāo)造成過(guò)分的附帶或間接損害。然而,現(xiàn)有人工智能技術(shù)條件在能否保證武力使用過(guò)程中完全滿足上述條件方面,是存在不確定性的。

      二是當(dāng)前以機(jī)器學(xué)習(xí)帶動(dòng)的人工智能技術(shù)發(fā)展需要大量數(shù)據(jù),不能完全避免基于大數(shù)據(jù)訓(xùn)練的算法和訓(xùn)練數(shù)據(jù)集將偏見(jiàn)帶入真實(shí)應(yīng)用系統(tǒng),因此,不能排除人工智能給決策者提供錯(cuò)誤建議的可能性。進(jìn)而,當(dāng)訓(xùn)練數(shù)據(jù)集受到其他國(guó)家的污染,致使系統(tǒng)提供錯(cuò)誤偵查信息時(shí),也有可能讓軍事決策者做出錯(cuò)誤判斷和相應(yīng)的軍事部署。

      三是人機(jī)協(xié)同的挑戰(zhàn)是人工智能軍事化的終極難題。機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制存在局限。無(wú)論是行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí),還是符號(hào)主義的專家系統(tǒng)都不能如實(shí)準(zhǔn)確地反映人類的認(rèn)知能力,比如直覺(jué)、情感、責(zé)任、價(jià)值等。人工智能的軍事運(yùn)用是人一機(jī)一環(huán)境的綜合協(xié)同過(guò)程,而機(jī)器在可解釋性、學(xué)習(xí)性、常識(shí)性等方面的不足,將放大發(fā)生戰(zhàn)場(chǎng)沖突的風(fēng)險(xiǎn),甚至刺激國(guó)際危機(jī)的螺旋上升。

      人工智能安全治理路徑探討

      對(duì)話雙方一致認(rèn)為,各國(guó)需要采取軍事克制態(tài)度,避免人工智能武器化給人類帶來(lái)重大損害。各國(guó)應(yīng)該禁止沒(méi)有責(zé)任和風(fēng)險(xiǎn)意識(shí)的輔助決策系統(tǒng)。在使用人工智能賦能的武器時(shí),需要限制其打擊的損害范圍,防止造成連帶傷害,避免沖突升級(jí)。此外,軍事克制的內(nèi)容還應(yīng)該反映在公共教育當(dāng)中。由于人工智能技術(shù)具有易于擴(kuò)散的特點(diǎn),它有可能流入某些黑客手里,進(jìn)而將人工智能技術(shù)用于有害公共安全的行為中。

      人工智能賦能武器的使用如何與國(guó)際法的基本原則保持一致,是安全治理研究中的重點(diǎn)所在。《聯(lián)合國(guó)憲章》規(guī)定,除非得到聯(lián)合國(guó)安理會(huì)的授權(quán),否則成員國(guó)不得使用武力,或者是出于自衛(wèi)的目的才能使用武力。因此,國(guó)家出于自衛(wèi)目的而使用武力時(shí),所使用武力的強(qiáng)度和規(guī)模須與受到的攻擊或者受到的威脅的嚴(yán)重性相稱。在討論中,中方專家特別提出,各國(guó)須承擔(dān)法律責(zé)任,主動(dòng)推動(dòng)和實(shí)現(xiàn)在涉及人工智能的軍事行動(dòng)中國(guó)際規(guī)范的建構(gòu)。同時(shí)需要確定人類參與的閾值,以保證智能武力的使用不會(huì)造成過(guò)度傷害。因?yàn)槿斯ぶ悄苜x能的武器平臺(tái)很難評(píng)判什么是必要的、合適的、平衡的攻擊,所以人類指揮官的主觀能動(dòng)性應(yīng)當(dāng)?shù)玫阶鹬亍?/p>

      此外,人工智能數(shù)據(jù)的安全必須得到保證。應(yīng)該對(duì)數(shù)據(jù)挖掘和采集的過(guò)程、數(shù)據(jù)標(biāo)注和分類、數(shù)據(jù)使用和監(jiān)管進(jìn)行規(guī)范和限制。智能武器訓(xùn)練數(shù)據(jù)的收集過(guò)程和手段應(yīng)當(dāng)遵守國(guó)際法律,收集的數(shù)據(jù)數(shù)量應(yīng)達(dá)到一定規(guī)模。需要確保數(shù)據(jù)標(biāo)注和分類的質(zhì)量和準(zhǔn)確性,避免形成錯(cuò)誤模型和導(dǎo)致決策者做出錯(cuò)誤判斷。在數(shù)據(jù)使用過(guò)程中,需要關(guān)注使用目標(biāo)和數(shù)據(jù)的污染問(wèn)題。有中方學(xué)者建議給智能武器的自主化程度分級(jí)。例如,分為半自主化、部分自主化、有條件自主化、高度自主化和完全自主化五級(jí)。對(duì)自主化程度進(jìn)行分級(jí),有利于更好地確認(rèn)和保障人類的作用,從而切實(shí)有效地實(shí)現(xiàn)對(duì)人工智能及自主武器系統(tǒng)的管理和控制。

      中美人工智能全球治理合作

      現(xiàn)階段是構(gòu)建人工智能國(guó)際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國(guó)是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國(guó)家,兩國(guó)需要在這個(gè)領(lǐng)域加強(qiáng)協(xié)調(diào)與合作。其他國(guó)家也表示出對(duì)人工智能應(yīng)用的安全擔(dān)憂,說(shuō)明人工智能治理是人類共同的難題,不是一國(guó)兩國(guó)能夠解決的。中美開(kāi)展對(duì)話與合作至關(guān)重要,將能夠?yàn)槿蛉斯ぶ悄苤卫砗献髫暙I(xiàn)智慧。因此,中美兩國(guó)應(yīng)就推動(dòng)構(gòu)建國(guó)際層面的規(guī)范和制度進(jìn)行正式討論,在各自利益關(guān)切的基礎(chǔ)上探索合作領(lǐng)域,互換和翻譯相關(guān)文件,以政策溝通和學(xué)術(shù)交流的方式降低兩國(guó)在這一領(lǐng)域影響雙邊關(guān)系和國(guó)際安全的潛在風(fēng)險(xiǎn)。

      近年來(lái),中國(guó)積極釋放合作信號(hào),2020年11月21日,習(xí)近平主席在二十國(guó)集團(tuán)領(lǐng)導(dǎo)人第十五次峰會(huì)上強(qiáng)調(diào),中方支持圍繞人工智能加強(qiáng)對(duì)話,倡議適時(shí)召開(kāi)專題會(huì)議,推動(dòng)落實(shí)二十國(guó)集團(tuán)人工智能原則,引領(lǐng)全球人工智能健康發(fā)展。2020年9月8日,國(guó)務(wù)委員兼外長(zhǎng)王毅提出《全球數(shù)據(jù)安全倡議》,包括有效應(yīng)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)挑戰(zhàn)應(yīng)遵循的三項(xiàng)原則,表示希望國(guó)際社會(huì)在普遍參與的基礎(chǔ)上就人工智能安全問(wèn)題達(dá)成國(guó)際協(xié)議,支持并通過(guò)雙邊或多邊協(xié)議形式確認(rèn)倡議中的有關(guān)承諾。中國(guó)在發(fā)展人工智能技術(shù)的同時(shí),也高度重視和積極推進(jìn)相關(guān)國(guó)內(nèi)治理建設(shè)。2018年中國(guó)發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書(shū)》列出了四條倫理原則,包括人類利益原則、責(zé)任原則、透明度原則、權(quán)責(zé)一致原則。

      中國(guó)已經(jīng)準(zhǔn)備好與美國(guó)和其他國(guó)家地區(qū)在人工智能治理方面開(kāi)展合作。我們相信,人工智能不應(yīng)成為一場(chǎng)“零和游戲”,技術(shù)突破最終應(yīng)使得全人類受益。

      責(zé)編/常妍 美編/宋揚(yáng)

      猜你喜歡
      人工智能
      我校新增“人工智能”本科專業(yè)
      用“小AI”解決人工智能的“大”煩惱
      汽車零部件(2020年3期)2020-03-27 05:30:20
      當(dāng)人工智能遇見(jiàn)再制造
      2019:人工智能
      商界(2019年12期)2019-01-03 06:59:05
      AI人工智能解疑答問(wèn)
      人工智能與就業(yè)
      基于人工智能的電力系統(tǒng)自動(dòng)化控制
      人工智能,來(lái)了
      數(shù)讀人工智能
      小康(2017年16期)2017-06-07 09:00:59
      人工智能來(lái)了
      平山县| 广宁县| 平谷区| 虞城县| 垦利县| 浏阳市| 那坡县| 辽阳县| 山西省| 阜新市| 陇川县| 平果县| 宁远县| 建始县| 云林县| 洞头县| 枣阳市| 深水埗区| 永登县| 莱西市| 会宁县| 林甸县| 张掖市| 海盐县| 夹江县| 江城| 微山县| 上思县| 景东| 永靖县| 竹溪县| 罗源县| 饶平县| 洞口县| 湘阴县| 淮滨县| 惠州市| 牡丹江市| 保德县| 商洛市| 绥江县|