• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      論人工智能技術(shù)的立法規(guī)制

      2018-09-19 09:53:56余越洋
      法制與社會 2018年11期
      關(guān)鍵詞:社會治安立法防范

      摘 要 人工智能在發(fā)展到一定程度時有脫離人類控制的風(fēng)險。在給社會生活帶來改變的同時,人工智能也給社會治安帶來了新的挑戰(zhàn)。本文認為在人工智能時代真正來臨之前,應(yīng)當先行規(guī)制人工智能產(chǎn)業(yè),并根據(jù)不同的人工智能技術(shù),對技術(shù)研發(fā)者以及技術(shù)運用者提出不同的要求和義務(wù),并以此為基點擬制《人工智能法》,防范人工智能給社會治安等方面可能帶來的風(fēng)險。

      關(guān)鍵詞 人工智能 社會治安 防范 立法

      作者簡介:余越洋,華東政法大學(xué)刑事司法學(xué)院。

      中圖分類號:D920.4 文獻標識碼:A DOI:10.19387/j.cnki.1009-0592.2018.04.213

      人工智能,即設(shè)備能夠識別所處環(huán)境,采取行動將實現(xiàn)目的的機會最大化的技術(shù)。簡而言之,人工智能就是使得計算機像人一樣思考與工作的科學(xué)技術(shù)。21世紀以來,世界掀起了人工智能研究與應(yīng)用的浪潮,智能機器人已經(jīng)能夠通過自主學(xué)習(xí)、分析部分接收到的信息,進一步完成設(shè)計者交與的任務(wù),如智能語音識別,設(shè)備在接收過音頻信息后,再次接收音頻信息便可以進行識別,以分辨聲音的歸屬,類似的運用還有電子郵件過濾系統(tǒng)、人臉識別系統(tǒng)等。

      現(xiàn)如今,人工智能技術(shù)在某些領(lǐng)域上的表現(xiàn)已經(jīng)超過人類,如1997年IBM的超級電腦“深藍”擊敗國際象棋世界冠軍卡斯帕羅夫,2015年發(fā)展成熟的人工智能圖形識別、語言識別技術(shù)更是遠遠超過人類自身的能力,2016年谷歌公司的Alphago擊敗圍棋世界冠軍李世石,更是將人工智能技術(shù)推向了一個新的高潮。人工智能取得巨大成就的同時,我們也應(yīng)當意識到人工智能改變社會、影響社會的巨大潛力,人類無法對其行為進行準確的預(yù)判與控制,這無疑給我們的社會生活增添了許多不確定的因素,在某種程度上加重了社會安全風(fēng)險,這對于未來的社會治安管理而言將會是一場革命性的考驗。筆者分析人工智能技術(shù)對于社會治安的風(fēng)險以及安全管理的困難所在,并以此分析明確《人工智能法》應(yīng)當立足的關(guān)鍵問題,希望以確立《人工智能法》的形式,預(yù)先規(guī)范未來人工智能技術(shù)的發(fā)展,使人工智能技術(shù)給未來社會帶來的風(fēng)險降至最低。

      一、人工智能給社會治安帶來的挑戰(zhàn)

      (一)人工智能易成為違法犯罪行為高發(fā)的新土壤

      人工智能技術(shù)發(fā)展的初衷是代替人類進行生產(chǎn)作業(yè)活動,提高生產(chǎn)作業(yè)的效率。因此人工智能技術(shù)本身也具有高效性的特點,機器能夠不知倦怠地自主完成一系列工作任務(wù)。人工智能技術(shù)在未來社會普及之后,違法犯罪人員很有可能利用人工智能來提高違法犯罪的效率,降低犯罪成本,如利用人工智能進行電信詐騙,僅僅一個犯罪人員使用人工智能機器便可以進行詐騙行為,機器可以通過受害人的通話內(nèi)容,自主與受害人進行交流,進而達到非法占有財物的目的。并且由于人工智能能夠持續(xù)不間斷進行智能化工作,利用人工智能進行的違法犯罪將具有更為龐大的影響范圍,大大增加了公民與公共權(quán)益受到侵犯的可能性。因此,人工智能技術(shù)在未來很有可能會成為違法犯罪實施、發(fā)展的新土壤,人工智能時代的社會治安管理形勢將十分嚴峻。

      (二)對利用人工智能違法犯罪行為的預(yù)防存在困難

      人工智能技術(shù)本身具有智能性特點,機器能夠根據(jù)周遭環(huán)境以及接收到的信息進行邏輯推理,自主進行“行為”選擇,這就使人類對人工智能作出的行為無法進行準確預(yù)判,目前我國對人工智能行業(yè)暫無風(fēng)險評估分級機制,無法準確評價各類別人工智能技術(shù)可能出現(xiàn)的風(fēng)險,使得公安、質(zhì)量監(jiān)督等部門對人工智能的安全性管控存在困難,難以比照特種行業(yè)管理進行有針對性的管理行為。因此,對人工智能違法犯罪行為的預(yù)防存在一定困難。

      (三)對人工智能產(chǎn)品侵害行為的追責(zé)存在責(zé)任主體認定的困難

      人工智能技術(shù)具有智能性,它能夠自己進行分析與推理,因此人工智能產(chǎn)品的設(shè)計者在某種程度上也無法完全預(yù)知人工智能產(chǎn)品在生產(chǎn)作業(yè)的過程中會不會由于產(chǎn)品自身的智能化推理而作出侵害公共與公民利益的行為,智能化行為很大程度上不一定會反映人工智能技術(shù)設(shè)計者與使用者本身的意志。這使得產(chǎn)品設(shè)計者與使用者對于人工智能產(chǎn)品所作出的行為應(yīng)該承擔的責(zé)任的界限,以及應(yīng)該負責(zé)的內(nèi)容成為了需要解決的問題。另外,違法犯罪分子若是利用人工智能進行違法犯罪,很有可能憑借人工智能的智能化特點作為逃脫法律責(zé)任的理由。因此,對人工智能產(chǎn)品所作出的侵犯法益行為的進行責(zé)任認定是未來需要解決的難題,應(yīng)當通過《人工智能法》的形式,明確、區(qū)分責(zé)任主體,實行設(shè)計問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu),并通過此種監(jiān)管結(jié)構(gòu)的設(shè)立,根據(jù)不同類型的人工智能產(chǎn)品,對產(chǎn)品的設(shè)計者、使用者提出不同的責(zé)任內(nèi)容與擔責(zé)界限,以便于落實人工智能損害行為的追責(zé)問題。

      二、《人工智能法》的立法思考

      人工智能對未來社會治安的沖擊只是人工智能影響未來生活的縮影,人工智能結(jié)合各個領(lǐng)域的需求和相關(guān)知識,創(chuàng)制為各行各業(yè)的進步與發(fā)展所需要的各種智能系統(tǒng),為各行各業(yè)的現(xiàn)代化發(fā)展提供智能化服務(wù),其影響的領(lǐng)域有社會、經(jīng)濟、民生、健康等。從社會治安方面我們已經(jīng)能看到規(guī)制人工智能的緊迫性,我國急需對規(guī)制人工智能技術(shù)的專門性法律制度進行研究,制定專門規(guī)范人工智能行業(yè)的法律規(guī)范。在人工智能時代來臨之前,應(yīng)當通過確立《人工智能法》來對未來人工智能技術(shù)的運用進行總領(lǐng)性的規(guī)制,從宏觀的角度出發(fā),防范其可能出現(xiàn)的風(fēng)險。在此之后,國家立法機關(guān)可以在《人工智能法》的基礎(chǔ)上,針對人工智能在各個行業(yè)應(yīng)用的特點與實際情況進行進一步的細化立法。由此可見,對《人工智能法》進行立法思路的研究是我國的當務(wù)之急。

      (一)《人工智能法》應(yīng)當對人工智能產(chǎn)品研發(fā)與應(yīng)用進行限制

      人工智能技術(shù)給社會帶來風(fēng)險的主要原因在于其智能性給社會生活增添了極大的不確定性。由于人工智能做出的判斷大多依賴于計算機算法,不包含道德倫理要求以及人類所擁有的情感,人工智能產(chǎn)品極有可能機械地根據(jù)計算機算法得出人類認為不符合道德倫理的結(jié)果,并根據(jù)這個結(jié)果選擇主動傷害或侵犯人類,而這是人類不希望看到的。為了減小這些不確定因素,應(yīng)當要求設(shè)計者對智能技術(shù)作出限制,盡可能將人工智能帶來的不確定性降低。并且也應(yīng)當考慮平衡人工智能的高效便捷特性,避免過分削弱人工智能技術(shù)應(yīng)有的科技性或過度影響人工智能的正常使用,使得人工智能技術(shù)的使用失去意義。

      具體而言,應(yīng)當嚴格限制設(shè)計者開發(fā)人工智能產(chǎn)品的領(lǐng)域,對涉及國防安全、能源安全、交通安全等與公共安全密切相關(guān)的行業(yè),可能造成重大人員傷亡風(fēng)險的,應(yīng)當慎用或是限制人工智能技術(shù)的開發(fā),包括禁止在某些行業(yè)使用人工智能技術(shù)、對技術(shù)的智能化水平進行限制等,制約人工智能的學(xué)習(xí)與分析推理能力,不能使其任憑其接受的所有信息進行推理并作出自主行為。人工智能在這些特殊行業(yè)應(yīng)當完全被人類所控制,作出的“行為”能夠被人類完全預(yù)見。通過這樣的規(guī)制,能夠?qū)⑷斯ぶ悄艿纳鐣kU性大大減小。同時,應(yīng)當明確設(shè)計責(zé)任的追究機制,對于違反上述相關(guān)規(guī)定的技術(shù)開發(fā)者,可依照情節(jié)輕重,處以罰款、吊銷相關(guān)職業(yè)資格證等行政處罰,這也是法定義務(wù)的設(shè)立,設(shè)計者由于未履行法定義務(wù)造成嚴重后果構(gòu)成犯罪的,依照刑法規(guī)定定罪處罰,設(shè)計者違背義務(wù)可能構(gòu)成故意殺人罪、以危險方法危害公共安全罪、過失致人死亡罪、過失以危險方法危害公共安全罪等刑事犯罪。

      另外,人工智能的功能也不應(yīng)過于全面,對于人工智能產(chǎn)品應(yīng)當采取相關(guān)措施進行能力制約,如為了限制高智能化的產(chǎn)品的能力,應(yīng)當將其設(shè)計為固定式產(chǎn)品,不給其裝配動力裝置,對其智能化工作以外的能力進行削減,以保證人類對產(chǎn)品的控制。

      (二)《人工智能法》應(yīng)當對人工智能產(chǎn)品進行技術(shù)分級

      為了明確責(zé)任主體的責(zé)任范圍,加強安全管理的針對性,應(yīng)當對人工智能產(chǎn)品進行技術(shù)等級分級。技術(shù)分級的依據(jù)應(yīng)當是產(chǎn)品的智能化水平與智能產(chǎn)品的工作性質(zhì)。根據(jù)《人工智能法》對智能產(chǎn)品的技術(shù)分級,國家標準化行政主管部門還可以進一步針對每一個技術(shù)分級制定國家標準與行業(yè)標準,此舉有利于明確產(chǎn)品設(shè)計者的產(chǎn)品研發(fā)方向與內(nèi)容,也能為行業(yè)準入標準的設(shè)立提供參考。筆者認為,人工智能技術(shù)應(yīng)當大致分為三級,即完全智能化、一般智能化和相對智能化。

      完全智能化,即智能產(chǎn)品具有完全的智能化特性,具有自主學(xué)習(xí)、認識外部世界并進行獨立自主行為的能力,這也是達特茅斯會議以來人工智能領(lǐng)域不斷奮斗的目標,是人工智能的最高水平,也是對社會治安威脅最大的智能產(chǎn)品。

      一般智能化,即智能化產(chǎn)品能夠進行信息分析并作出反應(yīng),能夠處理較大范圍的信息,但不具備自主學(xué)習(xí)的能力,只能在一定的信息范圍內(nèi)作出判斷與選擇?,F(xiàn)如今的前沿人工智能技術(shù)則大多數(shù)處于這個水平,如圍棋機器人、語音對話機器人。

      相對智能化,即相對于普通機器而言,智能化產(chǎn)品能夠通過處理外部信息作出反應(yīng)行為,但其能夠進行處理的信息不具有廣泛性的特點。多數(shù)基礎(chǔ)性人工智能產(chǎn)品則符合此級別的特征,如語言識別系統(tǒng)、人臉識別系統(tǒng)等,對社會治安有較小威脅。

      確立人工智能產(chǎn)品分級很大程度上能夠規(guī)范智能產(chǎn)品研發(fā)行為,更為重要的是能夠進一步明確產(chǎn)品使用者的責(zé)任與義務(wù)。為了有針對性地對人工智能的使用進行安全防范,應(yīng)當對不同智能產(chǎn)品的使用者提出不同的責(zé)任義務(wù)要求,這也是使用責(zé)任監(jiān)督機制的重要基礎(chǔ)。

      (三)《人工智能法》應(yīng)當對使用者設(shè)立相對應(yīng)的義務(wù)要求

      在產(chǎn)品研發(fā)設(shè)計層面通過立法的形式進行了規(guī)制之后,立法在智能產(chǎn)品的使用者層面也不應(yīng)該缺位。使用者是智能產(chǎn)品最為直接的管理者,從某種角度上看,即便在設(shè)計層面對智能產(chǎn)品研發(fā)進行了規(guī)定,如果使用者故意使用智能產(chǎn)品進行失范行為而侵害公民、社會權(quán)益,或是使用者沒有起到應(yīng)有的管理作用,人工智能對于社會的威脅依舊不能得到有效的控制,因此,通過立法的形式對使用者設(shè)立義務(wù)在此顯得尤為重要。筆者認為,應(yīng)當對不同等級的人工智能產(chǎn)品的使用者設(shè)立不同的義務(wù),以便于充分落實使用者的責(zé)任。

      完全智能化產(chǎn)品的使用者,由于此類人工智能產(chǎn)品具有高度的智能化特征,對于社會的潛在威脅也就越大,此類智能產(chǎn)品應(yīng)當有嚴格的使用區(qū)域限制以及能源供給控制規(guī)定,使用者必須在規(guī)定區(qū)域內(nèi)使用該類智能產(chǎn)品,不得對其進行改裝,對于產(chǎn)品的能源應(yīng)當有嚴格的控制,并且要能夠隨時控制智能產(chǎn)品的能源供給,不得超越規(guī)定用途使用完全智能化產(chǎn)品,不具備以上條件的使用者不得引進并使用完全智能化產(chǎn)品。

      一般智能化產(chǎn)品的使用者,此類產(chǎn)品的自主學(xué)習(xí)與分析信息能力較為普通,因此無需像完全智能化產(chǎn)品一樣進行如此嚴格的限制,但仍然應(yīng)當要求產(chǎn)品使用者不得超出用途范圍使用人工智能產(chǎn)品,在特殊的場合下不得使用人工智能產(chǎn)品,以防止人工智能行為失范。

      相對智能化產(chǎn)品的使用者,此類產(chǎn)品對社會的潛在威脅較小,產(chǎn)品使用者只需將智能技術(shù)運用于合法領(lǐng)域即可,不可利用其進行違法犯罪等危害社會的活動。

      最后,《人工智能法》也應(yīng)在責(zé)任分級的基礎(chǔ)上建立使用監(jiān)督機制,將監(jiān)督責(zé)任落實到政府具體部門,對于完全智能化產(chǎn)品與一般智能化產(chǎn)品等智能化程度較高的人工智能產(chǎn)品,應(yīng)當由公安部門、安全生產(chǎn)監(jiān)督管理部門等進行登記與檢查,參照特種行業(yè)管理制度與安全生產(chǎn)制度的規(guī)則進行相關(guān)制度的建設(shè)與管理,實現(xiàn)管理閉環(huán),有責(zé)必究。

      參考文獻:

      [1] Hutter, Marcus. Universal Artificial Intelligence. Berlin:Springer. 2005.

      [2]中國信息通信研究院. 美國國家人工智能研究和發(fā)展戰(zhàn)略計劃 . 美國國家科學(xué)技術(shù)委員會. 2016.

      [3]國務(wù)院. 國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知. 2017.

      [4]鐘義信. 人工智能: 概念·方法·機遇. 科學(xué)通報. 2017(22).

      [5]劉憲權(quán). 人工智能時代的刑事風(fēng)險與刑法應(yīng)對. 法商研究. 2018(1).

      猜你喜歡
      社會治安立法防范
      試論社會治安防控體系建設(shè)
      試論信息主導(dǎo)下的社會治安防控體系及對策
      法制博覽(2016年12期)2016-12-28 18:34:36
      破產(chǎn)管理人的立法現(xiàn)狀探究
      商情(2016年39期)2016-11-21 10:05:17
      試論我國證人拒絕作證權(quán)制度的構(gòu)建
      法制博覽(2016年11期)2016-11-14 10:11:55
      關(guān)于治理潮州市區(qū)流動攤販占道經(jīng)營問題的思考
      考試周刊(2016年85期)2016-11-11 02:47:38
      商業(yè)銀行信貸風(fēng)險淺析及防范
      論企業(yè)并購中的財務(wù)風(fēng)險及防范措施
      SQL注入防護
      科技視界(2016年21期)2016-10-17 19:37:25
      從工商管理角度談如何加強金融風(fēng)險防范的有效性
      網(wǎng)絡(luò)版權(quán)運營中的風(fēng)險防控
      阿拉善左旗| 资兴市| 利川市| 深水埗区| 巨野县| 库尔勒市| 湖口县| 临湘市| 丰宁| 禹州市| 三穗县| 安宁市| 鹤岗市| 沐川县| 扬中市| 水富县| 云林县| 泰州市| 裕民县| 临海市| 什邡市| 吴旗县| 娱乐| 星座| 达拉特旗| 大田县| 弥勒县| 福贡县| 乌苏市| 龙井市| 安庆市| 盱眙县| 湖口县| 贵港市| 大田县| 牟定县| 嘉黎县| 长寿区| 凤凰县| 墨江| 南江县|