李盈萱 張志光 鄭金華

摘要：人工智能技術(shù)及其應(yīng)用發(fā)展，為我們敲響了智能時(shí)代人機(jī)安全的警鐘。但在人工智能技術(shù)尚未到達(dá)的時(shí)候，其刑事主體地位的認(rèn)定，不宜操之過(guò)急，而應(yīng)當(dāng)理性審視其合理性、必要性與可行性，根據(jù)人工智能發(fā)展的實(shí)際情況，做好適當(dāng)防范，以應(yīng)對(duì)人工智能時(shí)代給刑法帶來(lái)的挑戰(zhàn)。

關(guān)鍵詞：人工智能;刑事責(zé)任主體;AI安全

近年來(lái)，隨著互聯(lián)網(wǎng)、大數(shù)據(jù)的快速崛起，人工智能的發(fā)展也進(jìn)入了時(shí)代快車(chē)道。然而，就在人工智能技術(shù)日新月異，人工智能產(chǎn)品逐步走進(jìn)人類(lèi)生活的方方面面的時(shí)候，人工智能給世界帶來(lái)的安全挑戰(zhàn)也愈發(fā)清晰。在涉人工智能犯罪研究方面，關(guān)于人工智能機(jī)器人能否成為刑事責(zé)任主體、人工智能犯罪的刑事責(zé)任分配等問(wèn)題成為爭(zhēng)論焦點(diǎn)。

一、人工智能的內(nèi)涵及發(fā)展現(xiàn)狀

人工智能，是通過(guò)賦予機(jī)器感知和模擬人類(lèi)思維的能力，人工智能使機(jī)器達(dá)到乃至超越人類(lèi)的智能。雖然近年來(lái)人工智能產(chǎn)業(yè)在我國(guó)乃至世界范圍內(nèi)仍呈高速發(fā)展態(tài)勢(shì)，但截止目前乃至未來(lái)很長(zhǎng)一段時(shí)間，世界各國(guó)關(guān)于人工智能技術(shù)的研發(fā)應(yīng)用仍處于早期階段。一方面，在我們可預(yù)見(jiàn)的情況下，人工智能將起到幫助人類(lèi)的作用，而不是成為人類(lèi)的替代品。另一方面，嚴(yán)重依賴(lài)數(shù)據(jù)輸入和計(jì)算能力的人工智能距離真正的人類(lèi)智能還有較大的差距。

根據(jù)人工智能的發(fā)展應(yīng)用，大部分學(xué)者基于人工智能產(chǎn)品的應(yīng)用范圍和人工智能產(chǎn)品是否具有超出人類(lèi)設(shè)計(jì)和編制的程序范圍外運(yùn)作的能力，將人工智能界分為弱人工智能、強(qiáng)人工智能與超人工智能三大類(lèi)。亦有部分學(xué)者認(rèn)為此種分類(lèi)過(guò)于簡(jiǎn)單粗糙，應(yīng)根據(jù)機(jī)器人的智能分層。但筆者認(rèn)為人工智能的刑法討論應(yīng)當(dāng)由淺入深，由簡(jiǎn)入繁，本文也將采用此種分類(lèi)展開(kāi)論述。

二、弱人工智能（體）刑事責(zé)任地位之否定

弱人工智能，即專(zhuān)用人工智能，其人工智能產(chǎn)品僅實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志，無(wú)法獨(dú)立于人類(lèi)設(shè)計(jì)的編程算法之外獨(dú)立判斷并自主做出決策。例如在無(wú)人駕駛領(lǐng)域應(yīng)用廣泛的無(wú)人駕駛汽車(chē)、自動(dòng)泊車(chē)系統(tǒng)等，其利用先進(jìn)的環(huán)境感知技術(shù)與決策規(guī)劃控制技術(shù)實(shí)現(xiàn)半自動(dòng)或全自動(dòng)的駕駛，實(shí)際上仍舊是基于人工智能技術(shù)與編程算法之下，根據(jù)這些程序執(zhí)行命令，不存有任何的主觀(guān)意志。

現(xiàn)階段的人工智能正處于弱人工智能時(shí)代，其犯罪的主要形式有兩種，一是行為人非法利用（包括濫用和故意）人工智能技術(shù)及產(chǎn)品實(shí)施犯罪行為。例如，2017年9月浙江警方破獲的一起全國(guó)首例利用AI犯罪案，涉案平臺(tái)通過(guò)人工智能技術(shù)快速識(shí)別驗(yàn)證碼，截取、販賣(mài)了10多億份公民個(gè)人信息，供合作團(tuán)伙進(jìn)行詐騙。此時(shí)的人工智能具有明顯的“工具”屬性，犯罪團(tuán)伙對(duì)該人工智能產(chǎn)品握有絕對(duì)的控制權(quán)，犯罪主體顯而易見(jiàn)。被當(dāng)作工具使用的人工智能產(chǎn)品不應(yīng)成為該類(lèi)型犯罪的刑事責(zé)任主體，而應(yīng)由實(shí)施犯罪的人工智能的使用者承擔(dān)刑事責(zé)任。

二是弱人工智能產(chǎn)品在脫離人類(lèi)控制的情況下，超出設(shè)計(jì)者或使用者的意志，自主的進(jìn)行違法犯罪活動(dòng)。對(duì)比上一種情況來(lái)說(shuō)，這種情況顯得更為復(fù)雜。據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道， 2015年7月 1日，德國(guó)大眾位于卡塞爾附近的一家工廠(chǎng)發(fā)生的一起機(jī)器人殺人案件，當(dāng)時(shí)一名年僅21歲的工人正在安裝和調(diào)試機(jī)器人，后者突然出手，狠狠地?fù)糁羞@名工人的前胸部，隨后又將其按倒在金屬版上，隨后這名工人當(dāng)場(chǎng)死亡。2018年3月18日晚，美國(guó)亞利桑那州一名女子被優(yōu)步自動(dòng)駕駛汽車(chē)撞傷，之后不幸身亡。路透社報(bào)道稱(chēng)此為全球首例自動(dòng)駕駛車(chē)輛致人死亡事件。上述兩例弱人工智能犯罪案件，在現(xiàn)行刑法體系中涉及到故意殺人罪與交通肇事罪。首先，故意殺人罪、交通肇事罪作為故意及過(guò)失犯罪，要求犯罪必須存在故意或過(guò)失，在人工智能系統(tǒng)獲得獨(dú)立的思考能力之前，不論是機(jī)器人還是無(wú)人駕駛汽車(chē)都是不存在任何故意或過(guò)失的主觀(guān)意志的，它只是根據(jù)數(shù)據(jù)和代碼的編輯程序執(zhí)行命令。即使是行為本身造成了危害結(jié)果，最終也不具備有責(zé)性，因此它就不是刑罰適格的主體。其次，我們還應(yīng)該看到人工智能的設(shè)計(jì)者、使用者是否對(duì)該人工智能產(chǎn)品存在過(guò)失。眾所周知，不論是傳統(tǒng)的機(jī)械技術(shù)亦或是如今的人工智能技術(shù)，都是存在著一定的技術(shù)風(fēng)險(xiǎn)的。如果人工智能的設(shè)計(jì)者，在設(shè)計(jì)中出現(xiàn)系統(tǒng)漏洞或技術(shù)缺陷，本該進(jìn)行改良或及時(shí)告知使用者卻未盡到改良告知義務(wù)的，應(yīng)該追究其過(guò)錯(cuò)責(zé)任。因此，筆者認(rèn)為此種情況應(yīng)當(dāng)審視為由人工智能“設(shè)計(jì)風(fēng)險(xiǎn)”“技術(shù)風(fēng)險(xiǎn)”帶來(lái)的技術(shù)事故、意外事故定性，人工智能不應(yīng)成為適格刑事責(zé)任主體，可對(duì)人工智能產(chǎn)品的設(shè)計(jì)者、制造者、使用者追究相應(yīng)的過(guò)錯(cuò)責(zé)任來(lái)轉(zhuǎn)移風(fēng)險(xiǎn)。

三、強(qiáng)人工智能（體）刑事責(zé)任地位之否定

強(qiáng)人工智能是一種具有通用智能的機(jī)器的概念，它可以模仿人類(lèi)的智能或行為，并具有深度學(xué)習(xí)和應(yīng)用智能的能力，它與弱人工智能的最大區(qū)別就在于是否擁有意識(shí)。有學(xué)者認(rèn)為，強(qiáng)人工智能產(chǎn)品是完全能夠在設(shè)計(jì)和編制的程序范圍之外實(shí)施嚴(yán)重危害社會(huì)的行為，完全有可能?chē)?yán)重侵犯人權(quán)和刑法所保護(hù)的社會(huì)關(guān)系。因而覺(jué)得應(yīng)當(dāng)明確強(qiáng)人工智能為刑法中的適格刑事主體，并追究強(qiáng)人工智能犯罪之刑事責(zé)任。

筆者認(rèn)為，隨著人工智能的逐步發(fā)展，強(qiáng)人工智能時(shí)代的到來(lái)興許不是人類(lèi)的幻想，加強(qiáng)前瞻預(yù)防是大方向，但是對(duì)于強(qiáng)人工智能能否成為刑事責(zé)任主體，應(yīng)秉持萬(wàn)分慎重的態(tài)度，就目前來(lái)看，將強(qiáng)人工智能早早地通過(guò)立法來(lái)納入刑事主體范疇未免有些操之過(guò)急，應(yīng)該保持否定立場(chǎng)。

（一）不具有必要性

首先，眾所周知科學(xué)技術(shù)的發(fā)展需要時(shí)間的沉淀，人工智能產(chǎn)業(yè)發(fā)展也是如此。即使人工智能正處于快速發(fā)展的階段，但仍有許多研發(fā)的核心難點(diǎn)、問(wèn)題無(wú)法突破與解決，人工智能產(chǎn)生意識(shí)進(jìn)化為強(qiáng)人工智能也是遙遙無(wú)期，即便是人工智能領(lǐng)域的專(zhuān)家也不知道需要多久才能實(shí)現(xiàn)這一目標(biāo)。在目前這個(gè)階段，只看到一種可能，便認(rèn)為人工智能會(huì)毀滅人類(lèi)，過(guò)早的進(jìn)行立法明確人工智能主體的刑事責(zé)任主體地位意義不大。

其次，假設(shè)人工智能能夠發(fā)展到擁有獨(dú)立自主的意識(shí)階段，此時(shí)的人工智能帶來(lái)的風(fēng)險(xiǎn)已然上升到一個(gè)新的高度。在人類(lèi)無(wú)法準(zhǔn)確接收到關(guān)于人工智能意識(shí)的反饋時(shí)，對(duì)于人工智能產(chǎn)生的意識(shí)也愈發(fā)一無(wú)所知，到那時(shí)，人類(lèi)很有可能就會(huì)失去對(duì)人工智能的控制，用立法來(lái)確定人工智能的刑事責(zé)任主體地位，并讓它們遵守法律的規(guī)制無(wú)疑更是難上加難。若是無(wú)法證實(shí)刑法對(duì)其意識(shí)能產(chǎn)生約束，就算早早的將其作為適格刑事責(zé)任主體，也無(wú)法應(yīng)對(duì)其帶來(lái)的社會(huì)安全風(fēng)險(xiǎn)。屆時(shí)唯有通過(guò)科學(xué)技術(shù)的應(yīng)用才有可能直接、有效的解決人工智能制造的危機(jī)。

（二）不具有合理性

目前，人工智能的發(fā)展正遭遇著巨大的科研瓶頸，在第三次人工智能熱潮到來(lái)之際，回望曾經(jīng)兩次的歷史經(jīng)驗(yàn)，我們對(duì)任一產(chǎn)業(yè)的期盼，都應(yīng)建立在一定的現(xiàn)實(shí)基礎(chǔ)上，在人工智能方面，我們要充分意識(shí)到人工智能的可能性與極限性。強(qiáng)人工智能產(chǎn)品能否產(chǎn)生意識(shí)，迄今為止仍然是未知數(shù)，對(duì)人工智能未來(lái)的預(yù)測(cè)預(yù)見(jiàn)，在未經(jīng)科學(xué)研究充分證實(shí)的情況下，依然擁有無(wú)限的未知等待我們探索。在不明狀況的情況下，就給人工智能帶來(lái)的風(fēng)險(xiǎn)下一劑猛藥，這不是“對(duì)癥下藥”，反而是極其不科學(xué)、不合理的。

從道德倫理上看，人工智能作為和自然人一樣地位的刑事責(zé)任主體亦不具備合理性。2014年影視作品《她》在美國(guó)上映，為我們講述了一個(gè)有血有肉的人與代碼數(shù)據(jù)之間的愛(ài)情。雖然這只是影視創(chuàng)作的一個(gè)構(gòu)想，但無(wú)疑為我們提出了這樣一個(gè)問(wèn)題，一個(gè)有獨(dú)立思考能力有意識(shí)的人工智能能否享有人權(quán)？倘若我們給強(qiáng)人工智能上了刑法這一道枷鎖，讓他擁有了刑事責(zé)任能力，需要履行守法義務(wù)，否則就要科處刑罰，那么根據(jù)權(quán)利與義務(wù)的關(guān)系強(qiáng)人工智能理應(yīng)享受和自然人一樣的權(quán)利。因?yàn)闊o(wú)數(shù)的歷史事實(shí)告訴我們，階級(jí)的不平等必定帶來(lái)反抗。可若是給予了機(jī)器人和人類(lèi)一樣的權(quán)利地位，這種平等不僅將對(duì)現(xiàn)今社會(huì)傳統(tǒng)的道德倫理發(fā)起巨大的挑戰(zhàn)——我們無(wú)法想象機(jī)器人與人類(lèi)結(jié)婚生子會(huì)造成什么后果。不僅如此，還可能對(duì)人類(lèi)自身的發(fā)展產(chǎn)生不良影響。

（三）不具有可行性

我國(guó)現(xiàn)行刑法中的刑事主體包括自然人和單位。其承擔(dān)責(zé)任首要的就是要具備刑事責(zé)任能力。眾所周知，自然人的刑事責(zé)任能力要依據(jù)自然人犯罪時(shí)是否擁有辯認(rèn)能力、控制能力以及是否到法定年齡來(lái)進(jìn)行判定。但是對(duì)于機(jī)器人而言，我們無(wú)法給定一個(gè)與自然人相同的標(biāo)準(zhǔn)，就算確定了刑事責(zé)任主體地位，其犯罪時(shí)刑事責(zé)任能力有無(wú)的判斷我們尚未可知，現(xiàn)行刑法中的標(biāo)準(zhǔn)顯然不適用于智能機(jī)器人之中，這就給現(xiàn)行刑法以人為本的中心造成了巨大的沖擊，如果不進(jìn)行適當(dāng)過(guò)度就直接立法，勢(shì)必影響現(xiàn)行刑法的穩(wěn)定。

對(duì)于確認(rèn)刑事責(zé)任主體地位后的適用刑刑罰等相關(guān)問(wèn)題，不具備可行性。我國(guó)現(xiàn)行刑法中對(duì)于自然人的刑罰于沒(méi)有生命沒(méi)有情感的智能機(jī)器人而言根本達(dá)不到處罰的目的，刑法的刑罰預(yù)防功能對(duì)于它們產(chǎn)生的意識(shí)也不具有威懾力。強(qiáng)人工智能實(shí)施犯罪后，適用于人類(lèi)的刑罰類(lèi)型如緩刑、監(jiān)禁、死刑等都不適用于人工智能，因?yàn)槿斯ぶ悄芗炔粫?huì)感知痛苦，也不會(huì)死亡。唯物論中物質(zhì)與意識(shí)的辯證關(guān)系指出意識(shí)除了包括感性認(rèn)識(shí)和理性認(rèn)識(shí)這兩種基本的認(rèn)識(shí)形式，還包括非邏輯的認(rèn)識(shí)形式。這絕大都數(shù)都是人類(lèi)世界獨(dú)有的，強(qiáng)人工智能就算擁有了類(lèi)人的感性認(rèn)識(shí)能力和理性認(rèn)識(shí)能力，也未必能同人類(lèi)一般，具有愿望、情感等非邏輯的認(rèn)識(shí)形式。為此，有學(xué)者就智能機(jī)器人的刑罰進(jìn)行了設(shè)想，即對(duì)機(jī)器人進(jìn)行再程序化或者重新設(shè)計(jì)，如刪除數(shù)據(jù)、修改程序、永久銷(xiāo)毀等，但是此類(lèi)刑罰措施仍然難以發(fā)揮刑罰的報(bào)應(yīng)功能，對(duì)于沒(méi)有肉感痛感的人工智能而言，刪除數(shù)據(jù)與添加數(shù)據(jù)一樣，對(duì)它們來(lái)說(shuō)只是無(wú)關(guān)痛癢的小事，而被人工智能傷害的受害者們承受的遠(yuǎn)遠(yuǎn)不止于此，這般刑罰真的能做到讓受害者滿(mǎn)意嗎，筆者認(rèn)為就目前來(lái)看還遠(yuǎn)遠(yuǎn)不能為大眾所接受。而且因?yàn)槿斯ぶ悄芗夹g(shù)的復(fù)雜性，其操作能否達(dá)到預(yù)設(shè)的效果也未必能如愿以?xún)敗?/p>

對(duì)于強(qiáng)人工智能犯罪后的刑事訴訟程序上，同樣不具備可行性。就自然人作為被告人而言，我國(guó)刑事訴訟法規(guī)定了被告人享有申請(qǐng)回避的權(quán)利、委托代理的權(quán)利、用本民族語(yǔ)言進(jìn)行訴訟的權(quán)利等等，但是于強(qiáng)人工智能而言，這些權(quán)利的實(shí)現(xiàn)存在巨大的困難。譬如一個(gè)沒(méi)有財(cái)產(chǎn)權(quán)的人工智能如何支付相應(yīng)金錢(qián)聘請(qǐng)律師為其辯護(hù)，聘請(qǐng)自然人抑或是類(lèi)人機(jī)器人？就人工智能參與刑事訴訟流程中的偵察、拘捕階段而言，造型大同小異的人工智能，我們?nèi)绾螌?duì)人工智能進(jìn)行抓捕、追逃？諸如此類(lèi)。因而，人工智能作為刑事責(zé)任主體參與的刑事訴訟將會(huì)面臨施行困難又沖擊現(xiàn)有訴訟程序的囧境。

（四）不具有自洽性

對(duì)于肯定論者提出的觀(guān)點(diǎn)，其有多處都不具有自洽性?？隙ㄅ蓪W(xué)者一方面假設(shè)人工智能具有毀滅人類(lèi)的能力，聲稱(chēng)這不是危言聳聽(tīng)我們應(yīng)該未雨綢繆，另一方面又主張通過(guò)立法、科處刑罰來(lái)對(duì)人工智能進(jìn)行限制。試問(wèn)若是人工智能真的到了能毀滅人類(lèi)，徹底改變?nèi)藱C(jī)關(guān)系那一天，刑法對(duì)其的約束還能實(shí)現(xiàn)嗎？一方面在論述強(qiáng)人工智能自主意識(shí)的產(chǎn)生時(shí)，做出了與人類(lèi)意識(shí)產(chǎn)生方式不同的解釋?zhuān)硪环矫嬖谝庵镜臋C(jī)能上又做出同人腦具有類(lèi)似機(jī)能的解釋。一方面將其當(dāng)作自然人，主張與自然人一樣，擁有刑事責(zé)任能力，又因?yàn)槠錂C(jī)器人的屬性創(chuàng)造刑罰，承人了機(jī)器人的本質(zhì)。邏輯上不能自洽。

四、結(jié)語(yǔ)

人工智能的發(fā)展帶來(lái)的挑戰(zhàn)與探索從未停止，學(xué)術(shù)界正呈現(xiàn)出“百花齊放”“百家爭(zhēng)鳴”的新局面。刑法進(jìn)行理論上的前瞻性探討和研究無(wú)可厚非，但我們也要看到人工智能與人類(lèi)完全不同的一面，科學(xué)、理性地思考人工智能與人類(lèi)的關(guān)系。對(duì)于人工智能刑事主體立法的問(wèn)題，我們要始終保持嚴(yán)謹(jǐn)、慎重的態(tài)度，用發(fā)展的眼光全面地看待人工智能給刑法帶來(lái)的挑戰(zhàn)。就目前來(lái)看，否定人工智能體的犯罪主體資格，立足于現(xiàn)行的刑法規(guī)范，不僅有助于刑法的穩(wěn)定，也是應(yīng)對(duì)人工智能時(shí)代刑事風(fēng)險(xiǎn)的應(yīng)有之道。

參考文獻(xiàn)：

[1] 張?chǎng)危?王明輝. 中國(guó)人工智能發(fā)展態(tài)勢(shì)及其促進(jìn)策略[J]. 改革， 2019， （9）：31-44.

[2] 胡莎. 對(duì)人工智能體作為刑事責(zé)任主體的反思[J]. 廣州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）， 2019， 第18卷（2）：109-115.

[3] 劉憲權(quán). 人工智能時(shí)代的“內(nèi)憂(yōu)”“外患”與刑事責(zé)任[J]. 東方法學(xué)， 2018， （1）：134-142.

[4] 張茜， 賀建鵬. 人工智能的發(fā)展及趨勢(shì)[J]. 電子技術(shù)與軟件工程， 2019， （8）：241-242.

[5] 尹蕾， 王讓新. 人工智能發(fā)展的喜與憂(yōu)[J]. 人民論壇， 2018， （35）：84-85.

[6] 劉憲權(quán). 涉人工智能犯罪刑法規(guī)制的路徑[J]. 現(xiàn)代法學(xué)， 2019， 第41卷（1）：75-83.

（遼寧省阜新市遼寧工程技術(shù)大學(xué)?遼寧?阜新?123000）