宋友艷

摘 要：隨著科學(xué)技術(shù)的迅猛發(fā)展和全球化的持續(xù)推進(jìn)，人類社會(huì)發(fā)生了廣泛而深刻的變化，人工智能潛在的風(fēng)險(xiǎn)是當(dāng)代風(fēng)險(xiǎn)社會(huì)中新型風(fēng)險(xiǎn)的重要表現(xiàn)形式。因此，刑法將面臨現(xiàn)實(shí)挑戰(zhàn)：犯罪危害性難以預(yù)測(cè);可能產(chǎn)生新的犯罪形式;刑罰理念亟須轉(zhuǎn)變。我國(guó)刑法應(yīng)該重視潛在預(yù)防與風(fēng)險(xiǎn)防控：增設(shè)新罪，嚴(yán)密法網(wǎng);確立智能機(jī)器人的刑事責(zé)任主體地位;完善刑罰體系。做到未雨綢繆，深度研究探索人工智能時(shí)代犯罪的刑法規(guī)制路徑。

關(guān)鍵詞：人工智能風(fēng)險(xiǎn);風(fēng)險(xiǎn)社會(huì);刑法應(yīng)對(duì)

中圖分類號(hào)：D924.3 ? ? ? ?文獻(xiàn)標(biāo)志碼：A ? ? ?文章編號(hào)：1673-291X（2020）22-0151-02

人工智能的迅猛發(fā)展是科技高度發(fā)達(dá)的必然結(jié)果，也為當(dāng)今社會(huì)提供了新的風(fēng)險(xiǎn)誘因。人工智能潛在的風(fēng)險(xiǎn)具有人為性和不確定性，特別人工智能的失控行為對(duì)于人類社會(huì)安全存在巨大的威脅。人工智能的發(fā)展會(huì)對(duì)我們的刑事司法，尤其是刑事責(zé)任認(rèn)定、刑罰的適用和執(zhí)行等方面產(chǎn)生影響，需要制定現(xiàn)實(shí)性和前瞻性兼具的刑事治理對(duì)策，特別是相關(guān)刑法規(guī)范的規(guī)制。所以說，刑法對(duì)人工智能風(fēng)險(xiǎn)的應(yīng)對(duì)具有必要性。筆者從風(fēng)險(xiǎn)社會(huì)理論視角出發(fā)，通過剖析人工智能犯罪追究刑事責(zé)任的困境，試圖探究刑法應(yīng)對(duì)人工智能挑戰(zhàn)人類生存安全問題的路徑。

一、風(fēng)險(xiǎn)社會(huì)的新課題：人工智能

20世紀(jì)80年代以來，隨著科學(xué)技術(shù)的迅猛發(fā)展和全球化的持續(xù)推進(jìn)，人類社會(huì)發(fā)生了廣泛而深刻的變化，出現(xiàn)了一系列前所未有的令人惶恐不安的風(fēng)險(xiǎn)景象，如恐怖主義犯罪、環(huán)境污染犯罪等。德國(guó)社會(huì)學(xué)家烏爾里希·貝克1986年發(fā)表其奠基之作《風(fēng)險(xiǎn)社會(huì)》，首次提出風(fēng)險(xiǎn)社會(huì)的概念，描述充滿人為的、不確定性風(fēng)險(xiǎn)的后工業(yè)社會(huì)，揭示風(fēng)險(xiǎn)的本質(zhì)。2004年我國(guó)學(xué)者引入“風(fēng)險(xiǎn)社會(huì)”理論，進(jìn)而衍生出我國(guó)刑法學(xué)界當(dāng)前比較普遍關(guān)注和廣泛研究的“風(fēng)險(xiǎn)刑法”理論。依據(jù)貝克提出的風(fēng)險(xiǎn)社會(huì)理論，人工智能所隱含的風(fēng)險(xiǎn)其實(shí)是風(fēng)險(xiǎn)社會(huì)中新型風(fēng)險(xiǎn)的重要表現(xiàn)形式，可以適用刑法對(duì)風(fēng)險(xiǎn)社會(huì)風(fēng)險(xiǎn)的應(yīng)對(duì)策略，當(dāng)然其應(yīng)對(duì)策略也會(huì)有其自身的特殊性。

人工智能是人類社會(huì)最重要的科學(xué)進(jìn)步，21世紀(jì)人工智能迎來新的發(fā)展高潮，在移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算和腦科學(xué)等高新科技的驅(qū)動(dòng)下，人工智能已經(jīng)實(shí)實(shí)在在地進(jìn)入了落地實(shí)踐階段。世界上第一個(gè)仿生人“雷克斯”在英國(guó)誕生;Waymo One——全球第一臺(tái)無人駕駛出租車正式商用;IBM研發(fā)的機(jī)器人醫(yī)生沃森10秒為患者確診并開出處方。人工智能已經(jīng)逐步進(jìn)入我們生活的各個(gè)方面中。盡管人類社會(huì)對(duì)具備超人類邏輯演算能力的人工智能，是否可以認(rèn)作具備“人”的屬性還存在很大爭(zhēng)議，2017年10月26日，沙特阿拉伯在“未來投資峰會(huì)”上授予Hanson Robotics公司研發(fā)的人形機(jī)器人“索菲婭”合法公民身份，這標(biāo)志著人工智能已經(jīng)獲得首個(gè)公民的主體身份。

一般認(rèn)為，根據(jù)智能水平的高低，人工智能的發(fā)展有三個(gè)階段：第一階段弱人工智能階段，該階段的人工智能擅長(zhǎng)單一領(lǐng)域的技術(shù)和操作;第二階段強(qiáng)人工智能階段，人工智能將會(huì)在各個(gè)方面與人一樣，特別是具有了獨(dú)立解決問題的能力;第三階段超人工智能階段，是指人工智能在認(rèn)知通識(shí)、科學(xué)創(chuàng)造力和社交技能幾乎所有領(lǐng)域都超越人類大腦，即可以代替人類成為地球上的主導(dǎo)生命形式[1]。通行觀點(diǎn)認(rèn)為，我們尚處于弱人工智能時(shí)代。目前我國(guó)刑法理論界對(duì)于人工智能刑事責(zé)任問題的研究眾說紛紜，沒有達(dá)成共識(shí)，如何應(yīng)對(duì)人工智能帶來的刑事責(zé)任認(rèn)定，如何認(rèn)定智能機(jī)器人與相關(guān)人類主體之間的刑事責(zé)任歸屬與承擔(dān)，都是最具爭(zhēng)議性的話題，同時(shí)也是亟待應(yīng)對(duì)的法律難題。

二、刑法面臨的現(xiàn)實(shí)挑戰(zhàn)

與人工智能的迅速發(fā)展相應(yīng)的是人工智能給社會(huì)帶來的犯罪風(fēng)險(xiǎn)，對(duì)各國(guó)刑事法治發(fā)展提出了現(xiàn)實(shí)挑戰(zhàn)。

1.犯罪危害性難以預(yù)測(cè)。首先，一些傳統(tǒng)類型的犯罪數(shù)量會(huì)逐漸減少，如機(jī)器人伴侶的出現(xiàn)，會(huì)使人類社會(huì)中性犯罪的比例降低;智能機(jī)器人在老齡家庭和教育、看護(hù)等機(jī)構(gòu)的推廣使用，會(huì)降低虐待類犯罪的比例。但是，人工智能技術(shù)可以使產(chǎn)品全面智能化，也一樣會(huì)使犯罪工具和犯罪手段智能化，相應(yīng)的，犯罪行為造成的社會(huì)危害也會(huì)越來越大。不法分子利用人工智能技術(shù)全面實(shí)現(xiàn)犯罪計(jì)劃，一旦犯罪結(jié)果發(fā)生，很難得到修復(fù)。例如，人工智能一旦介入高流通、高風(fēng)險(xiǎn)的金融領(lǐng)域，會(huì)導(dǎo)致隨時(shí)可能出現(xiàn)的雪崩似的災(zāi)難性后果[2]。如果人工智能的發(fā)展進(jìn)入強(qiáng)人工智能、超人工智能時(shí)代，其犯罪危害性更大，甚至對(duì)整個(gè)人類社會(huì)產(chǎn)生威脅。

2.可能產(chǎn)生新的犯罪形式。人工智能開發(fā)的前提是建立龐大的數(shù)據(jù)庫(kù)，但數(shù)據(jù)的大量集中本身就是一種風(fēng)險(xiǎn)，無論是對(duì)個(gè)人隱私還是國(guó)家安全。一旦不法分子攻擊數(shù)據(jù)庫(kù)，可以快速獲取機(jī)密數(shù)據(jù)，并借助數(shù)據(jù)實(shí)施人類現(xiàn)在難以預(yù)測(cè)的犯罪活動(dòng)[3]。例如2017年9月，浙江紹興警方破獲的全國(guó)首例利用人工智能技術(shù)盜竊公民個(gè)人信息的案件，徹底摧毀43個(gè)犯罪團(tuán)伙，抓獲犯罪嫌疑人193人，成功截留被盜的公民個(gè)人信息10億余組，繳獲贓款600余萬元。由于現(xiàn)階段人工智能犯罪還僅僅是行為人將人工智能視為作案手段和工具，尚未涉及智能機(jī)器人自主犯罪的情形，但是強(qiáng)人工智能超人工智能時(shí)代離我們并不遙遠(yuǎn)，法律應(yīng)未雨綢繆，否則當(dāng)其真正來臨時(shí)人類或措手不及。

3.刑罰理念亟須轉(zhuǎn)變。人工智能帶來的影響還會(huì)改變相關(guān)犯罪的立法原意，使一些犯罪的構(gòu)成要件發(fā)生變化，并進(jìn)而影響到刑罰的適用，例如交通肇事罪。在美國(guó)，智能汽車被劃分為五個(gè)等級(jí)，其中五級(jí)對(duì)應(yīng)的完全自動(dòng)駕駛汽車就是無人駕駛汽車。完全自動(dòng)駕駛汽車通過計(jì)算機(jī)智能車載傳感系統(tǒng)，感知道路環(huán)境，自主規(guī)劃行車路線，并到達(dá)預(yù)定目標(biāo)。由于各種不確定因素，無人駕駛汽車難免會(huì)發(fā)生交通事故，甚至在客觀方面產(chǎn)生交通肇事罪的后果?，F(xiàn)行刑法所規(guī)定的犯罪主體僅限于自然人和單位，對(duì)人工智能機(jī)器人實(shí)施的違法行為，現(xiàn)行刑法中由于犯罪主體不適格，而不能對(duì)其規(guī)制。而且，未來通過修改刑法將智能機(jī)器人作為犯罪主體存在，刑事處罰也存在問題。由于智能機(jī)器人不同于自然人和單位，生命刑、自由刑和財(cái)產(chǎn)刑無法適用于智能機(jī)器人，現(xiàn)行刑法的刑罰種類設(shè)置在人工智能的環(huán)境下存在缺陷。

三、人工智能風(fēng)險(xiǎn)的刑法應(yīng)對(duì)

為了防止未來出現(xiàn)人工智能脫離控制的風(fēng)險(xiǎn)發(fā)生，我國(guó)刑法應(yīng)該重視潛在預(yù)防與風(fēng)險(xiǎn)防控。

1.增設(shè)新罪，嚴(yán)密刑事法網(wǎng)。在人工智能產(chǎn)品的制造過程中，必須將人類社會(huì)中的法律，以及道德等規(guī)范和價(jià)值植入產(chǎn)品的系統(tǒng)中，并履行數(shù)據(jù)保護(hù)義務(wù)。基于這一義務(wù)的存在，有必要增設(shè)新的罪名。首先，增設(shè)濫用人工智能罪。濫用人工智能的行為可能將人類置于十分危險(xiǎn)的境地。刑法是最后一道屏障，立法者應(yīng)當(dāng)謹(jǐn)慎劃定犯罪權(quán)。人工智能的行為入刑，人工智能研發(fā)或使用過程必然變得更加謹(jǐn)慎，相應(yīng)的監(jiān)管過程也必然更加嚴(yán)密，人工智能的安全與風(fēng)險(xiǎn)問題也會(huì)相對(duì)緩解。其次，增設(shè)人工智能事故罪。人工智能產(chǎn)品的生產(chǎn)者因?yàn)槠涮厥獾匚唬瑢?duì)人工智能的產(chǎn)品的安全負(fù)有特殊義務(wù)，如果因?yàn)闆]有履行這些義務(wù)，即使不存在主觀故意，但是人工智能產(chǎn)品造成了嚴(yán)重的危害結(jié)果，其生產(chǎn)者仍然負(fù)有一定的過失責(zé)任的。

2.確立智能機(jī)器人的刑事責(zé)任主體地位。當(dāng)下，人工智能產(chǎn)品致人損害構(gòu)成犯罪可以分為以下幾種情形：一是自然人故意利用人工智能產(chǎn)品實(shí)施犯罪行為;二是人工智能產(chǎn)品使用者過失操作和管理導(dǎo)致人工智能產(chǎn)品致人損害構(gòu)成犯罪的;三是人工智能產(chǎn)品質(zhì)量或者缺陷問題致人損害，構(gòu)成犯罪的。對(duì)于第一種和第二種情形，人工智能產(chǎn)品致人損害行為應(yīng)當(dāng)視為其背后相關(guān)自然人責(zé)任主體行為的組成部分，結(jié)合其背后相關(guān)自然人責(zé)任主體的主觀罪過予以分別處理。對(duì)于第三種情形的定罪歸責(zé)問題，事實(shí)上屬于產(chǎn)品質(zhì)量責(zé)任問題。對(duì)于產(chǎn)品質(zhì)量不合格引發(fā)的刑事責(zé)任問題，應(yīng)根據(jù)生產(chǎn)者和銷售者的主觀罪過予以分別認(rèn)定。未來，隨著人工智能的高速發(fā)展，只要其通過深度學(xué)習(xí)產(chǎn)生了自主意識(shí)，并在自主意識(shí)的支配下脫離人類的控制，便有可能實(shí)施算法和設(shè)計(jì)之外的嚴(yán)重危害社會(huì)的犯罪行為。此時(shí)，智能機(jī)器人實(shí)現(xiàn)的是自己意志的行為，完全可能成為法律意義上的行為。

3.完善刑罰體系。我國(guó)刑法規(guī)定了四種刑罰種類：財(cái)產(chǎn)刑、資格刑、自由性和生命刑?，F(xiàn)有刑罰種類無法適用人工智能機(jī)器人的理由歸納為：第一，智能機(jī)器人不享有財(cái)產(chǎn)權(quán)，適用罰金、沒收財(cái)產(chǎn)于法無據(jù);第二，智能機(jī)器人不享有政治權(quán)利和自由，其適用剝奪政治權(quán)利毫無意義;第三，智能機(jī)器人不享有人身自由權(quán)，無法適用管制、拘役、有期徒刑和無期徒刑等自由刑。根據(jù)智能機(jī)器人的特點(diǎn)構(gòu)建。機(jī)器人犯罪的刑罰體系，包括三種刑罰措施：一是刪除數(shù)據(jù)，就是將智能機(jī)器人實(shí)施犯罪行為所依賴的數(shù)據(jù)信息刪除，使其恢復(fù)到實(shí)施犯罪行為之前的狀態(tài)，也就是相當(dāng)于抹去智能機(jī)器人的犯罪記憶;二是修改程序，就是刪除數(shù)據(jù)這一手段已經(jīng)無法阻止機(jī)器人主動(dòng)獲取數(shù)據(jù)，并實(shí)施違法，因而將其獲取外界數(shù)據(jù)深度學(xué)習(xí)的能力，限制在程序所設(shè)定的范圍內(nèi);三是永久銷毀，就是在刪除數(shù)據(jù)修改程序仍無法降低實(shí)施了犯罪行為的智能機(jī)器人的人身危險(xiǎn)性時(shí)，只能將其永遠(yuǎn)銷毀。必須承認(rèn)，以上人工智能犯罪的刑罰體系是對(duì)智能機(jī)器人刑法適用的有益探索[4]。

總之，面對(duì)人工智能技術(shù)的發(fā)展帶來的風(fēng)險(xiǎn)，刑法學(xué)界既不應(yīng)過度反應(yīng)，將人工智能技術(shù)視為洪水猛獸，禁止或阻礙其發(fā)展，也不應(yīng)對(duì)人工智能可能給人類社會(huì)帶來的危害漠然置之，我們應(yīng)該做到未雨綢繆，深入研究，努力探索當(dāng)代人工智能犯罪的刑法規(guī)制路徑，防控人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)，對(duì)社會(huì)秩序的穩(wěn)定尋求刑事對(duì)策，保證人工智能技術(shù)為社會(huì)帶來正面的價(jià)值。

參考文獻(xiàn)：

[1] ?劉憲權(quán)，胡荷佳.論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力[J].法學(xué)，2018，（1）.

[2] ?周玲敏.關(guān)于人工智能及其法律問題的思考[J].法制博覽，2016，（17）.

[3] ?吳允鋒.人工智能時(shí)代侵財(cái)犯罪刑法適用的困境與出路[J].法學(xué)，2018，（5）.

[4] ?葉良芳，馬路瑤.風(fēng)險(xiǎn)社會(huì)視閾下人工智能犯罪的刑法應(yīng)對(duì)[J].浙江學(xué)刊，2018，（6）.