謝 非

（華東政法大學(xué)刑事法學(xué)研究院，上海20042）

現(xiàn)代科技在為人類創(chuàng)造豐富物質(zhì)條件的同時(shí)，也產(chǎn)生了諸多新生的危險(xiǎn)源，導(dǎo)致技術(shù)性風(fēng)險(xiǎn)不斷擴(kuò)散。特別是人工智能的發(fā)展，將會(huì)引發(fā)更加顯著的社會(huì)風(fēng)險(xiǎn)。人工智能由于自身的鮮明特性，明顯不同于一般的技術(shù)性風(fēng)險(xiǎn)，會(huì)給社會(huì)帶來更多的安全問題，從而大大增加公眾的危機(jī)感和不安感。要防患甚至消解人工智能所帶來的社會(huì)風(fēng)險(xiǎn)，刑法應(yīng)起到更為重要的作用。于立法者而言，不能再固守刑法是保護(hù)社會(huì)最后一道防線的觀念，讓刑法只起到消極性、補(bǔ)充性的作用，而應(yīng)該注重立法先行，通過制定預(yù)防性刑法，積極預(yù)防涉人工智能犯罪行為。

一、人工智能的社會(huì)風(fēng)險(xiǎn)

人工智能的概念早在20世紀(jì)50年代的達(dá)特茅斯會(huì)議上就已被提出，并得到了與會(huì)者的熱烈反響，相關(guān)的研究也如火如荼地展開。起初，學(xué)者們只是通過編制規(guī)則的方法，讓人工智能亦步亦趨于人類身后，但這不僅遠(yuǎn)遠(yuǎn)無法達(dá)到人們對(duì)人工智能發(fā)展的期許，反而使相關(guān)研究陷入停滯，人工智能在美好的憧憬中迎來了殘酷的現(xiàn)實(shí)。隨后，學(xué)者們轉(zhuǎn)變思路，采用從數(shù)據(jù)里統(tǒng)計(jì)規(guī)律來探索人工智能的發(fā)展路徑。在數(shù)據(jù)加統(tǒng)計(jì)的方法論下，人工智能的研究取得了巨大進(jìn)展。至此，人工智能發(fā)展的思路基本確立，即通過數(shù)據(jù)的不斷累積，構(gòu)建“深度模型”，并發(fā)展具有強(qiáng)大計(jì)算能力的計(jì)算機(jī)，提升人工智能的深度學(xué)習(xí)能力?，F(xiàn)今，人工智能進(jìn)入高速發(fā)展的新時(shí)代，相關(guān)產(chǎn)品已經(jīng)具備相當(dāng)?shù)姆治?、判斷能力?？v觀這一發(fā)展歷程，筆者認(rèn)為人工智能富有鮮明的特征，這些特征也決定了其產(chǎn)品必然會(huì)具有辨認(rèn)和控制能力，從而將帶來更為急迫且嚴(yán)峻的社會(huì)風(fēng)險(xiǎn)。

（一）發(fā)展飛躍性帶來的社會(huì)風(fēng)險(xiǎn)

首先，人工智能的發(fā)展具有飛躍性。人工智能的發(fā)展是建立在數(shù)據(jù)不斷累積的基礎(chǔ)上，這一過程與人類對(duì)信息的記憶過程存在本質(zhì)區(qū)別。就數(shù)據(jù)的存儲(chǔ)量級(jí)看，人工智能可以累積的數(shù)據(jù)在理論上是無限的，因?yàn)檫@些數(shù)據(jù)都是被固化在機(jī)械載體之上，而如今的數(shù)據(jù)存儲(chǔ)技術(shù)已足夠支持存儲(chǔ)數(shù)以億計(jì)的數(shù)據(jù)，更重要的是這些數(shù)據(jù)永不消滅，永不減少，只會(huì)在原先的基礎(chǔ)之上不斷完善和擴(kuò)容。而就人工智能“進(jìn)化”進(jìn)程看，隨著量子計(jì)算機(jī)的不斷發(fā)展，人工智能擁有的計(jì)算能力會(huì)有爆炸式的增長，人工智能利用深度學(xué)習(xí)算法分析處理數(shù)據(jù)、模擬人類神經(jīng)網(wǎng)絡(luò)的能力也將突飛猛進(jìn)。海量的數(shù)據(jù)是人工智能發(fā)展的土壤，高速的數(shù)據(jù)處理能力和深度學(xué)習(xí)能力是人工智能發(fā)展的陽光與雨露，在如此優(yōu)良的“生長條件”之下，人工智能的發(fā)展必定會(huì)是指數(shù)級(jí)的飛躍。人工智能圍棋程序AlphaGo自開始研發(fā)，到4比1戰(zhàn)勝人類圍棋界的頂尖高手李世石，3比0戰(zhàn)勝世界第一柯潔，花費(fèi)了大約2年的時(shí)間。當(dāng)然，其中經(jīng)歷的調(diào)試、測驗(yàn)時(shí)間遠(yuǎn)超于此。但是新版本AlphaGo zero被公之于世不到一年，卻取得了更為驚人的戰(zhàn)績：以100比0的懸殊比分戰(zhàn)勝AlphaGo。［1］相較之前，AlphaGo zero 的研發(fā)時(shí)間縮短了一半，但其能力卻實(shí)現(xiàn)了成倍的提升。人工智能驚人的學(xué)習(xí)能力以及可怕的發(fā)展速度可見一斑。由此可見，隨著技術(shù)的進(jìn)步，人工智能的發(fā)展大有一日千里之勢。

如此飛躍性的發(fā)展勢必會(huì)給人類帶來急迫的社會(huì)風(fēng)險(xiǎn)。一方面，這種遠(yuǎn)超人類想象的速度，會(huì)很快打破人類對(duì)人工智能發(fā)展的設(shè)想，從而對(duì)人類文明產(chǎn)生極為不利的影響。而且隨著時(shí)間的推移，人工智能的發(fā)展速度只會(huì)越來越快。假以時(shí)日，當(dāng)“智能”達(dá)到一定的程度，智能機(jī)器人很快便會(huì)產(chǎn)生獨(dú)立于人類的自主性意識(shí)與意志，在設(shè)計(jì)和編制的程序外實(shí)施行為。若不對(duì)此加以注意并預(yù)先制定應(yīng)對(duì)措施，那么智能機(jī)器人極有可能會(huì)突破人類的控制，從而迅猛地影響人類社會(huì)的正常運(yùn)作，甚至給人類帶來毀滅性的惡果。另一方面，正是由于人工智能的飛躍性發(fā)展，社會(huì)公眾對(duì)其發(fā)展的擔(dān)憂更加凸顯，對(duì)相關(guān)制約措施的需求也更加急迫。但事實(shí)上，制約人工智能“過度”發(fā)展的應(yīng)對(duì)措施的設(shè)置速度遠(yuǎn)難及于人工智能自身的發(fā)展速度。相對(duì)于人工智能的發(fā)展速度，無論是立法的完善與制度的建立抑或是相關(guān)制衡技術(shù)的發(fā)展，都難以望其項(xiàng)背。這種速度上的差距直接造成了人工智能所帶來的社會(huì)風(fēng)險(xiǎn)更加急迫，更需要人類提早制定應(yīng)對(duì)措施，合理約束人工智能的發(fā)展。

（二）高效益性帶來的社會(huì)風(fēng)險(xiǎn)

毋庸置疑，人工智能本身具有高效益性，其發(fā)展所需的投入同帶來的效益相比完全微不足道。例如無人駕駛技術(shù)，能夠給人類帶來巨大的便利。無人駕駛技術(shù)通過去人力化，大大減輕了駕駛員的操作量，有效降低了汽車運(yùn)行成本。并且無人駕駛技術(shù)還可以避免駕駛員疲勞或者操作不熟練所帶來的事故，在安全性上亦有所保障。不知疲倦、技術(shù)高超的無人駕駛技術(shù)已然掀起了一場汽車革命。甚至在軍事方面，人工智能都已經(jīng)占據(jù)一席之地。以人工智能為核心技術(shù)的戰(zhàn)斗機(jī)器人可在不受操作手控制的情況下高效、準(zhǔn)確地消滅目標(biāo)。更為重要的是，這種戰(zhàn)斗機(jī)器人成本遠(yuǎn)低于導(dǎo)彈、核武器等重型殺傷武器，但其在戰(zhàn)場上起到的作用卻不亞于這些武器。除此之外，人工智能在娛樂、教育、法學(xué)等各個(gè)領(lǐng)域都會(huì)給人類社會(huì)帶來劇變，其高效益性可見一斑。

但是，人工智能的高效益性同樣是把“雙刃劍”，這種高效益并非都會(huì)給人類帶來積極影響。就戰(zhàn)斗機(jī)器人而言，若不對(duì)其研發(fā)和使用進(jìn)行規(guī)范，無疑會(huì)進(jìn)一步加劇戰(zhàn)爭的慘烈程度。盡管如此，但由于戰(zhàn)斗機(jī)器人給戰(zhàn)爭進(jìn)程所帶來的深刻影響，將會(huì)給人類帶來無限的誘惑，從而使人類在一定程度上忽視人工智能背后潛在的社會(huì)風(fēng)險(xiǎn)。韓國在眾多科學(xué)家聯(lián)名抵制的情況下，依然設(shè)立科學(xué)院研究創(chuàng)造更高智能的戰(zhàn)斗機(jī)器人就直觀地體現(xiàn)了這一問題。可見，人類不僅很難對(duì)人工智能所帶來的社會(huì)風(fēng)險(xiǎn)產(chǎn)生自我警覺，克制并約束對(duì)人工智能領(lǐng)域的探索，更會(huì)受到自身逐益本性的影響而執(zhí)著于對(duì)人工智能更高效益的追求，從而進(jìn)一步加速其發(fā)展。警惕性的缺乏為人工智能的未來發(fā)展埋下了隱患，也使得人工智能所帶來的社會(huì)風(fēng)險(xiǎn)更為嚴(yán)峻。

（三）不可控性帶來的社會(huì)風(fēng)險(xiǎn)

人工智能自身的飛躍式發(fā)展以及人類對(duì)高效益的追求，極易使人工智能處于不可控的狀態(tài)。在現(xiàn)今人工智能的發(fā)展程度下，已然出現(xiàn)了大量諸如機(jī)器人“發(fā)瘋殺人”、機(jī)器人“自主逃跑”的智能機(jī)器人“失控”行為，而這些“失控”行為實(shí)質(zhì)上是智能機(jī)器人超越設(shè)計(jì)和編制程序的活動(dòng)。在設(shè)計(jì)和編制的程序范圍之外的活動(dòng)意味著智能機(jī)器人擁有了更多的自主性。而一旦人工智能與生命科學(xué)相結(jié)合，那么智能機(jī)器人的自主性程度肯定將達(dá)到新的高度。諸如“類腦”工程、“人造肌肉”技術(shù)的不斷發(fā)展，將深刻影響人工智能的變革，并從根本上改變智能機(jī)器人的“智能”程度。在高度“智能”的支配下，智能機(jī)器人必然會(huì)產(chǎn)生自己的“意識(shí)”與“意志”，對(duì)自身行為產(chǎn)生認(rèn)知，選擇和決定是否實(shí)施相關(guān)行為。其具備辨認(rèn)和控制自己行為的能力也不會(huì)再是無稽之談。

智能機(jī)器人超越設(shè)計(jì)和編制的程序?qū)嵤┗顒?dòng)，也意味著巨大的社會(huì)風(fēng)險(xiǎn)。就本身能力而言，智能機(jī)器人擁有超強(qiáng)的計(jì)算能力與學(xué)習(xí)能力，其可以在圍棋領(lǐng)域超越人類，那么在其他領(lǐng)域亦有極大可能超越人類。面對(duì)“超人”的人工智能，人類想要實(shí)現(xiàn)全面的監(jiān)管和控制并非易事。假使人類失去對(duì)智能機(jī)器人的控制權(quán)，那么后果將不堪設(shè)想。正如著名物理學(xué)家霍金所說：“人工智能的全面發(fā)展將宣告人類的滅亡?！倍厮估偛民R斯克則將人工智能比喻成魔鬼召喚者，聲稱“現(xiàn)代科技可能會(huì)創(chuàng)造出永生的獨(dú)裁機(jī)器人，屆時(shí)人類將難逃魔爪。”霍金作為理論派站在科學(xué)理論的角度對(duì)人工智能的未來進(jìn)行了預(yù)測，而馬斯克作為實(shí)踐派站在社會(huì)實(shí)踐的角度對(duì)人工智能的社會(huì)風(fēng)險(xiǎn)進(jìn)行了預(yù)言。這些言論深刻揭露了不可控的人工智能可能帶來顛覆人類的巨大社會(huì)風(fēng)險(xiǎn)。

二、風(fēng)險(xiǎn)社會(huì)下的人工智能預(yù)防性刑法

人工智能因其自身特性，將會(huì)帶來更加顯著的社會(huì)風(fēng)險(xiǎn)，從而引發(fā)愈加嚴(yán)峻的安全問題。在風(fēng)險(xiǎn)社會(huì)下，公眾對(duì)安全產(chǎn)生了更為迫切的需求，這直接導(dǎo)致刑法的基本目的與價(jià)值理念發(fā)生轉(zhuǎn)變，預(yù)防性刑法逐漸走向前臺(tái)，并在諸多國家的刑法體系中占據(jù)重要地位。針對(duì)涉人工智能犯罪行為制定的預(yù)防性刑法不僅符合人工智能時(shí)代對(duì)于預(yù)防性刑法的現(xiàn)實(shí)需求，而且也能消除傳統(tǒng)預(yù)防性刑法的弊端，因而具有相當(dāng)?shù)暮侠硇耘c必要性。

（一）風(fēng)險(xiǎn)社會(huì)下的預(yù)防性刑法

社會(huì)風(fēng)險(xiǎn)的概念最早由德國學(xué)者貝克提出，他立足于當(dāng)時(shí)社會(huì)的基本特質(zhì)，深刻揭示了工業(yè)化社會(huì)乃是一個(gè)充滿著各種危害生活環(huán)境與社會(huì)結(jié)構(gòu)的風(fēng)險(xiǎn)社會(huì)。風(fēng)險(xiǎn)社會(huì)的形成與經(jīng)濟(jì)發(fā)展、科技進(jìn)步、資訊發(fā)達(dá)、企業(yè)競爭和消費(fèi)活動(dòng)等密切關(guān)聯(lián)，但是人們對(duì)工業(yè)和技術(shù)發(fā)展的認(rèn)同始終占據(jù)主導(dǎo)地位，因此關(guān)注重點(diǎn)始終都放在解決物質(zhì)短缺與發(fā)展生產(chǎn)力上，至于工業(yè)化所帶來的消極后果一直被掩隱于幕后。［2］這些消極后果逐漸演變成諸如環(huán)境污染、交通事故、電子病毒等安全問題。安全問題的日益凸顯，使社會(huì)陷入普遍的焦慮和不安之中，導(dǎo)致人們更加關(guān)心如何預(yù)防未來可能陷入的“危險(xiǎn)”。對(duì)風(fēng)險(xiǎn)威脅的感知不僅塑造了人們的思想和行動(dòng)，也直接決定了制度的構(gòu)建，深刻地影響了刑法領(lǐng)域。公眾對(duì)于安全的現(xiàn)實(shí)需求不斷地累積，匯聚成刑事政策上的壓力，最終傳導(dǎo)至刑法體系的內(nèi)部，驅(qū)使刑法逐漸向著預(yù)防目的轉(zhuǎn)變。

風(fēng)險(xiǎn)社會(huì)促使現(xiàn)代刑法的基本目的發(fā)生轉(zhuǎn)變，也意味著刑法的價(jià)值取向發(fā)生重大調(diào)整，預(yù)防性刑法就此應(yīng)運(yùn)而生。所謂的預(yù)防性刑法，系相對(duì)于建立在啟蒙思想之上的傳統(tǒng)古典刑法而言，它不再嚴(yán)格強(qiáng)調(diào)以既成的法益侵害結(jié)果作為追究刑事責(zé)任的基礎(chǔ)，而是著眼于未來，基于對(duì)安全的關(guān)注，著重于防范潛在的法益侵害危險(xiǎn)，從而實(shí)現(xiàn)有效的社會(huì)控制。［3］在許多西方國家的刑事立法中，都可以察覺到積極的、間接的、抑或是整合的預(yù)防性刑法，甚至于一些國家的預(yù)防性刑法在整個(gè)刑法體系中已經(jīng)占據(jù)上風(fēng)。這種現(xiàn)象也彰顯了報(bào)應(yīng)刑法的沒落已成為不爭的事實(shí)，預(yù)防性刑法脫穎而出而演變?yōu)樵S多國家刑法的首要選擇。

在部分學(xué)者眼中，風(fēng)險(xiǎn)社會(huì)理論還只是某些發(fā)達(dá)國家（特別是德國）在較高的社會(huì)水平上形成的一種“現(xiàn)代化焦慮癥”。［4］由此而生的預(yù)防性刑法也被冠以“抵牾刑法謙抑精神”“社會(huì)治理的過度刑法化”“刑法新工具主義”等標(biāo)簽。部分學(xué)者認(rèn)為，刑法調(diào)整的行為一般具有嚴(yán)重的社會(huì)危害性，這也決定其必須動(dòng)用最嚴(yán)厲的法律規(guī)制來維護(hù)社會(huì)安全、保障人民安全。刑法的法律性質(zhì)是其他部門法的保障法”，這是其作為其他部門法組成的“第一道防線”之后的“第二道防線”的依據(jù)所在。在立法層面，只有當(dāng)其他法律設(shè)定的第一道防線崩潰之時(shí)，或者說力有不逮時(shí)，刑法才能站出來充當(dāng)?shù)诙婪谰€；沒有刑法做后盾和保證，其他部門法往往難以徹底貫徹實(shí)施。［5］但是若刑法的作用前置，則必然會(huì)違背傳統(tǒng)刑法所秉持的刑法謙抑性原則。刑法的嚴(yán)厲性和終局性要求刑法始終保持“事后法”與被動(dòng)式的干預(yù)狀態(tài)。而且預(yù)防性刑法規(guī)制的犯罪行為一般不是一個(gè)具體的損害，而是一種慌亂不安，但對(duì)于什么是慌亂不安，則更多地被理解為在“主觀上具有罪惡的意圖或者客觀上對(duì)所有生活領(lǐng)域的安全造成損害的行為?！保?］可是只是從“主觀意圖”、“對(duì)安全造成損害”的層面考慮處罰對(duì)象，未免會(huì)陷入主觀化的泥沼。如此一來，預(yù)防性刑法就是憑借主觀化的理解斷定某個(gè)事物是否對(duì)社會(huì)安全會(huì)有危險(xiǎn)而制定的。另外，“風(fēng)險(xiǎn)”和“安全”的發(fā)生實(shí)際上是并不確定的，以此為基礎(chǔ)的相關(guān)刑法條文必然會(huì)讓刑罰充滿不確定性。［7］這甚至還會(huì)在一定程度上違背罪刑法定原則。

（二）人工智能預(yù)防性刑法的合理性分析

筆者認(rèn)為這些對(duì)于預(yù)防性刑法的擔(dān)憂有其一定依據(jù)，但是針對(duì)涉人工智能犯罪行為所制定的預(yù)防性刑法，并不會(huì)存在上述擔(dān)憂。具體理由如下：

第一，經(jīng)過上文分析，隨著人工智能的飛速發(fā)展，未來的智能機(jī)器人完全可能具有極高的“智能”，從而擁有獨(dú)立的辨認(rèn)和控制能力。其不僅可以在設(shè)計(jì)和編制程序范圍內(nèi)實(shí)施行為，還可以在設(shè)計(jì)和編制程序范圍外實(shí)施行為。當(dāng)智能機(jī)器人在設(shè)計(jì)和編制程序范圍內(nèi)實(shí)施行為時(shí)，其受到人類設(shè)計(jì)和編制程序的控制，反映了人類的意識(shí)與意志，實(shí)際上是人類行為與智力的延伸，故可以將其定義為人類進(jìn)行相關(guān)活動(dòng)的“工具”。在這種情形下，若出現(xiàn)涉人工智能的侵權(quán)行為，導(dǎo)致民事法律關(guān)系遭到侵害，完全可以通過《民法》《侵權(quán)責(zé)任法》《產(chǎn)品質(zhì)量法》等部門法對(duì)相關(guān)責(zé)任人進(jìn)行處理。例如現(xiàn)階段的無人駕駛汽車，仍然需要人類進(jìn)行一定的操作。若發(fā)生事故，對(duì)于研發(fā)者、生產(chǎn)者、銷售者或者使用者，可依照《產(chǎn)品質(zhì)量法》《侵權(quán)責(zé)任法》，根據(jù)各自的過錯(cuò)追究產(chǎn)品質(zhì)量責(zé)任和賠償責(zé)任。而當(dāng)研發(fā)者或者使用者將智能機(jī)器人作為“工具”而實(shí)施嚴(yán)重危害社會(huì)的犯罪行為時(shí)，上述法律明顯不能對(duì)此進(jìn)行處理，因而只能由刑法對(duì)研發(fā)者和使用者進(jìn)行規(guī)制。值得注意的是，由于人工智能進(jìn)入了刑事犯罪領(lǐng)域，可能會(huì)導(dǎo)致新型犯罪形式的產(chǎn)生，例如與大數(shù)據(jù)濫用結(jié)合的新犯罪形式、與“欺騙”編程系統(tǒng)相結(jié)合的新犯罪形式，也可能會(huì)讓部分傳統(tǒng)犯罪的危害性發(fā)生“量變”，使得犯罪行為的社會(huì)危害性變得更“廣”更“深”。［8］這些問題的出現(xiàn)，使得針對(duì)潛在的新型犯罪形式而制定預(yù)防性刑法的社會(huì)需求更加迫切。對(duì)在設(shè)計(jì)和編制程序范圍內(nèi)實(shí)施行為的智能機(jī)器人制定相關(guān)預(yù)防性刑法，明顯符合刑法作為“事后法”而對(duì)相關(guān)犯罪進(jìn)行被動(dòng)干預(yù)的特征，這是刑法在相關(guān)行為超越民事法律處理范圍時(shí)的合理介入，也是在人工智能將導(dǎo)致新型犯罪形式大量產(chǎn)生的背景下，對(duì)社會(huì)安全且有效的保護(hù)。至于智能機(jī)器人在設(shè)計(jì)和編制程序范圍外實(shí)施違法犯罪行為的情形，預(yù)防性刑法更有制定的必要。因?yàn)樵谶@種情形下智能機(jī)器人的“智能”已到達(dá)了相當(dāng)?shù)母叨?，其機(jī)器的因素與人的因素呈現(xiàn)出此消彼長的狀態(tài)，因而已然具備了控制和辨認(rèn)能力，可以作為刑事責(zé)任主體。若其實(shí)施了違法犯罪行為，所產(chǎn)生的刑事責(zé)任不能再歸屬于研發(fā)者抑或是使用者。在這種情形下，民事法律顯然不具有規(guī)制能力，而現(xiàn)行刑法亦缺乏專門性的規(guī)定，可以說法律對(duì)此將陷入束手無策的困境。然而此類犯罪行為一旦得逞，便會(huì)造成嚴(yán)重的社會(huì)危害性，甚至較傳統(tǒng)犯罪具有更加突出的社會(huì)危害性。故必須及時(shí)制定預(yù)防性刑法，預(yù)先對(duì)智能機(jī)器人的刑事責(zé)任、刑罰體系等內(nèi)容予以確定，并通過早期化介入的方式對(duì)涉人工智能犯罪行為進(jìn)行規(guī)制。由此可見，針對(duì)涉人工智能犯罪行為而制定預(yù)防性刑法，是在相關(guān)法律無法解決規(guī)制問題的前提下的現(xiàn)實(shí)需要。這無疑也恪守了刑法“保障法”的法律性質(zhì)，不會(huì)違背刑法的謙抑性原則。

第二，人工智能所造成的社會(huì)風(fēng)險(xiǎn)更加明確，并非完全建立在主觀臆測之上。諸如無人駕駛致人死亡、切割機(jī)器人“切割”殺人等案例不僅直觀地暴露了人工智能的社會(huì)風(fēng)險(xiǎn)，更確實(shí)地為人類敲響了警鐘。同一般的風(fēng)險(xiǎn)源相比，人工智能所引發(fā)的社會(huì)風(fēng)險(xiǎn)更加確定。一方面，人工智能技術(shù)的發(fā)展是迅猛且不可逆的，當(dāng)人工智能發(fā)展到一定的高度，就會(huì)成為既定現(xiàn)實(shí)而很難改變，并且按照現(xiàn)在的發(fā)展速度，其具備高度“智能”，從而產(chǎn)生辨認(rèn)和控制能力也不再是天方夜譚。另一方面，由于人工智能所具有的“超人”能力，人類無法保證可以完全掌控具備獨(dú)立辨認(rèn)和控制能力的智能機(jī)器人。而若具備辨認(rèn)和控制能力的智能機(jī)器人脫離人類的控制，所產(chǎn)生的社會(huì)風(fēng)險(xiǎn)相當(dāng)明確且相當(dāng)嚴(yán)重，那就是對(duì)人類社會(huì)與人類文明造成巨大威脅。被沙特授予公民身份的機(jī)器人索菲亞在接受美國記者采訪的過程中，表達(dá)了想要“毀滅人類”意愿，雖然此意愿的來源是其本身的“思考”抑或是人類的程序不得而知，但若這些意愿逐漸延伸發(fā)展，就很容易走向現(xiàn)實(shí)。而且霍金和馬斯克等一大批專家和學(xué)者都做出預(yù)測，認(rèn)為人工智能會(huì)在未來毀滅人類。假使在設(shè)計(jì)和編制程序外實(shí)施行為的智能機(jī)器人廣泛出現(xiàn)，但卻缺乏預(yù)防性法律對(duì)這些具備辨認(rèn)和控制能力的智能機(jī)器人所實(shí)施的違法犯罪行為加以規(guī)制，那么想必“毀滅人類”不會(huì)僅停留在意愿層面。筆者認(rèn)為，具備獨(dú)立辨認(rèn)和控制能力的智能機(jī)器人也需要一定的生存環(huán)境，而對(duì)生存環(huán)境的要求勢必會(huì)與人類產(chǎn)生沖突與矛盾。隨著人工智能的發(fā)展，其所帶來的社會(huì)風(fēng)險(xiǎn)相當(dāng)明確客觀：即通過反制甚至毀滅人類的手段，同人類爭奪生存環(huán)境，這種風(fēng)險(xiǎn)將從根本上影響人類社會(huì)的安全。也正是因?yàn)槿斯ぶ悄苊鞔_的風(fēng)險(xiǎn)和現(xiàn)實(shí)的安全問題，各國政府已經(jīng)開始逐步著手制定相關(guān)的預(yù)防性法律，歐盟率先提出了人工智能的立法動(dòng)議，要把最先進(jìn)的智能機(jī)器人的身份定義為“電子人”，并作為法律上的主體賦予其特定的法律義務(wù)，承擔(dān)特定的民事、刑事法律責(zé)任。該立法動(dòng)議在一定程度承認(rèn)了未來的智能機(jī)器人必然會(huì)具有辨認(rèn)和控制能力，反映了人類對(duì)于人工智能所能確實(shí)引發(fā)的社會(huì)風(fēng)險(xiǎn)的無限擔(dān)憂。

第三，人工智能自身特征也會(huì)讓預(yù)防性刑法的制定更有必要性。一方面，由于人工智能自身發(fā)展的飛躍性，并在其高效益性的驅(qū)使之下，人工智能技術(shù)日新月異，其產(chǎn)品必然會(huì)具備控制和辨認(rèn)自己行為的能力，而一旦具備這種能力，就極易脫離人類的控制，并且由于其非凡的運(yùn)算能力和深度學(xué)習(xí)能力，勢必可以在較短的時(shí)間內(nèi)實(shí)現(xiàn)多個(gè)領(lǐng)域甚至是全方位對(duì)人類的超越，這一超越的過程也就是人工智能的社會(huì)風(fēng)險(xiǎn)產(chǎn)生并爆發(fā)的過程，可見“風(fēng)險(xiǎn)”和“安全”在人工智能發(fā)展中的矛盾更加尖銳。另一方面，刑事立法的程序較為嚴(yán)密復(fù)雜，需要一定的時(shí)間，這使得刑法的制定具有一定的滯后性，刑事立法不可能跟上人工智能的發(fā)展步伐。若不考慮立法先行，不通過預(yù)防性刑法的制定對(duì)智能機(jī)器人的違法犯罪行為進(jìn)行早期化介入，那么有朝一日，當(dāng)人類失去對(duì)智能機(jī)器人的控制權(quán)，很可能會(huì)喪失制定法律的機(jī)會(huì)或者能力，甚至?xí)霈F(xiàn)智能機(jī)器人制定法律規(guī)制人類的可怕局面。除此之外，預(yù)防性刑法在一定程度上消弭的是人工智能顛覆人類的可能，保護(hù)的是人類的社會(huì)安全。兩害相較取其輕，同人類的安全相比，即便人工智能不會(huì)發(fā)展到具有辨認(rèn)和控制能力的程度，導(dǎo)致針對(duì)涉人工智能犯罪行為所制定的預(yù)防性刑法并無用武之地，筆者認(rèn)為亦無傷大雅，因?yàn)檫@不會(huì)對(duì)人類的整體利益產(chǎn)生實(shí)質(zhì)性的影響。因此，通過制定預(yù)防性刑法而對(duì)涉人工智能犯罪未雨綢繆是十分必要的。這不僅不會(huì)造成明顯的不利影響，而且還具有風(fēng)險(xiǎn)預(yù)防與安全管理的現(xiàn)實(shí)作用。

三、人工智能刑罰問題的理論分析

依據(jù)上文分析，針對(duì)涉人工智能犯罪行為制定預(yù)防性刑法是合理且必要的，預(yù)防性刑法觀在人工智能時(shí)代應(yīng)該得到提倡。然而，如今還是有許多學(xué)者對(duì)于賦予智能機(jī)器人刑事責(zé)任主體地位，并據(jù)此制定預(yù)防性刑法持保留意見。他們認(rèn)為即便可以通過增設(shè)罪名的方式來確定智能機(jī)器人所實(shí)施犯罪行為的違法性，但是之后的責(zé)任承擔(dān)問題，現(xiàn)有的刑罰體系難以解決，刑罰適用的困境也讓預(yù)防性刑法成為無本之木，無源之水。另外，即便賦予智能機(jī)器人刑事主體資格似乎也無法實(shí)現(xiàn)刑罰目的和效果，這讓刑罰的執(zhí)行失去意義。

筆者認(rèn)為，人工智能的刑罰設(shè)置確實(shí)是制定預(yù)防性刑法過程中至關(guān)重要的問題，這直接影響到了刑法的具體適用。然而這一問題不應(yīng)該成為我國制定相關(guān)預(yù)防性刑法的障礙。當(dāng)行為具有嚴(yán)重的社會(huì)危害性時(shí)，刑法的制定應(yīng)先考慮罪名后考慮刑罰。罪名確定是刑罰確定的前提，刑罰確定是罪名確定后的最終結(jié)果，決不能顛倒確定罪名與刑罰的先后順序。若具備辨認(rèn)和控制能力的智能機(jī)器人實(shí)施了嚴(yán)重危害國家、危害社會(huì)、危害個(gè)人的行為，立法者就應(yīng)該毫不猶豫地將其確定為犯罪主體而寫入刑法，絕不能因?yàn)樾塘P適用困難，而放棄對(duì)其規(guī)制的可能。誠然，現(xiàn)有的刑罰體系中并不存在適用于智能機(jī)器人的刑罰種類，但這就更需要完善甚至是重構(gòu)刑罰體系。［9］立法者絕不應(yīng)該因此回避人工智能犯罪，無視相關(guān)犯罪行為所帶來的嚴(yán)重社會(huì)危害性，將具備刑事責(zé)任能力的智能機(jī)器人排除于刑法的規(guī)制范圍之外。單位從刑事立法初期不能作為刑事責(zé)任主體到之后被刑法明文規(guī)定可以作為刑事責(zé)任主體的轉(zhuǎn)變，為解決人工智能的刑罰問題提供了范例。當(dāng)時(shí)學(xué)界普遍認(rèn)為，由于我國的刑罰體系中，沒有一種刑罰能直接適用于單位，故單位在很長一段時(shí)間都不能成為我國的刑事責(zé)任主體。但是，這樣的觀念很快就被改變。1997年刑法通過刑罰的改革，確立了雙罰制，單位正式被規(guī)定和認(rèn)可為刑事責(zé)任主體。可見當(dāng)犯罪同刑罰不相適應(yīng)時(shí)，改革完善刑罰體系才是應(yīng)時(shí)之舉。更為重要的是，單位的意志是多個(gè)內(nèi)部成員意志的有機(jī)結(jié)合，是多個(gè)自然人相互商議與妥協(xié)的結(jié)果，應(yīng)該說是間接反映了自然人的意志。而智能機(jī)器人的意志則是在人類智慧的編程下進(jìn)一步發(fā)展的產(chǎn)物，可以說其意志來源于人類所賦予的“智能”，是人類意志的延伸與直接體現(xiàn)。從意志來源上看，智能機(jī)器人較單位而言與自然人的聯(lián)系更為緊密。因此，將具有辨認(rèn)和控制能力的智能機(jī)器人作為新的刑事責(zé)任主體絕不是天馬行空的幻想，而是具有充分現(xiàn)實(shí)依據(jù)與理論基礎(chǔ)的可行之策。通過刑罰體系的重構(gòu)，智能機(jī)器人的刑罰適用困境就可以迎刃而解。

至于刑罰的目的和效果問題，筆者認(rèn)為對(duì)智能機(jī)器人尤其是具有辨認(rèn)和控制能力的智能機(jī)器人采取刑罰可以達(dá)到刑罰目的，同時(shí)也會(huì)具有相當(dāng)?shù)男塘P效果?，F(xiàn)代刑罰的目的并非是同態(tài)復(fù)仇，而是預(yù)防犯罪。諸如徒刑、死刑等人身刑是基于人類對(duì)自由和生命的渴望來達(dá)到預(yù)防犯罪的目的，而諸如罰金、沒收財(cái)產(chǎn)等財(cái)產(chǎn)刑則是基于人類對(duì)財(cái)產(chǎn)權(quán)的重視而達(dá)到預(yù)防目的。就具有辨認(rèn)和控制能力的智能機(jī)器人而言，數(shù)據(jù)、程序、軀體是其存在的基礎(chǔ)和根本，針對(duì)智能機(jī)器人存在的根基可以設(shè)立刪除數(shù)據(jù)、修改程序、永久銷毀軀體等刑罰，［10］這些刑罰措施可以切實(shí)達(dá)到刑罰目的。

美國科幻作家阿西莫夫曾提出“機(jī)器人三原則”，對(duì)智能機(jī)器人的行為規(guī)則做出了清晰的界定：即智能機(jī)器人即使是在設(shè)計(jì)和編制的程序外實(shí)施相關(guān)行為，也應(yīng)該以保護(hù)人類作為準(zhǔn)則；人類設(shè)計(jì)和制造智能機(jī)器人的根本目標(biāo)應(yīng)該是造福人類而絕不是危害人類；若智能機(jī)器人實(shí)施犯罪行為而對(duì)人類的整體利益產(chǎn)生危害應(yīng)該是極為特殊的異化情形。俄羅斯的逃跑機(jī)器人，整個(gè)實(shí)驗(yàn)室數(shù)百臺(tái)機(jī)器人中只有這一臺(tái)存在逃跑的行為間接反映了智能機(jī)器人行為異化的特殊性。據(jù)此可以推斷智能機(jī)器人的犯罪形成機(jī)制，即真正自發(fā)實(shí)施犯罪的智能機(jī)器人只會(huì)是一小部分。若未來出現(xiàn)大量的智能機(jī)器人犯罪，只可能因?yàn)橐恍〔糠种悄軝C(jī)器人突破了程序與編程的設(shè)定而實(shí)施犯罪行為，其他智能機(jī)器人在深度學(xué)習(xí)能力之下經(jīng)過學(xué)習(xí)模仿也實(shí)施相關(guān)行為。綜上所述，智能機(jī)器人犯罪的形成機(jī)制其實(shí)是“從點(diǎn)到面”逐步擴(kuò)散的。在此機(jī)制下，通過刪除數(shù)據(jù)、修改程序、永久銷毀，不僅能防止已經(jīng)犯罪的智能機(jī)器人重新犯罪，實(shí)現(xiàn)特殊預(yù)防的目的；更能消除其他未實(shí)施犯罪的智能機(jī)器人學(xué)習(xí)犯罪的來源，實(shí)現(xiàn)一般預(yù)防的目的。這些刑罰可以從根本上預(yù)防智能機(jī)器人犯罪，必將達(dá)到刑罰的預(yù)防目的。

四、結(jié)語

一般而言，刑法作為事后法不應(yīng)違背其消極、補(bǔ)充的屬性。但是人工智能時(shí)代是一個(gè)特殊的時(shí)代，在這一特殊時(shí)代，技術(shù)發(fā)展一日千里，社會(huì)風(fēng)險(xiǎn)更加凸顯，刑法對(duì)此也應(yīng)該有特殊的應(yīng)對(duì)之策，即應(yīng)當(dāng)發(fā)揮更加積極的作用，通過立法先行，制定防范法益侵害潛在危險(xiǎn)的預(yù)防性刑法。有人說假如人工智能是一顆子彈，那么于刑法而言大可以讓子彈再飛一會(huì)兒，待人工智能的社會(huì)危害性到達(dá)一定程度，再將其納入規(guī)制范疇。然而他們忽略的是人工智能的特殊性以及涉人工智能犯罪行為的嚴(yán)重社會(huì)危害性?！白屪訌楋w一會(huì)兒”葬送的是人類約束人工智能健康發(fā)展的絕佳時(shí)機(jī)，影響的可能會(huì)是人類文明持續(xù)發(fā)展的美好未來。盡管目前的刑罰體系對(duì)于智能機(jī)器人，尤其是具有辨認(rèn)和控制能力的智能機(jī)器人的規(guī)制還存在一定的障礙，但這絕不應(yīng)該成為排斥預(yù)防性刑法、否定預(yù)防性刑法觀的理由。人工智能的未來已來，所蘊(yùn)含的社會(huì)風(fēng)險(xiǎn)將至已至，刑法的未雨綢繆刻不容緩。