柳若儀?鄭茜尹

摘要：強(qiáng)人工智能體的程序運(yùn)作邏輯嚴(yán)格遵循封閉性準(zhǔn)則，只有在封閉性準(zhǔn)則下其才能發(fā)揮人工智能為人類服務(wù)的效用。強(qiáng)人工智能體在本質(zhì)屬性層面與法律依據(jù)層面都不具備成為刑事責(zé)任主體的技術(shù)基礎(chǔ)與理論基礎(chǔ)，不具有成為刑事責(zé)任主體的必要性與可行性，人類對(duì)于強(qiáng)人工智能體的法律規(guī)制不能脫離于科學(xué)技術(shù)。若強(qiáng)人工智能體實(shí)施了犯罪行為，則應(yīng)當(dāng)在封閉性準(zhǔn)則框架內(nèi)進(jìn)行歸責(zé)。強(qiáng)人工智能體侵害法益的行為可分為技術(shù)失控與技術(shù)誤用，應(yīng)分別區(qū)分責(zé)任。

關(guān)鍵詞：封閉性準(zhǔn)則；強(qiáng)人工智能體；刑事責(zé)任主體

隨著科技的爆炸式發(fā)展，我們由弱人工智能時(shí)代走向強(qiáng)人工智能時(shí)代的趨勢(shì)不可逆轉(zhuǎn)，這一趨勢(shì)引發(fā)一系列的法律、哲學(xué)、倫理問題，其中不乏可能產(chǎn)生刑事犯罪問題。在刑法領(lǐng)域，探討的焦點(diǎn)多集中于人工智能是否具有刑事主體地位、是否能夠承擔(dān)刑事責(zé)任以及是否能夠被施以刑罰等問題。其中，代表性觀點(diǎn)指出，智能機(jī)器人完全可能具有與人一樣的辨認(rèn)能力和控制能力，可以在自主意識(shí)和意志的支配下實(shí)施行為，因此完全可能成為行為主體而承擔(dān)刑事責(zé)任[1]，可以將其實(shí)施的嚴(yán)重危害社會(huì)的行為認(rèn)定為犯罪行為并給予刑罰處罰[2]。本文對(duì)該觀點(diǎn)持懷疑態(tài)度，強(qiáng)人工智能體是否具有刑事主體地位承擔(dān)刑事責(zé)任需要從其本質(zhì)屬性和法律依據(jù)層面進(jìn)行判斷，并結(jié)合刑罰本質(zhì)與目的全面考察。

一、究本：何為強(qiáng)人工智能體之本

1956年麥卡賽、明斯基、羅切斯特和申農(nóng)等年輕科學(xué)家在達(dá)特茅斯會(huì)議首次提出“人工智能”（Artificial Intelligence，簡(jiǎn)稱AI）概念。人工智能概念由“人工的”（artificial）與“智能”（intelligence）兩個(gè)概念組合而來(lái)，意為使機(jī)器像人一樣去完成某項(xiàng)任務(wù)的軟硬件技術(shù)[3]。人們對(duì)于人工智能的原始認(rèn)知即為機(jī)器像人一樣理性地思考和活動(dòng)，但這并不意味著人工智能的智力水平與人類相一致，而是意味著人工智能擁有思考的自主性與獨(dú)立性。但人工智能擁有思考的自主性與獨(dú)立性是否就意味著人工智能將會(huì)擁有超越人類智力的風(fēng)險(xiǎn)呢？

無(wú)論是強(qiáng)人工智能體還是弱人工智能體，都依賴于人工智能技術(shù)作為支撐。因此都不免地呈現(xiàn)出“人工”的特征。早在20世紀(jì)60年代人類便開始了對(duì)于人工智能技術(shù)的研究，至今出現(xiàn)了三次浪潮，每次浪潮經(jīng)歷大約20年?？v觀人工智能技術(shù)的發(fā)展歷史，人工智能研究已形成了至少幾千種不同的技術(shù)路線，其中最成功、影響最大的有兩種，被稱為人工智能的兩種經(jīng)典思維：“基于模型的暴力法”與“基于元模型的訓(xùn)練法”[4]。它們?cè)谌斯ぶ悄芗夹g(shù)的研究中發(fā)揮著關(guān)鍵作用，因而最值得關(guān)注。

首先，“基于模型的暴力法”是在構(gòu)建精確模型的前提下，建立一個(gè)表達(dá)該模型的知識(shí)表示或狀態(tài)空間，通過(guò)推理法或搜索法窮舉所有選項(xiàng)，找出問題的一個(gè)解?！盎谠Ｐ偷挠?xùn)練法”是在建立問題的元模型的前提下，參照元模型，收集訓(xùn)練數(shù)據(jù)并進(jìn)行人工標(biāo)注，選擇一種合適的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和一個(gè)監(jiān)督學(xué)習(xí)算法，依據(jù)數(shù)據(jù)擬合原理，以帶標(biāo)注的數(shù)據(jù)，用上述監(jiān)督學(xué)習(xí)算法訓(xùn)練上述人工智能體，減少人工智能技術(shù)之誤差[5]。以上兩種經(jīng)典思維以構(gòu)建模型為發(fā)展人工智能技術(shù)的基本前提，只有符合該模型所賦予的人工智能算法，其技術(shù)才能無(wú)誤差地發(fā)生效用。再者，基于以上兩種人工智能的經(jīng)典思維，符合該模型的應(yīng)用場(chǎng)景之內(nèi)是人工智能技術(shù)的能力邊界。只有存在一個(gè)可計(jì)算的和語(yǔ)義完全相同的模型，并且所有提問在該模型的可解范圍內(nèi)或是存在有限確定的元模型，并且代表性數(shù)據(jù)集也是有限確定的場(chǎng)景下，暴力法或訓(xùn)練法才能被準(zhǔn)確運(yùn)用得到有效解決，此即人工智能技術(shù)之封閉性準(zhǔn)則[6]。例如，自動(dòng)駕駛汽車發(fā)揮其自動(dòng)駕駛功能的前提為存在封閉的駕駛環(huán)境，模擬該駕駛環(huán)境時(shí)即需要考慮應(yīng)用需求、應(yīng)用場(chǎng)合與應(yīng)用條件三個(gè)因素，即該汽車只有在正確的交通道路行駛環(huán)境中遵守交通規(guī)則，并滿足駕駛者的駕駛需求時(shí)，該自動(dòng)駕駛汽車背后的人工智能技術(shù)才能準(zhǔn)確運(yùn)用。若不存在如以上所述之場(chǎng)景，就不能保證智能系統(tǒng)對(duì)這些提問的回答都是正確的，人工智能體便喪失了其智能性。因此，封閉性是一個(gè)場(chǎng)景中的應(yīng)用能夠被暴力法或訓(xùn)練法解決的理論上的必要條件。

有學(xué)者提出，隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索等技術(shù)的不斷發(fā)展，當(dāng)技術(shù)突破下一個(gè)瓶頸時(shí)，出現(xiàn)具有辨別能力和控制能力、能夠作出自主決策并實(shí)施相應(yīng)行為、實(shí)現(xiàn)自身意志的人工智能產(chǎn)品，其實(shí)并非鏡花水月[7]。該觀點(diǎn)實(shí)則為主觀臆斷，缺乏科學(xué)依據(jù)。深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計(jì)算等技術(shù)為現(xiàn)代支撐人工智能體發(fā)展之技術(shù)，都可將其涵蓋于以上兩種經(jīng)典思維之內(nèi)，例如蒙卡特洛樹搜索屬于典型的“基于模型的暴力法”。以阿爾法狗零以100-0戰(zhàn)勝阿爾法狗[8]為例，看似阿爾法狗零完全通過(guò)自學(xué)掌握了遠(yuǎn)超人類甚至其初代的圍棋能力，實(shí)則其成功僅是其通過(guò)算法不斷自我博弈，并根據(jù)自博數(shù)據(jù)用強(qiáng)化學(xué)習(xí)算法自動(dòng)反推所有落子的勝率估計(jì)并作出落子決策[9]。其本質(zhì)仍然為人工智能的經(jīng)典思維，不具有自主決策并實(shí)施相應(yīng)行為、實(shí)現(xiàn)自身意志的能力。

因此，人工智能技術(shù)本質(zhì)仍舊為人工智能的設(shè)計(jì)者之算法設(shè)計(jì)，人工智能體僅是自主地完成了設(shè)計(jì)者設(shè)計(jì)的具體執(zhí)行，人工智能技術(shù)不會(huì)自主地形成“價(jià)值判斷”，更不會(huì)基于這種價(jià)值判斷做出決策，強(qiáng)人工智能體也不例外，強(qiáng)人工智能體的特性即為封閉性、被動(dòng)性、中立性。

二、定性：何定強(qiáng)人工智能體之性

刑法學(xué)界對(duì)強(qiáng)人工智能體系是否具有刑事主體地位展開了激烈的討論，大致形成了“肯定論”與“否定論”兩種學(xué)說(shuō)。本文認(rèn)為持否定論觀點(diǎn)更具合理性。

第一，否定論否認(rèn)強(qiáng)人工智能體的刑事主體地位，具有科學(xué)性。根據(jù)目前的科技發(fā)展水平，支撐人工智能體發(fā)展的技術(shù)完全滿足封閉性準(zhǔn)則的要求。基于封閉性準(zhǔn)則，人工智能技術(shù)的存在目的即為人類提供幫助，若該目的落空，人工智能即不屬于如今所謂“人工智能”之概念。第二，否定論否定賦予人工智能體刑罰之必要性，該觀點(diǎn)具有哲學(xué)體系作為支撐。刑罰的本質(zhì)是對(duì)犯罪的懲罰性亦即對(duì)犯罪的懲罰，刑罰應(yīng)包含的懲治、安撫、預(yù)防、矯正等基本功能，才能實(shí)現(xiàn)現(xiàn)代刑法的基本任務(wù)。但人工智能不符合生命的構(gòu)成要件，不能感受到人身與精神上的痛苦，對(duì)其實(shí)施刑罰與刑罰屬性相背離。第三，在封閉性準(zhǔn)則下，即便強(qiáng)人工智能體在其執(zhí)行行為上具有很強(qiáng)的自主性，但難以跳脫出程序設(shè)計(jì)者的算法設(shè)計(jì)。人工智能體無(wú)價(jià)值判斷之中立性，刑罰功能便難以實(shí)現(xiàn)。因此，現(xiàn)有的刑罰體系中所規(guī)定的刑罰對(duì)人工智能適用不具有可行性。

三、尋據(jù)：何存強(qiáng)人工智能體之據(jù)

前文從強(qiáng)人工智能體的本質(zhì)屬性與運(yùn)行機(jī)制層面否定了其作為刑事主體的物質(zhì)基礎(chǔ)，但從法律法規(guī)層面若可以找到認(rèn)定強(qiáng)人工智能體刑事主體地位的依據(jù)，認(rèn)定其為刑事主體在一定程度上可能具有可行性。同時(shí)，只有確定強(qiáng)人工智能體在法律層面的性質(zhì)，才能為法律更好地規(guī)制其犯罪行為提供法理與法律依據(jù)。

從法理層面來(lái)看，刑法之謙抑性要求凡是適用其他法律足以抑制某種違法行為、足以保護(hù)合法權(quán)益時(shí)，就不要將其規(guī)定為犯罪；凡是適用較輕的制裁方法足以抑制某種犯罪行為、足以保護(hù)合法權(quán)益時(shí)，就不要規(guī)定較重的制裁方法。刑法作為規(guī)制違法行為的最后一道屏障，只有在不得已時(shí)才能動(dòng)用刑罰。謙抑性要求根據(jù)一定規(guī)則控制處罰范圍，當(dāng)刑罰無(wú)效果、可替代或太昂貴之時(shí)，該刑罰就不具有無(wú)可避免性了[10]。人工智能體區(qū)別于人類，對(duì)強(qiáng)人工智能體的犯罪行為通過(guò)刪除數(shù)據(jù)、修改程序和永久銷毀等契合強(qiáng)人工智能機(jī)器人特征的刑罰處罰[11]則可以用其他物理手段或部門法設(shè)定侵權(quán)責(zé)任之賠償，在實(shí)際上具有可替代性，不必動(dòng)用刑法進(jìn)行規(guī)制。

從法規(guī)層面來(lái)看，在刑法領(lǐng)域，沒有犯罪主體，就沒有危害社會(huì)的行為，也就沒有刑事責(zé)任可言[12]。由于某個(gè)具體的犯罪行為的引起可以歸屬于某個(gè)特定主體，犯罪主體是表明行為必須由什么人實(shí)施才能構(gòu)成犯罪的要件。犯罪主體是指達(dá)到法定刑事責(zé)任年齡、具有刑事責(zé)任能力、實(shí)施危害行為的自然人與單位[13]。因此，從法律規(guī)定之文義出發(fā)，無(wú)論怎么解釋，都難以將強(qiáng)人工智能體解釋為符合以上條件的自然人或單位。

首先，強(qiáng)人工智能體不能當(dāng)然成為自然人。人類作為人類社會(huì)的主體，其存在的本身就是社會(huì)的目的。社會(huì)中的一切被利用了的資源歸根到底都是為了廣義上的人類整體服務(wù)。而人工智能則不然，它之所以能夠在社會(huì)中存在，都是為了能夠?qū)θ祟愑兴鶐椭?。在自然人與強(qiáng)人工智能體存在目的的本質(zhì)角度上，人工智能體與人類有本質(zhì)差異，且自然人所享有的生命權(quán)、自由權(quán)等基本權(quán)利，強(qiáng)人工智能體也不具有、享有的生理基礎(chǔ)，不能將人工智能體歸于自然人之列。機(jī)器學(xué)習(xí)是強(qiáng)人工智能體自由意志之體現(xiàn)，機(jī)器學(xué)習(xí)能否實(shí)現(xiàn)，很大程度上依賴于人工智能技術(shù)。然而人工智能技術(shù)即人工智能的經(jīng)典思維，在嚴(yán)格遵守封閉性準(zhǔn)則的運(yùn)行機(jī)制下，在其適用場(chǎng)景范圍外，該經(jīng)典思維的條件性使得人工智能體根本不具有自主決策并實(shí)施相應(yīng)行為、實(shí)現(xiàn)自身意志的能力，故難以將其與類似于自然人的理性主體相等同。

其次，強(qiáng)人工智能體也難以成為單位。根據(jù)我國(guó)刑法的規(guī)定，單位是法律上人格化的組織，其人格化本質(zhì)是因?yàn)閱挝贿\(yùn)作的核心為其內(nèi)部自然人組織的統(tǒng)一意志。人工智能體的運(yùn)作機(jī)制為人工智能技術(shù)，人工智能技術(shù)在現(xiàn)在甚至將來(lái)很長(zhǎng)一段時(shí)間內(nèi)都是在固定模型內(nèi)的算法推理演繹，因此不能將基于算法的演繹推理等同于單位的統(tǒng)一意志。因此，強(qiáng)人工智能體不具有符合刑法法理和法律層面上刑事責(zé)任主體之構(gòu)成要件。

四、歸責(zé)：何歸強(qiáng)人工智能體之責(zé)

如何對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)進(jìn)行歸責(zé)？本文的觀點(diǎn)為，在封閉性準(zhǔn)則框架內(nèi)，強(qiáng)人工智能體侵害法益的行為可以分為技術(shù)失控與技術(shù)誤用，針對(duì)技術(shù)失控，則應(yīng)當(dāng)由強(qiáng)人工智能體的設(shè)計(jì)者承擔(dān)相關(guān)刑事責(zé)任；針對(duì)技術(shù)誤用，則結(jié)合個(gè)案情況，應(yīng)當(dāng)由強(qiáng)人工智能體的使用者或設(shè)計(jì)者承擔(dān)相關(guān)刑事責(zé)任。以發(fā)展至完全自動(dòng)化的自動(dòng)駕駛汽車為例，假設(shè)自動(dòng)駕駛汽車交通肇事并導(dǎo)致相關(guān)法益受到侵害，應(yīng)當(dāng)按照以下思路尋找歸責(zé)主體：第一，明確事故原因；第二，確定歸責(zé)范圍。

首先，明確事故原因，即明確事故是由于自動(dòng)駕駛汽車的技術(shù)失控還是技術(shù)誤用所導(dǎo)致的。若為前者，則可以將該事故歸因于自動(dòng)駕駛汽車所依賴的人工智能技術(shù)；若為后者，則可以將該事故歸因于自動(dòng)駕駛汽車的駕駛者的過(guò)失行為。但往往可能存在前后者相結(jié)合的情況，則對(duì)于該事故需根據(jù)兩者在事故中所占比例進(jìn)行歸責(zé)。其次，確定歸責(zé)范圍，即確定承擔(dān)刑事責(zé)任的主體。在技術(shù)失控的情況下，自動(dòng)駕駛汽車發(fā)生事故，原因之一就是駕駛程序模型出現(xiàn)問題，因此其設(shè)計(jì)者由于脫離了對(duì)技術(shù)風(fēng)險(xiǎn)的預(yù)測(cè)將其投放市場(chǎng)應(yīng)對(duì)該事故承擔(dān)刑事責(zé)任。同時(shí)，由于完全駕駛階段的自動(dòng)駕駛汽車本身已經(jīng)能夠代替人類駕駛者承擔(dān)駕駛?cè)蝿?wù)，原本的人類駕駛者就等同于汽車的乘客，駕駛者不需要對(duì)其承擔(dān)法律責(zé)任，除非存在故意或者重大過(guò)失。所謂故意或重大過(guò)失，即為“技術(shù)誤用”。例如，行為人將自動(dòng)駕駛汽車作為工具意圖殺害被害人，行為人的行為違背了自動(dòng)駕駛汽車的正常使用邏輯，且在該使用模式下自動(dòng)駕駛汽車由于違背了封閉性準(zhǔn)則，成為行為人殺人的工具，行為人的行為構(gòu)成故意殺人罪。又例如，由于行為人未定期檢修自動(dòng)駕駛汽車，導(dǎo)致他人法益受到損害，在該情況下，駕駛者的行為可能構(gòu)成過(guò)失犯罪。但若駕駛者已盡客觀注意義務(wù)卻仍發(fā)生法益損害結(jié)果，其過(guò)失罪責(zé)任欠缺客觀歸責(zé)性而不成立。若行為人未盡到注意義務(wù)且自動(dòng)駕駛汽車算法發(fā)生錯(cuò)誤發(fā)生交通事故，該情況下則應(yīng)尋找事故的本質(zhì)原因，嚴(yán)格按照比例確定刑事責(zé)任。因此，可以按照前文的歸責(zé)邏輯將歸責(zé)主體進(jìn)行明確界定，且該邏輯可以類推適用于一般的強(qiáng)人工智能體，以應(yīng)對(duì)人工智能技術(shù)發(fā)展過(guò)程中引發(fā)的諸多問題，具有實(shí)體上的歸責(zé)意義。

綜上，強(qiáng)人工智能體不具備刑事主體資格的科技屬性與法律依據(jù)，其不具有成為刑事責(zé)任主體的必要性與可行性。

五、結(jié)束語(yǔ)

強(qiáng)人工智能體之運(yùn)行有其內(nèi)在算法邏輯，嚴(yán)格遵循封閉性準(zhǔn)則，從而發(fā)揮服務(wù)于人類的最大效用。人類對(duì)于強(qiáng)人工智能體的法律規(guī)制不能脫離于科學(xué)技術(shù)而主觀臆測(cè)，否則會(huì)使得法律體系的穩(wěn)定性受到?jīng)_擊。在現(xiàn)有的封閉性理論的技術(shù)框架和法律框架內(nèi)，強(qiáng)人工智能體不具備刑事主體資格的科技屬性與法律依據(jù)，其不具有成為刑事責(zé)任主體的必要性與可行性。若強(qiáng)人工智能體實(shí)施了侵害法益的行為，則應(yīng)當(dāng)在封閉性準(zhǔn)則框架內(nèi)進(jìn)行歸責(zé)，分別針對(duì)技術(shù)失控與技術(shù)誤用的情況，由強(qiáng)人工智能體的設(shè)計(jì)者或使用者承擔(dān)刑事責(zé)任，嚴(yán)格明確責(zé)任邊界。但是，我們不能停止法律對(duì)于強(qiáng)人工智能體法律主體地位的探索與研究，未來(lái)強(qiáng)人工智能體的發(fā)展若以一種超越封閉性準(zhǔn)則的全新的技術(shù)樣貌出現(xiàn)時(shí)，我們應(yīng)依據(jù)新的技術(shù)條件判斷風(fēng)險(xiǎn)，在法律框架下對(duì)強(qiáng)人工智能體的風(fēng)險(xiǎn)予以評(píng)估，并以法律加以規(guī)制。

作者單位：柳若儀 鄭茜尹 福建師范大學(xué)

參? 考? 文? 獻(xiàn)

[1]劉憲權(quán)，胡荷佳. 論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力[J]. 法學(xué)，2018（1）：40-47.

[2]劉憲權(quán). 人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J]. 法商研究，2018，35（1）：3-11.

[3]Andrew Arruda， “An Ethical Obligation to Use Artificial Intelligence？ An Examination of the Use of Artificial Intelligence in Law and the Model Rules of Professional Responsibility” 40 American Journal of Trial Advocacy 443（2016）.

[4]陳小平. 人工智能的歷史進(jìn)步、目標(biāo)定位和思維演化[J]. 開放時(shí)代，2018（6）：31-48.

[5]陳小平.封閉性場(chǎng)景：人工智能的產(chǎn)業(yè)化路徑[J].文化縱橫，2020（01）：34-42.

[6]陳小平. 人工智能中的封閉性和強(qiáng)封閉性——現(xiàn)有成果的能力邊界、應(yīng)用條件和倫理風(fēng)險(xiǎn)[J]. 智能系統(tǒng)學(xué)報(bào)，2020，15（01）：114-120.

[7]劉憲權(quán).人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任[J]. 東方法學(xué)，2018（01）：134-142.

[8]參見https：//baijiahao.baidu.com/s？id=1581648107440205265&wfr=spider&for=pc，最后訪問時(shí)間：2021-12-14.

[9]David Silver， Julian Schrittwieser， et. al. Mastering the game of Go without human knowledge. Nature， 2017-10-18.

[10]張明楷.論刑法的謙抑性[J].法商研究（中南政法學(xué)院學(xué)報(bào)），1995（04）.

[11]盧勤忠，何鑫. 強(qiáng)人工智能時(shí)代的刑事責(zé)任與刑罰理論[J]. 華南師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018（6）：116-124.

[12]劉憲權(quán).刑法學(xué)（第五版）[M].上海市人民出版社，2020.

[13]陳興良. 犯罪構(gòu)成的體系性思考[J]. 法制與社會(huì)發(fā)展，2000（3）：46-66.