張子奕

［摘 要］在全球科技迅猛發(fā)展的新時代，人工智能的發(fā)展與應(yīng)用普及是社會與時俱進(jìn)的表現(xiàn)。智能設(shè)備與機(jī)器人為人類帶來了高效便捷的生活方式，同時也給社會增添了相應(yīng)的風(fēng)險。面對人工智能所涉及的社會風(fēng)險，筆者認(rèn)為應(yīng)當(dāng)完善刑法體系，增設(shè)對人工智能監(jiān)督與管理的相關(guān)規(guī)定，在研發(fā)和利用方面加強(qiáng)刑法規(guī)制，及時普及防范人工智能的法律規(guī)定，提高人們的法律意識，從而降低人工智能的社會風(fēng)險，維護(hù)社會的穩(wěn)定發(fā)展，做到防患于未然。

［關(guān)鍵詞］人工智能；社會風(fēng)險；刑法應(yīng)對

［中圖分類號］DF6文獻(xiàn)標(biāo)志碼：A

隨著科技的不斷發(fā)展，人工智能在社會生活中發(fā)揮著越來越重要的作用，逐漸走入大眾的視野。它可以增加人們生活的層次感，還能夠有效地輔助人們完成更多復(fù)雜的任務(wù)。例如，在醫(yī)療領(lǐng)域中，人工智能可以輔助醫(yī)生完成更加精密的手術(shù)任務(wù)，縮短病人的治療風(fēng)險；在金融領(lǐng)域中，可以幫助金融機(jī)構(gòu)更好地預(yù)測投資機(jī)會和風(fēng)險；在法律領(lǐng)域中，可以為人工智能法庭的建設(shè)創(chuàng)造技術(shù)條件。總而言之，人工智能正在從方方面面滲透進(jìn)我們的生活，并且深刻地改變著我們的生活。

1 人工智能的含義

1.1 人工智能的概念

人工智能是科學(xué)技術(shù)發(fā)展的產(chǎn)物，將計算機(jī)科學(xué)與機(jī)器模擬技術(shù)相結(jié)合，通過模擬人類的思維活動與實(shí)踐活動智能化地服務(wù)于社會。簡單來說，人工智能就是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)，將人類的智慧通過計算的方式投入電子計算機(jī)，讓原本沒有意識的機(jī)器設(shè)備模仿人腦智能化。

1.2 人工智能的階段

人工智能根據(jù)發(fā)展的程度可分為三個階段。

第一，現(xiàn)階段我國科技正處于弱人工智能階段，只能達(dá)到單個方面的智能，它們在某一個領(lǐng)域很擅長，但是對這個領(lǐng)域之外的事物一無所知，同時其智能水平還比較低，發(fā)展尚不充分，在所擅長的領(lǐng)域也無法做到極致，只能進(jìn)行一些常規(guī)操作，無法應(yīng)對特殊情形。例如，會下棋的阿爾法狗與世界圍棋冠軍進(jìn)行了轟動世界的圍棋大戰(zhàn)，并以四比一的成績完勝世界圍棋冠軍李世石，這代表著人工智能的進(jìn)步與發(fā)展，但同時也可以意識到阿爾法狗作為人工智能雖然在圍棋方面戰(zhàn)勝了人類，但仍然只擅長一件事，在其他社會領(lǐng)域存在一定的局限性。

第二，強(qiáng)人工智能時代的人工智能在各個方面幾乎與人類齊平。人工智能的運(yùn)算和推導(dǎo)過程漸漸趨向于人類的思維方式，無論是腦力勞動還是體力勞動，強(qiáng)人工智能都能勝任，可以獨(dú)自應(yīng)對一些特殊情況，目前人類的智能發(fā)展水平還達(dá)不到強(qiáng)人工智能的要求。

第三，超人工智能時代指的是人工智能全方位趕超人類。在各個方面都比人類強(qiáng)大，在這種情況下，人類想要利用人工智能，就要穩(wěn)妥地駕馭人工智能，在可控范圍內(nèi)讓人工智能為人類服務(wù)，否則超人工智能時代可能就會成為人類的終結(jié)時代。

2 人工智能產(chǎn)生的風(fēng)險以及刑法所面臨的現(xiàn)實(shí)挑戰(zhàn)

2.1 人工智能現(xiàn)階段的潛在風(fēng)險

由于人工智能在社會生活中的廣泛應(yīng)用，在給人們的日常生活提供便利的同時，也可能會帶來前所未有的隱患。人工智能的應(yīng)用導(dǎo)致的不確定性使得社會產(chǎn)生了許多風(fēng)險，這些社會風(fēng)險引發(fā)了相關(guān)的法律問題。第一，信息犯罪越來越普遍。人工智能可以收集大數(shù)據(jù)信息進(jìn)行工作，人工智能的發(fā)展使得社會數(shù)據(jù)信息保護(hù)機(jī)制變得尤為重要，由此不僅可能導(dǎo)致信息壟斷風(fēng)險，還有可能出現(xiàn)泄露信息犯罪等刑事問題［1］。第二，隱私權(quán)的泄露風(fēng)險。大數(shù)據(jù)下的人工智能使得信息收集無處不在，信息收集使得泄露隱私權(quán)的相關(guān)風(fēng)險提高，因此，我國刑法應(yīng)該加強(qiáng)對隱私權(quán)方面的保護(hù)。第三，智能機(jī)器人進(jìn)入社會的犯罪后果如何承擔(dān)。由于人工智能與虛擬網(wǎng)絡(luò)的盛行，人們過度依賴人工智能，大量機(jī)器人作為社會工具應(yīng)用到各個領(lǐng)域，在一些崗位不需要人的介入，這固然為社會提供了便利，但同時機(jī)器人犯罪也使人們開始思考誰來承擔(dān)人工智能犯罪的后果，人工智能能否成為犯罪主體，是否應(yīng)該賦予人工智能法律人格。第四，自主權(quán)的喪失。人工智能通過日常搜索判斷我們想看且?？吹男畔ⅲ@被稱為過濾氣泡現(xiàn)象，這種現(xiàn)象固然可以幫我們在節(jié)省時間的基礎(chǔ)上獲取有效信息，然而過濾氣泡現(xiàn)象會導(dǎo)致我們接收到的信息越來越單一化，會使我們的信息越來越閉塞，不利于社會的長遠(yuǎn)發(fā)展。同時，我們也應(yīng)當(dāng)思考，大數(shù)據(jù)通過日常搜索排除與其不相關(guān)的信息是否屬于侵犯我們的個人權(quán)利，大數(shù)據(jù)是否有權(quán)過濾我們的閱讀信息。

2.2 人工智能未來發(fā)展的危害性難以預(yù)測

無論是人類利用人工智能犯罪或者未來人工智能擁有自主意識犯罪，其犯罪的復(fù)雜程度和危害性都將是難以預(yù)測的。例如，現(xiàn)階段的人臉識別智能技術(shù)尚不完善，如果人臉識別防盜技術(shù)投入社會使用，用于手機(jī)開鎖和家庭防盜門開鎖中，很有可能會發(fā)生手機(jī)重要信息泄露和入室盜竊等問題，在公司甚至?xí)?dǎo)致商業(yè)秘密的泄露。與傳統(tǒng)形式上的犯罪相比，人工智能犯罪所造成的社會危害是更加嚴(yán)重的［2］。傳統(tǒng)形式上的犯罪通常是一個犯罪主體或者多個犯罪主體借助傳統(tǒng)意義上的犯罪工具運(yùn)用傳統(tǒng)的犯罪手段實(shí)施犯罪，其社會危害性是有限的；而利用人工智能進(jìn)行犯罪，其作案的效率可能會更高，手段可能更便捷，犯罪的完成度整體提升，其所造成的后果也將更嚴(yán)重。人工智能精確的數(shù)據(jù)極大地排除了人類可能會犯的失誤，人工智能也不會受到情緒的影響，如果人類不加以預(yù)防和控制，未來人工智能犯罪所造成的危害將是不可預(yù)測的。

2.3 人工智能風(fēng)險的刑罰理念

目前，人工智能在刑法中的主體地位尚不明確，人工智能是否可以成為刑事主體，是否可以被刑法所規(guī)制，這些問題不解決，人工智能的應(yīng)用與發(fā)展就會給社會帶來不穩(wěn)定的風(fēng)險。試想一下，面對人工智能犯罪，法律無法確定人工智能是否適罰，不知如何懲戒，那么這一刑法漏洞就會被不法分子利用，大量人工智能犯罪出現(xiàn)，社會將陷入混亂之中。

時代的進(jìn)步同時也需要刑罰理念的轉(zhuǎn)變，應(yīng)當(dāng)打破傳統(tǒng)的人類中心主義，重新定義人工智能的法律人格。自動駕駛是目前人工智能的重要應(yīng)用領(lǐng)域，但是機(jī)器視覺并沒有人們想象中的那么可靠，調(diào)查顯示，僅僅通過貼紙就能讓機(jī)器視覺分辨不出“停車標(biāo)志”。如果說人臉智能識別的破解是對人類財產(chǎn)權(quán)的威脅，那么自動駕駛技術(shù)則影響到了人類的生命健康權(quán)，自動駕駛技術(shù)的廣泛應(yīng)用，推動了機(jī)動車的全面革新，一旦自動駕駛的機(jī)器識別出現(xiàn)差錯，那么很有可能造成非常嚴(yán)重的交通事故，對社會造成危害。同時，對于此項(xiàng)事故造成的危害，我們應(yīng)當(dāng)追究的犯罪主體該怎樣明確？是無人駕駛汽車的所有者，還是無人駕駛汽車的生產(chǎn)商和銷售商，抑或是無人駕駛汽車本車擁有獨(dú)立的犯罪主體資格。人工智能能否受到人類社會法律的管理將是未來刑法革新的重點(diǎn)方向，現(xiàn)階段我國刑法規(guī)定的犯罪主體只有自然人和單位，人工智能機(jī)器人不屬于犯罪主體，不適用于我國的犯罪刑罰，不能對其進(jìn)行規(guī)制。隨著時代的進(jìn)步和科技的發(fā)展，人工智能逐漸融入人們?nèi)粘Ｉ钪械母鱾€方面，其在社會中發(fā)揮的作用越來越突出，同時給社會帶來的隱患也漸漸凸顯出來，利用人工智能方式犯罪的案例層出不窮，目前刑法正在填補(bǔ)以人工智能為工具犯罪的漏洞。更值得我們思考的是，在不久的將來，人工智能發(fā)展到強(qiáng)人工智能階段，人工智能有能力自主犯罪時，對于其法律主體人格應(yīng)如何定義。因此，應(yīng)該轉(zhuǎn)變刑罰理念，承認(rèn)人工智能的刑罰主體資格，完善我國司法體系。

3 人工智能風(fēng)險的刑法應(yīng)對

3.1 在刑法體系內(nèi)設(shè)置命令禁區(qū)，杜絕刑事案件

在未來強(qiáng)人工智能時期的人工智能可以做到在聽取人類的命令下代替人類進(jìn)行各種實(shí)踐活動。在這種情況下，為了防止人工智能被不法分子利用，被命令從事一些違法犯罪行為，我國法律可以設(shè)置一些命令禁區(qū)，例如，任何人不得下達(dá)可能危害到個人的生命健康、社會公共安全甚至國家利益等方面的命令，任何人不得要求人工智能在公共場合從事放火或其他投放危險物品行為，任何人不得要求人工智能傷害或殺害人類，等等。一旦有人向人工智能提出這些要求對社會或他人造成損害的，視為違反刑法相關(guān)規(guī)定。同時，為了防止人工智能在非人類授權(quán)下自主進(jìn)行一些不當(dāng)活動，刑法可以在人工智能的數(shù)據(jù)開發(fā)時期設(shè)置不可執(zhí)行的命令禁區(qū)，以保證人工智能不會在失控的情況下危害社會，將人工智能可能產(chǎn)生刑事案件的風(fēng)險降至最低［3］。

3.2 確立智能機(jī)器人的刑事責(zé)任主體地位

現(xiàn)階段人工智能可能在人類的故意操縱或者過失操縱下產(chǎn)生違法犯罪后果，犯罪主體是人工智能背后實(shí)施操縱的人，對于犯罪主體自然人定罪量刑即可。但是隨著未來科技推動人工智能發(fā)展，使其擁有自主意識，在強(qiáng)人工智能時代人工智能脫離了人類的操縱，通過自主行為實(shí)施犯罪時，其責(zé)任主體就不再是傳統(tǒng)意義上簡單的自然人和單位。

機(jī)器學(xué)習(xí)型的人工智能以大數(shù)據(jù)為基礎(chǔ)，按照設(shè)定的基礎(chǔ)規(guī)則從事活動，在這一過程中，學(xué)習(xí)和總結(jié)規(guī)律，形成自己對外在客觀事實(shí)及規(guī)律的認(rèn)識，產(chǎn)生基礎(chǔ)大數(shù)據(jù)以外的思考，處理相關(guān)事物時，不再根據(jù)大數(shù)據(jù)下的代碼循規(guī)蹈矩，而是更加靈活地依據(jù)自身經(jīng)驗(yàn)和意識等自主支配活動。在此基礎(chǔ)上發(fā)展，互聯(lián)網(wǎng)大數(shù)據(jù)時代以后將會成為人工智能時代，為了防止人工智能機(jī)器人危害公共安全、擾亂市場秩序甚至侵犯他人權(quán)利，就需要明確人工智能刑事責(zé)任的主體地位。

人工智能成為犯罪主體的一個重要前提就是需要具備刑事責(zé)任能力，承擔(dān)刑事責(zé)任能力的基礎(chǔ)就是要擁有認(rèn)識能力和控制能力。首先，人工智能通過高新技術(shù)研發(fā)，通過深度的自主學(xué)習(xí)可以生成獨(dú)立的思想意識。其次，人工智能具有機(jī)械裝置的外在實(shí)體，能夠從事一些自主的行為和活動，同時也就具備了控制能力，而且人工智能還有超強(qiáng)的儲存能力，這會使人工智能的認(rèn)識能力和控制能力遠(yuǎn)遠(yuǎn)超過人類。所以，必須明確人工智能的刑事責(zé)任能力和刑事責(zé)任主體地位，從而對其進(jìn)行合理有效的規(guī)制，以此對人工智能進(jìn)行定罪處罰。

3.3 增設(shè)新罪，嚴(yán)密刑事法網(wǎng)

法律的完善應(yīng)當(dāng)緊隨時代的進(jìn)步，人工智能的日益發(fā)展要求刑法嚴(yán)防人工智能的風(fēng)險把控。根據(jù)人工智能的廣泛應(yīng)用，增設(shè)相關(guān)罪名，防止人們利用人工智能尋找法律的漏洞從事犯罪活動。例如，由于生產(chǎn)或銷售劣質(zhì)人工智能產(chǎn)品所導(dǎo)致的后果可能比生產(chǎn)銷售一般的偽劣產(chǎn)品所造成的后果要嚴(yán)重許多，甚至還可能危害到人的生命健康，所以可以將劣質(zhì)人工智能作為一種特定的偽劣產(chǎn)品，在破壞社會主義市場經(jīng)濟(jì)秩序罪中單獨(dú)定罪生產(chǎn)或銷售劣質(zhì)人工智能罪。對于劣質(zhì)的人工智能的定義，筆者認(rèn)為有兩種。首先，人工智能產(chǎn)品制作過程中偷工減料，制作材料用量不足導(dǎo)致成品不符合國家規(guī)定標(biāo)準(zhǔn)的；其次，在人工智能產(chǎn)品制作過程中，制作材料以次充好，原材料本身質(zhì)量就不合格的或者用二手人工智能產(chǎn)品在改造加工的基礎(chǔ)上制作生產(chǎn)的。人工智能產(chǎn)品的生產(chǎn)者、銷售者故意生產(chǎn)或者銷售以上兩類人工智能的，可以根據(jù)生產(chǎn)或銷售偽劣人工智能罪定罪量刑。

犯罪入刑也會提高相關(guān)人員的警惕，當(dāng)人們在利用人工智能時，就會小心謹(jǐn)慎，降低濫用或者違法運(yùn)用人工智能的概率；生產(chǎn)商在制作過程中就會嚴(yán)格把控人工智能的生產(chǎn)質(zhì)量，爭取使流入市場的人工智能產(chǎn)品保質(zhì)保量；銷售商在進(jìn)貨時仔細(xì)檢驗(yàn)貨物，在銷售時向購買者展示產(chǎn)品完好并告知相關(guān)權(quán)益。爭取在各個環(huán)節(jié)防控人工智能風(fēng)險。

3.4 完善刑罰體系

目前我國刑法規(guī)定的刑罰有四種：財產(chǎn)刑、自由刑、資格刑和生命刑。這四種刑罰適用于自然人犯罪和單位犯罪的處罰，但是并不適用以人工智能為責(zé)任主體的犯罪。首先，人工智能并沒有私有財產(chǎn)，無法通過沒收財產(chǎn)和罰金兩種途徑實(shí)施處罰；其次，人工智能所擁有的自由也不同等于自然人的自由，人工智能的自由是在法律認(rèn)可的范圍內(nèi)以及其所有者允許的范圍內(nèi)的自由，對于人工智能進(jìn)行管制和拘役是毫無意義的；最后，具有學(xué)習(xí)型的人工智能在未來通過技術(shù)的發(fā)展與自主學(xué)習(xí)和總結(jié)的能力形成獨(dú)立的思想意識，但是人工智能不可能擁有政治權(quán)利，所以對于人工智能的處罰也不存在剝奪政治權(quán)利。對于刑罰體系的完善，可以針對人工智能增設(shè)刪除數(shù)據(jù)信息刑、格式化刑或者永久銷毀刑等。

3.5 加大刑法管制力度，實(shí)時監(jiān)督

可以在刑法中明確規(guī)定人工智能出廠的質(zhì)量標(biāo)準(zhǔn)與技術(shù)水平，不達(dá)標(biāo)者禁止出廠，同時情節(jié)嚴(yán)重的應(yīng)當(dāng)明確規(guī)定其相關(guān)負(fù)責(zé)人承擔(dān)相應(yīng)的刑事處罰。對于劣質(zhì)的人工智能和超出刑法規(guī)定標(biāo)準(zhǔn)的人工智能（沒有設(shè)置命令禁區(qū)的人工智能），銷毀不合格的人工智能產(chǎn)品，對生產(chǎn)者及其負(fù)責(zé)人進(jìn)行刑事處罰。規(guī)定人工智能的銷售主體，如果沒有國家批準(zhǔn)的機(jī)構(gòu)銷售人工智能，對其機(jī)構(gòu)進(jìn)行查封處理。確保在具體實(shí)踐活動中，有明確的法律條文貫穿人工智能的發(fā)展。完善相關(guān)司法解釋，必須在司法解釋中明確對人工智能的態(tài)度，為司法實(shí)踐提供依據(jù)，以便對于人工智能相關(guān)案件做出準(zhǔn)確判決。

4 結(jié)語

科技社會高速發(fā)展至今，法律在時代的進(jìn)步下一次又一次地完成了制度革新，面對人工智能逐漸進(jìn)入社會生活，在社會生活中的地位與作用越來越突出，人工智能可能存在的刑事問題將是刑法所面臨的又一挑戰(zhàn)。面對當(dāng)前人工智能可能存在的風(fēng)險，筆者認(rèn)為應(yīng)將形式措施和實(shí)質(zhì)措施相結(jié)合。充實(shí)刑法的內(nèi)容，完善刑罰手段，加強(qiáng)制度層面監(jiān)督，對于人工智能的研發(fā)和市場流通進(jìn)行嚴(yán)格把控，保障人工智能產(chǎn)品質(zhì)量，及時向公眾科普人工智能的相關(guān)法律知識，提升公民的自我保護(hù)意識和司法意識，最大限度地降低人工智能的風(fēng)險，讓人工智能真正做到服務(wù)于民。

參考文獻(xiàn)

［1］彭文華. 人工智能的刑法規(guī)制［J］. 現(xiàn)代法學(xué)，2019，41（5）：135-151.

［2］舒易求. 人工智能的刑法學(xué)問題分析［J］. 環(huán)球市場，2020（7）：254.

［3］石經(jīng)海，唐渠渠. 恐懼抑或不知：人工智能刑法規(guī)制爭議的數(shù)學(xué)考察［J］. 法治社會，2020（1）：82-90.