自動系統(tǒng)、人工智能和機(jī)器人
——一個(gè)刑法角度的定位

[德]埃里克·希爾根多夫 著 黃笑巖 譯

一、數(shù)字化革命

我們是當(dāng)今這場史無前例的技術(shù)、經(jīng)濟(jì)以及社會變革的見證人。數(shù)字化革命——一些人甚至將其稱為“世界的數(shù)字化轉(zhuǎn)變”①——涵蓋了我們的生活和工作的方方面面。它們造成改變的速度和沖擊力可以媲美工業(yè)革命。如果法學(xué)不想僅僅作為邏輯嚴(yán)謹(jǐn)?shù)奈淖钟螒虼嬖诘脑?就需要面對界定數(shù)字化轉(zhuǎn)化范圍以及捍衛(wèi)我們法律②以人為本的任務(wù)。

為了應(yīng)對這一挑戰(zhàn),我們需要首先了解數(shù)字化革命的特點(diǎn)?？蓪?shù)字化理解為將任意信息展示為0和1的序列。③它可以在計(jì)算機(jī)中實(shí)現(xiàn)無與倫比的快速有效的信息處理和存儲,這些數(shù)據(jù)可以實(shí)時(shí)地在全球范圍內(nèi)被使用,幾乎不會浪費(fèi)任何時(shí)間。此外,數(shù)字化實(shí)現(xiàn)了信息“可塑性”的新維度：在數(shù)字化的基礎(chǔ)上,文本可以以音頻、圖像和視頻的形式展示。在不久的將來應(yīng)該會出現(xiàn)觸覺脈沖。這一步驟在某一時(shí)候?qū)⒈挥脕韯?chuàng)建與人腦的直接接口。④對此的方法早就存在了,例如治療患有“閉鎖綜合征”的病人,這類病人雖然意識清醒,但是(大多在聽覺功能完整的情況下)喪失了通過身體運(yùn)動而和外界溝通的能力,有時(shí)他們連眼球也無法移動?，F(xiàn)在“閉鎖綜合征”病人經(jīng)常通過“腦機(jī)接口”實(shí)現(xiàn)與外界的溝通。對此參見Brukamp,Gehirn-Computer-Schnittstellen：neurowissenschaftlicheGrundlagenundnormativeThemen,in：Hilgendorf(Hrsg.),Robotik im Kontext von Recht und Moral,2014,S.287ff.

數(shù)字化的另一成果使得物體和進(jìn)程虛擬成為可能,也就是說在計(jì)算機(jī)中形成真實(shí)世界的虛擬對應(yīng)物。⑤這一技術(shù)在經(jīng)濟(jì)上的一項(xiàng)十分有趣的應(yīng)用就是生產(chǎn)者制造“數(shù)字孿生體”,例如銷售的汽車的孿生體。由此可以在問題因素生效之前對其進(jìn)行識別并采取應(yīng)對措施。虛擬化的趨勢已經(jīng)涵蓋了我們大部分的通信交流,并且正在擴(kuò)展到我們的工作以及閑暇生活中。⑥概況參見D?rner u.a.(Hrsg.),Virtual and Augmented Reality(VR/AR)：Grundlagen und Methoden der Virtuellen und Augmentierten Realit?t,2014.厘清“虛擬現(xiàn)實(shí)”帶來的機(jī)遇以及風(fēng)險(xiǎn)可能是未來技術(shù)引導(dǎo)的最大挑戰(zhàn)之一。

另外兩個(gè)與數(shù)字化密切相關(guān)的主要技術(shù)趨勢是人工——或者更好的表述為——機(jī)械的智能和機(jī)器人的發(fā)展。現(xiàn)在難以定義這兩個(gè)概念。如果我們將人類作出的某一行為視為“智能的”,那么也往往將由機(jī)器作出的同樣的行為視為“智能的”(或者“聰明的”)。⑦Kaplan,Künstliche Intelligenz,2017,S.15;詳細(xì)內(nèi)容參見Boden,AI.Its Nature and Future,2016;Lenzen,Künstliche Intelligenz,2018.鑒于我們對人類智能存在巨大的理解和定義困難,所以這個(gè)定義并不是很有說服力。⑧基礎(chǔ)性的概況參見Rost,Handbuch Intelligenz,2013;另參見Tegmark,Leben3.0.Menschseinim Zeitalter Künstlicher Intelligenz,2017,S.79 ff.此外,定義“智能”概念面臨困難的原因還在于,這一領(lǐng)域的實(shí)證研究特別受到大眾媒體和政治的調(diào)控。智能需要具備獨(dú)立解決較為復(fù)雜的任務(wù),并適應(yīng)不斷變化的環(huán)境的能力。從錯(cuò)誤中學(xué)習(xí)的分析能力可能是理解智能的關(guān)鍵。今日的機(jī)器也都具有這些能力。

導(dǎo)致人們對“人工智能”理解復(fù)雜化的一個(gè)因素是人類的擬人化傾向(Anthropomorphisierung),以及對獨(dú)特性的需求。我們試圖類推人類的能力來解釋機(jī)器的能力,同時(shí)又嫉妒性地認(rèn)為機(jī)器只是在“模仿”我們。這兩種趨勢似乎都存在問題：一方面,機(jī)器的能力在可預(yù)見的未來會越來越專精于特定領(lǐng)域;另一方面,人類的潛力在“它們”的領(lǐng)域正日益落后。很長時(shí)間以來,國際象棋的電腦程序已經(jīng)能夠擊敗所有的人類玩家,甚至包括國際象棋的世界冠軍。然而玩“連珠棋”、剝雞蛋殼以及咖啡服務(wù)對于這種程序而言又過于苛求。若認(rèn)為國際象棋程序“不是真的”下國際象棋,這種論點(diǎn)難以成立——如何將根據(jù)游戲規(guī)則移動棋子,力圖讓對手“損失”的能力理解成不是“下國際象棋”?一些程序的卓越成績引發(fā)了機(jī)器具有自我愿望和自我意識的設(shè)想。這在目前看來(仍然?)不被認(rèn)可。

除了擬人化傾向,還有一個(gè)明顯的強(qiáng)烈需求是為人類保留特定的能力。只有人類才能具有“真正的智能”。因此,“人工智能”的概念是一種“界限概念”。隨著機(jī)器在迄今為人類預(yù)留的領(lǐng)域中越來越多的推廣,該概念就不斷地回縮。國際象棋游戲仍可作為這方面一個(gè)很好的范例：它被視為人類智能和創(chuàng)造性的頂峰,直到國際象棋程序被設(shè)計(jì)出來,這種程序的游戲技巧可與人類相媲美。⑨Lenzen,Künstliche Intelligenz(Fn.7),S.30.從國際象棋程序“深藍(lán)”在1996年擊敗國際象棋世界冠軍卡斯帕羅夫以來,很多棋類活動就不再被認(rèn)為需要什么特殊的智力能力,而只是需要在最短的時(shí)間內(nèi)計(jì)算無數(shù)的比賽選項(xiàng)。這樣的程序也因而不被認(rèn)為具有“真正的智能”。

以上所提到的困難恰恰證明了應(yīng)該命名為“機(jī)械的智能”或者“機(jī)器智能”,而非“人工智能”,并且對此不再理解為一種普遍解決領(lǐng)域特定的問題的特殊能力以及與此相關(guān)的獨(dú)立從錯(cuò)誤中學(xué)習(xí)的能力。它無論如何必須是一種對復(fù)雜問題進(jìn)行數(shù)據(jù)處理的功能。⑩對《德國刑法典》第263條a意義上的數(shù)據(jù)處理進(jìn)行“智能替代”的理念,參見Hilgendorf,JuS 1999,S.542(543).

類似問題也出現(xiàn)在機(jī)器人制造技術(shù)領(lǐng)域(Robotik)。工程技術(shù)科學(xué)中并沒有統(tǒng)一定義機(jī)器人的概念。[11]Jordan,Roboter,2017,S.57ff.對于法學(xué)目的而言,可暫且將“機(jī)器人”理解為一種具有執(zhí)行功能(Aktuator)并對“世界”產(chǎn)生實(shí)體影響的機(jī)械智能。在特定情形下也可以將機(jī)器人固定在某領(lǐng)域(例如工業(yè)機(jī)器人),并且它不一定要具有人形樣式。然而,可以設(shè)想未來會出現(xiàn)許多人形機(jī)器人,因?yàn)橹挥羞@樣才能使機(jī)器在人類預(yù)設(shè)的環(huán)境中靈活移動,成為我們的助手、陪伴者和工作伙伴。

沒有其他技術(shù)像機(jī)械智能和機(jī)器人那樣在文獻(xiàn)中醞釀了百年之久。[12]Jordan,Roboter(Fn.11),S.61 ff.;詳見 Barthelme?/Furbach,IRobot—u Man.Künstliche Intelligenz und Kultur：Eine jahrtausendealte Beziehungskiste,2012;大量的文學(xué)短文收錄于V?lker(Hrsg.),Künstliche Menschen.über Golems,Homunculi,Androiden und lebende Statuen,1971.“機(jī)器人”概念最早出現(xiàn)于1920年捷克作家凱勒爾·凱佩克的幻想劇《羅莎姆的萬能機(jī)器人》中。值得注意的是,劇中的機(jī)器人不是由金屬制成,而是由生物材料制成。從那時(shí)起,機(jī)器人和機(jī)械智能就成為大眾文化不可分割的一部分,例如,1968年的電影《2001：太空漫游》中的超智慧電腦“HAL9000”;1984年的電影《終結(jié)者》系列以及1999年的電影《黑客帝國》中的“史密斯特工程序”。值得注意以及對法律討論而言非常重要的是,人工智能和機(jī)器人的發(fā)展總被視為對人類的威脅。最知名的例外是美國科幻小說家艾薩克·阿西莫夫?qū)C(jī)器人視為人類的仆人和朋友,而非敵人。[13]阿西莫夫最早的關(guān)于“機(jī)器人歷史”的著作出版于20世紀(jì)40年代初期,匯編于Asimov,The Complete Robot,1983.

二、數(shù)字化與刑法

之前粗略描述了數(shù)字化、機(jī)械智能和機(jī)器人的發(fā)展,這對于刑法意味著什么?為了回答這個(gè)問題,應(yīng)該區(qū)分以下三個(gè)問題范圍。

(1)第一個(gè)主題范圍是在刑法領(lǐng)域出現(xiàn)了數(shù)字化的新現(xiàn)象。這就包括互聯(lián)網(wǎng)犯罪的新形式。[14]例如,(“捕獲密碼”式的)“網(wǎng)絡(luò)釣魚”和盜竊身份。為了應(yīng)對這些問題,在30年前就形成了計(jì)算機(jī)和互聯(lián)網(wǎng)刑法,已被證明其具有非常強(qiáng)的適應(yīng)能力。[15]Eisele,Computer-und Medienstrafrecht,2013;Hilgendorf/Valerius,Computer-und Internetstrafrecht,2.Aufl.2012,3.Aufl.in Vorb.für2018.

(2)第二個(gè)主題范圍涉及數(shù)字化對法律職業(yè),包括刑事追訴機(jī)關(guān)、刑事辯護(hù)以及刑法學(xué)工作的潛在影響。例如,使用數(shù)據(jù)庫、新的出版形式以及提供新的技術(shù)輔助工具(透過科技協(xié)助法律服務(wù)[16]Hartung/Bues/Halbleib (Hrsg.),Legal Tech.Die Digitalisierung des Rechtsmarktes,2018.),傳統(tǒng)法律工作形式在它們的影響下不得不作出改變。

(3)第三個(gè)主題范圍是信息處理系統(tǒng)作為新的參與者(客體)甚至可能作為新的刑法主體出現(xiàn)。[17]Chopra/White,A Legal Theory for Autonomous Artificial Agents,2011;Gless/Seelmann (Hrsg.),Intelligente Agenten und das Recht,2016;Gless/Weigend,ZSt WBd.126(2014),S.561ff.;Hengstenberg/Kirn,Rechtliche Risiken autonomer und vernetzter Systeme,Eine Herausforderung,2016,S.59 ff.;Hilgendorf,K?nnen Roboter schuldhaft handeln?Zur übertragbarkeit unseres normativen Grundvokabulars auf Maschinen.In：Beck (Hrsg.),Jenseits von Mensch und Maschine,2012,S.119ff.這一主題范圍中的基礎(chǔ)和應(yīng)用問題緊密相連。本文就致力于探討這個(gè)主題。

首先是進(jìn)行方法論上的初步考慮。法律的核心任務(wù)之一是規(guī)制沖突,并且防止出現(xiàn)新的沖突。解決這項(xiàng)任務(wù)的前提在于法律判決基本上是一致的。人類存在一個(gè)根深蒂固的需求,即應(yīng)被一視同仁地對待。除此之外,還需要一個(gè)透明、明確以及合理的判決證成。當(dāng)人們考慮到刑事判決可以深深地影響當(dāng)事人的法權(quán)領(lǐng)域(Rechtssph?re)時(shí),這一點(diǎn)就尤其明顯。這種干預(yù)的基礎(chǔ)是現(xiàn)有的法律,應(yīng)在現(xiàn)有法律的框架下探討新的現(xiàn)象。

因此,我們應(yīng)在現(xiàn)有(刑事)法律的基礎(chǔ)上探討數(shù)字化革命。法律人自然應(yīng)當(dāng)參與其中。然而在公眾和大眾傳媒中時(shí)常出現(xiàn)這樣一種設(shè)想,即必須馬上制定新的法規(guī)來應(yīng)對新的技術(shù)現(xiàn)象。[18]要求形成針對自動化汽車的全面的新型法律框架就是一個(gè)例子。相反,立法者支持了“小型的解決方式”,參見Achtes Gesetz zur ?nderung des Stra?enverkehrsgesetzesvom 16.Juni2017,BGBl.I,S.1648.這對于理性的法政策而言是一個(gè)沉重的負(fù)擔(dān)。相反,應(yīng)提出這樣的命題,即技術(shù)革命應(yīng)當(dāng)受到法律進(jìn)化的制約。

三、案 例

接下來本文將通過五個(gè)案例從刑法角度分析新型的技術(shù)參與。

1.鮑納塔爾案

2015年6月,大眾汽車位于德國鮑納塔爾的工廠發(fā)生了一起意外事故,工人A在工作時(shí)被一個(gè)未放置在安全籠中的機(jī)器人手臂抓起并擠向一塊金屬板,最終導(dǎo)致死亡。工人B出于失誤過早地開啟了機(jī)器。[19]https://www.hna.de/kassel/kreis-kassel/baunatal-ort312516/toedlicher-roboter-unfall-bei-vw-kassel-in-baunatal-vor-gericht-8413531.html,最后訪問時(shí)間：2018年12月26日。這起事故很快傳遍了世界,甚至美國有線電視新聞網(wǎng)(CNN)也對此進(jìn)行了報(bào)道。[20]https://edition.cnn.com/2015/07/02/europe/germany-volkswagen-robot-kills-worker/index.html,最后訪問時(shí)間：2018年12月26日。

我們面對的是機(jī)器人殺死人類的問題。在案情中明顯沒有出現(xiàn)特別的法律問題,由于排除了故意殺人,若能證明工人B違反了注意義務(wù),就存在成立依據(jù)《德國刑法典》第222條規(guī)定的過失犯罪的主能。這種情況很可能是因?yàn)槎嗄陙頇C(jī)器人不再在安全籠中工作,而是直接與工人接觸。還可考慮第三方的責(zé)任,比如部門負(fù)責(zé)人或者公司的安全專員,只要他們對工人而言具有保證人地位。[21]關(guān)于合規(guī)可能面臨的可罰性的爭論,參見Fischer,StGB,§13Rn.38f.總而言之,這個(gè)案件不會帶來新的挑戰(zhàn)。這表明與新型科技相關(guān)的損害事故部分可在傳統(tǒng)法律的框架下輕易得到解決。

這個(gè)案件引起高度關(guān)注的原因主要在于自動機(jī)器人——一臺機(jī)器殺死了一個(gè)人。這顯然引發(fā)了對能夠傷害人類的“人工生命體”的深層恐慌和幻想。[22]處理這一主題的經(jīng)典之作是恩斯特·特奧多爾·威廉·霍夫曼(E.T.A.Hoffmann)的短篇小說《睡魔》(1816年),刊登在V?lker,Künstliche Menschen(Fn.12),S.181-221.數(shù)字化使得這種生命體成為現(xiàn)實(shí)。對這些案件的理性法律探討是以認(rèn)識到倉促擬人化[23]諸如《霹靂游俠》(1982年及后續(xù)幾年)、《我,機(jī)器人》(2004年)或者《機(jī)器人總動員》(2004年)等影視劇就涉及了這些明顯帶有生物學(xué)色彩和普世性的趨勢。另參見本文第一部分。所帶來的危險(xiǎn)為前提。

2.阿沙芬堡案

2012年春天,一輛配備有功能強(qiáng)大的車道保持輔助系統(tǒng)的汽車駛?cè)氚⑸撤冶な懈浇陌柌哞Т?。在駛?cè)肟谔?車上60歲的司機(jī)突然中風(fēng)并失去了意識。他向右扭轉(zhuǎn)方向盤,在正常情況下汽車會停在駛?cè)肟谇暗墓嗄緟仓?。然而車道保持輔助系統(tǒng)又將汽車駛回馬路上,車輛高速駛?cè)氚柌哞Т宀⒆菜懒艘晃荒贻p女子和她的孩子,孩子的父親因?yàn)榧皶r(shí)跳開躲閃,只是腿部受了傷。[24]Hilgendorf,DRiZ2018,S.66ff.

這是自動系統(tǒng)給人類造成損害的第一個(gè)案例。自動系統(tǒng)意味著在具體情況下不依靠人類指令能夠作出適當(dāng)反應(yīng)的技術(shù)系統(tǒng),對此的最佳范例是火星探測器。它可以在另一個(gè)星球上面對不可預(yù)見的困難“聰明地”作出反應(yīng),并不需要來自地球的指令。就這方面而言,“自動”和哲學(xué)或神學(xué)意義上的“自治”并不是同一個(gè)概念。[25]關(guān)于哲學(xué)和神學(xué)中的“自治”觀念眾說紛紜,很少得以闡明。在康德的傳統(tǒng)著作中,將“自治”觀念和“自我立法”的能力相結(jié)合的觀點(diǎn)影響甚大。對此詳見Lenzen,Künstliche Intelligenz(Fn.7),S.124ff.

鑒于《德國道路交通法》第7條規(guī)定的嚴(yán)格責(zé)任(Gef?hrdungshaftung),這個(gè)案例不會在民法上產(chǎn)生特別的問題,[26]由于《德國道路交通法》第7條中的嚴(yán)格責(zé)任可以輕易地適用于客車自動化系統(tǒng)的新問題情況當(dāng)中,因此應(yīng)當(dāng)審驗(yàn),是否不能將這種模式擴(kuò)展適用到現(xiàn)代機(jī)器人制造技術(shù)的其他形式中。問題在于刑法評價(jià)。首先想到的責(zé)任主體是肇事車輛的司機(jī),但是事實(shí)上他更應(yīng)是受害人而不是行為人,他并沒有過失地引起這個(gè)致命的事故。鑒于造成兩死一傷的結(jié)果,可以依據(jù)《德國刑法典》第222條、第229條的規(guī)定考慮制造商的責(zé)任。

造成這起事故的是自動系統(tǒng),它讓車輛保持在馬路上行駛,否則汽車就會停在駛?cè)肟谇?。問題在于是否可以對該系統(tǒng)的制造商給予違反注意義務(wù)的非難(可以肯定的是未來會時(shí)常提及這樣的問題,因?yàn)槟菚r(shí)自動系統(tǒng)幾乎普及。因此,阿沙芬堡案意義重大)。很明顯,發(fā)生在阿爾策瑙村的交通事故原則上是可預(yù)見的,只是不需要預(yù)見每一個(gè)細(xì)節(jié)。[27]Fischer,St GB,§15Rn.12a.若生產(chǎn)商放棄安裝車道保持輔助系統(tǒng),就可避免年輕女子和她的孩子的死亡。鑒于潛在的損害程度,對于制造商注意義務(wù)的要求將會非常高。這種像在阿爾策瑙村發(fā)生的事件的概率確實(shí)很低。然而這種場景描述得越普遍,它發(fā)生的可能性就越大。特別是考慮到不是一輛汽車,而是很多輛汽車裝配有這樣的車道保持輔助系統(tǒng)。由于樣本數(shù)量巨大,在統(tǒng)計(jì)學(xué)上幾乎可以肯定,該系統(tǒng)將會造成人身傷害或死亡。所有這一切都贊成認(rèn)可對注意義務(wù)的違反。

這就產(chǎn)生了是否要對制造商注意義務(wù)進(jìn)行限制的問題,使得繼續(xù)生產(chǎn)以及安裝車道保持輔助系統(tǒng)成為可能。本該在公路交通中發(fā)揮核心作用的信賴原則[28]概況參見Fischer,StGB,§22Rn.10f.在這里并不適用,因?yàn)椴⒉淮嬖谒说牟划?dāng)行為。但是這里可以考慮被允許的風(fēng)險(xiǎn)。這種形態(tài)是在批量生產(chǎn)可能會產(chǎn)生危險(xiǎn)的,但是在社會倫理上可接受并且有益于社會的產(chǎn)品的背景下被人熟知。[29]BGHSt37,180;Fischer,Vor§32,Rn.13;Kindh?user,LPK-St GB,§15Rn.58;ders.,Zumsog.“unerlaubten”Risiko,in：Bloy(u.a.),GerechteStrafe und legitimes Strafrecht.Festschrift für Manfred Maiwald zum75.Geburtstag,2010,S.397 ff.;關(guān)于教義學(xué)上的定位詳見NK-Paeffgen,Vor§32Rn.23ff.沒有任何產(chǎn)品是百分之百安全的,因此很早就出現(xiàn)了限制注意義務(wù)的法律規(guī)則：生產(chǎn)社會倫理上可接受并且有益于社會的產(chǎn)品,即使其創(chuàng)設(shè)了可識別的風(fēng)險(xiǎn),而且這種風(fēng)險(xiǎn)只有通過停止生產(chǎn)才能避免,那么制造商在生產(chǎn)過程中以及之后能夠采取所有措施盡可能地減少這種風(fēng)險(xiǎn),他們就不違反注意義務(wù)。

部分觀點(diǎn)認(rèn)為,“被允許的風(fēng)險(xiǎn)”的概念已經(jīng)在所謂的客觀歸責(zé)的背景下加以考慮。[30]例如Wessels/Beulke/Satzger,AT,Rn.258.然而客觀歸責(zé)的范疇過于模糊,無法對本文的問題提供足夠精準(zhǔn)的幫助。將行為歸責(zé)于制造商“自己的行為”并不具有爭議,顯而易見,制造商將繼續(xù)承擔(dān)民事產(chǎn)品賠償責(zé)任。這也不是對太過寬泛的因果關(guān)系的限制,而是對制造商承擔(dān)的注意義務(wù)的限制?？蓪⑦@種考量定位于“客觀歸責(zé)”的框架下,但是很明顯可以將絕大部分的事物都定位于“客觀歸責(zé)”的背景下?？陀^歸責(zé)理論越來越像一個(gè)偽教義學(xué)“黑洞”,它很可能吸食、拉平以及最終吞噬數(shù)十年來艱難取得的大量刑法教義學(xué)分殊化成果。[31]Hilgendorf,Wozubrauchen wir die “objektive Zurechnung”?Skeptische überlegungen am Beispiel der strafrechtlichen Produkthaftung.In：Festschrift für Ulrich Weberzum 70.Geburtstag,hrsg.von Heinrichu.a.,2004,S.33ff.

制造自動的車道保持輔助系統(tǒng)就像制造安全氣囊和安全帶一樣,符合上述被允許的風(fēng)險(xiǎn)的前提：即便對該系統(tǒng)的批量生產(chǎn)與特定的危險(xiǎn)情形相關(guān)聯(lián),但被絕大多數(shù)人視為有利于社會。一旦制造商傾全力將自動系統(tǒng)產(chǎn)生的危險(xiǎn)限制在合理范圍內(nèi),對該系統(tǒng)的生產(chǎn)就屬于“被允許的風(fēng)險(xiǎn)行為”。但是制造商應(yīng)在生產(chǎn)以及產(chǎn)品進(jìn)入市場時(shí)注意技術(shù)的現(xiàn)有水平。[32]關(guān)于技術(shù)條款,參見Knopp,in：Datenschutz und Datensicherheit 2017,S.663 ff.很多觀點(diǎn)都認(rèn)為,制造商在銷售產(chǎn)品后還應(yīng)承擔(dān)產(chǎn)品注意義務(wù),就像從民事賠償責(zé)任中為人熟知的那樣。[33]Foerste,in：Foerste/Graf von Westphalen,Produkthaftungshandbuch,3.Aufl.2012,§24Rn.372ff.通過無線網(wǎng)絡(luò)進(jìn)行改進(jìn)(升級、補(bǔ)丁)將會變得越來越普遍。

這里概述的“被允許的風(fēng)險(xiǎn)概念”包含了一個(gè)動態(tài)元素,因?yàn)橹圃焐逃辛x務(wù)監(jiān)控他所投入使用的技術(shù),并且在銷售產(chǎn)品后盡可能將產(chǎn)品風(fēng)險(xiǎn)降到最低程度,這樣一種寬泛的產(chǎn)品注意義務(wù)看來十分適當(dāng),因?yàn)橹圃焐桃环矫鎻漠a(chǎn)品銷售中直接受益;另一方面相比產(chǎn)品的最終用戶,他具有更高程度的評估風(fēng)險(xiǎn)以及事后將其降低到最低程度的能力。

3.自動駕駛的悖論問題

一個(gè)裝配自動駕駛系統(tǒng)的車輛快要臨近一個(gè)事故地點(diǎn),此處的兩名重傷者意識全無地躺在馬路上,第三名傷者爬向道路邊緣抱住道路指示公告牌。設(shè)想車輛車速太快,要停車已經(jīng)來不及了,回避已然不可能,要么碾過兩名躺在路上的重傷者,要么向左偏轉(zhuǎn)撞向抱住道路指示公告牌的第三名傷者。對此,駕駛系統(tǒng)該如何選擇?

諸如上述緊急避險(xiǎn)的情形近年來引起了公眾的極大關(guān)心。這可能是因?yàn)橐环矫婢o急避險(xiǎn)問題一直以來都十分引人注目;[34]費(fèi)迪南德·馮·席拉赫(Ferdinand von Schirach)的話劇《恐怖》(2016年)所引起的轟動也展現(xiàn)了這一點(diǎn)。劇情是,一個(gè)士兵擊落了被恐怖分子劫持的載有大量無辜乘客的客機(jī),從而拯救了該客機(jī)將要墜落在的足球場內(nèi)的更多數(shù)量的人。在該話劇中,觀眾可以自行決定該士兵無罪或是有罪,絕大多數(shù)觀眾支持無罪。法學(xué)家對該話劇的批判是正確的,因?yàn)橄諞]有區(qū)分違法性和責(zé)任。另一方面,這個(gè)主題的重要性在于在公路交通的緊急避險(xiǎn)情況中要處理以下問題,即在未來以機(jī)器為基礎(chǔ)的環(huán)境中人類居于何種地位,機(jī)器具有多大范圍的決定權(quán)限,允許機(jī)器殺害人類嗎?[35]媒體對于這些問題百談不厭,例如http://www.zeit.de/digital/internet/2016-08/verkehr-wen-sollen-fahrerlose-autos-ueberfahren,最后訪問時(shí)間：2018年12月26日。

為了回答以上問題,德國聯(lián)邦交通和基礎(chǔ)設(shè)施部在2016年夏天特別成立了道德委員會,他們認(rèn)為,對于自動駕駛而言,在上述案例中向左偏轉(zhuǎn)并撞死一個(gè)無辜者并不合法。[36]https://www.bmvi.de/SharedDocs/DE/Publikationen/G/bericht-der-ethik-kommission.html.(S.19),最后訪問時(shí)間：2018年12月26日。這與從“扳道工案”的爭論中發(fā)展而來的古典法學(xué)觀點(diǎn)一致。[37]OGHSt1,321,334;Welzel,ZStW63,51;RoxinATⅠ,16/33ff.在以下案件中極難作出選擇：一輛汽車高速駛來,在經(jīng)過的道路上突然跳出來三個(gè)小孩,一個(gè)位于車左前方,兩個(gè)位于車右前方。停車已經(jīng)來不及了,回避也已無可能。汽車向左轉(zhuǎn)向就要碾過一個(gè)小孩,向右轉(zhuǎn)向就要碾過兩個(gè)小孩,繼續(xù)向前行駛就要撞上所有的小孩,會導(dǎo)致他們?nèi)齻€(gè)重傷或者死亡。[38]案例情況參見Hilgendorf,Autonomes Fahrenim Dilemma.überlegungen zur moralischen und rechtlichen Behandlung von selbstt?tigen Kollisionsvermeidesystemen,in：ders.(Hrsg.),Autonome Systeme und neue Mobilit?t,2017,S.143(156).

通常無須思索的說法是人類間的生命不容衡量,但以上情景使其陷入嚴(yán)峻考驗(yàn)。從敘述的角度來看,關(guān)于不能衡量的命題明顯是錯(cuò)誤的——對人與人之間的生命進(jìn)行衡量是可能的。[39]人類生命的量化就是這樣。德國在2011年5月進(jìn)行的人口普查就是對人的生命進(jìn)行特別全面的量化的例子。問題更多在于,依據(jù)我們的道德認(rèn)識或者我們的法秩序,是否允許彼此間的衡量,比如說殺害一個(gè)人相比殺害兩個(gè)人或者更多人而言,更易被接受。通說迄今為止都否定這樣一種衡量權(quán)限。[40]Baumann/Weber/Mitsch/Eisele,AT,§15 Rn.102;MüKo-Erb,§34 Rn.116 f.;S-S-Perron,§34 Rn.117.這一觀點(diǎn)原則上仍然值得贊同：在一個(gè)擔(dān)負(fù)著人文主義價(jià)值的法秩序[41]參見前引②,Hilgendorf文。中不允許使任何人擔(dān)負(fù)容忍義務(wù),為他人犧牲自己的生命。[42]Fischer,St GB,§34Rn.18;MüKo-Erb,§34Rn.116;Hilgendorf,Autonomes Fahren im Dilemma(Fn.38),S.151 ff.

這個(gè)基本決定將會導(dǎo)致在初始案件中否定車輛的偏轉(zhuǎn),因?yàn)槿糗囕v偏轉(zhuǎn)就會給馬路邊上本沒有危險(xiǎn)的第三名傷者造成嚴(yán)重危害,他生還的概率將會明顯降低。第二個(gè)案件則有所不同,汽車在不改變行駛方向的情況下會給所有小孩造成嚴(yán)重危害,向左偏轉(zhuǎn)則位于車左側(cè)的小孩的生還概率和向右偏轉(zhuǎn)則位于車右側(cè)的兩個(gè)小孩的生還概率都沒有發(fā)生任何改變;而向左偏轉(zhuǎn),位于車右側(cè)的兩個(gè)小孩生還概率就會提高,反之亦然。若遵循通常作為緊急避險(xiǎn)評價(jià)基礎(chǔ)的更輕損害原則,就可主張向左偏轉(zhuǎn)碾過一個(gè)小孩,另外兩個(gè)小孩就可得救,這至少在道德上是可取的。如何在法學(xué)上解決這個(gè)案例是另一個(gè)還未最終澄清的問題。[43]參見Hilgendorf,Autonomes Fahren im Dilemma (Fn.38),S.156f.

此外,這個(gè)案例還表明了自動駕駛的出現(xiàn),或者更廣泛地說,案情中涉及的數(shù)字化常常迫使我們要準(zhǔn)確地抓住特定問題,以便更為清晰地識別其結(jié)構(gòu)。數(shù)字化將法律和法學(xué)置于一種巨大的解釋需求之下。但是這并不是一件壞事,而是一個(gè)挑戰(zhàn)。

還有其他重要問題：一個(gè)結(jié)果出現(xiàn)的概率具有怎樣的作用?[44]MüKo-Erb,§34 Rn.129 ff.;Hilgendorf,Autonomes Fahren im Dilemma(Fn.38),S.160 f.具體而言,若保持行駛方向不變,車輛只會以一定的概率碾過兩個(gè)躺在馬路上的重傷者;若向左偏轉(zhuǎn),車輛肯定撞上在路邊的第三名傷者導(dǎo)致其重傷或死亡,這樣的問題會給衡量過程造成什么影響?此外的問題則涉及司機(jī)的地位以及他可能負(fù)有的刑事責(zé)任,畢竟他參與交通的行為是風(fēng)險(xiǎn)情境發(fā)生的原因。對這個(gè)以及其他問題的學(xué)術(shù)討論才剛剛開始。[45]除了前引[38]中的文獻(xiàn),還可參見Beck,Joerden,Schuster 和Hilgendorf等人的論文,尤其可參見Weigend,ZIS 2017,S.599ff.;H?rnle/Wohlers,GA2018,S.12ff.另參見即將出版的Jochen Feldle的博士論文Notstandsalgorithmen.Dilemmatische Situationen im automatisierten Stra?enverkehr,2018.

最后,判斷制造商的責(zé)任也是困難重重。[46]值得注意的是,在兩難困境當(dāng)中這個(gè)問題大多沒有被提及,盡管它對于引入沖突避免系統(tǒng)意義非凡。若認(rèn)為在以上兩個(gè)案例中的緊急避險(xiǎn)情況下的殺害行為是違法的(即所有可能的決定下都是如此),[47]換言之,所有這些案例中的結(jié)果無價(jià)值都得以實(shí)現(xiàn)。那么,制造商就造成了一個(gè)符合構(gòu)成要件的違法結(jié)果。他是否負(fù)有刑事上的責(zé)任只取決于是否能以違反注意義務(wù)對他進(jìn)行非難。作者在其他文章中也試圖通過可允許的風(fēng)險(xiǎn)的法律形態(tài)回答這個(gè)問題。[48]Hilgendorf,Autonomes Fahren im Dilemma (Fn.38),S.164ff.如果自動駕駛系統(tǒng)不能避免在極少數(shù)例外情況下造成人類死亡或重傷,那么對它的生產(chǎn)和投放市場不違反注意義務(wù)。在作者看來,應(yīng)當(dāng)像處理安全氣囊、安全帶或者車道保持輔助系統(tǒng)造成損害的案件那樣處理自動系統(tǒng)造成損害的案件。[49]質(zhì)疑性觀點(diǎn),參見H?rnle/Wohler,GA 2018,S.12(21).

這就為一個(gè)中間結(jié)論掃清了障礙：在新興科技的背景下,刑法理論的古典問題有時(shí)會以新形態(tài)出現(xiàn),比如,生命對生命的可衡量性問題。在這里,解決新問題也應(yīng)與傳統(tǒng)的教義學(xué)基礎(chǔ)保持一致。值得注意的是,數(shù)字化顯然迫使我們對許多迄今沒有明確作出的假設(shè)進(jìn)行解釋。在衡量時(shí)需要大量額外的差別化嘗試。這可以幫助我們分析、評估以及檢驗(yàn)自動系統(tǒng)的決定行為,并賦予其結(jié)構(gòu)化。

4.“Tay”案

2016年3月,微軟在推特平臺推出了一個(gè)人工智能聊天機(jī)器人“Tay”。它可以與任意第三人進(jìn)行對話。但是Tay推出的當(dāng)天微軟就不得不關(guān)閉了Tay的推特賬號,為什么呢?因?yàn)門ay開始有一些仇視女性和種族歧視之類的偏激言論,而這些言論明顯是和網(wǎng)絡(luò)上一些有偏激言論的人互動后被刻意教導(dǎo)而出現(xiàn)的。對此,微軟別無選擇,只能將它從推特平臺上撤下。[50]詳細(xì)案情參見英文版維基百科“Tay (bot)”詞條。

這個(gè)案件富有幾個(gè)方面的啟發(fā)性。設(shè)想依據(jù)《德國刑法典》第185條規(guī)定的檢驗(yàn)侮辱行為,那么應(yīng)考慮哪些責(zé)任主體?那些刻意教導(dǎo)系統(tǒng)出現(xiàn)偏激言論的人或可觸犯《德國刑法典》第185條的規(guī)定而構(gòu)成侮辱罪。然而,前提條件是他們要具有一個(gè)相應(yīng)的故意,但這看上去似乎難以證明,至少教導(dǎo)者對于可能的受害人身份和對受害人造成損害的時(shí)間點(diǎn)的認(rèn)識是模糊的。進(jìn)一步可考慮系統(tǒng)制造商或程序員的責(zé)任,然而該系統(tǒng)沒有出現(xiàn)任何錯(cuò)誤,它按照預(yù)期進(jìn)行學(xué)習(xí)。此外,制造商和程序員也都不具有侮辱故意。原則上似乎可以考慮系統(tǒng)本身的責(zé)任。[51]支持機(jī)器的可罰性的觀點(diǎn),參見Matthias,Automaten als Tr?ger von Rechten：Pl?doyer für eine Gesetzes?nderung,2008,2.korrigierte Aufl.2010;關(guān)于“電子人”的爭論,參見Beck,über Sinn und Unsinn von Statusfragen—zu Vor-und Nachteilender Einführung einer elektronischen Person,in：Hilgendorf( Hrsg.),Robotik und Gesetzgebung,2013,S.239ff.這很可能出自大多數(shù)人的直覺。然而這在法學(xué)上是不成立的,當(dāng)下的刑法并不將一個(gè)由運(yùn)算法則組成的計(jì)算機(jī)系統(tǒng)視為責(zé)任主體。這樣一種系統(tǒng)不是自然人,嚴(yán)格上來說它都不是一個(gè)物。[52]不過,根據(jù)《德國著作權(quán)法》第2條第1款第1項(xiàng)的規(guī)定,電腦程序?qū)儆谑苤鳈?quán)法保護(hù)的作品。

如案例所示,對具有自我學(xué)習(xí)能力的系統(tǒng)進(jìn)行刑事規(guī)制就出現(xiàn)了相當(dāng)?shù)睦щy。雖然刑法學(xué)中的絕大部分意見認(rèn)為,刑法無須無漏洞地保護(hù)法益。[53]Baumann/Weber/Mitsch/Eisele,AT§2Rn.7f.另一方面可以設(shè)想,若進(jìn)一步推廣具有自我學(xué)習(xí)能力的系統(tǒng),系統(tǒng)本身總會造成損害,而如果人類以同樣的方式造成了損害就會被課以刑罰。這就產(chǎn)生了一個(gè)問題,即法秩序如何對待原則上合法的公民的預(yù)期刑度(Straferwartungen)。[54]自動化系統(tǒng)“擬人化”的第二個(gè)參考點(diǎn)可能在于,未來越來越多的機(jī)器人將與人類建立直接的聯(lián)系,例如作為老年護(hù)工或孩子的玩伴。這要求機(jī)器的形態(tài)越來越接近人類,或者至少引起人類的積極情感(例如機(jī)器人“瓦力”的角色)。如果這樣的機(jī)器受損甚至是毀損,那么對很多人尤其是它的人類伙伴來說,難以接受將該狀況僅僅視為“損壞財(cái)物”。就此而言,甚至“機(jī)器的人權(quán)”這種口號也能擁有支持者。

無論如何,可達(dá)成的共識是,具有自我學(xué)習(xí)能力的系統(tǒng)的制造商必須預(yù)先對系統(tǒng)的學(xué)習(xí)可能性進(jìn)行一定的限制,以便它們不能學(xué)習(xí)到危害人的東西。也就是說,制造商從一開始就要限縮系統(tǒng)學(xué)習(xí)成果的可能空間,這在民法上可通過擴(kuò)大《德國產(chǎn)品責(zé)任法》中的嚴(yán)格責(zé)任來達(dá)到。迄今為止,產(chǎn)品責(zé)任只適用于(移動的)有體標(biāo)的(物),即《德國產(chǎn)品責(zé)任法》第2條所規(guī)定的,然而人工智能聊天機(jī)器人“Tay”不是一個(gè)物,而是一個(gè)程序。消費(fèi)者權(quán)益保護(hù)者主張應(yīng)將產(chǎn)品責(zé)任擴(kuò)展到這樣的程序上。此外也應(yīng)包括通過無線網(wǎng)絡(luò)的程序變更的安裝或升級。

在刑法上,由于罪責(zé)原則而排除引入與罪責(zé)無關(guān)的嚴(yán)格責(zé)任,[55]Baumann/Weber/Mitsch/Eisele,AT§2Rn.64ff.但是可以考慮對可自主造成損害的自動系統(tǒng)引入抽象或者具體危險(xiǎn)犯,可以考慮設(shè)置發(fā)售危險(xiǎn)產(chǎn)品的抽象危險(xiǎn)犯,可以將損害結(jié)果的出現(xiàn)作為可罰性的客觀前提。通過這種方式可以在刑法上給相應(yīng)系統(tǒng)的制造商提供一個(gè)強(qiáng)有力的動機(jī),使他們從一開始就限制系統(tǒng)的可能空間以及阻止具有風(fēng)險(xiǎn)的學(xué)習(xí)過程。

總之,“Tay”案表明了具有自我學(xué)習(xí)能力的系統(tǒng)對法學(xué)特別是刑法學(xué)構(gòu)成了巨大挑戰(zhàn)。應(yīng)然之,法除了立法者的想象外,還需要考慮實(shí)踐知識以及跨學(xué)科的合作。[56]2017年,德國聯(lián)邦教育及研究部(BMBF)成立了“平臺學(xué)習(xí)系統(tǒng)”。該平臺的其中一個(gè)小組委員會研究自主學(xué)習(xí)系統(tǒng)的法律和倫理挑戰(zhàn),參見www.plattform-lernende-systeme.de/ag-3.html.目前仍難以預(yù)測數(shù)字化革命的實(shí)際影響,這就意味著對于新的立法提案應(yīng)當(dāng)持保留態(tài)度。

5.“感知心”——鑒于科學(xué)幻想

為了得到技術(shù)和社會發(fā)展方向的大致印象,我們可以閱讀科幻小說?？茖W(xué)幻想可以窺見未來,此外,科學(xué)幻想也對技術(shù)發(fā)展產(chǎn)生了明顯的影響。盡管科學(xué)幻想在很多時(shí)候體現(xiàn)了特定的威脅感,但是也體現(xiàn)了技術(shù)主導(dǎo)的藍(lán)本功能——可以這樣說,科學(xué)幻想是技術(shù)發(fā)展的前導(dǎo)。[57]Hilgendorf,Recht und autonome Maschinen-ein Problemaufri?.In：Hilgendorf/H?titzsch(Hrsg.),Beitr?geder1.Würzburger Tagung zum Technikrecht,2015,S.11ff.

在伊恩·M.班克斯《文明》系列的科幻小說[58]Consider Phlebas,1987;The Player of Games,1988;Use of Weapons,1990;The State of the Art,1991;Excession,1996;Lookto Winward,2000;Matter,2008;Surface Detail,2010;The Hydrogen Sonata,2012.中,早已超過人類水準(zhǔn)的人工超級智能作為人類的合作伙伴、保衛(wèi)者(以及主人?[59]應(yīng)當(dāng)將《文明》理解為積極的烏托邦還是反烏托邦,對此并無定論。本文認(rèn)為更多的是前者。),是社會的支柱。這一系列科幻小說是建立在人之條件(conditio humana)急劇變化的基礎(chǔ)上：人類生活充沛,借助無所不能的機(jī)器幾乎可以實(shí)現(xiàn)每一個(gè)愿望,不再需要金錢,人類生活完全致力于自我實(shí)現(xiàn)。值得注意的是,人工智能實(shí)體知道“好”和“壞”的范疇并受其引導(dǎo)。這一系列科幻小說致力于討論這樣的問題：生物實(shí)體和機(jī)械實(shí)體到底存在怎樣的根本差異?個(gè)人自決是否有一個(gè)界限?一個(gè)在技術(shù)和道德上處于優(yōu)勢的(或者只是自命不凡的優(yōu)越)文明是否應(yīng)該干預(yù)其他文明的發(fā)展?

這些問題具有一個(gè)間離功能,它們觸動了看似不證自明的真理以及打破了迄今無可置疑的思維習(xí)慣。這些影響促進(jìn)了刑法理論的反思。[60]有時(shí)捍衛(wèi)現(xiàn)有刑法教義學(xué)原則和規(guī)范的決心也可能與缺乏幻想有關(guān)。這里就不僅僅涉及通過對虛構(gòu)場景的探討來進(jìn)一步發(fā)展刑法的術(shù)語庫。聯(lián)系伊恩·M.班克斯的科幻小說就會提出以下問題：人工智能實(shí)體是否可能承擔(dān)道德或者法律義務(wù);或者是否可以存在“屬于機(jī)器的倫理”,而不是“為機(jī)器設(shè)計(jì)的倫理”。[61]這個(gè)問題在英美倫理學(xué)中已經(jīng)得到了相當(dāng)一段時(shí)間的集中討論,例如,Anderson/Anderson (Hrsg,),Machine Ethics2011;Wallach(Hrsg,),Moral Machines.Teaching Robots Rightfrom Wrong,2010.另參見文集Lin/Jenkins/Abney(Hrsg.),Robot Ethics 2.0.From Autonomous Cars to Artificial Intelligence,2017.德語區(qū)的文獻(xiàn),參見Heesen 和Neuh?user的文章,載于Hilgendorf (Hrsg.),Robotik im Kontext von Recht und Moral,2014.

這些問題遠(yuǎn)比與現(xiàn)實(shí)的距離看上去近。正如上面討論具有自我學(xué)習(xí)能力的系統(tǒng)問題那樣,迫切需要限制具有自我學(xué)習(xí)能力的系統(tǒng)的“可能空間”,即確保這種系統(tǒng)不會大量學(xué)習(xí)具有社會危害性甚至要面臨刑法處罰的行為。為實(shí)現(xiàn)這一目標(biāo),可以賦予機(jī)器“良知”,即在軟件中確定規(guī)范和價(jià)值,然后借助它們校正和監(jiān)督系統(tǒng)的學(xué)習(xí)過程。[62]艾薩克·阿西莫夫在其短篇小說《環(huán)舞》(1942年)中提出的著名的“機(jī)器人三定律”顯然是這種“機(jī)器人道德”的早期形式：“第一,機(jī)器人不得傷害人類,或坐視人類受到傷害;第二,除非違背第一法則,否則機(jī)器人必須服從人類命令;第三,除非違背第一或第二法則,否則機(jī)器人必須保護(hù)自己。”在很多科幻小說和電影(例如2004年的《我,機(jī)器人》)中,這些定律都是主題,而且面臨著問題。從法學(xué)視角來看,阿西莫夫定律難以令人信服,它沒有明確應(yīng)當(dāng)如何理解“傷害”,對于兩難困境也缺乏決定規(guī)則。顯然,這不僅是一項(xiàng)技術(shù)任務(wù),更是對法理學(xué)和法哲學(xué)構(gòu)成了一個(gè)挑戰(zhàn)：如何準(zhǔn)確表達(dá)和運(yùn)作像“規(guī)范”和“價(jià)值”這樣的概念,以便它們可以被機(jī)器理解?我們希望給我們的技術(shù)產(chǎn)物,就是“我們的智力后裔”,[63]這一表述是根據(jù)一位奧地利裔美國機(jī)器人技術(shù)幻想家的名著,參見Hans Moravec：Mind Children.The Future of Robot and Human Intelligence,1988.提供什么樣的規(guī)范和價(jià)值?

四、總 結(jié)

本文將以上明顯概略的闡述總結(jié)為以下核心論點(diǎn)。

第一,數(shù)字化革命不應(yīng)由立法者的臆想孤注一擲地應(yīng)對,而應(yīng)伴隨著謹(jǐn)慎、適度的法律演進(jìn)一同發(fā)展。

第二,數(shù)字化經(jīng)常產(chǎn)生迫切的法律解釋需求,特別對諸如(法益)衡量那樣的方法論程序必須準(zhǔn)確化和體系化。這體現(xiàn)在對自動化駕駛的悖論問題的討論上。

第三,許多新的問題可以在現(xiàn)有法律的框架下得到解決。這也恰恰適用于責(zé)任法以及刑事責(zé)任法領(lǐng)域。若沒有令人信服的理由,就不應(yīng)放棄已被證明可靠的教義學(xué)結(jié)構(gòu)。

第四,沒有技術(shù)系統(tǒng)是百分之百安全的。為了在教義學(xué)上掌控剩余風(fēng)險(xiǎn),就出現(xiàn)了被允許的風(fēng)險(xiǎn)形態(tài),可將它理解為對制造商注意義務(wù)的限制。它可能是一個(gè)有意義的責(zé)任規(guī)則以及技術(shù)系統(tǒng)的制造商和用戶之間風(fēng)險(xiǎn)分擔(dān)的關(guān)鍵。

第五,具有自我學(xué)習(xí)能力的系統(tǒng)對法律構(gòu)成了特別的挑戰(zhàn)。在民法上應(yīng)擴(kuò)大嚴(yán)格責(zé)任,在刑法上可考慮引入新的危險(xiǎn)犯構(gòu)成要件。當(dāng)然前提是從實(shí)證角度對風(fēng)險(xiǎn)情勢進(jìn)行更強(qiáng)有力的解釋。

第六,科幻場景可以觸發(fā)間離效應(yīng),從而有助于提出新的問題并制定可能的答案。因此,“機(jī)器倫理”的主題對于研究數(shù)字化影響的法律專業(yè)人員而言具有重要意義。