A.I.時代的法律責任思考
——以ANI為例

姚迪燁

云南師范大學(xué)商學(xué)院，云南 昆明 650032

一、問題的提出

隨著近年來世界經(jīng)濟不斷蓬勃發(fā)展，人類生產(chǎn)力不斷解放，人類工業(yè)領(lǐng)域的傳統(tǒng)模式“人操作機器人進行工作”已逐漸被“機器人操作自己進行工作”所取代。再加之人類科技水平的不斷提高，短短20余年時間，上世紀末的計算機算力已與現(xiàn)在不可同日而語，若以普通人類的大腦算力作為參照，現(xiàn)今的家用PC已輕松超越，在社會各個領(lǐng)域，正在進行著一場場“人工智能革命”。智能機器人不管在各方面都能輕松超越人類，實證就如2016年3月韓國“國手”李世石，與Google公司研發(fā)的圍棋機器人AlphaGo博弈棋藝數(shù)回合后以1：4的成績慘敗。諸如此類的事實在我們身邊不斷發(fā)生，所以我們不得不深思，按現(xiàn)今不算發(fā)達的科技水平來看人工智能都已如此卓越，那么在半個世紀甚至是一個世紀之后，彼時的人工智能又會發(fā)展到一個什么地步？會超越作為偉大“造物主”的人類？還是會發(fā)展到奴役我們?nèi)祟?？伴隨著一系列的問題的是來自內(nèi)心深處的深深寒意。但我們也無須過度悲觀，因為人工智能可以協(xié)助我們?nèi)祟愄岣呱a(chǎn)效率已是一個不爭的事實，且智能機器人的誕生也可代替我們?nèi)氖略S多危險作業(yè)，所以，我們應(yīng)當充分看到其優(yōu)點，并在此方向上朝著人類所希冀看到的場景去努力。

伴隨著技術(shù)爆炸，現(xiàn)今的法學(xué)理論與法律制度正面臨著難以避免的沖擊。本文著重于探討在A.I.時代，人工智能機器人、設(shè)備的法律責任問題，即在A.I.時代，人工智能機器人是否擁有自我意識或是自我意志？若它有的話，當它實施傷害行為時，法律責任該如何認定？——由它自己承擔責任？或是由它的所有者承擔責任？而由于人工智能的法律責任認定尚屬于一個有爭議、比較模糊的問題，故本文在探討人工智能的法律地位、法律責任時，以ANI來作為引例。

二、人工智能與法律責任

（一）人工智能的定義

人工智能即A.I.，是使電腦或機器具備人類的普遍智慧行為，以解決需要人力完成的工作。但筆者認為此解釋過于籠統(tǒng)，因為在現(xiàn)今中外各方學(xué)者的探討下，人工智能尚無一個準確的、清晰的定義，故而筆者認為若在此對人工智能下定義，應(yīng)借鑒最早點明人工智能是“什么”的人工智能之父—艾倫.M.圖靈提出的觀點。

艾倫.M.圖靈曾于1950年提出過圖靈測試，其大概含義是指，在一個空間內(nèi)將一臺機器與一名人類（被測試者）互相隔離開，由另一位人類（測試者）通過一定的不用與被測試者直接接觸的媒介向被測試者隨機發(fā)問，若由被測試者反饋回的答案使測試者不能分清這是出自一臺機器還是一名人類的回答時，并且這種誤判超過總問題占比的30%時，此時就可認為這一臺機器具備人工智能要素［1］。圖靈認為，可以使一名正常的、具有普通判斷力的人類感到困惑的機器，可以認定其是人工智能機器。此外，在1956年的達特茅斯會議上約翰.麥卡錫再次定義了人工智能，并提出了人工智能在高度與深度上發(fā)展的可能性。而根據(jù)各國研究人工智能的學(xué)者的進一步研究，人工智能在類型上可以分為三種：即人工弱智能（ANI）、人工一般智能（AGI）、人工超智能（ASI）［2］。ANI代表了現(xiàn)今人類科學(xué)技術(shù)所能制造的所有智能機器與設(shè)備，它可以協(xié)助人類進行普通的生產(chǎn)生活作業(yè)，但同時它能從事的工作也相當有限，僅限在人類對其編程的范圍之類。AGI則代表了人工智能體完全像人類一樣學(xué)習(xí)、感知、理解知識與事物，使人工智能等同于一般人類。ASI則代表了人工智能體在一切人類所具備的能力上碾壓普通人類，這可能標志著人工智能研究的頂峰時期，但同時也意味著人工智能開始對人類存在產(chǎn)生威脅。

就現(xiàn)在來看，人工智能已經(jīng)在這個時代占據(jù)了一席之地，分布在我們的社會的各行各業(yè)之中。而從當下的科學(xué)技術(shù)水平與政治、經(jīng)濟、文化、社會因素綜合考量出發(fā)，當下研究的主要對象是比較普遍的ANI即人工弱智能，而對于AGI與ASI方面的研究，還要等待人類科學(xué)技術(shù)水平的進一步提升才能開展。所以本文主要針對的對象是ANI及其普遍形式。

（二）法律責任

法律責任一詞，是由“法律”與“責任”兩個獨立的詞組合形成的專門法律術(shù)語。根據(jù)辭書的解釋，責任一詞是指一個人本應(yīng)做的事，或者一個人對其做的事本應(yīng)承擔的結(jié)果。而在法學(xué)范疇內(nèi)，法律責任是指由特定法律事實所引起的對損害予以補償、強制履行或接受懲罰的特殊義務(wù)［3］?；厮莘韶熑沃举|(zhì)，即法律責任“是什么”與“為什么”的問題，而對于法律責任本質(zhì)的研究，現(xiàn)有三種影響較大的不同理論：即道義責任論、社會責任論、規(guī)范責任論。其中筆者比較贊同規(guī)范責任論的觀點，即認為法是指引與評價人之行為的規(guī)范，所以應(yīng)對符合規(guī)范的行為表示肯定，而對不符或違反規(guī)范的行為表示否定。對于人類來說，趨利避害是天性，若一部法律被公之于眾后，大多數(shù)人會選擇遵循現(xiàn)行法律的規(guī)定，選擇獲得由法律給出的肯定性的評價。但對于人工智能機器人來說，它無法做到擁有人類一樣的認識能力與判別能力，即它無法判別一件或一個抽象的事物對于自身的存在是有利還是有弊，它也無法像人類一樣希望尋求外界的肯定評價而不是否定評價，它所能做的，就只有是按照它的生產(chǎn)者或銷售者或使用者的指令來行事，這個指令可以是一個具體的目的，或是一個寬泛的范圍，但它絕不可能按照自己的意志主動行事，因為它并不具有自由意志，它的生產(chǎn)者或銷售者或使用者的意志就代表了它自身的意志。

自由意志，強調(diào)一個人只對出自自己自由意志支配下的行為負責，若一個人不具備自由意志，那么其行為將不會產(chǎn)生法律上的效果［4］。大衛(wèi)·休謨認為，一個人所做出的行為并非突然由上帝決定，或是他的神經(jīng)系統(tǒng)毫無緣由地下達一個莫名其妙的命令，他所作出的行為很大程度上取決于他的性格和喜好等因素［5］。人類尚存可決定其行為的因素，且普遍意義上說這些因素并不能成為一個人的免責事由，那么作為被人類制造出來的ANI，更不可能因為任何理由免責。若ANI在損害他人的合法利益，甚至是犯罪后，它的法律責任如何歸屬，已經(jīng)有了一個清晰、明確的指向。

三、人工智能法律責任的歸屬

在研究ANI的法律責任的歸屬之前，應(yīng)明確它的法律地位。對此，有學(xué)者認為，應(yīng)賦予它與法人相當?shù)?，法律擬制的法律地位［6］。但筆者認為，ANI不具備法人的法律特征，更不能以自己的意志來進行一定的行為，來向受害者進行賠償，所以它不應(yīng)當被認定為法人，或是法律暫不應(yīng)為其擬制法律地位（就現(xiàn)在的ANI來說），應(yīng)將ANI視為一種特殊的動產(chǎn)更為合適。因為其本身不具備任何的自主意識，其行動范圍也是僅在它的所有者指令范圍內(nèi)。所以，ANI應(yīng)屬于一種特殊的物，它是器物發(fā)展的極致階段［7］，因此它的所有者對其享有所有權(quán)，所以，若ANI需承擔法律責任，應(yīng)由其所有者承擔。

在將ANI定性為一種特殊性質(zhì)的物的同時，應(yīng)當嚴格遵循技術(shù)中立原則［8］。即不將價值判斷加之于人類的科學(xué)研究及相關(guān)的技術(shù)、機器或設(shè)備，也不用是否合法的標準來評判。若用一種二元性的觀點去看待技術(shù)、機器或設(shè)備，可能并不利于這些新事物的發(fā)展，甚至可能在它尚未為人類所充分利用之前就已經(jīng)被扼殺于搖籃中。這些技術(shù)、機器或設(shè)備，或許只是人類去認識與改造世界的一種輔助性工具，其本身不存在人類原初道德觀念中的對與錯、是與非、善與惡，其對人類社會或人類發(fā)展產(chǎn)生積極效果或是消極效果取決于使用者的意志，即使用者利用它去做合法、有利于人類的事，那么我們可認定其是有利的；使用者利用他去做違法、損害人類生存、生活利益的事，我們可認定其是有害的。由此可見，在針對ANI侵權(quán)或犯罪案件中，我們或許無須過多關(guān)注造成損害的ANI這一“工具”，而是要更多地關(guān)注其所有者的主觀因素。

主觀過錯是認定一個案件，認定法律責任歸屬的不可或缺的組成部分之一?，F(xiàn)代社會將主觀過錯作為法律責任構(gòu)成的要件之一，不同的主觀心理狀態(tài)與認定某一行為是否有責及承擔何種法律責任有著直接的聯(lián)系［9］。在認定ANI的侵權(quán)案件中，或可借鑒現(xiàn)行《中華人民共和國侵權(quán)法》中關(guān)于特殊侵權(quán)的相關(guān)規(guī)定，認定所有者對其所有的ANI承擔無過錯責任，因所有者本應(yīng)當在使用其機器人、設(shè)備時就對其使用范圍加以嚴格限制，并且應(yīng)當對機器人、設(shè)備可能造成的損害他人權(quán)益的隱患抱有積極預(yù)見的態(tài)度。在此，馬修U.謝勒曾提出過一個關(guān)于人工智能侵權(quán)的認定因素模型，即在認定人工智能侵權(quán)時因加入自主性、可預(yù)見性和因果關(guān)系三個因素綜合考量［10］，因果關(guān)系本就是法律責任的一個重要構(gòu)成部分，所以在此不加以贅述。自主性是指ANI是否會做出其所有者對其下達指令范圍外的行為，但就當前來說，普遍的人工弱智能并不具有超越人類指令或超越其本身程序范圍外的能力，所以自主性因素尚還值得商榷?？深A(yù)見性則是指ANI的所有者有義務(wù)對ANI所做的行為、行動軌跡在時間、空間的發(fā)展維度上有一個預(yù)見，并且其所有者有義務(wù)去制止ANI做出不利于人類、不符合人類普遍道德觀的行為，筆者認為，可預(yù)見性這個標準值得我們借鑒。

對于ANI犯罪案件，嚴格來說，應(yīng)當是其所有者利用它去犯罪的案件，主觀意圖亦是一個至關(guān)重要的要件。上文已述，筆者不認為現(xiàn)在的ANI具有自主行動，甚至是自主確立自己意識形態(tài)、價值標準的能力，所以究其所有，如若ANI涉嫌某罪，其本質(zhì)還是與人類用于輔助自己進行犯罪的其他犯罪工具別無二致，例如用刀、槍非法剝奪他人生命，用鐵絲、鑷子盜竊他人財物等，只是其更具備智能化這一特點。關(guān)于此，約翰·金斯頓認為，人工智能似乎不太可能會因為具備知道該犯罪行為正在發(fā)生的認識而違反法律，但它很有可能會違反“理性的人應(yīng)當知道”的法律規(guī)定［11］。對此筆者認為，正因為ANI進行犯罪時不具備認識能力，不能認識到它自己正在做或即將做的行為是否符合法律規(guī)定的，但其又確實做出了犯罪行為，造成了法律應(yīng)當對其譴責的后果時，法律不應(yīng)當譴責一個“非生命人造體”，而應(yīng)當評價其所有者的行為?？梢哉f，ANI的行為即代表了其所有者的行為，而為了避免法律遺漏評價的現(xiàn)象出現(xiàn)，我們應(yīng)當將人工智能犯罪后的刑事責任嚴格歸責于其所有者，包括其所有者和附維護、修繕它的義務(wù)的人員。

四、結(jié)語

人工智能相關(guān)科學(xué)理論、技術(shù)的不斷提出，以及其他相關(guān)的前沿科學(xué)技術(shù)如3D打印機技術(shù)、基因改造技術(shù)等，確確實實為我們的世界帶來了新鮮事物。但我們在看到機遇的同時，也要重視一系列科學(xué)技術(shù)帶來的不小挑戰(zhàn)。在今時今日，“技術(shù)爆炸”無時無刻不發(fā)生在每一個科學(xué)領(lǐng)域之中，或許今日的理論、學(xué)說就可完全推翻昔日的一切，正如哲學(xué)家勒內(nèi).笛卡爾所說：“我們要懷疑一切值得懷疑的事物”?；蛟S，我們在進行對ANI的法律責任研究之前，應(yīng)當著手起草規(guī)范人工智能領(lǐng)域的相關(guān)規(guī)則，如馬修U.謝勒在其國范圍內(nèi)提倡《人工智能發(fā)展法》，用一部可以引據(jù)的法來指引人工智能領(lǐng)域的發(fā)展。值得慶幸的是，我國于2019年6月17日發(fā)布的《新一代人工智能治理原則——發(fā)展負責任的人工智能》是我國在人工智能領(lǐng)域蓬勃發(fā)展的積極苗頭，相信在不遠的將來，人工智能領(lǐng)域在中國不再只是一個遙遠與模糊的概念。所以，確立人工智能領(lǐng)域的相關(guān)規(guī)范，對于推動我國經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體來說，是一個必行之事。