黃 蒙，吳俊明

(安徽師范大學，安徽 蕪湖 241000)

究竟如何理解“人工智能”，目前學界尚無定論。而這一詞語的由來最早可追溯到1950年代，由當時供職于麻省理工學院的計算機科學家約翰·麥卡錫在達特矛斯會議上提出的：人工智能就是要讓機器的行為看起來就像是人所表現(xiàn)出的智能行為一樣。這種說法目前來看只能局限于對弱人工智能的理解，并未對人工智能的內(nèi)涵作出全面定性。隨著AI領域的不斷創(chuàng)新，人工智能已經(jīng)由當初簡單地模擬人類智能活動發(fā)展為能夠自主學習和分析數(shù)據(jù)幫助人類完成各項工作的前沿技術(shù)。按照斯圖爾特·羅素的觀點，人工智能的定義包括四類，即：像人一樣思考、像人一樣行動、理性的思考和理性的行動。[1]這四個方面既是人工智能的組成部分，也是研究人工智能的方向和途徑。如同該定義所描述的那樣，現(xiàn)人工智能屬于計算機技術(shù)的一種，但又區(qū)別于普通的計算機程序，從輸入到輸出的各種指令和參數(shù)都需要設計者進行編譯；人工智能需要的是數(shù)據(jù)和算法，根據(jù)輸入的指令自動進行處理和分析從而得出結(jié)果，并且通過機器學習的不斷提升，衍生數(shù)據(jù)的補充和算法的升級。由此來看，人工智能可以理解為是一種擁有深度學習的技術(shù)基礎，根據(jù)對環(huán)境的感知做出合理的且與人類行為相似的行動，從而獲得巨大收益的計算機程序。而人工智能通常又有強和弱之分。弱人工智能可以看作是“非人”的人工智能，因為它并不具有自主意識，機器學習也無法主動排除錯誤數(shù)據(jù)和修復算法程序，只能在既定的領域和規(guī)則中運行下去，相比真正意義上的人工智能，可以說是有其形而無其神。強人工智能則完全具有了自主意識，真正做到模仿人類思維去學習、思考、推理、分析和決策，或者反其道而行之擁有與人類思維完全不一樣的系統(tǒng)模式進行運作。但歸根結(jié)底，強人工智能一定程度上擺脫了設計者的束縛，在不斷自我升級和構(gòu)建過程中，逐漸接近人類自身水平。

一、長三角區(qū)域人工智能產(chǎn)品的研發(fā)應用

隨著長江三角洲區(qū)域一體化發(fā)展戰(zhàn)略的穩(wěn)步推進，人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量具有舉足輕重的地位。一方面，長三角為人工智能提供了可持續(xù)發(fā)展的空間。人工智能以算法和數(shù)據(jù)為基礎：在算法方面，目前長三角區(qū)域逐步生產(chǎn)出科大訊飛、云知聲、寒武紀等一系列國產(chǎn)智能芯片，在數(shù)據(jù)方面，基于長三角區(qū)域一體化發(fā)展所帶來的跨區(qū)域信息共享成果，為人工智能提供了可持續(xù)創(chuàng)新的“燃料”，從而使人工智能技術(shù)獲得進一步突破。另一方面，人工智能與各行各業(yè)的快速融合使物流、制造、金融等諸多企業(yè)降本增效，促進經(jīng)濟平穩(wěn)運行和高質(zhì)量發(fā)展的同時，在交通、醫(yī)療、養(yǎng)老等民生需求上為人們提供了便捷利民的智能化服務。目前，百度自動駕駛、阿里巴巴城市大腦、騰訊醫(yī)療影像、科大訊飛智能語音和商湯智能視覺五大國家級人工智能開放創(chuàng)新平臺，就有一大半落戶長三角地區(qū)，并全力推進人工智能的研發(fā)應用。從AI產(chǎn)業(yè)布局來看，為推動智慧城市群建設，長三角區(qū)域人工智能產(chǎn)品的應用主要集中于以下五個方面：

其一，在醫(yī)學領域，借助于人工智能技術(shù)衍生出智能診療、智能影像分析、醫(yī)療機器人等應用的“智慧醫(yī)療”模式。一方面醫(yī)療信息化使就診流程得到優(yōu)化，患者通過微信、APP、醫(yī)院官網(wǎng)等載體就可以進行預約掛號、分時診療、報告查詢、費用支付等，極大地緩解以往患者就醫(yī)難的問題，由此形成的電子病歷資料的儲存和利用也有助于醫(yī)院的精細化管理，醫(yī)生無需患者描述可直接通過電子病歷資料進行就診，與成員醫(yī)院的醫(yī)療信息共享也方便協(xié)同診斷、處方指導及電子轉(zhuǎn)診。另一方面智能醫(yī)療系統(tǒng)助推醫(yī)學發(fā)展，智能醫(yī)療影像分析和AI輔診能夠幫助醫(yī)生進行臨床診斷，以往90%的醫(yī)療數(shù)據(jù)需要醫(yī)生通過CT、X線、磁共振、超聲等影像來判斷病理情況、手術(shù)方案、用藥風險等，具有較大主觀性且消耗大量時間，利用人工智能對醫(yī)療影像進行輔助診斷，不僅節(jié)約時間、減少誤診，而且有助于醫(yī)療數(shù)據(jù)庫的構(gòu)筑、降低醫(yī)療成本；而醫(yī)療機器人除了常見問題答疑的導診機器人外，還包括手術(shù)機器人針對部分疾病的微創(chuàng)治療。目前長三角區(qū)域智慧醫(yī)療以杭州為代表于2012年試點先行，到2017年安徽省立醫(yī)院與科大訊飛聯(lián)手成立全國首家人工智能輔助診療中心即安徽省立智慧醫(yī)院，可謂成績斐然。

其二，人工智能交通領域的延伸發(fā)展應用。主要包括三個方面：一是智能交通監(jiān)控系統(tǒng)。它根據(jù)計算機視覺、智能分析以及數(shù)字圖像處理技術(shù)可以對過往車輛進行實時抓拍，獲取到車輛行駛速度、車輛號碼等數(shù)據(jù)，并能夠進行車輛動態(tài)布控和違章報警，這是目前人工智能在交通領域最為理想的應用模塊，長三角區(qū)域?qū)τ谠搼媚K的重視程度也比其他地區(qū)都要高。二是交通誘導和應急指揮。基于系統(tǒng)獲取的實時準確的交通狀況信息，一方面人工智能驅(qū)動的智能交通信號系統(tǒng)通過數(shù)據(jù)整合與算法分析，可智能調(diào)控紅綠燈，以緩解日常交通堵塞問題；另一方面智能交通應急指揮平臺可以在突發(fā)事件和緊急情況下大規(guī)模綜合性實時地指揮調(diào)度，提高應急效率，減少生命及財產(chǎn)的損失。三是智能出行，以百度公司為代表的智能定位、語音交互、AR導航等服務與無人駕駛技術(shù)的應用為人類的出行提供了極大的便利，在減少交通事故發(fā)生的同時，也促進了智能化交通系統(tǒng)的發(fā)展。目前，上海、杭州、南京等地的“智慧交通”建設均走在國內(nèi)前列，人工智能與交通行業(yè)的融合應用推進長三角交通更高質(zhì)量一體化發(fā)展。

其三，在公共服務領域，通過政府的積極推動和智能化信息平臺的構(gòu)建，以“智慧政務”為主題，打通政府和百姓、企業(yè)間的溝通渠道，快速提高政府部門間的溝通效率，以實現(xiàn)長三角公共服務一體化目標。自“2018年‘上海會議’以來，一市三省堅持以新發(fā)展理念引領發(fā)展行動，共繪‘一幅圖’、共下‘一盤棋’、共治‘一江水’、共建‘一張網(wǎng)’、共推‘一卡通’，形成了一批實實在在的合作成果?！盵2]說到“智慧政務”，全國任何一個區(qū)域城市群可能都無法與長三角相比，諸如浙江提出的“最多跑一次”，江蘇的“不見面審批”，上海的“一網(wǎng)通辦”以及安徽的“慧辦事、慧審批、慧監(jiān)管”等模式都走在全國前列；通過智能服務平臺的搭建，應用大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)等技術(shù)，整合優(yōu)化政府部門的辦事流程，推動形成協(xié)同通辦的網(wǎng)上辦理機制，從而做到 “讓數(shù)據(jù)多跑路、讓群眾少跑腿”。不僅是政府部門，司法部門亦是如此，2019年6月21日上海市高級人民法院聯(lián)合了江蘇省、浙江省、安徽省高級人民法院開展長三角智慧法院信息數(shù)據(jù)資源共享平臺建設工作，該智享平臺用于各地法院的信息共享，助力打造形成長三角“一網(wǎng)通辦”的訴訟服務體系，促進實現(xiàn)跨域立案。[3]

其四，在環(huán)境保護領域，將人工智能等技術(shù)整合到環(huán)境應急管理和環(huán)境監(jiān)測中，并通過大數(shù)據(jù)進行風險評估和分析，為環(huán)境治理提供智能解決方案。由于人工智能的加盟，也為環(huán)境治理帶來了新的工具：一是無人機的監(jiān)控，在無人機技術(shù)的支持下，可以更好地監(jiān)測空氣污染、土地污染、水源污染、固體廢物污染等，為環(huán)境治理提供依據(jù)；二是傳感器的應用，根據(jù)環(huán)保要求衍生的土壤溫度傳感器、空氣溫度和濕度傳感器、照明傳感器等，可以有效地感知外部環(huán)境的細微變化，對環(huán)境監(jiān)測起到幫助作用；三是智能環(huán)保設備的應運而生，有利于高效治理環(huán)境，諸如上海實行垃圾強制分類后造就智能垃圾分類APP的衍生，通過刷二維碼就可以分類扔垃圾、合肥經(jīng)開區(qū)在水環(huán)境治理上啟用“無人機巡河，機器人清淤”的智能化模式等。這些人工智能產(chǎn)品的融合應用帶動環(huán)保產(chǎn)業(yè)經(jīng)濟增長的同時，也使得環(huán)境治理簡單了不少。

其五，在產(chǎn)業(yè)領域內(nèi)，人工智能不僅對企業(yè)發(fā)揮作用，對公民個人的生活也起到了極大的幫助作用。一方面“智能制造”中工業(yè)機器人大量使用于制造業(yè)車間，可以替代傳統(tǒng)機械化的人力，并且在一些難以把控的微觀領域提供精準化的做工；但這并非搶奪了工人與白領的飯碗，對于技術(shù)層面需要思考判斷的業(yè)務，依然離不開人類的操作。目前長三角地區(qū)“智造”業(yè)基礎堅實，擁有寧波小港、蕭山機器人小鎮(zhèn)等眾多優(yōu)秀載體以及上海沃迪、上海機電、南京埃斯頓等優(yōu)秀企業(yè)。另一方面在個人應用上提供了智能手機、智能家居、智能語音助手、虛擬個人助理等產(chǎn)品服務，不僅提高人類生活質(zhì)量，也帶來了諸多的便利。同時，隨著長三角人工智能產(chǎn)業(yè)領域的不斷擴展，也由此形成了“多點開花、各具特色”的發(fā)展格局。

二、人工智能技術(shù)可能存在的風險和挑戰(zhàn)

長三角區(qū)域人工智能產(chǎn)業(yè)的不斷壯大可以說既是機遇，也是挑戰(zhàn)。一方面推動傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級，促進智能經(jīng)濟的高質(zhì)量發(fā)展；另一方面人工智能作為新興技術(shù)在缺乏法治保障的前提下也會為社會帶來潛在的風險。

(一)監(jiān)管不力導致數(shù)據(jù)信息泄露

數(shù)據(jù)信息保護是人工智能時代所面臨的最突出問題，經(jīng)過大數(shù)據(jù)的整合與人工智能的分析，再加上監(jiān)管不力極易導致公民個人信息的外泄、濫用。諸如手機的人臉識別、電子消費賬單、智能語音助手等應用，在相關(guān)平臺內(nèi)部儲存后，相關(guān)平臺都可能得到公民的姓名、電話、身份證號、購買喜好等極具價值的個人隱私信息，被不法分子截取后不僅侵犯他人隱私權(quán)，甚至威脅到財產(chǎn)安全、人身安全。近年來，就存在犯罪分子利用獲取的個人信息、視頻，通過語音合成技術(shù)，假扮受害者親屬進行詐騙活動；還有一些不良企業(yè)為謀求利益最大化，利用人工智能技術(shù)有針對性地向用戶投放虛假廣告等，此類情況無時無刻不在給人工智能信息安全的保護敲響警鐘。在技術(shù)層面上有學者建議應當對人工智能的相關(guān)數(shù)據(jù)進行加密處理，未經(jīng)授權(quán)無法查看和運用；[4]但如果沒有法律層面的專門保護，其效果也會顯得相形見絀。目前，我國對人工智能數(shù)據(jù)信息的保護存在立法上責任承擔失衡、司法上因證據(jù)收集困難導致原告難以舉證、執(zhí)法上監(jiān)管機構(gòu)的義務和責任不明確且缺乏操作性強的監(jiān)管手段和工具等問題，這些都需要在未來的法治道路上加以解決和完善，以達到對公民個人信息在技術(shù)層面和法律層面同時予以有力保障的目標。

(二)算法的隱蔽性引發(fā)的“工作失誤”

人工智能的核心在于算法，它通過對海量數(shù)據(jù)信息的處理和分析從而使系統(tǒng)作出決策，完成人們下達的各種指令和要求。但算法程序的編輯任務一般是由電腦工程師、數(shù)據(jù)處理公司制作完成，對于不具備這方面專業(yè)能力的人根本無法認識和掌握復雜性的算法，缺乏對算法編輯工作的有效監(jiān)督。外界只能看到輸入的數(shù)據(jù)和得出的結(jié)果，對于采用何種算法以及算法如何運用卻無從得知，其間可能存在“工作失誤”的情形：第一，因算法設計或?qū)嵤┯姓`產(chǎn)生結(jié)果上的偏差甚至造成危害。如，國內(nèi)多地交通智能監(jiān)控中曾誤將公交車身廣告肖像、執(zhí)法警察識別成違章人員顯示在立柱LED屏上，國外因強光直射導致圖像識別系統(tǒng)失效進而釀成無人駕駛車禍致死的慘劇，等等。第二，通過數(shù)據(jù)分析出的算法可能潛藏偏見和歧視，造成決策結(jié)果的不公。如，在智能醫(yī)療方面我們很難想象將自己的手術(shù)風險交由機器判斷而不是經(jīng)驗豐富的醫(yī)生，以人工智能得出的程式化診斷結(jié)果未必能考慮到病人的家屬情況、職業(yè)需求、社會影響等諸多因素，甚至還可能對患者的心理造成嚴重打擊，令手術(shù)結(jié)果失準。第三，算法程序編輯的專業(yè)性給監(jiān)督審查帶來困難，由此可能產(chǎn)生暗箱操作的風險。應用在各領域的人工智能一旦被別有用心的算法設計者所利用，將會威脅到社會安全乃至國家安全。以2017年9月浙江紹興警方破獲的首個利用人工智能技術(shù)竊取公民個人信息案為例，其中被查封的“快啊”平臺作為曾經(jīng)市場上最大的打碼平臺，就是通過AI識別驗證碼破解、截取、販賣和盜用個人信息實施詐騙活動的。由此可見，為人工智能上一道法律“枷鎖”，建立人工智能責任追究機制勢在必行。

(三)人工智能的運作可能對知識產(chǎn)權(quán)造成侵犯

人工智能強大的自主學習能力離不開大數(shù)據(jù)和神經(jīng)網(wǎng)絡技術(shù)的支持，通過對大量信息進行機器學習提高自身的學習和分析能力。在學習大量網(wǎng)絡文字、圖像素材后，人工智能逐步擁有正確識別圖文內(nèi)容的功能。[5]但在識別過程中，人工智能難免會對數(shù)據(jù)庫中海量文字、圖片素材信息檢索后進行收集和復制，而這些素材信息就有可能作為知識產(chǎn)權(quán)的客體，因其未經(jīng)同意擅自復制和使用造成對他人著作權(quán)的侵害。目前我國法律并未對人工智能賦予法律主體資格，因而人工智能的創(chuàng)生行為能否被認定為侵權(quán)行為還存在疑問；侵權(quán)責任到底由人工智能還是其設計者或使用者承擔尚無法律依據(jù)，這無疑會影響到對其進行知識產(chǎn)權(quán)的保護。同時，人工智能經(jīng)過數(shù)據(jù)處理和算法分析生成的作品能否受知識產(chǎn)權(quán)的保護也是值得關(guān)注的焦點。2018年年底，北京菲林律師事務所訴百度公司著作權(quán)侵權(quán)糾紛一案就涉及人工智能、大數(shù)據(jù)的生成內(nèi)容是否屬于著作權(quán)法規(guī)定的“作品”并受著作權(quán)法保護的問題。[6]最終判決認定作品應由自然人創(chuàng)作完成，軟件設計者或使用者在生成過程中并未存在創(chuàng)作行為，涉案文章屬于軟件自動生成，不構(gòu)成作品。這也是我國法院首次對人工智能生成內(nèi)容的知識產(chǎn)權(quán)保護作出的回應，對大數(shù)據(jù)背景下知識產(chǎn)權(quán)的研究和保護具有一定的借鑒作用。

三、人工智能法律主體資格的考量

人工智能與實體經(jīng)濟的深度融合，正助推長三角區(qū)域一體化協(xié)調(diào)發(fā)展達到新的高度。一旦人工智能在實際運作中發(fā)生錯誤，其負面效果自然也會直接影響到長三角的整體運營與合作。從趨利避害的角度盡快落實人工智能的歸責制度將為人工智能的安全應用戴上法治的“護身符”，以達至為長三角區(qū)域一體化發(fā)展保駕護航的目標。

人工智能的侵權(quán)責任究竟由誰承擔？我國目前對此還未出臺相關(guān)的法律或司法解釋。盡管《新一代人工智能發(fā)展規(guī)劃》中明確，開展與人工智能應用相關(guān)的民事與刑事責任確認、隱私和產(chǎn)權(quán)保護、信息安全利用等法律問題研究，建立追溯和問責制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務和責任等，但是，對于如何追責且責任主體是誰尚缺具體詳細的規(guī)定作指引。明確人工智能致?lián)p的歸責制度首先需要確定責任主體是誰，而解決人工智能責任主體不明問題自然就離不開對人工智能法律主體資格的考量。

從世界范圍的人工智能立法發(fā)展來看，部分國家對人工智能法律主體資格作出了立法嘗試，賦予其特殊的法律地位。如，2016年歐盟將最先進的人工智能機器人界定為“電子人”身份，并賦予其特定的權(quán)利和義務；2017年沙特阿拉伯授予機器人索菲亞公民身份等。如果各國都能以此明確人工智能的法律人格，那么人工智能責任承擔問題也就迎刃而解。然而多數(shù)國家還是秉持保守態(tài)度并未認可人工智能法律主體資格，人工智能侵權(quán)由誰承擔一直是諸多學者討論的核心話題。目前學術(shù)界大致有三種觀點：其一，反對人工智能被賦予法律人格的學者認為，人類的心智包含理性、情感和欲望，它的運作有一套復雜的機制，單靠人工智能的邏輯運算是無法兼?zhèn)涞?。法律是為人類“量身定做”的，是?jīng)過長期實踐發(fā)展起來的，并不適用于人工智能。人工智能受制于程序編譯，不具有自由意志，因而既不可能成為利益的負擔者，也不可能成為法律主體。[7]其二，支持人工智能法律人格的學者則認為，人工智能的法律人格與法人具有一定的相似性，人工智能具有獨立自主的學習能力，即便無法達到同人類大腦一樣的靈性和心性，但是通過法律賦予人工智能有限的法律人格從而享有有限的法律權(quán)利是可行的，如可以讓智能機器人享有名稱權(quán)、榮譽權(quán)，不能享有親屬權(quán)、繼承權(quán)等，有利于人工智能更好地服務于人類。[8]其三，還有學者認為，首先應當對人工智能按照是否具有辨認能力和控制能力的標準進行區(qū)分，對于不具備辨認能力和控制能力的弱人工智能，僅按編輯程序?qū)嵤┑倪`法行為，理應由該人工智能的設計者或使用者承擔責任。而對于依賴自身辨認能力和控制能力的強人工智能，則可能實施超出編輯程序指令外的違法行為，其意志不再受設計者或使用者的操縱，則可能需要人工智能本身承擔責任。[9]以上三種學說按照不同的邏輯雖然都具有一定的合理性，但未必能使人工智能責任承擔的問題得到有效解決。

如果將人工智能賦予法律主體資格，出現(xiàn)侵權(quán)后由其承擔責任，雖然解決了責任主體不明的問題，但是對人工智能進行法律制裁又會產(chǎn)生新的問題，人工智能是否具有可罰性并且該以何種方式處罰仍值得深思。如果按有的學者提出對人工智能的懲罰采取刪除數(shù)據(jù)、修改程序、永久銷毀等方法，[10]這種處罰一方面未必能達到預防和制止不法行為發(fā)生的目的；另一方面法律制裁是法律強加給違法行為人一種不利的法律后果，在對行為人施加痛苦的基礎上迫使其對自己的違法行為產(chǎn)生悔過之意，從而達到糾正違法、改過自新的效果；然而目前的人工智能技術(shù)根本不可能達到同人類感知一樣的程度，使得對人工智能的處罰變得毫無意義?？梢?，通過確認人工智能法律主體資格使其承擔責任的方法至少目前看來并不具有可行性，因此最終的責任承擔還得落實到人類身上。只不過人工智能的侵權(quán)責任是由使用者還是設計者承擔并且使用何種歸責原則的問題，按照現(xiàn)有的法律規(guī)則，并不能得到妥善解決，仍有待深入探討。

四、推進長三角地區(qū)人工智能發(fā)展應用的法治保障措施

如今人工智能產(chǎn)業(yè)項目在長三角地區(qū)得到快速發(fā)展的同時，如何規(guī)避和防范其所帶來的風險，為人工智能設定適當?shù)倪吔缡顷P(guān)鍵。從法治的層面上考慮，應當從以下三個方面入手：

第一，就人工智能產(chǎn)品應用的侵權(quán)問題來說，主要應針對智能醫(yī)療技術(shù)造成的醫(yī)療事故的定性、無人駕駛車禍致人損害的歸責加以厘定。一方面，人工智能帶動長三角醫(yī)療一體化的不斷發(fā)展，從安徽省立智慧醫(yī)院的智能輔助診療到上海手術(shù)機器人的引進、研發(fā)和應用，使醫(yī)療技術(shù)得到有效提升的同時，也可能存在誤診誤治的潛在風險。另一方面，長三角作為整車產(chǎn)能和產(chǎn)量位居首位的六大汽車產(chǎn)業(yè)集群之一，如今已吸引了50%以上的新造車企業(yè)在此布局，是打造中國智能網(wǎng)聯(lián)汽車的第一重鎮(zhèn)。無人駕駛技術(shù)的發(fā)展應用無疑對未來長三角的科技創(chuàng)新與產(chǎn)業(yè)發(fā)展具有不可或缺的作用，但由其引發(fā)的公共安全隱患亦不容忽視。在對此類問題的處理上，應當做到具體情況具體分析。就“智慧醫(yī)療”而言，人工智能主要應用于篩選，能夠產(chǎn)生醫(yī)療事故的原因無非是醫(yī)療影像的輔助分析給予了錯誤的診斷結(jié)果、手術(shù)機器人程序出錯致人損害，但是實際操作中AI輔助臨床診斷最終仍需要醫(yī)生的重新復核與考慮，手術(shù)機器人實施的微創(chuàng)手術(shù)也離不開醫(yī)生的親自操作。由此看來，現(xiàn)階段的人工智能在醫(yī)療方面只能作為醫(yī)生的“得力幫手”出現(xiàn)，尚未達到完全自主的程度，其損害責任完全可以通過既有的法律作出認定，并不需要通過另外的立法加以解決。只不過在司法上，需要司法工作人員靈活運用法律、識別智能醫(yī)療技術(shù)產(chǎn)生醫(yī)療事故背后的責任主體：如果是AI輔助臨床診斷結(jié)果有誤，自然是醫(yī)生承擔過錯責任，醫(yī)療機構(gòu)承擔替代責任；如果是手術(shù)機器人致人損害，既有可能是人工智能本身程序瑕疵或缺陷造成，也有可能是醫(yī)生操作不當所致，那么在歸責原則的適用上需要區(qū)別對待。因為人工智能基于數(shù)據(jù)和算法進行運作，從長遠看不能排除其自主學習和分析能力可能產(chǎn)生程序編輯以外的錯誤導致機器失靈的情形：人工智能產(chǎn)品投入使用前處于正常狀態(tài)，使用一定時間后可能出現(xiàn)錯誤。這時如果適用產(chǎn)品質(zhì)量法，基于該法第四十一條規(guī)定的三種免責事由①(1)①中華人民共和國產(chǎn)品質(zhì)量法第四十一條規(guī)定：“因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財產(chǎn)(以下簡稱他人財產(chǎn))損害的，生產(chǎn)者應當承擔賠償責任。生產(chǎn)者能夠證明有下列情形之一的，不承擔賠償責任：(一)未將產(chǎn)品投入流通的；(二)產(chǎn)品投入流通時，引起損害的缺陷尚不存在的；(三)將產(chǎn)品投入流通時的科學技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。”，手術(shù)機器人的生產(chǎn)者將會逃脫法律責任；如果適用侵權(quán)責任法的過錯責任將由于不能確定生產(chǎn)者的過錯而無法歸責。因此，對于手術(shù)機器人致人損害，如果是醫(yī)生操作不當所致，由醫(yī)療機構(gòu)承擔過錯責任；如果人工智能本身程序瑕疵或缺陷造成，則由手術(shù)機器人的生產(chǎn)者承擔無過錯的侵權(quán)責任。同樣的，對于無人駕駛車禍的問題，依然可能是使用者或生產(chǎn)者的責任。如果是智能駕駛運行過程中系統(tǒng)失靈或出錯發(fā)生了事故，理應由汽車制造商承擔無過錯責任；如果是人工駕駛造成或者智能駕駛系統(tǒng)已經(jīng)報錯并發(fā)出了請求人工駕駛的信號，那么需要由駕駛者承擔相應的過錯責任。只不過相比于醫(yī)療事故，無人駕駛引發(fā)車禍的原因更難鑒定，因而有必要未來強制性安裝“黑匣子”，對汽車駕駛進行全程記錄，有利于責任的認定。

第二，在數(shù)據(jù)信息的保護方面，隨著人工智能的不斷應用，為推進公共服務一體化的發(fā)展，打破數(shù)據(jù)壁壘，促進各領域的數(shù)據(jù)共享和平臺互通。作為我國區(qū)域一體化起步最早、基礎最好、程度最高的地區(qū)，長三角自然走在前列，從2016年長江三角洲城市群率先建成智慧城市群，到如今不斷擴大信息共享的深度和廣度，在金融、交通、醫(yī)療、行政等諸多領域打造信息服務平臺，以實現(xiàn)區(qū)域服務的兼容與優(yōu)質(zhì)資源的整合。對于數(shù)據(jù)信息的保護也就提出了更為嚴格的要求，這些海量的數(shù)據(jù)資源一旦泄露被非法使用，必然引起嚴重后果。為此，首先，在立法上需要制定數(shù)據(jù)安全方面的專門法律，以完善個人信息保護的法律體系。但這方面的法律目前我國尚未出臺，有關(guān)規(guī)定只是散見于國家安全法、網(wǎng)絡安全法、刑法等法律文本中。不過，這些法律條款過于分散且保護范圍過窄。如發(fā)生違法出售個人信息，自然會受到相應的刑事處罰和行政處罰，但對于企業(yè)丟失用戶數(shù)據(jù)或者濫用用戶數(shù)據(jù)的情形卻少有懲治。此類情形都必須納入我國正在制定的數(shù)據(jù)安全法中，旨在擴大個人在數(shù)據(jù)方面的權(quán)利與種類并通過罰金處罰提高侵權(quán)的違法成本，促使企業(yè)高度重視用戶的隱私數(shù)據(jù)安全，從而使個人信息的保護進入良性循環(huán)。其次，在打擊侵犯個人信息違法犯罪上，往往以刑法和行政法的處罰為主，對于公民個人受到的侵害難以獲得實質(zhì)性賠償，這也意味著公民個人信息的保護超出刑法與行政法保護的范疇，需要專門的個人信息保護法加以解決。再次，當前基于信息共享平臺的建立，必須盡快出臺國家數(shù)據(jù)安全法，強化對數(shù)據(jù)開發(fā)、收集、整理、存儲、保管、使用、維護、更新、銷毀等與數(shù)據(jù)相關(guān)活動的有效規(guī)制，維護數(shù)據(jù)安全。尤其要針對政府數(shù)據(jù)，建立數(shù)據(jù)開放標準，明確數(shù)據(jù)開放的界限，有條件地授予用戶利用數(shù)據(jù)的權(quán)利。努力促進政府、行業(yè)、組織之間的數(shù)據(jù)共享，規(guī)范性地保障公民個人數(shù)據(jù)、信息乃至國家秘密、商業(yè)秘密等。對于數(shù)據(jù)庫中存在的知識產(chǎn)權(quán)客體自然會被視為不開放數(shù)據(jù)加以限制，如果仍然發(fā)生對著作權(quán)的侵害自然是有人故意為之，其責任便轉(zhuǎn)移由通過非法手段獲取不開放數(shù)據(jù)的用戶承擔?？梢?，人工智能侵犯知識產(chǎn)權(quán)的問題也能妥善得到解決。最后，在執(zhí)法上應當加強行政監(jiān)督。目前市場監(jiān)管部門會同網(wǎng)信辦、工信部、公安部等有關(guān)部門深入合作，對侵害消費者個人信息行為進行嚴格排查和重點打擊，初見成效。但在事前監(jiān)督上還需要對企業(yè)及相關(guān)機構(gòu)實施準入考核機制，對于未設立數(shù)據(jù)信息保護制度、沒有部門或?qū)T管理數(shù)據(jù)隱私的行業(yè)主體，不準許進入市場。同時可以建立個人信息保護的公共服務平臺，以往公民只能通過投訴舉報由政府部門出面審查認定并作出處罰，但公民個人難維權(quán)、難取證，對自身權(quán)益受損無法通過司法途徑解決；該公共服務平臺則對各機關(guān)個人信息泄露的處理進行整合并提供各種救濟途徑，對公民的維權(quán)作出指引。

第三，對于算法程序的監(jiān)管問題，作為全國創(chuàng)新能力最強地區(qū)之一的長三角，自然吸引了人工智能生態(tài)構(gòu)建者們爭相入駐。截至2019年3月底，全球活躍人工智能企業(yè)達5386家，中國以1189家位列第二。[11]在這其中，上海、浙江、江蘇三地的企業(yè)數(shù)量分別位列國內(nèi)Top 2、Top 4以及Top 5，長三角一帶的人工智能企業(yè)數(shù)量以及質(zhì)量穩(wěn)居國內(nèi)第二。目前長三角人工智能企業(yè)在語音識別、視覺圖像、智能醫(yī)療、智能芯片等不同方面進行著基礎算法與應用程序的研發(fā)、升級，但作為新興技術(shù)尚未形成統(tǒng)一的監(jiān)管體系，需要從以下三個方面加以完善。首先，由于算法設計牽涉到各行各業(yè)人工智能產(chǎn)品的融合與應用，因此，對于算法設計的監(jiān)管僅靠個別部門就難以起到有效監(jiān)督作用，有必要設立人工智能專門的監(jiān)管機構(gòu)。2017年2月16日，歐洲議會投票表決通過的《機器人民事法律規(guī)則》中就提出成立統(tǒng)一的機器人和人工智能監(jiān)管機構(gòu)，以監(jiān)督符合安全標準和倫理原則的規(guī)則制定和執(zhí)行。他山之石，可以攻玉，這對我國人工智能的執(zhí)法保護具有很好的借鑒作用。其次，人工智能跨學科、跨行業(yè)發(fā)展要求監(jiān)管部門必須深入理解和掌握相關(guān)領域的知識才能更好地進行判斷、決策，如何監(jiān)管算法以免“工作失誤”，依靠監(jiān)管部門的力量便顯得相形見絀，因此還需要引入技術(shù)人員乃至專家學者的支持。畢竟專業(yè)的技術(shù)人員以及同行專家學者易于洞悉設計者的理念，了解其中具體的操作程序，通過他們的信息披露和評價認定，可以對設計者編譯出來的算法程序進行有效的事后規(guī)制。再次，需要探索較強針對性和可操作性的監(jiān)管方式和手段。一方面需要以人工智能領域各種技術(shù)規(guī)范和技術(shù)標準為依據(jù)，因而有必要推進各行業(yè)建立自身管理標準的人工智能應用準則，對算法設計的制定進行標準化的行業(yè)與技術(shù)規(guī)范，讓算法設計者在設計之初就受到有效的事前監(jiān)督和管理制約，不僅有利于市場規(guī)范，也能對AI產(chǎn)業(yè)的健康持續(xù)發(fā)展起到良好的促進作用；另一方面可以在保護知識產(chǎn)權(quán)的前提下要求設計者對算法設計的基本情況進行登記、備案且作為政府公開信息供社會公眾查閱，以此不僅方便監(jiān)管部門的審核認定，還能引入社會公眾的評判監(jiān)督，達到法律與道德的雙重監(jiān)督。

結(jié)語

長三角區(qū)域AI產(chǎn)業(yè)的發(fā)展，在推動人工智能與經(jīng)濟、產(chǎn)業(yè)、社會等各方面結(jié)合的同時，要加強法治構(gòu)建，確保人工智能安全可控。從目前發(fā)展階段來看，確定人工智能的法律主體資格，將人工智能作為處罰對象的方法是行不通的。只有將人工智能的致?lián)p責任落實于人類本身，通過立法、執(zhí)法、司法三個環(huán)節(jié)不斷完善立體監(jiān)督體制，有效防范人工智能所帶來的潛在風險，進而保障人工智能在各領域中的健康發(fā)展，促使長三角區(qū)域一體化戰(zhàn)略的穩(wěn)步推進。