• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      人工智能背景下法學(xué)高等教育的改革

      2020-12-13 13:40:51趙艷紅
      關(guān)鍵詞:法學(xué)人工智能法律

      趙艷紅

      (安徽財(cái)經(jīng)大學(xué) 管理科學(xué)與工程學(xué)院, 安徽 蚌埠 233000)

      在信息及科學(xué)技術(shù)快速發(fā)展的今天,人工智能技術(shù)正悄然改變?nèi)藗兊纳罘绞?,在法律領(lǐng)域同樣也是如此。2017 年7 月,在具有前瞻性的《新一代人工智能發(fā)展規(guī)劃》中,提出了人工智能法律的研究、智慧法庭建設(shè)、“人工智能+X”復(fù)合專(zhuān)業(yè)培養(yǎng)模式的新規(guī)劃。在人工智能發(fā)展浪潮下,新類(lèi)型的法律問(wèn)題開(kāi)始不斷出現(xiàn),如人工智能創(chuàng)作品的知識(shí)產(chǎn)權(quán)問(wèn)題、人工智能產(chǎn)品的侵權(quán)問(wèn)題、人工智能的刑事責(zé)任問(wèn)題等。在司法領(lǐng)域,人工智能也日益介入司法過(guò)程,司法部門(mén)、律師事務(wù)所、法律互聯(lián)網(wǎng)企業(yè)等主體積極參與,或者研發(fā)司法智能輔助系統(tǒng),或者嘗試在實(shí)踐中運(yùn)用智能系統(tǒng),已經(jīng)取得了一定的進(jìn)展,出現(xiàn)了像上海“206”系統(tǒng)之類(lèi)的司法輔助系統(tǒng)、“法小淘”“巨鯨智平臺(tái)”等人工智能法律服務(wù)系統(tǒng)。目前,人工智能已在法律咨詢(xún)、法律檢索、類(lèi)案推送、量刑輔助等方面得到大量應(yīng)用。人工智能給法律領(lǐng)域帶來(lái)的挑戰(zhàn)已經(jīng)日益明顯,它改變了法律理念、法律秩序,也沖擊著法律職業(yè)、司法工作,作為培養(yǎng)法律人才搖籃的高等教育應(yīng)如何應(yīng)對(duì),是值得人們探討的問(wèn)題。

      一、人工智能對(duì)法律領(lǐng)域的沖擊

      人工智能時(shí)代兩個(gè)最突出的表現(xiàn)是傳統(tǒng)工業(yè)社會(huì)為主導(dǎo)的制度體系的變革以及傳統(tǒng)物理空間的變化,這種變化對(duì)法律的結(jié)構(gòu)性影響不斷加快、加深[1]。人工智能滲透到社會(huì)生活領(lǐng)域的方方面面,在推動(dòng)社會(huì)信息智能化變革、提高效率的同時(shí),也產(chǎn)生了一些現(xiàn)實(shí)問(wèn)題,使法律規(guī)范和理論、法律職業(yè)、司法工作面臨巨大挑戰(zhàn)。

      (一)對(duì)法律規(guī)范及理論的沖擊

      在計(jì)算機(jī)超強(qiáng)運(yùn)算能力,大數(shù)據(jù)快速發(fā)展以及人工智能算法模型不斷改進(jìn)的背景下,人工智能對(duì)法律的影響正在加深、加快[2]?,F(xiàn)有法律調(diào)節(jié)和規(guī)范的是現(xiàn)實(shí)的社會(huì)關(guān)系,當(dāng)各種購(gòu)物平臺(tái)、網(wǎng)絡(luò)約車(chē)、網(wǎng)絡(luò)社交等新的信息數(shù)字化模式紛紛出現(xiàn)時(shí),對(duì)于這種超越現(xiàn)實(shí)物理空間的網(wǎng)絡(luò)空間,法律規(guī)范難以具有有效的調(diào)節(jié)能力,而法學(xué)理論的滯后性、保守性通常也難以提供有效的解決方案。中國(guó)目前還沒(méi)有完整的人工智能法律理論體系,隨著人工智能技術(shù)與各專(zhuān)業(yè)的融合,會(huì)遇到諸多亟待解決的法律問(wèn)題。

      以人工智能的刑法問(wèn)題為例,對(duì)于人工智能是否能構(gòu)成犯罪主體,國(guó)外有學(xué)者主張承認(rèn)人工智能的犯罪主體性,但限于強(qiáng)人工智能,對(duì)構(gòu)成犯罪的人工智能體的刑罰主要是報(bào)廢或者消除其數(shù)據(jù)。也有學(xué)者認(rèn)為,人工智能相關(guān)犯罪包括強(qiáng)人工智能體自身或與自然人共同實(shí)施的犯罪,也包括自然人利用弱人工智能實(shí)施的犯罪。對(duì)于前者除了追究強(qiáng)人工智能的刑事責(zé)任之外,還要追究負(fù)有責(zé)任的設(shè)計(jì)者、監(jiān)督者的刑事責(zé)任,而后者則按傳統(tǒng)的普通犯罪處理[3]。而中國(guó)《刑法》目前對(duì)此問(wèn)題并無(wú)規(guī)定。隨著人工智能的普及運(yùn)用,人工智能及其設(shè)計(jì)者、監(jiān)督者的刑事責(zé)任問(wèn)題也必將會(huì)成為一個(gè)突出問(wèn)題,目前學(xué)術(shù)界對(duì)此問(wèn)題也有頗多爭(zhēng)議,支持及反對(duì)者皆有之。所以,需要根據(jù)科技發(fā)展而對(duì)刑法主體理論及規(guī)范進(jìn)行調(diào)整,或以法律解釋方法對(duì)此問(wèn)題進(jìn)行破解,以適應(yīng)新型科技對(duì)刑事法律的挑戰(zhàn)。

      在人工智能的民法問(wèn)題方面,2017年,日歐會(huì)議通過(guò)《關(guān)于機(jī)器人民事法律規(guī)則的決議》,建議至少賦予最精密自主機(jī)器人“電子人”的地位,若該決議能夠通過(guò),則將動(dòng)搖現(xiàn)有的民事主體制度。目前,中國(guó)《民法》對(duì)人工智能的“電子人”主體地位沒(méi)有規(guī)定,因此在民法領(lǐng)域人工智能會(huì)帶來(lái)一些難題。以人工智能生成作品的著作權(quán)為例,國(guó)內(nèi)外學(xué)者爭(zhēng)議的焦點(diǎn)是人工智能生成作品的著作權(quán)歸屬問(wèn)題。有學(xué)者主張人工智能不能擁有著作權(quán),其作品雖然由人工智能創(chuàng)作,但是人工智能的核心是智能算法,智能算法由人設(shè)計(jì),所以作品的著作權(quán)還是屬于人[4]。也有學(xué)者主張?jiān)谌斯ぶ悄塬@得“電子人”身份的情況下,作品如果由人工智能獨(dú)立創(chuàng)作完成,其著作權(quán)應(yīng)受保護(hù),著作權(quán)應(yīng)由設(shè)計(jì)者、擁有者及人工智能共同擁有[5]。但是人工智能具有很強(qiáng)的深度學(xué)習(xí)能力,那么人工智能對(duì)作品有多大的貢獻(xiàn)?或者說(shuō)如何衡量設(shè)計(jì)者、擁有者及人工智能對(duì)作品的貢獻(xiàn)程度,是一個(gè)難以解決的問(wèn)題。人工智能對(duì)民事法律也發(fā)起了挑戰(zhàn),需要對(duì)民法主體理論及規(guī)范進(jìn)行完善[6]。

      綜上可見(jiàn),人工智能在各領(lǐng)域的運(yùn)用將不斷普及,但人工智能所帶來(lái)的諸多法律難題目前在規(guī)范和理論層面都沒(méi)有得到妥善解決。因此,這也意味著相關(guān)領(lǐng)域的規(guī)范和理論都必須進(jìn)行一定變革才能滿(mǎn)足人工智能時(shí)代對(duì)新型社會(huì)關(guān)系進(jìn)行調(diào)節(jié)的需要。

      (二)對(duì)法律職業(yè)的沖擊

      人工智能進(jìn)入法律行業(yè)勢(shì)不可擋,雖然大部分學(xué)者認(rèn)為至少在弱人工智能時(shí)代人工智能不可能完全代替法律人,但人工智能數(shù)據(jù)處理的高效率及準(zhǔn)確性,使得它比人類(lèi)更能夠勝任簡(jiǎn)單的或機(jī)械重復(fù)性的工作。國(guó)內(nèi)外已經(jīng)出現(xiàn)承擔(dān)某些法律工作的人工智能機(jī)器人。在國(guó)外,基于IBM Watson計(jì)算機(jī)系統(tǒng)的ROSS人工智能機(jī)器人律師可以通過(guò)深度學(xué)習(xí)研究法律條文、判例法及司法解釋?zhuān)⒗醚芯拷Y(jié)果更新自身的信息,不斷提高檢索能力[7]。在中國(guó)國(guó)內(nèi),人工智能法律機(jī)器人“大?!蹦軌蚋鶕?jù)獲取的案件材料,審核案件法律事實(shí)的完整度,出具法律咨詢(xún)意見(jiàn)書(shū);云南昆明打造的公共法律服務(wù)智慧網(wǎng)絡(luò)平臺(tái)能夠?qū)崿F(xiàn)法律援助、人民調(diào)解等服務(wù),系統(tǒng)可以生成起訴狀、證據(jù)清單,提供類(lèi)似案例及相關(guān)法規(guī)、司法解釋等,可以完成開(kāi)庭之前律師所需要材料的準(zhǔn)備工作[8]。上述法律工作的特點(diǎn)是都不需要運(yùn)用法律適用方法,更多地依賴(lài)于自然語(yǔ)言理解、圖像處理和智能語(yǔ)音等計(jì)算機(jī)技術(shù),因此人工智能將代替人類(lèi)法律工作者從事法律咨詢(xún)、智能檢索、合同審核、撰寫(xiě)法律文書(shū)等低層次的工作,而律師將去處理那些個(gè)性化、更復(fù)雜、更有價(jià)值的案件。

      人工智能在法律行業(yè)的應(yīng)用,改變了法律服務(wù)業(yè)的模式。人工智能以其更方便、更快、更準(zhǔn)確、費(fèi)用更低的特點(diǎn),沖擊著律師行業(yè),造成律師行業(yè)專(zhuān)業(yè)人員結(jié)構(gòu)性變化,簡(jiǎn)單、機(jī)械重復(fù)或標(biāo)準(zhǔn)化的低層次工作崗位將會(huì)被機(jī)器人代替,人工智能威脅著法律工作者的工作機(jī)會(huì)?!盎ヂ?lián)網(wǎng)+大數(shù)據(jù)+人工智能”還會(huì)促進(jìn)對(duì)律師業(yè)務(wù)水平評(píng)價(jià)的系統(tǒng)化、透明化。當(dāng)前,人們聘請(qǐng)律師的方式或直接找律所推薦,或靠別人推薦,帶有盲目性,而將來(lái)人工智能能夠在輸入庭審法官和對(duì)方律師的情況下,針對(duì)某方面的案件預(yù)測(cè)勝訴率高的律師,并對(duì)律師的專(zhuān)業(yè)技能、品格、對(duì)待案件的態(tài)度、收費(fèi)情況等進(jìn)行系統(tǒng)的統(tǒng)計(jì)分析。這就對(duì)律師的專(zhuān)業(yè)性、自身修養(yǎng)、收費(fèi)標(biāo)準(zhǔn)等方面提出更高的要求,專(zhuān)業(yè)技能不合格、道德素質(zhì)低、對(duì)待案件態(tài)度敷衍的律師將慢慢被淘汰。

      綜上可見(jiàn),人工智能將對(duì)律師行業(yè)造成結(jié)構(gòu)性的影響,甚至?xí)淖兎煞?wù)業(yè)的整體態(tài)勢(shì),這一趨勢(shì)是無(wú)法逆轉(zhuǎn)的。以律師為主體的法律服務(wù)群體只能用積極的心態(tài)和充分的準(zhǔn)備,迎接人工智能時(shí)代法律服務(wù)模式的變革。

      (三)對(duì)司法工作的沖擊

      2016 年中國(guó)國(guó)務(wù)院發(fā)布了《“十三五”國(guó)家信息化規(guī)劃》,明確支持“智慧法院”的建設(shè),中國(guó)政府在政策和經(jīng)費(fèi)方面給予人工智能高度的支持,期望中國(guó)成為世界司法人工智能的“領(lǐng)頭羊”。典型的人工智能在司法實(shí)踐中的應(yīng)用即“上海刑事案件智能輔助辦案系統(tǒng)”,實(shí)現(xiàn)了證據(jù)標(biāo)準(zhǔn)指引、電子卷宗移送、庭前會(huì)議、類(lèi)案推送、量刑參考、文書(shū)生成、辦案程序監(jiān)督等功能,該系統(tǒng)的定位是輔助司法部門(mén)辦案[9]。司法工作的智能化,一方面,緩解了司法部門(mén)案多人少的壓力,使司法人員從低技術(shù)含量的繁雜工作中解脫出來(lái),提升了辦案效率;另一方面,人工智能介入司法審判能在防止權(quán)力濫用方面發(fā)揮一定作用,有效避免外界因素對(duì)案件的影響,辦案過(guò)程的自動(dòng)化促進(jìn)了司法人員行為的規(guī)范化。

      盡管人工智能促進(jìn)了司法工作的高效、規(guī)范,但也存在一些有待解決的問(wèn)題:

      首先,人工智能機(jī)器人構(gòu)造上就是“計(jì)算機(jī)硬件+軟件+數(shù)據(jù)”,它不具有司法人員的情感、直覺(jué)、邏輯思維、經(jīng)驗(yàn)法則,沒(méi)有價(jià)值判斷的能力。司法的任務(wù)不僅要公正的處理案件,還要回應(yīng)糾紛雙方的合理需求,包括心理需求,使雙方矛盾減少,修復(fù)社會(huì)關(guān)系,人工智能無(wú)法處理證據(jù)紛繁復(fù)雜、充滿(mǎn)多樣性的社會(huì)糾紛,所以人工智能僅作為司法部門(mén)辦案的輔助性工具,不能占主導(dǎo)地位。如果司法人員過(guò)度依賴(lài)人工智能反而會(huì)影響司法的公正和效率,如何處理人工智能介入司法的范圍和深度是需要考慮的問(wèn)題。

      其次,對(duì)于人工智能作出的司法裁判結(jié)論,司法人員應(yīng)該如何對(duì)待?當(dāng)人們對(duì)人工智能的裁判結(jié)論不信任或提出質(zhì)疑時(shí),司法人員應(yīng)該如何給出合理的解釋?zhuān)棵绹?guó)威斯康星州訴盧米斯案中,被告盧米斯認(rèn)為法官使用COMPAS量刑違反了正當(dāng)程序原則并上訴到威斯康星州最高法院,最高法院最終駁回了盧米斯的訴訟請(qǐng)求,但要求法官向被告人解釋其在作出量刑決定時(shí)的考量,事后法官一直沒(méi)有給出解釋[10]。究其原因,一是公司對(duì)其設(shè)計(jì)的算法絕對(duì)保密;二是一位法律背景的法官并不能真正理解人工智能的功能原理或設(shè)計(jì)原理。任何算法的設(shè)計(jì)都不可能避免地存在缺陷,人們對(duì)人工智能的司法裁判結(jié)論提出疑問(wèn)很正常,關(guān)鍵是如何給出讓人們滿(mǎn)意的合理解釋?zhuān)鰪?qiáng)人們對(duì)人工智能輔助工具的信心。

      綜上可見(jiàn),人工智能介入司法領(lǐng)域在中國(guó)正在如火如荼的進(jìn)行,也將給司法工作模式帶來(lái)巨大影響,但對(duì)于人工智能介入司法的界限、方式、規(guī)則等問(wèn)題必須進(jìn)行審慎研究,保障科技與司法的合理結(jié)合。

      二、人工智能時(shí)代法律人才的能力培養(yǎng)要求

      雖然人工智能已經(jīng)在上述領(lǐng)域給法律帶來(lái)沖擊和變革,但中國(guó)的法學(xué)高等教育卻鮮少給出相應(yīng)的回應(yīng)。法學(xué)教育的目標(biāo)是培養(yǎng)既掌握法律知識(shí),又具備法律專(zhuān)業(yè)技能的學(xué)生,在人工智能時(shí)代,法學(xué)教育應(yīng)當(dāng)把握科技的發(fā)展,積極發(fā)展新形勢(shì)下的法學(xué)教育理論和方法,在法律與科技的結(jié)合視角下培養(yǎng)法律人才。具體而言,法學(xué)教育應(yīng)培養(yǎng)學(xué)生的法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力,以應(yīng)對(duì)人工智能時(shí)代對(duì)法律人提出的新要求。

      (一)法律適用能力

      人工智能技術(shù)滲透到社會(huì)的各行各業(yè)及日常生活中,催生了新的法律問(wèn)題。由于人類(lèi)預(yù)見(jiàn)能力的有限性,立法者不可能預(yù)見(jiàn)到所有領(lǐng)域和社會(huì)關(guān)系中將會(huì)出現(xiàn)的新問(wèn)題,也就無(wú)法提前制定相關(guān)規(guī)范來(lái)應(yīng)對(duì)所有的法律問(wèn)題,這種法律的滯后導(dǎo)致規(guī)范的缺失。因此,在規(guī)范缺失的情況下,要求法官能運(yùn)用現(xiàn)有法律解決新類(lèi)型案件,對(duì)法官的能力提出更高的要求。

      在高校,法學(xué)學(xué)生普遍重視法律基礎(chǔ)知識(shí)的學(xué)習(xí),傾向于對(duì)法律條文的理解和記憶,最終目標(biāo)僅是通過(guò)司法考試。法律條文的記憶并不等于學(xué)生的法律實(shí)踐能力強(qiáng),很多學(xué)生在工作后只會(huì)機(jī)械套用法律條文,不能根據(jù)每個(gè)案件的特點(diǎn)全面、準(zhǔn)確地分析案情,法律實(shí)踐能力很差。法律以條文的形式呈現(xiàn),并不能覆蓋所有的社會(huì)關(guān)系,所以法律人必須能夠用有限的規(guī)范去解決無(wú)限多的法律問(wèn)題。在人工智能時(shí)代,技術(shù)所帶來(lái)的法律問(wèn)題將會(huì)層出不窮,法律人必須具有高超的法律運(yùn)用能力才能解決諸如人工智能的人格、知識(shí)產(chǎn)權(quán)、侵權(quán)等新問(wèn)題。

      因此,對(duì)于法學(xué)高等教育來(lái)說(shuō),要及時(shí)回應(yīng)人工智能對(duì)法律人的挑戰(zhàn),努力提高學(xué)生的法律實(shí)踐能力水平,要使學(xué)生在掌握法律規(guī)范的基礎(chǔ)上,進(jìn)一步學(xué)習(xí)和掌握法律適用方法。具體而言,就是在對(duì)學(xué)生進(jìn)行一定的人工智能和大數(shù)據(jù)技術(shù)的基礎(chǔ)教育之后,加強(qiáng)對(duì)學(xué)生法律運(yùn)用能力的培養(yǎng),使學(xué)生能夠以法律推理為基本工具,熟練運(yùn)用法律解釋、漏洞填補(bǔ)、價(jià)值權(quán)衡、法律論證等方法,解決信息時(shí)代各類(lèi)新科技給法律適用帶來(lái)的難題。

      (二)大數(shù)據(jù)思維能力

      人工智能通過(guò)算法模型分析海量數(shù)據(jù),得到事件之間的聯(lián)系,從而可以完整地掌握社會(huì)關(guān)系,有利于更科學(xué)地制定法律規(guī)范或?qū)Π讣M(jìn)行分析及預(yù)測(cè),因此人工智能時(shí)代數(shù)據(jù)成為重要的資源。中國(guó)國(guó)內(nèi)一直沒(méi)有形成法律方面的大數(shù)據(jù),直到中國(guó)裁判文書(shū)網(wǎng)上線,中國(guó)的法律大數(shù)據(jù)誕生。由于海量數(shù)據(jù)的數(shù)據(jù)樣本完整,能夠避免以往調(diào)查抽樣統(tǒng)計(jì)過(guò)程中數(shù)據(jù)樣本有限導(dǎo)致結(jié)果的失真或不客觀,法律大數(shù)據(jù)的運(yùn)用實(shí)現(xiàn)了人類(lèi)現(xiàn)實(shí)社會(huì)與計(jì)算機(jī)數(shù)據(jù)之間的同構(gòu),并且云計(jì)算的發(fā)展解決了海量數(shù)據(jù)存儲(chǔ)、共享難的問(wèn)題,為數(shù)據(jù)分析方法的實(shí)施提供了條件,因此,對(duì)大數(shù)據(jù)的運(yùn)用將在法律發(fā)展中扮演重要的角色。

      法律大數(shù)據(jù)的運(yùn)用離不開(kāi)數(shù)據(jù)的收集、處理與數(shù)據(jù)的分析。首先,目前數(shù)據(jù)收集存在的問(wèn)題是公開(kāi)的海量數(shù)據(jù)如何下載?一方面,如目前裁判文書(shū)網(wǎng)收集的裁判文書(shū)已經(jīng)達(dá)到7 400多萬(wàn)份,全靠手工下載收集,工作量巨大,并且裁判文書(shū)的數(shù)量會(huì)動(dòng)態(tài)增加,手工下載幾乎不可能完成;另一方面,更多的法律數(shù)據(jù)處于保密狀態(tài),無(wú)法獲取,這就要求高校培養(yǎng)法學(xué)學(xué)生使用“爬蟲(chóng)”等新技術(shù)收集數(shù)據(jù)的能力。其次,收集的海量數(shù)據(jù)并非都符合使用標(biāo)準(zhǔn),其中存在空白或者格式不一致的文件以及冗余數(shù)據(jù)和噪聲數(shù)據(jù),對(duì)大數(shù)據(jù)進(jìn)行預(yù)處理,整理數(shù)據(jù)之間的關(guān)系是一項(xiàng)難度很大的任務(wù),有必要運(yùn)用機(jī)器學(xué)習(xí)算法增加數(shù)據(jù)處理的精度[11]。最后,在數(shù)據(jù)分析階段,固然可以將“小樣本”數(shù)據(jù)的統(tǒng)計(jì)分析方法應(yīng)用于大數(shù)據(jù),但面對(duì)數(shù)據(jù)量的急劇增長(zhǎng),數(shù)據(jù)來(lái)源的復(fù)雜化,其無(wú)法做到更深度的挖掘數(shù)據(jù),將人工智能應(yīng)用于法律大數(shù)據(jù),可以提高數(shù)據(jù)分析的效率和準(zhǔn)確率。由此可以看出,法律大數(shù)據(jù)的運(yùn)用依賴(lài)于法律人的數(shù)據(jù)收集能力、處理能力與數(shù)據(jù)分析能力,高等法學(xué)教育勢(shì)必把培養(yǎng)法學(xué)學(xué)生的大數(shù)據(jù)思維能力列入未來(lái)的計(jì)劃。

      (三)計(jì)算思維能力

      計(jì)算思維是運(yùn)用計(jì)算機(jī)科學(xué)的概念去求解問(wèn)題、設(shè)計(jì)系統(tǒng)和理解人類(lèi)的行為[12]。人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支,運(yùn)用人工智能解決法律問(wèn)題就是計(jì)算思維在法律方面的應(yīng)用。人工智能解決法律問(wèn)題的過(guò)程大致可以分為四步:

      第一步,分析法律問(wèn)題。從量和質(zhì)兩方面對(duì)法律問(wèn)題進(jìn)行分析,通過(guò)量的分析獲取法律問(wèn)題的數(shù)量特征與關(guān)系;通過(guò)質(zhì)的分析得出法律問(wèn)題的本質(zhì)。

      第二步,建立法律問(wèn)題的數(shù)學(xué)模型。信息社會(huì),法律案件涉及領(lǐng)域廣泛且日漸復(fù)雜,如果把所有因素都考慮進(jìn)去,會(huì)增加建模難度,費(fèi)時(shí)費(fèi)力。在不影響法律問(wèn)題解決精準(zhǔn)度的情況下,只考慮關(guān)鍵因素,將第一步分析的結(jié)果抽象化為法律問(wèn)題的數(shù)學(xué)描述,建立數(shù)學(xué)表達(dá)式,如判決書(shū)信息提取通常用的正則表達(dá)式方法。

      第三步,設(shè)計(jì)算法。針對(duì)法律問(wèn)題的數(shù)學(xué)模型,從計(jì)算機(jī)解決問(wèn)題的方式出發(fā),設(shè)計(jì)解決法律問(wèn)題的完整、有序的指令。

      第四步,編程實(shí)現(xiàn)。根據(jù)需求,選擇合適的開(kāi)發(fā)工具、編程語(yǔ)言實(shí)現(xiàn)算法,并進(jìn)行測(cè)試。

      運(yùn)用人工智能解決法律問(wèn)題,要求法律人既要有法學(xué)思維,也要有計(jì)算思維。但現(xiàn)實(shí)是法律人只負(fù)責(zé)提出問(wèn)題,人工智能的設(shè)計(jì)全部交給計(jì)算機(jī)專(zhuān)業(yè)人員完成,沒(méi)有實(shí)現(xiàn)法學(xué)思維與計(jì)算思維的融合,進(jìn)而實(shí)現(xiàn)人工智能與法學(xué)交叉就無(wú)從談起,導(dǎo)致以下問(wèn)題:

      首先,應(yīng)用于法學(xué)的人工智能算法都是通用學(xué)科的算法,遇到疑難復(fù)雜、個(gè)性化強(qiáng)的法律問(wèn)題處理準(zhǔn)確度不高或根本無(wú)法處理。

      《公約》第15條、16條均將“賄賂”明文規(guī)定為“不正當(dāng)好處”。這既突出了“賄賂”的非法性和不正當(dāng)性,我國(guó)刑法對(duì)于賄賂的內(nèi)容用“財(cái)物”一詞具有相當(dāng)大的局限性,會(huì)使相當(dāng)數(shù)量的本質(zhì)上屬于行賄、受賄的行為逃脫法律的制裁,不利于對(duì)賄賂犯罪的打擊。

      其次,不具備計(jì)算思維的法律人,沒(méi)有能力識(shí)別輸入數(shù)據(jù)、算法設(shè)計(jì)的合理性、正確性,只能檢測(cè)機(jī)器人輸出的文字性結(jié)論,而不具備法學(xué)思維的計(jì)算機(jī)專(zhuān)業(yè)人士沒(méi)有能力正確表達(dá)法律問(wèn)題,理解法律規(guī)范。無(wú)論哪種情況,法律問(wèn)題的解決都會(huì)出現(xiàn)偏差,甚至發(fā)生錯(cuò)誤。

      要打破這種局面,開(kāi)發(fā)既符合法律條文解釋?zhuān)纸?jīng)得起法學(xué)實(shí)證分析考驗(yàn)的人工智能模型,高等教育方面必須培養(yǎng)法學(xué)學(xué)生的計(jì)算思維能力,使學(xué)生成為真正的人工智能法律人才。

      三、人工智能時(shí)代法學(xué)教育的不足

      如前所述,人工智能時(shí)代對(duì)法學(xué)教育提出了法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力的培養(yǎng)要求,但目前中國(guó)高校法學(xué)院系的教育模式存在普遍的滯后性,在培養(yǎng)目標(biāo)、課程體系、實(shí)踐條件等方面均不能滿(mǎn)足上述能力培養(yǎng)要求。

      (一)培養(yǎng)目標(biāo)

      在培養(yǎng)目標(biāo)方面,目前中國(guó)高校法學(xué)院系幾乎都是維持以往的總體培養(yǎng)目標(biāo),并未因應(yīng)人工智能時(shí)代作出必要調(diào)整,與時(shí)代科技發(fā)展存在相當(dāng)?shù)穆洳睢R灾袊?guó)人民大學(xué)為例,其法學(xué)本科培養(yǎng)方案將培養(yǎng)目標(biāo)界定為“培養(yǎng)德、智、體、美全面發(fā)展的高素質(zhì)法律人才”,但培養(yǎng)要求的核心部分仍為“掌握系統(tǒng)的法律專(zhuān)業(yè)知識(shí),了解國(guó)內(nèi)外法學(xué)發(fā)展動(dòng)態(tài);具有良好的文字和口頭表達(dá)能力、邏輯思辨和論證能力,具有獨(dú)立分析和解決問(wèn)題的能力”,并未體現(xiàn)出如何將科技發(fā)展對(duì)法律的沖擊以及對(duì)法律人才的新要求納入培養(yǎng)目標(biāo)。

      有部分高校已經(jīng)意識(shí)到人工智能時(shí)代對(duì)相關(guān)學(xué)科專(zhuān)業(yè)的沖擊,并積極作出應(yīng)變,如筆者所在的安徽財(cái)經(jīng)大學(xué),為了適應(yīng)信息技術(shù)對(duì)高等教育發(fā)展的促進(jìn)和挑戰(zhàn)以及對(duì)經(jīng)濟(jì)管理類(lèi)高級(jí)專(zhuān)門(mén)人才的知識(shí)、能力、素質(zhì)結(jié)構(gòu)提出的全新要求,提出“新經(jīng)管”建設(shè)工程方案,在學(xué)生培養(yǎng)方案修訂上,將互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能等信息技術(shù)嵌入課程體系中,以現(xiàn)有的學(xué)科專(zhuān)業(yè)為基礎(chǔ),推進(jìn)學(xué)科交叉、專(zhuān)業(yè)融合實(shí)施方案。盡管學(xué)校提出如此要求,但由于主要面向經(jīng)濟(jì)管理專(zhuān)業(yè),所以法學(xué)專(zhuān)業(yè)仍未在培養(yǎng)目標(biāo)上作出相應(yīng)調(diào)整,基本上仍延續(xù)以往的培養(yǎng)思路,以“系統(tǒng)掌握法學(xué)學(xué)科的基本理論與基本知識(shí)、系統(tǒng)掌握中國(guó)基本法律制度以及相關(guān)政策和國(guó)際慣例、掌握法學(xué)分析及法律分析的基本方法和技術(shù)、掌握文獻(xiàn)檢索、信息搜集、資料查詢(xún)的基本方法”作為能力培養(yǎng)目標(biāo),未能考慮人工智能對(duì)法律專(zhuān)業(yè)和人才培養(yǎng)的新要求,在師資力量、課程體系上也未進(jìn)行必要的調(diào)整,授課中教師們基本上對(duì)于人工智能帶來(lái)的法律沖擊“集體無(wú)意識(shí)”,無(wú)法滿(mǎn)足人工智能時(shí)代法律人的培養(yǎng)需求。法學(xué)專(zhuān)業(yè)的這種狀況在其他法學(xué)院系也同樣存在,反映了法學(xué)教育對(duì)新技術(shù)發(fā)展普遍存在的應(yīng)對(duì)滯后性。

      (二)課程體系

      為了滿(mǎn)足人工智能時(shí)代對(duì)法律人的能力培養(yǎng)要求,在課程體系設(shè)置上,應(yīng)當(dāng)探索將人工智能技術(shù)類(lèi)課程與法學(xué)基礎(chǔ)課程進(jìn)行融合,將技術(shù)問(wèn)題法律化、法律問(wèn)題技術(shù)化,才能將數(shù)據(jù)思維、計(jì)算思維內(nèi)化于法學(xué)教育中。但從目前中國(guó)法學(xué)院系的課程體系建設(shè)來(lái)看,也幾乎未能進(jìn)行這種課程融合,即便引入了人工智能、大數(shù)據(jù)課程,也僅是將其作為獨(dú)立的課程對(duì)待,至多能夠讓學(xué)生了解一些人工智能或大數(shù)據(jù)的基本知識(shí),無(wú)法滿(mǎn)足思維能力培養(yǎng)的需要。

      (三)實(shí)踐條件

      對(duì)于人工智能、大數(shù)據(jù)類(lèi)課程來(lái)說(shuō),實(shí)踐是相當(dāng)重要的環(huán)節(jié),對(duì)于法學(xué)專(zhuān)業(yè)學(xué)生培養(yǎng)來(lái)說(shuō)同樣如此,只有通過(guò)實(shí)踐才能讓學(xué)生了解人工智能、大數(shù)據(jù)的技術(shù)基礎(chǔ)和特征,開(kāi)發(fā)其數(shù)據(jù)思維和計(jì)算思維,也更有利于激發(fā)對(duì)人工智能、大數(shù)據(jù)法律問(wèn)題的思考。尤其是隨著司法智能輔助的發(fā)展,應(yīng)當(dāng)讓學(xué)生早日熟悉智能輔助的功能,以便為日后參加工作提前做好運(yùn)用智能輔助的準(zhǔn)備。

      但總體上看,目前已經(jīng)開(kāi)設(shè)人工智能、大數(shù)據(jù)類(lèi)課程的少數(shù)高校法學(xué)院系在實(shí)踐條件方面極其有限,難以滿(mǎn)足法學(xué)學(xué)生的實(shí)踐需求,所以對(duì)人工智能、大數(shù)據(jù)類(lèi)課程只能以課堂講授為主,難以激發(fā)學(xué)生的學(xué)習(xí)興趣,教學(xué)效果難以保障,也無(wú)法真正培養(yǎng)學(xué)生的操作能力和思維能力。在筆者所在的安徽財(cái)經(jīng)大學(xué),以往在法學(xué)的實(shí)踐教學(xué)環(huán)節(jié)曾引入中南財(cái)經(jīng)政法大學(xué)開(kāi)發(fā)的LETS系統(tǒng)(法學(xué)實(shí)驗(yàn)教學(xué)系統(tǒng)軟件),但該系統(tǒng)僅是較低層次的模擬立法、司法、執(zhí)法系統(tǒng),遠(yuǎn)稱(chēng)不上“智能系統(tǒng)”。而在2018年課程體系中增設(shè)人工智能、大數(shù)據(jù)類(lèi)課程之后,如何保障學(xué)生的實(shí)踐需求仍是未知數(shù),學(xué)校雖在探索設(shè)置智慧實(shí)驗(yàn)室、科研實(shí)驗(yàn)室和創(chuàng)新創(chuàng)業(yè)實(shí)驗(yàn)室,但總體上仍難以滿(mǎn)足法學(xué)專(zhuān)業(yè)學(xué)生的實(shí)踐需要。實(shí)踐條件的缺乏也是其他高校法學(xué)院系已經(jīng)面臨或?qū)⒁媾R的難題,更是必須解決的問(wèn)題。因此,高校法學(xué)院系應(yīng)積極引入或與企業(yè)聯(lián)合開(kāi)發(fā)相關(guān)的智能輔助軟件或模擬軟件,將其投入實(shí)踐教學(xué)環(huán)節(jié),提高學(xué)生的操作能力和思維水平。

      四、人工智能背景下法學(xué)教育的改革路徑

      法學(xué)高等教育要順應(yīng)人工智能時(shí)代的發(fā)展,及時(shí)修訂培養(yǎng)目標(biāo)和培養(yǎng)方案,充分考慮人工智能對(duì)法律的沖擊和對(duì)人才的需求,培養(yǎng)學(xué)生的法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力。針對(duì)上述培養(yǎng)目標(biāo),中國(guó)法學(xué)高等教育應(yīng)進(jìn)行如下改革:促進(jìn)學(xué)生法律適用能力的培養(yǎng);打造人工智能法學(xué)課程體系,針對(duì)法學(xué)專(zhuān)業(yè)引入人工智能相關(guān)課程并探索課程的融合;借力人工智能推動(dòng)教學(xué)方式的改革。如此,培養(yǎng)的學(xué)生才能勝任人工智能法律發(fā)展背景下的法律職業(yè)。

      (一)加強(qiáng)人工智能時(shí)代法律適用能力的培養(yǎng)

      法律制度發(fā)展的相對(duì)滯后,造成新出現(xiàn)的人工智能法律問(wèn)題的解決沒(méi)有現(xiàn)成的規(guī)范可依。法律人法律適用能力的增強(qiáng)有助于解決人工智能法律問(wèn)題的多樣性、復(fù)雜性與法律滯后間的矛盾。目前,中國(guó)法學(xué)高等教育的重點(diǎn)是使學(xué)生掌握法學(xué)理論知識(shí),對(duì)學(xué)生法律適用能力的培養(yǎng)不足,學(xué)生普遍不具有利用現(xiàn)有法律解決未來(lái)新法律問(wèn)題的能力。因此,應(yīng)從師資、課程等方面促進(jìn)對(duì)學(xué)生法律適用能力的培養(yǎng)。

      1. 師資

      法律適用的重點(diǎn)是合理、準(zhǔn)確地運(yùn)用法律規(guī)范處理案件,因此要求教授相關(guān)課程的教師既要有扎實(shí)的法學(xué)理論功底,又要有豐富的法務(wù)實(shí)踐經(jīng)驗(yàn)。首先,教師應(yīng)積極開(kāi)展法律適用理論方面的研究,尤其是解決信息時(shí)代新類(lèi)型科技法律問(wèn)題的法律適用研究;其次,教師應(yīng)積累法律適用的實(shí)際經(jīng)驗(yàn)。因此,高校法學(xué)專(zhuān)業(yè)可以與司法部門(mén)合作,規(guī)定教師必須有到司法部門(mén)實(shí)踐或掛職一定時(shí)間的經(jīng)歷,經(jīng)司法部門(mén)允許,要求教師在工作中收集案件的法律適用分析過(guò)程材料,在以后的教學(xué)中,通過(guò)這些典型案例分析法律適用的理論知識(shí)及法律規(guī)范的適用過(guò)程;或者可以聘請(qǐng)經(jīng)驗(yàn)豐富的法務(wù)人員為兼職教師,專(zhuān)門(mén)講授法律適用課程,還可以作為本科生導(dǎo)師制的導(dǎo)師,或指導(dǎo)學(xué)生畢業(yè)論文和模擬法庭實(shí)踐,從多個(gè)方面加強(qiáng)學(xué)生的法律適用能力。

      2. 課程

      法律適用在高校法學(xué)教育中的地位無(wú)可替代,所以應(yīng)將法律適用課程設(shè)置為法學(xué)專(zhuān)業(yè)本科階段的專(zhuān)業(yè)必修課。法學(xué)本科階段是學(xué)生進(jìn)入法學(xué)職業(yè)生涯的初始階段,為學(xué)生法律職業(yè)的發(fā)展奠定基礎(chǔ)。法學(xué)本科畢業(yè)生是司法部門(mén)、律師事務(wù)所工作人員來(lái)源的主力軍。法律適用課程設(shè)置在本科階段,使初次接觸專(zhuān)業(yè)知識(shí)的學(xué)生學(xué)習(xí)法學(xué)理論的同時(shí),也能盡快積累法律適用的知識(shí),成為符合社會(huì)要求的實(shí)踐型法律人才。

      法律適用課程在選用教材方面會(huì)遇到一些問(wèn)題,目前法律適用教材大部分是在某部門(mén)法范圍內(nèi)講解其領(lǐng)域的具體案件法律適用的過(guò)程,像胡建淼的《法律適用學(xué)》這種涵蓋所有部門(mén)法的通用教材很少,探討新類(lèi)型科技法律適用問(wèn)題的教材還沒(méi)有出現(xiàn)。因此,高校法學(xué)教師應(yīng)面向新類(lèi)型科技法律問(wèn)題,編寫(xiě)規(guī)范、統(tǒng)一的法律適用教材,以便學(xué)生完整、系統(tǒng)地學(xué)習(xí)法律適用知識(shí)。

      (二)打造人工智能法學(xué)課程體系

      如前所述,人工智能在各領(lǐng)域迅猛發(fā)展,法律領(lǐng)域?qū)θ斯ぶ悄芊▽W(xué)的理論研究如火如荼,但由于學(xué)者不了解人工智能相關(guān)技術(shù),研究存在諸多偏離實(shí)際之處。反過(guò)來(lái),人工智能專(zhuān)業(yè)人員也不了解法律,難以開(kāi)發(fā)滿(mǎn)足法律領(lǐng)域需求的人工智能技術(shù)。只有培養(yǎng)人工智能和法律融合的法律人才,才能使人工智能技術(shù)在法律領(lǐng)域得到深度應(yīng)用。

      如前所述,中國(guó)大部分高校法學(xué)專(zhuān)業(yè)課程的設(shè)置仍以教育部規(guī)定的傳統(tǒng)法學(xué)課程為核心,并沒(méi)有增設(shè)人工智能方面的課程,無(wú)法滿(mǎn)足人工智能時(shí)代對(duì)法學(xué)人才的培養(yǎng)要求。當(dāng)然,也有極少數(shù)的高校結(jié)合自己的學(xué)科優(yōu)勢(shì),開(kāi)始嘗試開(kāi)設(shè)人工智能相關(guān)的課程,如西南政法大學(xué)法學(xué)院設(shè)立了“人工智能法學(xué)”二級(jí)學(xué)科,開(kāi)設(shè)法律大數(shù)據(jù)挖掘與應(yīng)用、人工智能技術(shù)導(dǎo)論、人工智能法學(xué)原理等培養(yǎng)法學(xué)學(xué)生大數(shù)據(jù)思維、計(jì)算思維的課程,推動(dòng)人工智能和法律的融合,培養(yǎng)具有創(chuàng)新能力的人才[13];清華大學(xué)法學(xué)院獲批了的“計(jì)算法學(xué)”工程碩士項(xiàng)目,培養(yǎng)人工智能、法律與現(xiàn)代網(wǎng)絡(luò)發(fā)展融合的復(fù)合型人才。

      為了培養(yǎng)人工智能法律人才,建議在原有法學(xué)課程的基礎(chǔ)上,開(kāi)設(shè)人工智能技術(shù)類(lèi)及融合類(lèi)課程,從理論課程和實(shí)踐課程兩方面打造新的課程體系。

      1. 理論課程

      理論課程方面,增設(shè)大數(shù)據(jù)、人工智能等能夠培養(yǎng)法學(xué)學(xué)生大數(shù)據(jù)思維、計(jì)算思維的課程,并積極探索這類(lèi)課程與法學(xué)基礎(chǔ)課程的融合。大數(shù)據(jù)課程主要內(nèi)容為大數(shù)據(jù)存儲(chǔ)與處理、大數(shù)據(jù)生態(tài)系統(tǒng)、協(xié)同工作等核心技術(shù),為人工智能機(jī)器人輸入數(shù)據(jù)的準(zhǔn)備奠定基礎(chǔ);人工智能課程主要內(nèi)容為搜索方法、邏輯、知識(shí)表示、機(jī)器學(xué)習(xí)、機(jī)器人技術(shù)等,使學(xué)生掌握人工智能的基本原理、技術(shù),學(xué)會(huì)開(kāi)發(fā)人工智能系統(tǒng);融合類(lèi)課程主要針對(duì)人工智能、大數(shù)據(jù)所帶來(lái)的各個(gè)部門(mén)法的問(wèn)題,并對(duì)這些問(wèn)題進(jìn)行分析,提出解決問(wèn)題的原則、方法、技術(shù)等。

      2. 實(shí)踐課程

      實(shí)踐課程的開(kāi)設(shè)可以有兩種方式:一是打造人工智能實(shí)驗(yàn)平臺(tái),如北京大學(xué)成立人工智能實(shí)驗(yàn)室,實(shí)驗(yàn)項(xiàng)目分為智能立法、智能執(zhí)法、法寶智刑、智能法務(wù)、法律機(jī)器人五個(gè)模塊。二是采用校企合作的模式,如西南政法大學(xué)與恒圖科技等多家企業(yè)開(kāi)啟合作,學(xué)生可以到企業(yè)實(shí)習(xí),切身體驗(yàn)人工智能產(chǎn)品的設(shè)計(jì)與開(kāi)發(fā)過(guò)程。增設(shè)人工智能實(shí)踐課程的目的是使學(xué)生掌握人工智能技術(shù)在法律方面的應(yīng)用及人工智能法律產(chǎn)品的開(kāi)發(fā),提高學(xué)生理解和運(yùn)用法律人工智能產(chǎn)品的能力。

      (三)開(kāi)展人工智能法律系統(tǒng)的運(yùn)用教學(xué)

      未來(lái)高校法學(xué)專(zhuān)業(yè)的畢業(yè)生大部分會(huì)進(jìn)入律師事務(wù)所、司法部門(mén)、企業(yè)法務(wù)部門(mén)工作,或到企業(yè)、科研院所從事人工智能法律產(chǎn)品的研發(fā)。在可預(yù)見(jiàn)的由弱人工智能時(shí)代邁向強(qiáng)人工智能時(shí)代的過(guò)程中,學(xué)生畢業(yè)后無(wú)論從事上述哪類(lèi)工作,在工作中都勢(shì)必使用或開(kāi)發(fā)人工智能法律系統(tǒng),所以,高校法學(xué)專(zhuān)業(yè)有必要在教學(xué)過(guò)程中開(kāi)展人工智能法律系統(tǒng)的運(yùn)用。

      現(xiàn)在市面上針對(duì)法學(xué)教學(xué)的人工智能法律系統(tǒng)大致分為法學(xué)多用途教學(xué)系統(tǒng)和司法模擬教學(xué)系統(tǒng)。法學(xué)多用途教學(xué)系統(tǒng)一般分為法律法規(guī)、法律文書(shū)、法學(xué)教學(xué)案例和法學(xué)考試試題等四大部分,涵蓋全部實(shí)體法和程序法,并劃分為若干學(xué)科,每個(gè)學(xué)科都含有法學(xué)理論知識(shí)和大量檢察院、法院發(fā)布的指導(dǎo)性案例。運(yùn)用司法模擬教學(xué)系統(tǒng),可以使學(xué)生體驗(yàn)不同的司法人員角色,理解司法工作的流程,掌握法律文書(shū)、法律證據(jù)的分析應(yīng)用。

      人工智能法律系統(tǒng)在教學(xué)中的運(yùn)用,給法學(xué)專(zhuān)業(yè)帶來(lái)的有利之處顯而易見(jiàn):人工智能法律系統(tǒng)包含的教學(xué)內(nèi)容全面、層次性強(qiáng),案例真實(shí)、數(shù)據(jù)量大,避免了教師收集案例不全、不系統(tǒng)的問(wèn)題,學(xué)生可以將所學(xué)理論知識(shí)應(yīng)用于公安局、檢察院、法院等司法部門(mén)的模擬工作中,使學(xué)生對(duì)司法工作形成直觀的感覺(jué),精準(zhǔn)的體驗(yàn),實(shí)現(xiàn)了不同類(lèi)型法律人才的培養(yǎng)。學(xué)生通過(guò)學(xué)習(xí)中使用人工智能法律系統(tǒng),學(xué)會(huì)熟練操作人工智能系統(tǒng),并深刻理解系統(tǒng)的功能設(shè)計(jì),為以后工作中使用或開(kāi)發(fā)人工智能法律系統(tǒng)奠定基礎(chǔ)。

      五、結(jié)語(yǔ)

      人工智能技術(shù)促進(jìn)了社會(huì)各領(lǐng)域的發(fā)展,法學(xué)高等教育不能被屏蔽在外,文章探討了人工智能對(duì)法學(xué)領(lǐng)域的挑戰(zhàn),以及法學(xué)高等教育面對(duì)挑戰(zhàn)應(yīng)采取的改革措施。實(shí)際上,除極少數(shù)高校的法學(xué)院系積極嘗試發(fā)展人工智能與法學(xué)學(xué)科的交叉,其他高校的反應(yīng)僅限于部分教師對(duì)人工智能法學(xué)方面的課題進(jìn)行研究,法學(xué)教育本身并沒(méi)有做出任何改變。長(zhǎng)此以往,高校培養(yǎng)的法學(xué)專(zhuān)業(yè)學(xué)生將難以滿(mǎn)足科技發(fā)展而提出的時(shí)代需求,使法學(xué)教育陷入危機(jī)。世界各國(guó)高校對(duì)人工智能法律人才的培養(yǎng)都尚處于起步階段,中國(guó)各高校還有趕超的機(jī)會(huì),法學(xué)高等教育應(yīng)積極探索,對(duì)現(xiàn)有的法學(xué)教育模式進(jìn)行改革,促進(jìn)“人工智能+法律”的復(fù)合型人才培養(yǎng)。

      猜你喜歡
      法學(xué)人工智能法律
      《南大法學(xué)》征稿啟事
      《南大法學(xué)》征稿啟事
      法律解釋與自然法
      法律方法(2021年3期)2021-03-16 05:57:02
      2019:人工智能
      商界(2019年12期)2019-01-03 06:59:05
      人工智能與就業(yè)
      數(shù)讀人工智能
      小康(2017年16期)2017-06-07 09:00:59
      下一幕,人工智能!
      讓人死亡的法律
      山東青年(2016年1期)2016-02-28 14:25:30
      法學(xué)
      “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
      中山市| 安仁县| 开江县| 邵东县| 闻喜县| 南木林县| 新邵县| 盐源县| 成安县| 九寨沟县| 平阴县| 苏州市| 兴安盟| 水城县| 宜兰市| 扎囊县| 黑山县| 南漳县| 萨嘎县| 洪洞县| 凤阳县| 贵阳市| 齐齐哈尔市| 丽水市| 谢通门县| 安丘市| 涟水县| 库伦旗| 新闻| 黄大仙区| 巴马| 缙云县| 临夏市| 达拉特旗| 吉隆县| 扎鲁特旗| 安阳县| 莫力| 洱源县| 德兴市| 化隆|