• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      從生成內(nèi)容到基礎(chǔ)數(shù)據(jù)
      ——人工智能法律保護的新方向

      2020-01-11 07:02:19藍純杰
      科技與法律 2020年3期
      關(guān)鍵詞:著作權(quán)法觀點人工智能

      藍純杰

      (華東政法大學(xué),上海200042)

      引言

      隨著第四次產(chǎn)業(yè)革命的到來,人工智能(Artifi?cial Intelligence)在國家的發(fā)展中戰(zhàn)略地位愈發(fā)明顯,2017年,人工智能被寫入國務(wù)院政府工作報告,國務(wù)院同時發(fā)布《新一代人工智能發(fā)展規(guī)劃》。2019年5月,在給第三屆世界智能大會的致信中,習(xí)近平總書記提出,推動新一代人工智能健康發(fā)展,更好造福世界各國人民。

      近年來,法學(xué)界無論是科研工作者還是實務(wù)工作者,均對人工智能及其行為的定性各抒己見,其中尤其以人工智能是否構(gòu)成刑事責(zé)任主體以及其人工智能生成內(nèi)容在著作權(quán)法上定性的討論最為熱烈。在著作權(quán)司法領(lǐng)域,2019年4月,北京市互聯(lián)網(wǎng)法院就“北京菲林律師事務(wù)所與百度公司的著作權(quán)糾紛”案進行判決,認為軟件自動生成的分析報告不是作品,但是涉案文字的文字內(nèi)容并不是軟件自動生成,可以認定為受著作權(quán)法保護的作品①見北京市互聯(lián)網(wǎng)法院(2018)京0491民初239號民事判決書。。該判決引發(fā)了學(xué)界和實務(wù)界的關(guān)注和討論。

      圍繞人工智能而產(chǎn)生的社會關(guān)系,定然會影響到作為法律現(xiàn)實的社會關(guān)系。人工智能生產(chǎn)內(nèi)容過程中的法律保護,關(guān)乎國家對作品的管理秩序,關(guān)乎精神文化產(chǎn)品的生產(chǎn)繁榮,也關(guān)乎人工智能投資者、研發(fā)者、制造者、使用者等相關(guān)主體的切身利益,制度的安排牽一發(fā)而動全身。本文試圖對現(xiàn)有關(guān)于人工智能生成內(nèi)容的法律定性的各種觀點進行梳理,在此基礎(chǔ)上對其性質(zhì)進行論證,并探索相關(guān)人工智能內(nèi)容生產(chǎn)過程中基礎(chǔ)數(shù)據(jù)的保護路徑。

      一、人工智能生成內(nèi)容在著作權(quán)法上的定性之觀點梳理

      當前,國內(nèi)學(xué)界對于人工智能生成內(nèi)容在著作權(quán)法上的性質(zhì),主要有三種觀點:第一種觀點是“作品保護說”,認為人工智能生成內(nèi)容構(gòu)成作品,但對其權(quán)益歸屬有不同的看法;第二種觀點是“鄰接權(quán)保護說”,認為人工智能生成內(nèi)容無法構(gòu)成作品,但應(yīng)當對其創(chuàng)設(shè)鄰接權(quán)進行保護;第三種觀點是著作權(quán)法保護否定說,認為現(xiàn)階段人工智能生成內(nèi)容尚不能構(gòu)成著作權(quán)法意義上的作品。

      (一)作品保護說

      作品保護說認為人工智能生成內(nèi)容可以構(gòu)成著作權(quán)法意義上的作品。其中一些觀點認為,著作權(quán)應(yīng)當歸屬于人工智能,另外一些觀點則認為,著作權(quán)應(yīng)歸屬于人類主體,對于具體的歸屬對象,也有一些不同的意見。

      1.歸屬人工智能說

      一些觀點認可人工智能的創(chuàng)作者地位。主要理由有:為激勵創(chuàng)作、彰顯知識產(chǎn)權(quán)的財產(chǎn)屬性[1];從國家戰(zhàn)略、著作權(quán)法的宗旨以及立法成本上來看,以狹義著作權(quán)進行保護是最佳選擇[2]。一種觀點認為,類人和超級人工智能具備自主意識,因而具備著作權(quán)主體資格,但認為侵權(quán)責(zé)任應(yīng)由人類主體承擔(dān),其中獨立的著作權(quán)侵權(quán)責(zé)任采取保險方式,制造者或使用者控制與指示下的侵權(quán)行為則可按照雇主責(zé)任方式承擔(dān)[3]。

      2.歸屬人類主體說

      一些觀點認為,應(yīng)將人工智能生成內(nèi)容的著作權(quán)歸屬于所有者、投資者、使用者。這類觀點有:人工智能生成內(nèi)容遵循軟件設(shè)計者意志創(chuàng)作,應(yīng)借鑒法人作品的制度安排,將其所有者視為著作權(quán)人[4];人工智能生成內(nèi)容能媲美人類作品,神經(jīng)網(wǎng)絡(luò)算法的設(shè)計、學(xué)習(xí)數(shù)據(jù)的篩選體現(xiàn)了人的創(chuàng)造性勞動,生成內(nèi)容能補充和豐富人類精神文化,且生產(chǎn)效率高,主張應(yīng)參考電影作品的保護模式將著作權(quán)賦予投資者[5];國際條約以及國際著作權(quán)制度均未排斥對人工智能生成內(nèi)容其進行保護,其著作權(quán)應(yīng)歸屬于運行人工智能并進行安排和創(chuàng)作的人[6];將人工智能的著作權(quán)歸屬于操作者,符合著作權(quán)法和民法的原理以及國際立法趨勢[7];人工智能是研發(fā)者、制造者和使用者的法律行為[8];拋開法律主體性,人工智能生成內(nèi)容符合作品的構(gòu)成要件,可以認定為作品,基于激勵理論,其著作權(quán)歸應(yīng)屬于開發(fā)者、所有者或使用者[9];從財產(chǎn)論、勞動價值論、激勵論角度上看,都應(yīng)肯定人工智能生成內(nèi)容的可保護性,生成內(nèi)容過程中的設(shè)計與選擇體現(xiàn)了人類的獨創(chuàng)性,本質(zhì)上是人類利用技術(shù)設(shè)備創(chuàng)作完成,權(quán)利應(yīng)歸屬人類主體,主張參考美國對計算機軟件和集成電路布圖設(shè)計的保護模式,給予適當?shù)闹鳈?quán)法保護[10];人工智能生成的數(shù)據(jù)新聞具備最低的原創(chuàng)性,著作權(quán)人應(yīng)當為作品智力源頭的間接作者即人類,具體權(quán)益應(yīng)當在參與創(chuàng)造者中根據(jù)貢獻度有機分派[11]。

      一些觀點主張按照職務(wù)作品保護人工智能生成內(nèi)容。這類觀點有:將操作者擬制為著作權(quán)人,出于對人工智能創(chuàng)作技術(shù)的尊重,參考職務(wù)作品的規(guī)定,在作品中注明使用的人工智能技術(shù)[12];從發(fā)揮激勵創(chuàng)作作用和實際貢獻角度上來看,人工智能使用者作為著作權(quán)主體而更為合理,主張對其類推適用職務(wù)作品歸屬制度[13]。應(yīng)將人工智能生成內(nèi)容視為職務(wù)作品,對其保護應(yīng)采用匯編作品模式,投資者和設(shè)計者均視為作者,著作權(quán)歸屬由當事人約定,署名權(quán)歸屬于設(shè)計者[14];人工智能生成內(nèi)容如符合客體要件,且在作品的發(fā)展中存在因果關(guān)系,就應(yīng)承認其作者身份,并借鑒職務(wù)作品的分配規(guī)則,以實現(xiàn)知識產(chǎn)權(quán)法的目的[15]。

      一些觀點認為,應(yīng)區(qū)分情形決定人工智能生成內(nèi)容的著作權(quán)歸屬。這類觀點有:認為人工智能僅是人類的輔助創(chuàng)作工具,符合條件的生成內(nèi)容可以作為作品歸屬于所有權(quán)人、實際操作者或者內(nèi)容結(jié)構(gòu)安排者;如將其擬制為法律主體,生成內(nèi)容則只能作為孳息歸屬于所有權(quán)人或用益物權(quán)人[16];根據(jù)當前技術(shù)與法律規(guī)范,人工智能生成內(nèi)容能構(gòu)成作品,其權(quán)利歸屬應(yīng)約定優(yōu)先,沒有約定或約定不明則歸屬于使用者,非法使用他人所有的人工智能應(yīng)歸屬于其所有人,構(gòu)成職務(wù)作品的使用者享有署名權(quán),其他權(quán)利歸屬于單位[17];在制造者、所有者及使用者角色分離的情況下,人工智能著作權(quán)歸屬依照登記、合同約定、使用者順次推定,將人工智能與其使用者的關(guān)系擬制為雇傭或委托關(guān)系;在角色為同一主體時,則將其擬制為法人作品,同時應(yīng)賦予人工智能類似商標標示權(quán)的署名權(quán)[18];在倫理和法律層面上,人工智能都只能視為人的客體和工具,對其應(yīng)依照現(xiàn)行著作權(quán)法區(qū)分個人創(chuàng)作、職務(wù)創(chuàng)作和委托創(chuàng)作來進行保護[19];來自于人類的人工智能生成物可以受到著作權(quán)法的保護,非來自于人類的人工智能生成內(nèi)容雖然不滿足作品的構(gòu)成要件,但基于激勵理論和促進產(chǎn)業(yè)發(fā)展考量,應(yīng)在技術(shù)成熟時破除現(xiàn)行著作權(quán)法的相關(guān)制度障礙對其進行保護[20]。

      (二)鄰接權(quán)保護說

      一些觀點認為,應(yīng)對人工智能生成內(nèi)容采用鄰接權(quán)進行保護。這類觀點有:用著作權(quán)進行保護人工智能生成內(nèi)容,存在主體、客體、適用單位作品等制度上的障礙,主張創(chuàng)設(shè)鄰接權(quán)進行保護[21];人工智能生成內(nèi)容在外在表現(xiàn)形式上與人類創(chuàng)作的作品已難以區(qū)分,導(dǎo)致“實然”與“應(yīng)然”困惑,造成大量的無主作品充斥市場,應(yīng)當創(chuàng)設(shè)鄰接權(quán),對具有一定程度創(chuàng)造性的生成內(nèi)容進行保護[22];人工智能生成內(nèi)容并不表達其思想、情感,是一種純粹的表達,不能采用客觀標準判斷其獨創(chuàng)性,建議通過鄰接權(quán)來保護[23];人工智能生成內(nèi)容與作品類似,為促進人工智能產(chǎn)業(yè)發(fā)展,主張仿效歐盟制定單獨的人工智能法規(guī),以控制對其的利用與傳播,或者對其設(shè)立鄰接權(quán)進行保護,利益歸屬于其所有人[24]。從主客體理論、激勵理論以及穩(wěn)定市場上來看,人工智能生成內(nèi)容具有可版權(quán)性,應(yīng)區(qū)分人工智能創(chuàng)作與傳統(tǒng)作品,采用多視角判斷方法進行確定其可版權(quán)性,建議采取設(shè)置鄰接權(quán)、孤兒作品及法律擬制等方法以應(yīng)對沖擊[25]。

      (三)著作權(quán)法保護否定說

      一些觀點認為,人工智能生成內(nèi)容不具有獨創(chuàng)性。這類觀點有:迄今為止人工智能生成的內(nèi)容都是應(yīng)用算法、規(guī)則和模板的結(jié)果,并不能體現(xiàn)出創(chuàng)作者獨特的個性,生成內(nèi)容可能具備作品的表現(xiàn)形式而實際受到保護,但這是舉證規(guī)則造成的[26];現(xiàn)階段人工智能生成內(nèi)容只是數(shù)據(jù)算法的結(jié)論,本質(zhì)不是智力勞動而是計算、模仿,不具有智力財產(chǎn)屬性,生成內(nèi)容屬于公有領(lǐng)域,現(xiàn)有法律可以解決冒名發(fā)表等問題[27]。

      一些觀點認為,人工智能不具備著作權(quán)法主體資格。這類觀點有:人工智能機器不具備民事主體資格,無法獲得激勵,在性質(zhì)上是一種投資者利益,僅僅因為事實認定與作品外觀相似的干擾,尚不能得出對著作權(quán)制度造成沖擊的結(jié)論[28];認為法律上的“人”必須具有享有權(quán)利和履行義務(wù)的法律資格(規(guī)范)和實際享有權(quán)利和履行義務(wù)的意志能力(事實)兩個條件,只有生物人能夠滿足,“法人”通過“歸入”的技術(shù)與生物人的行為而滿足了兩個要件,動物以及與動物類似的機器人無法滿足條件,無法獨立承擔(dān)責(zé)任[29]。

      一些觀點認為,人工智能生成內(nèi)容缺少思想情感的表達。這類觀點有:人工智能缺乏文學(xué)創(chuàng)作所必不可少的“人類情感”,存在創(chuàng)作主觀意志缺陷,無法自動獲得社會性,離開人類的創(chuàng)作參與無法創(chuàng)作文學(xué)作品[30];計算機軟件缺少人類的共情心、同理心,其結(jié)果完全根據(jù)算法和模板機械生成,沒有智力創(chuàng)作空間,人工智能生成內(nèi)容毫無創(chuàng)造情境以及智力活動,承認其著作權(quán)主體資格將導(dǎo)致在藝術(shù)創(chuàng)作上嚴重沖擊人類文明理念[31]。

      對于人工智能生成內(nèi)容的侵權(quán)責(zé)任,有觀點認為不屬于知識產(chǎn)權(quán)的保護范圍,其侵權(quán)責(zé)任根據(jù)現(xiàn)有的法律體系和法律規(guī)定,由使用者或設(shè)計者承擔(dān)即可解決[32]。對于創(chuàng)作結(jié)果的保護,有觀點認為觀念上可將其區(qū)分為數(shù)據(jù)和表達兩個層面,數(shù)據(jù)擁有類似商業(yè)秘密的權(quán)利,歸屬于程序的所有者或使用者,數(shù)據(jù)中具有市場價值的表達結(jié)果,則擁有弱于版權(quán)的特別知識產(chǎn)權(quán)[33]。

      二、著作權(quán)法保護人工智能生成內(nèi)容之否定

      純粹從人工智能生成內(nèi)容的外觀來看,滿足我國《著作權(quán)法實施條例》對于“獨創(chuàng)性”和“有形形式復(fù)制”的要求,人工智能的設(shè)計并非僅僅“額頭流汗”就能簡單完成。但本文作者贊同作品否定說的觀點,認為人工智能生成內(nèi)容在現(xiàn)階段尚不符合著作權(quán)法中作品的法律要件。無論是著作權(quán)歸屬于人工智能還是歸屬于人類主體,都需要建立在國際公約的基礎(chǔ)上,都必須符合著作權(quán)法對于作品構(gòu)成要求以及作者資格的規(guī)定,必須符合著作權(quán)法的立法哲學(xué)。而從人工智能生成內(nèi)容的技術(shù)特性來看,應(yīng)當即時進入公有領(lǐng)域為佳。

      (一)作品保護說之批判

      1.對歸屬人工智能說的批判

      第一,認可人工智能著作權(quán)法主體資格并不能促進文學(xué)藝術(shù)發(fā)展繁榮。從上述觀點的梳理來看,認為人工智能生成內(nèi)容應(yīng)作為作品進行保護、著作權(quán)應(yīng)當歸屬于人工智能的觀點,主要的出發(fā)點在于功利主義思想,認為對其進行著作權(quán)保護,將激勵文學(xué)藝術(shù)作品的創(chuàng)作,符合國家鼓勵文化大發(fā)展、大繁榮的戰(zhàn)略,符合著作權(quán)法鼓勵作品創(chuàng)作和傳播的立法宗旨。但從該觀點來看,似乎存在一些悖論。毫無疑問,著作權(quán)法鼓勵創(chuàng)作、促進文化和科學(xué)事業(yè)的發(fā)展和繁榮,但這種創(chuàng)作、發(fā)展和繁榮,是建立在以人為本的基礎(chǔ)上的,而非以機器為本。試想,如果人工智能即可創(chuàng)作出符合著作權(quán)法規(guī)定的作品即可享受著作權(quán),那么人類即可坐享其成,坐等機器吞吐知識產(chǎn)品,逐漸淪為技術(shù)的附庸,抑或醉心于研發(fā)人工智能技術(shù)去掌握更為大量的既有信息進行生產(chǎn),忽視了對于文學(xué)藝術(shù)作品的創(chuàng)作,最終反而得不償失。如果人工智能生成內(nèi)容被授予版權(quán),出于無限量利潤的引誘,那么生產(chǎn)人工智能的相關(guān)公司將會控制對于人工智能的獲取,使得人工智能技術(shù)被掌握在少數(shù)技術(shù)先進國家和大型軟件巨頭手中[34]。而對于人工智能本身來說,作為機器人不需要額外進行激勵,因為對其進行激勵只需要用電[35]。

      第二,人工智能無法獨立承擔(dān)侵權(quán)責(zé)任。承認人工智能的作者資格,會導(dǎo)致一系列的問題,比如誰行使權(quán)利,如何對人工智能進行權(quán)利救濟,應(yīng)該授予人工智能其他什么權(quán)利[36]?上文一些觀點承認人工智能主體地位,又認為應(yīng)采用保險、雇主責(zé)任以承擔(dān)侵權(quán)責(zé)任,這些觀點更顯悖論。構(gòu)成法律主體,須滿足權(quán)利能力、行為能力以及不法行為能力的要求,能夠作為權(quán)利的享有者以及義務(wù)的承擔(dān)者[37];具有享受權(quán)利、履行義務(wù)和承擔(dān)責(zé)任的資格[37];對自己的過失行為能承擔(dān)責(zé)任[37]。目前,從各項政策、設(shè)施配套來看,人工智能尚不具備享有權(quán)利和承擔(dān)義務(wù)的能力,法律尚未認可其進行法律行為的能力,其也不具備對自己的過失行為承擔(dān)責(zé)任的能力。既然某些觀點認同人工智能符合著作權(quán)法主體資格,為何又認為作為法律主體的人工智能因侵權(quán)所導(dǎo)致的法律責(zé)任需要由保險承擔(dān),需要由作為法律主體的人類承擔(dān)?

      第三,著作權(quán)法上的作者僅限于人類。一個作品,首先著作權(quán)必須能夠歸屬于某些特定主體。中國公民、法人或者其他組織、外國人和無國籍人才能滿足我國著作權(quán)法的要求,而這幾類主體都是都是自然人或者法人②見《著作權(quán)法》第2條。。同時,作者必須是創(chuàng)作作品的公民,法人或者其他組織在一定條件下視為作者③見《著作權(quán)法》第11條。??梢?,對人工智能生成內(nèi)容進行定性,主要涉及兩方面的考量因素,一是作者身份,而是獨創(chuàng)性判斷。而無論從哪方面來看,人工智能生成內(nèi)容都無法作為作品進行保護。從比較法角度上來看,國際公約與各國著作權(quán)法也均未認可人工智能的著作權(quán)法律主體資格。伯爾尼公約未就“作者”下定義,原因在于各國法律差異太大,一些國家僅確認自然人為作者,一些國家認可法人可以作為作者,一些國家對作者資格附加了條件,一些國家則不認可這些條件[38]。美國版權(quán)法明文規(guī)定,版權(quán)保護僅存在于獨創(chuàng)性活動產(chǎn)生的作品(original works of authorship)④See 17 U.S.C.§102。。美國版權(quán)局的登記手冊明確規(guī)定作品必須由自然人創(chuàng)作而成⑤See Compendium of U.S.Copyright Office Practices,§306。。其他國家法律規(guī)定作者僅限于人類以及擬制為人類的法人⑥見《法國知識產(chǎn)權(quán)法典》第L.113條、《加拿大版權(quán)法》第13條、《西班牙著作權(quán)法》第5條。。對作者精神權(quán)利保護極高的德國,不承認法人的作者地位,如果需要作者那里取得某些權(quán)利,必須按照法律的規(guī)定通過合同的途徑得到授權(quán)[39]。

      2.對歸屬人類主體說的批判

      第一,人工智能生成內(nèi)容并不體現(xiàn)人類意志。創(chuàng)作,是一種智力活動,能直接產(chǎn)生各類作品⑦見《著作權(quán)法實施條例》第3條。。人工智能生成內(nèi)容,可能符合作品的外在表現(xiàn)形式,但這是因為其外在表現(xiàn)給予我們以符合法律要件的假象。如果我們對其進行細究,則會發(fā)現(xiàn)其生產(chǎn)原理?;诖罅考扔兄R數(shù)據(jù)的填充,人工智能能夠獲得普通大眾遠遠達不到的信息吞吐量,從而能夠通過相關(guān)算法,規(guī)避侵權(quán)可能性,快速生產(chǎn)出符合外在表現(xiàn)形式的“作品”,這種作品并沒有人類的思想情感表達,純粹是機械生產(chǎn)。這種“作品”的認定,實際上是因為舉證規(guī)則所導(dǎo)致,在相關(guān)人員未聲明其系人工智能生成內(nèi)容而是主張自己創(chuàng)作而成的情況下,公眾基于不知情而進行了錯誤判斷[26]。

      第二,人工智能無法構(gòu)成職務(wù)作品、雇傭作品、委托作品。國外也有同樣觀點認為應(yīng)當修改相關(guān)規(guī)定,用這些作品類型保護人工智能生成內(nèi)容[36]。職務(wù)作品要求為完成工作任務(wù)而創(chuàng)作,在我國著作權(quán)法中具有特定的適用范圍,類型僅限于工程設(shè)計圖、產(chǎn)品設(shè)計圖、地圖和計算機軟件等,需要利用法人或者其他組織的物質(zhì)技術(shù)條件進行創(chuàng)作,由法人或者其他組織程度相關(guān)責(zé)任⑧見《著作權(quán)法》第16條。。人工智能生成內(nèi)容范圍非常廣泛,不可能局限于設(shè)計圖、地圖與軟件,人工智能的投資者、所有者、操作者也不局限于法人或其他組織,如果一些生成內(nèi)容構(gòu)成職務(wù)作品,一些生成內(nèi)容不構(gòu)成職務(wù)作品,則會造成事實上的不公平。同時,人工智能尚不具備自主能力,不可能將其推定為為完成人類交付的工作任務(wù)而進行創(chuàng)作。同理,現(xiàn)階段也不可能認為人類主體與人工智能之間存在雇傭和委托關(guān)系。

      第三,人工智能生成內(nèi)容無法構(gòu)成匯編作品。匯編作品的對象是作品、作品片段以及不構(gòu)成作品的數(shù)據(jù)和其他材料,獨創(chuàng)性體現(xiàn)于對內(nèi)容的選擇與編排⑨見《著作權(quán)法》第14條。。人工智能生成內(nèi)容并不僅僅是對于作品及其片段以及其他數(shù)據(jù)材料的簡單匯編,而是確實生成了很多具備外在獨創(chuàng)性表現(xiàn)形式的內(nèi)容,一些學(xué)者將其簡單地歸于匯編作品,并沒有正確認識人工智能生成內(nèi)容的性質(zhì)與特征。同時,在進行選擇與編排的過程中,作為實際操作者的人類并未有效參與,選擇與編排僅僅是人工智能自身程序、算法的運作,很難將這種生成內(nèi)容歸功于人類。

      第四,著作權(quán)法保護人工智能生成內(nèi)容并非國際立法趨勢。從各國著作權(quán)法相關(guān)規(guī)定來看,僅認可自然人和法人的作者地位。就目前國際立法情況來看,尚未有承認人工智能著作權(quán)法主體資格的例子出現(xiàn)。版權(quán)法體系中,英國、新西蘭、愛爾蘭版權(quán)法中規(guī)定了“計算機生成”作品(“computer-generated”works),用于保護沒有人類作者的作品⑩英國版權(quán)法規(guī)定見Copyright,Designs and Patents Act 1988,c.48,§9(3)(U.K.);新西蘭版權(quán)法規(guī)定見Copyright Act of 1994,§5(2)(a)(N.Z.);愛爾蘭版權(quán)法規(guī)定見Copyright and Related Rights Act 2000,pt.II,ch.2,§21(f)(Act No.28/2000)(Ir.)。。這些作品的版權(quán)歸屬于創(chuàng)作這類作品而進行必要安排的人??英國版權(quán)法規(guī)定見Copyright,Designs and Patents Act 1988,c.48,§9(3)(U.K.);新西蘭版權(quán)法規(guī)定見Copyright Act 1994,§5(2)(a)(N.Z.);愛爾蘭版權(quán)法規(guī)定見Copyright and Related Rights Act 2000,pt.II,ch.2,§21(f)(Act.No.28/2000)(Ir.)。。但其他國家和地區(qū)尚未進行類似規(guī)定。學(xué)界也對人工智能生成內(nèi)容的著作權(quán)法定性有爭議,例如,有觀點認為應(yīng)當否定人工智能生成內(nèi)容的著作權(quán),而讓其進入公有領(lǐng)域[34];有觀點認為人工智能構(gòu)成共同作者[40];有觀點認為人工智能是進行創(chuàng)作的工具,著作權(quán)可以歸于操作者、使用者[41]。對其進行保護,無疑有一些好處,例如,能夠回報投資者,鼓勵操作者和使用者的進行“創(chuàng)作”,使得利用人工智能進行生產(chǎn)內(nèi)容的人公開其利用人工智能的事實,人工智能相關(guān)市場也能得到激勵,但這種規(guī)定會導(dǎo)致對于投資、操作、使用者的過度回報,投資者通過出售人工智能、操作者通過增強自身專業(yè)聲譽、使用者通過對于生成內(nèi)容的后續(xù)利用已經(jīng)得到了足夠的回報。

      (二)鄰接權(quán)保護說之批判

      鄰接權(quán)的產(chǎn)生歸因于隨著傳播手段的多樣化以及科技進步,不對作品傳播者和非作品創(chuàng)造者進行保護將會極不公平[42]。我國著作權(quán)法規(guī)定的鄰接權(quán)主要有錄制者權(quán)、廣播組織權(quán)、表演者權(quán)、版式設(shè)計權(quán)。從鄰接權(quán)的創(chuàng)設(shè)原因以及主張鄰接權(quán)保護的理由來看,對人工智能生成內(nèi)容進行鄰接權(quán)保護并不合適。

      一方面,傳統(tǒng)鄰接權(quán)有其產(chǎn)生的獨特歷史原因。電影、錄音制品和廣播一般都是集體行為產(chǎn)生,由公司或公共機構(gòu)雇傭受過訓(xùn)練的人完成,使用傳統(tǒng)的作者權(quán)概念更為困難,無法確定具體的作者,《伯爾尼公約》對于電影作品所引發(fā)的各種爭議,導(dǎo)致錄音作品與廣播被排除在公約之外;因為表演的短暫性,沒人能夠竊取,觀眾限于場地因素人數(shù)較少,所以直到20世紀初,除了合同法與不正當競爭法,表演者幾乎不需要什么其他保護,后來由于“技術(shù)失業(yè)”,表演者開始尋求制止非法固定和傳播,但由于行動較晚、組織渙散,具有演繹性質(zhì)的表演者并沒有獲得類似作者的保護[43]。可見,鄰接權(quán)的規(guī)定,除了表演者,本質(zhì)上是因為作者身份認定困難所導(dǎo)致。因為這類作品一般涉及到巨大的資金投入,相關(guān)從事此類活動的主體(從主張保護的主體來看,都是從事相關(guān)活動的公司)必然提出主張。

      另一方面,主張鄰接權(quán)保護人工智能生成內(nèi)容的理由并不充分。從主張對人工智能生成內(nèi)容創(chuàng)設(shè)進行鄰接權(quán)保護的觀點來看,主要理由有:鄰接權(quán)類型開放,能根據(jù)需要增設(shè)[21];產(chǎn)業(yè)健康、持續(xù)發(fā)展、人工智能生成物的屬性和特點[22];立法成本低[23];激勵理論、穩(wěn)定市場[25]。應(yīng)當指出,鄰接權(quán)類型并非開放,而是涉及到國際著作權(quán)法保護水平的平衡,需要國際條約的支撐。如果我國創(chuàng)設(shè)了對于人工智能生成內(nèi)容的鄰接權(quán)保護,其他國家卻未對此進行規(guī)定,那么將造成我國需要根據(jù)國際公約保護其他國家權(quán)利人的人工智能生成內(nèi)容,其他國家卻無需對我國權(quán)利人的權(quán)利進行保護,保護失衡將嚴重損害我們國家和國民的利益?;诖死碛桑⒎ǔ杀镜目剂恳矊⑹セA(chǔ)。而其他諸如產(chǎn)業(yè)健康、持續(xù)發(fā)展、激勵理論以及穩(wěn)定市場等理由,本質(zhì)上都屬于功利主義理論,與傳統(tǒng)上設(shè)置鄰接權(quán)的初衷并不吻合。人工智能生成內(nèi)容并非如表演者權(quán)那樣由自然人進行演繹,也非如錄制者權(quán)以及廣播組織權(quán)那般為解決“作者”認定困難而創(chuàng)設(shè),人工智能生成內(nèi)容并不存在“作者”認定問題。

      三、人工智能基礎(chǔ)數(shù)據(jù)的類型探析及其分類保護

      如上文所述,人工智能本身無法作為作者受到著作權(quán)法保護,人工智能的投資者、操作者、使用者通過出售人工智能、增強專業(yè)聲譽、對生成內(nèi)容的后續(xù)利用,已經(jīng)得到了足夠的回報,對人工智能生成內(nèi)容進行再次賦權(quán),將其歸屬于上述人類主體,會導(dǎo)致過度回報的發(fā)生,故人工智能生成內(nèi)容無法也不能作為作品或者鄰接權(quán)客體而受到著作權(quán)法保護。在人工智能生成內(nèi)容的生產(chǎn)過程中,確實需要著作權(quán)的保護,但這種保護,是對于作為生成內(nèi)容的前提的既有基礎(chǔ)數(shù)據(jù)的保護,學(xué)界在討論人工智能涉著作權(quán)法保護時,存在一些本末倒置的傾向。同時,根據(jù)基礎(chǔ)數(shù)據(jù)所歸屬的不同種類,其所受到的法律保護不限于著作權(quán)法。

      (一)人工智能基礎(chǔ)數(shù)據(jù)的類型探析

      人工智能是一種對人類各種智能活動進行學(xué)習(xí)、模仿并延伸的技術(shù),其模仿人類的思維方式和智力活動,使得機器人能夠做到只有人類才能完成的各類行為。從人工智能的技術(shù)特性來看,無論是各種識別技術(shù),還是其他系統(tǒng)和規(guī)劃設(shè)計,技術(shù)原理在于對輸入數(shù)據(jù)在自動加工的基礎(chǔ)上進行各類擬人化行動。人工智能生成內(nèi)容的前提是必須進行數(shù)據(jù)輸入,對于人類智能的學(xué)習(xí)、模仿和延伸,需要如同人類一樣盡可能學(xué)習(xí)既有的各種知識,無論是文字、數(shù)字還是聲音、圖像。人工智能生成內(nèi)容是經(jīng)機器計算加工的數(shù)據(jù),在基礎(chǔ)數(shù)據(jù)輸入的基礎(chǔ)上,能夠根據(jù)配置的算法和規(guī)則,利用輸入的數(shù)據(jù)進行再次加工,是一種對于基礎(chǔ)數(shù)據(jù)的再次加工。在人工智能開發(fā)階段,需要考慮人工智能輸入的既有基礎(chǔ)數(shù)據(jù)行為的定性。從基礎(chǔ)數(shù)據(jù)構(gòu)成來看,一般分為公有領(lǐng)域的數(shù)據(jù)、受著作權(quán)法保護數(shù)據(jù)、個人數(shù)據(jù)、大規(guī)模的數(shù)據(jù)集合。

      1.公有領(lǐng)域的數(shù)據(jù)

      2017年5月,人工智能機器人——微軟公司開發(fā)的小冰,所“創(chuàng)作”的詩集《陽光失了玻璃窗》問世。詩集要滿足著作權(quán)法意義上的獨創(chuàng)性要求,不能構(gòu)成對于受版權(quán)保護作品的實質(zhì)性相似,也不能與公有領(lǐng)域的既有作品雷同,故在進行“創(chuàng)作”的過程中,微軟小冰需要避開這些雷區(qū)。文學(xué)藝術(shù)作品所具有的傳承屬性,導(dǎo)致經(jīng)典的作品雖然已經(jīng)進入公有領(lǐng)域,但歷經(jīng)千年而不衰,后續(xù)作品免不了引經(jīng)據(jù)典,而必然需要作為公有領(lǐng)域數(shù)據(jù)的不受著作權(quán)法保護作品的輸入。與此相似的還有原本不構(gòu)成作品的各類公有領(lǐng)域數(shù)據(jù)。2016年3月,阿爾法與著名圍棋棋手李世石對決,以4比1的總比分獲勝,轟動一時。阿爾法所輸入的既有的圍棋下棋方法、棋譜,是關(guān)于下棋的方法、思路、算法,并不受著作權(quán)法保護,也屬于公有領(lǐng)域的數(shù)據(jù)。

      2.受著作權(quán)法保護數(shù)據(jù)

      人工智能一般是作為商業(yè)化運作的客體,在進行基礎(chǔ)數(shù)據(jù)的輸入時,無法避免會盡可能選擇商業(yè)價值被市場所廣泛認可的內(nèi)容的輸入,而被市場所廣泛認可的內(nèi)容,大多受到著作權(quán)法保護。本文試以換臉軟件ZAO為例??相關(guān)報道見趙青.ZAO事件再次拷問網(wǎng)絡(luò)安全[J].法人,2019(9):66–67.;王四新.“ZAO”背后的社會管理難題[N].環(huán)球時報,2019-09-02.;陶鳳.ZAO,造臉容易成勢難[N].北京商報,2019-09-02。。ZAO軟件的技術(shù)原理在于使用人工智能技術(shù),利用用戶的人臉替換軟件中既有的視頻和表情中的人臉,使用者僅需要自己的一張正臉照,在經(jīng)過軟件平臺驗證真實性后,即可以用自己的面容替換出演經(jīng)典電影片段的明星的面容,也可以用自己的面容替換制作網(wǎng)絡(luò)上的表情包中人物的面容。從該軟件的技術(shù)原理來看,涉及到受著作權(quán)法保護的表情包以及電影片段的保護,這些輸入軟件中的既有數(shù)據(jù)內(nèi)容,因市場認可和用戶需求,具有很強的時效性,大部分處在著作權(quán)法保護期限之內(nèi)。

      3.個人數(shù)據(jù)

      人工智能基礎(chǔ)數(shù)據(jù)也包括了個人數(shù)據(jù)。同樣,以換臉軟件ZAO為例,軟件使用者使用該軟件時,通常需要上傳自己的正面照,以切換表情包和經(jīng)典電影中的角色的面容。在軟件引發(fā)爭議的協(xié)議中,具有要求用戶同意授予軟件運營商在全球范圍內(nèi)完全免費使用的權(quán)利的內(nèi)容,并要求用戶接受該權(quán)利是不可撤銷的、永久的和可轉(zhuǎn)授權(quán)再許可的,這些協(xié)議內(nèi)容引發(fā)了用戶、輿論和政府的關(guān)注。迫于輿論壓力,軟件運營商在之后修改了該協(xié)議條文,但仍然保留了要求用戶同意網(wǎng)絡(luò)信息傳播的內(nèi)容??新華網(wǎng)的報道見http://www.xinhuanet.com/legal/2019-09/02/c_1124948273.htm,訪問于2019年11月9日。?見《伯爾尼公約》第9條第2款、TRIPs協(xié)定第13條、《世界貿(mào)易組織版權(quán)條約》第10條。。人工智能技術(shù)在現(xiàn)階段和可以預(yù)見的將來,投資開發(fā)者致力于實現(xiàn)其商業(yè)價值,這離不開用戶的實際體驗,故用戶使用人工智能過程中的互動必不可少,包括面容、消費習(xí)慣、作息習(xí)慣、語音等等個人數(shù)據(jù)都將進入人工智能的口袋。

      4.大規(guī)模的數(shù)據(jù)集合

      大規(guī)模的數(shù)據(jù)集合,是指無法在一定時間內(nèi)用常規(guī)機器和軟硬件工具對其進行感知、獲取、管理、處理和服務(wù)的數(shù)據(jù)集合[44],實踐中一般稱為大數(shù)據(jù)。在數(shù)字網(wǎng)絡(luò)時代,得益于“人、機、物”三元世界的彼此交融,產(chǎn)生了在互聯(lián)網(wǎng)上可獲得的大數(shù)據(jù)。當前,一些購物利用云計算技術(shù),根據(jù)消費者的各種消費習(xí)慣和消費傾向,制作了大量針對消費者喜好的推文、頁面、視頻,促進了商品銷售,并獲得了巨大的商業(yè)利益。有學(xué)者認為,與大數(shù)據(jù)不同,數(shù)據(jù)庫有結(jié)構(gòu)化的要求,但沒有規(guī)模的要求,主張對大數(shù)據(jù)賦予有限排他權(quán)[45]。

      (二)對于人工智能基礎(chǔ)數(shù)據(jù)的法律分類保護

      公有領(lǐng)域的數(shù)據(jù),例如四書五經(jīng)、唐詩、宋詞、元曲、明清小說,因年代久遠,作者逝去,已經(jīng)無需繼續(xù)獲得著作權(quán)法保護,進入公有領(lǐng)域能發(fā)揮作品的作用。而對于受版權(quán)保護的數(shù)據(jù),也即作品,則需要探討人工智能投資、操作、使用者在輸入過程中的性質(zhì),進行分別規(guī)制。對于個人隱私數(shù)據(jù),則需要賦予個人對于其隱私數(shù)據(jù)更為能動的權(quán)利。而在大數(shù)據(jù)時代,無獨創(chuàng)性的數(shù)據(jù)集合的經(jīng)濟價值日益明顯,也有受法律保護的需要。

      1.對于受著作權(quán)保護數(shù)據(jù)的保護

      我國《著作權(quán)法》規(guī)定了12種合理使用情形,《信息網(wǎng)絡(luò)傳播權(quán)保護條例》規(guī)定了8種數(shù)字環(huán)境中適用合理使用的情形。根據(jù)《伯爾尼公約》、TRIPs協(xié)定以及WCT規(guī)定,對于著作權(quán)的限制和例外,需要滿足“三步檢驗法”,即只能在特殊情況下做出、與作品正常利用不相沖突、沒有不合理地損害權(quán)利人合法權(quán)益??新華網(wǎng)的報道見http://www.xinhuanet.com/legal/2019-09/02/c_1124948273.htm,訪問于2019年11月9日。?見《伯爾尼公約》第9條第2款、TRIPs協(xié)定第13條、《世界貿(mào)易組織版權(quán)條約》第10條。。三部檢驗法是判斷是否構(gòu)成合理使用的最終判斷標準。

      從人工智能投資開發(fā)者的行為來看,其將受著作權(quán)法保護數(shù)據(jù)輸入人工智能的行為,屬于商業(yè)利用作品的行為,目的在于盡可能掌握現(xiàn)有的數(shù)據(jù),使得自己的人工智能產(chǎn)品獲得市場的認可,商業(yè)利用的屬性無疑并非在特殊情況下作出,損害了權(quán)利人的經(jīng)濟利益,顯然并不符合三步檢驗法的要求。在這種情況下,就要求投資開發(fā)者在利用作品作為基礎(chǔ)數(shù)據(jù)之前,獲得著作權(quán)人的授權(quán),并支付相應(yīng)的許可費用。人工智能的使用者如果是企業(yè)用戶,如果其使用的目的在于企業(yè)經(jīng)營,也會與作品的正常使用相沖突,也需要獲得著作權(quán)人的授權(quán)。

      作為人工智能使用者的個人,如果純粹為了個人學(xué)習(xí)、研究、欣賞,將一些受著作權(quán)保護作品輸入人工智能,但未將其廣泛傳播,未將其用于商業(yè)化用途,可以構(gòu)成合理使用。但這種情況下,需要特別注意人工智能對于各種數(shù)據(jù)的儲存方式。個人上傳的受著作權(quán)法保護作品,是否能夠避免其他用戶接觸,是否能夠避免被人工智能運營平臺挪用,關(guān)乎著作權(quán)人的利益。由于人工智能投資開發(fā)者在人工智能銷售中取得了商業(yè)利益,應(yīng)當對其法律責(zé)任有適當?shù)膬A斜,應(yīng)當對人工智能投資開發(fā)者規(guī)定對用戶進行適當?shù)厍謾?quán)可能提醒的責(zé)任。

      2.對于個人數(shù)據(jù)的保護

      對于個人數(shù)據(jù)的保護,國際上已經(jīng)進行了探索,并形成了一些概念,制定了一些規(guī)則。歐盟2018年5月頒布了《通用數(shù)據(jù)保護條例》(GDPR),可以借鑒的主要制度有個人數(shù)據(jù)的定義、知情同意機制、處罰規(guī)定等。例如,GDPR將個人數(shù)據(jù)(personal data)定義為個人可以被識別的電子數(shù)據(jù),無論是已經(jīng)被識別的或者是能夠被識別的,只要是能夠直接或間接識別一個人?? Art.4 No.1 GDPR。? See Rec.6 GDPR。?See Rec.7 GDPR。?見《民法總則》第123條、第127條。。對于一般數(shù)據(jù)條例規(guī)定了信息處理的合法情形,對于特殊個人數(shù)據(jù)則必須獲得信息主體的“明確同意”?? Art.4 No.1 GDPR。? See Rec.6 GDPR。?See Rec.7 GDPR。?見《民法總則》第123條、第127條。。條例規(guī)定,個人信息使用許可必須“容易識別、通俗易懂”,不得進行捆綁同意和默示推定?? Art.4 No.1 GDPR。? See Rec.6 GDPR。?See Rec.7 GDPR。?見《民法總則》第123條、第127條。。同時,條例賦予信息主體隨時撤銷權(quán),但該撤銷權(quán)不溯及既往。

      人工智能的投資開發(fā)者,一般為掌握先進技術(shù)的大型企業(yè),為使企業(yè)保持先進地位,必然盡可能的掌握用戶的使用、消費、思考習(xí)慣等數(shù)據(jù),在使用人工智能的過程中,也必然將一些隱私數(shù)據(jù)上傳。也以ZAO軟件為例,用戶將面容拍照上傳平臺,并不代表企業(yè)能夠獲得用戶的著作權(quán)、肖像權(quán)等權(quán)利,如要將用戶上傳數(shù)據(jù)進行二次利用,需要用戶的知情和明確同意??紤]到數(shù)字經(jīng)濟在世界各國的競爭中發(fā)揮著舉足輕重的作用,在制度的具體設(shè)置時,應(yīng)當考慮個人數(shù)據(jù)中的隱私保護與社會公眾整體利益的動態(tài)平衡,避免隱私強保護對于經(jīng)濟發(fā)展的反作用。

      3.對于無獨創(chuàng)性數(shù)據(jù)集合的法律保護

      基于數(shù)據(jù)與知識產(chǎn)權(quán)客體的相似性,學(xué)界存在用知識產(chǎn)權(quán)保護數(shù)據(jù)的觀點,主要有知識產(chǎn)權(quán)新型權(quán)利保護說、商業(yè)秘密保護說、鄰接權(quán)保護說,認為用民法保護的觀點有信息財產(chǎn)說、數(shù)據(jù)權(quán)說,還有一類觀點認為對大數(shù)據(jù)無需進行保護。鑒于我國《民法總則》同時規(guī)定了知識產(chǎn)權(quán)和數(shù)據(jù)保護,應(yīng)當認為這兩類權(quán)利或者利益是一種民事上的平等關(guān)系,而非包含關(guān)系,故本文認為用知識產(chǎn)權(quán)保護人工智能生成內(nèi)容已沒有討論余地,應(yīng)當在民法領(lǐng)域去探尋保護人工智能生成內(nèi)容基礎(chǔ)數(shù)據(jù)的空間?? Art.4 No.1 GDPR。? See Rec.6 GDPR。?See Rec.7 GDPR。?見《民法總則》第123條、第127條。。

      對于數(shù)據(jù)的財產(chǎn)性質(zhì),有三類觀點:第一類觀點認為其是一種信息財產(chǎn),主要的理由有:認為大數(shù)據(jù)是信息財產(chǎn)權(quán)客體,是一種數(shù)據(jù)資產(chǎn)[46];認為無法將大數(shù)據(jù)權(quán)利歸入傳統(tǒng)的物權(quán)或知識產(chǎn)權(quán)類型[47];第二類觀點認為,其是一種數(shù)據(jù)財產(chǎn),主要理由有:應(yīng)當明確企業(yè)對于數(shù)據(jù)資源的財產(chǎn)權(quán)利[48];以人格隱私權(quán)、財產(chǎn)權(quán)、知識產(chǎn)權(quán)為邏輯起點無法提供完善的保護路徑和滿足數(shù)據(jù)產(chǎn)業(yè)發(fā)展[49];對于數(shù)據(jù)無法適用簡單的財產(chǎn)權(quán)構(gòu)造[50];數(shù)據(jù)權(quán)利是具有財產(chǎn)權(quán)、人格權(quán)和國家主權(quán)屬性的新型民事權(quán)利[51]。第三種觀點否定數(shù)據(jù)的財產(chǎn)屬性,主要理由有:數(shù)據(jù)價值的實現(xiàn)依賴于其內(nèi)容、數(shù)據(jù)安全和自我保護、主體不確定、存在外部性問題、壟斷性的缺乏以及工具中立性,認為采用合同和民事一般侵權(quán)救濟以及違反保護他人法律的侵權(quán)救濟即可進行保護[52];認為賦權(quán)模式隱藏著邏輯漏洞與風(fēng)險,會制約相關(guān)行業(yè)發(fā)展,采取行為規(guī)制模式能更好地防控風(fēng)險,應(yīng)堅持社會控制、以合同為中心、動態(tài)的隱私保護,以實現(xiàn)公共利益與個人利益平衡[53]。

      從上述觀點來看,第一和第二類觀點除了理由有一些不同之外,只存在稱謂的差別,而沒有本質(zhì)的不同。鑒于民法總則已經(jīng)規(guī)定了民事主體對于“數(shù)據(jù)”的權(quán)益,鑒于法律概念的一致性,應(yīng)當對其采用數(shù)據(jù)權(quán)的稱謂更為適宜,以避免法律體系內(nèi)部在稱謂上的不協(xié)調(diào)。對于數(shù)據(jù)權(quán)利否定說,本文作者認為,鑒于大數(shù)據(jù)所投入的巨大人力物力,對其進行利用的巨大需求以及民法總則關(guān)于“數(shù)據(jù)”權(quán)益的規(guī)定,不對其進行保護顯然無法達到法律的正義要求,也不利于數(shù)據(jù)生產(chǎn)的良好商業(yè)秩序之構(gòu)建,更為合適的路徑還是應(yīng)當進行適當?shù)馁x權(quán),但處在公開狀態(tài)的沒有獨創(chuàng)性的大數(shù)據(jù)集合,在目前尚缺乏具體的有效法律保護手段,需要在對權(quán)利基礎(chǔ)和具體制度的研究和討論的基礎(chǔ)上,制定專門的數(shù)據(jù)法進行保護。

      結(jié)語

      學(xué)界在對人工智能與著作權(quán)保護進行討論時,應(yīng)當將重心從人工智能生成內(nèi)容上轉(zhuǎn)向人工智能所使用的基礎(chǔ)數(shù)據(jù)的法律保護,避免本末倒置。在對基礎(chǔ)數(shù)據(jù)進行法律保護時,應(yīng)當對各種數(shù)據(jù)根據(jù)性質(zhì)進行分類保護。對于受著作權(quán)保護作品要嚴格適用合理使用規(guī)則,對于個人數(shù)據(jù)應(yīng)當進行充分和嚴格地保護,對于大數(shù)據(jù)則需要立法進一步地討論其保護規(guī)則。人工智能生成內(nèi)容無需進行著作權(quán)法保護,在既有的各種法律規(guī)則之下,各類參與者已得到了適當?shù)幕貓螅瑹o需對其進行重復(fù)和過度的賦權(quán),而對于人工智能各類基礎(chǔ)數(shù)據(jù),如能進行合理和充分的法律保護,則能夠更好地促進文學(xué)藝術(shù)和科學(xué)產(chǎn)業(yè)的發(fā)展。

      猜你喜歡
      著作權(quán)法觀點人工智能
      新《著作權(quán)法》視域下視聽作品的界定
      2019:人工智能
      商界(2019年12期)2019-01-03 06:59:05
      人工智能與就業(yè)
      觀點
      數(shù)讀人工智能
      小康(2017年16期)2017-06-07 09:00:59
      論版權(quán)轉(zhuǎn)讓登記的對抗效力——評著作權(quán)法修改草案(送審稿)第59條
      下一幕,人工智能!
      論對“一臺戲”的法律保護——以《德國著作權(quán)法》為參照
      業(yè)內(nèi)觀點
      營銷界(2015年22期)2015-02-28 22:05:04
      新銳觀點
      清風(fēng)(2014年10期)2014-09-08 13:11:04
      中卫市| 陕西省| 牟定县| 南皮县| 四平市| 葫芦岛市| 宁海县| 连云港市| 庆城县| 玉田县| 台江县| 大英县| 张掖市| 小金县| 融水| 且末县| 老河口市| 满洲里市| 鸡泽县| 江西省| 和龙市| 朝阳区| 射阳县| 牟定县| 井研县| 剑河县| 大荔县| 麻城市| 视频| 灵川县| 梨树县| 顺昌县| 喜德县| 呼图壁县| 凌海市| 连平县| 香格里拉县| 厦门市| 星子县| 绥芬河市| 仙居县|