• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      人工智能生成發(fā)明專利保護制度研究

      2023-05-30 04:46:31馮曉青郝明英
      湖南大學學報(社會科學版) 2023年2期
      關鍵詞:公共領域人工智能算法

      馮曉青 郝明英

      [摘要] 隨著人工智能技術不斷發(fā)展,人工智能作為“創(chuàng)新主體”生成發(fā)明對現(xiàn)行專利制度提出了巨大挑戰(zhàn),如人工智能生成發(fā)明是否屬于可專利主題、發(fā)明人主體資格與人工智能生成發(fā)明權利歸屬如何確定、人工智能生成發(fā)明專利權保護對公共利益是否可能產生損害等。在客體制度中,人工智能生成發(fā)明屬于可專利主題,能夠滿足新穎性、創(chuàng)造性、實用性要求,其中在創(chuàng)造性判斷中有必要根據人工智能特點適當調整“本領域普通技術人員”的判斷標準。在主體制度中,發(fā)明人需為“自然人”,在激勵理論下探討人工智能生成發(fā)明的權利歸屬,需要綜合衡量各主體的作用、貢獻度以及激勵程度來進行確認。在限制制度中,有必要考慮人工智能生成發(fā)明專利權保護期的設定、充分公開義務的加強以及防止權利濫用措施。

      [關鍵詞] 人工智能;發(fā)明專利;可專利性;權利歸屬;算法;公共領域

      [中圖分類號] ?D923.4[文獻標識碼] A[文章編號] 1008-1763(2023)02-0143-10

      Research on the Patent Protection System

      for Inventions Generated by AI

      FENG Xiao-qing,HAO ?Ming-ying

      (Civil, Commercial and Economic Law School, CUPL, Beijing100088,China)

      Abstract:Artificial intelligence(AI)-generated inventions pose great challenges to the patent legal system, such as whether AI-generated inventions belong to the patentable subject, how to determine the inventorship and ?ownership of the right of AI-generated inventions, and whether the damage to the public interest may be caused by the patent protection of AI-generated inventions. In the patent object system, the invention generated by AI is the patentable subject, which can meet the requirements of novelty, creativity and practicability. In the judgment of creativity, it is necessary to adjust the standard of “ordinary technician in this field” appropriately according to the characteristics of AI. In the patent subject system, the inventor should be “human beings”. Under the incentive theory, the attribution of rights genenated by Al inventions requires a comprehensive assessment of the role and contribution of each subject and the degrere of incentive required. In the patent restriction system, it is necessary to consider the setting of patent right protection period, the strengthening of full disclosure obligation and the measures to prevent the abuse of rights.

      Key words: artificial intelligence; invention patent; patentability; attribution of rights; algorithm;public domain

      一問題的提出

      作為引領新一輪科技革命和產業(yè)變革的前瞻性技術,人工智能成為我國科技發(fā)展的戰(zhàn)略性部署。人工智能技術發(fā)展對知識產權法律制度提出了挑戰(zhàn),知識產權保護與制度完善對于發(fā)展人工智能技術也至關重要。我國《專利法》中對于“智力活動規(guī)則和方法”、社會倫理道德的理解決定人工智能發(fā)明能否被納入專利客體范疇,發(fā)明人資格的探討亦會影響人工智能生成發(fā)明的專利保護。

      根據人工智能技術發(fā)揮作用的方式不同,人工智能相關創(chuàng)新成果涉及的專利問題可分為兩類,一類是人工智能技術的發(fā)明涉及的專利問題,另一類是人工智能生成的發(fā)明的專利保護問題。前者學界有多種表述方式,如“智能算法專利”“軟件專利”“計算機程序專利”等 ,本文稱之為“人工智能算法發(fā)明”,結合《專利審查指南》中有關涉及計算機程序發(fā)明的界定,人工智能算法發(fā)明指為解決發(fā)明提出的問題,全部或部分以人工智能算法為基礎,由此編制計算機程序,對計算機外部對象或者內部對象進行控制或處理的解決方案;[1]后者為人工智能生成發(fā)明,指的是以人工智能為技術手段,借助自身算法,通過對數(shù)據進行學習而生成的技術方案。本文研究對象為人工智能生成發(fā)明涉及的專利問題。

      隨著人工智能技術的不斷發(fā)展,人工智能將作為“創(chuàng)新主體”進行發(fā)明創(chuàng)造,其生成發(fā)明如何定性、是否可以獲得專利法的保護、人工智能是否可以作為權利主體,這些問題在目前專利法框架下難以直接回答。實踐中也已經產生諸多關于人工智能發(fā)明專利保護的法律問題,如DABUS(統(tǒng)一感知的自動引導設備,Device for the Autonomous Bootstrapping of Unified Sentience)案涉及發(fā)明人資格的討論。基于此,有必要對人工智能生成發(fā)明涉及的專利問題進行探討,并圍繞專利法價值目標與理論基礎,探索構建人工智能發(fā)明專利保護制度,包括客體制度、主體制度與限制制度等。

      二客體制度:人工智能生成發(fā)明

      “可專利性”的判斷

      近年來申請人Stephen Thaler(下稱Thaler)就人工智能DABUS生成發(fā)明向美國、歐盟、英國、以色列、南非、澳大利亞等國家和地區(qū)提出專利申請,美、歐、英等專利局均以“發(fā)明人需要為自然人”為理由駁回其專利申請,專利申請并未進入實質審查階段,也就無法涉及人工智能生成發(fā)明是否可獲得專利保護的實踐討論。有關人工智能生成發(fā)明的可專利性目前并無定論。探討這一問題,首先需要明確人工智能生成發(fā)明是否屬于可專利的客體范疇,能否滿足新穎性、創(chuàng)造性、實用性(以下簡稱“三性”)要求。

      (一)人工智能發(fā)明屬于可專利主題

      根據我國《專利法》的規(guī)定,某一技術方案要獲得專利法的保護,需要屬于可專利主題,符合《專利法》第二條的定義,同時又不屬于第五條、第二十五條規(guī)定的排除領域。人工智能生成發(fā)明需要借助程序算法對數(shù)據進行學習后生成技術方案,如DABUS在學習相關文獻基礎上自動生成的兩個技術方案,一種基于分形食物容器和一種以新穎且富有創(chuàng)意的方式閃爍以吸引注意力的警示燈(見圖1和圖2)。分析人工智能生成發(fā)明是否屬于可專利主題,關鍵在于明確其是否屬于技術方案,是否屬于《專利法》第五條第一款規(guī)定的“違反法律、社會公德或者妨害公共利益”的情形,并且不屬于其第二十五條第一款第二項規(guī)定的“智力活動的規(guī)則和方法”。

      人工智能本質是一種計算機程序,在算法的指揮下通過數(shù)據學習模仿人類思維,從而解決問題或者制定決策。數(shù)據是人工智能的學習素材,算法是人工智能的智慧源泉和“指導手冊”,為計算機提供行動指令。如上所述,人工智能涉及的專利問題,包括人工智能算法發(fā)明與人工智能生成發(fā)明的專利問題,人工智能算法發(fā)明必然涉及程序算法,而人工智能生成發(fā)明可以包含程序算法,也可能不包含程序算法。若為后者,則一般不涉及智力活動規(guī)則和方法的討論;若包含,則需要進一步探討其是否屬于智力活動規(guī)則和方法而排除在專利法保護范圍之外。以下將進一步討論。

      1.人工智能生成發(fā)明并不必然屬于智力活動的規(guī)則和方法

      根據《專利法》第二十五條第一款第二項規(guī)定,智力活動的規(guī)則和方法不能被授予專利權。程序算法是否屬于智力活動規(guī)則和方法,能否獲得專利法保護一直存在較大爭議。從計算機程序的知識產權保護歷程來看,最初歐美等國家和地區(qū)反對以專利法來保護計算機程序。例如,Gottschalk v. Benson案明確指出數(shù)學算法不具有可專利性。不過,該判決也進一步明確,程序的專利法保護具有不確定性,其與政策密切相關。

      Gottschalk, commissioner of patents v. Benson et al.,409 U.S. 63 (1972).與此同時,各國以及國際公約開始以著作權法保護計算機程序,如1976年的美國《版權法》、1994年的《與貿易有關的知識產權協(xié)定》等。由于著作權法并不能保護計算機程序的核心算法,只能保護表達,對于計算機產業(yè)走在世界前列的美國而言,保護力度明顯不足,故其率先探索程序的專利法保護。在經過“In re Freeman”In re Freeman,573 F.2d 1237 (1978).“Diamand v. Diehr”Diamand v. Diehr, 450 U.S. 175 (1981).“In re Alappat”In re Alappat,33 F.3d 1526 (1994).等一系列司法實踐之后,美國在1995年修改專利審查指南時確認,如果程序中的算法用于實踐,能夠產生“有用、具體、有形的后果”,該程序就可以獲得專利法保護。[2]我國《專利審查指南》一直強調計算機程序需要與硬件結合方屬于可專利主題。2017年《專利審查指南》修訂,明確計算機程序本身并不等于涉及計算機程序的發(fā)明,后者是針對技術問題的解決方案。2019年《專利審查指南》修訂時,在第二部分第九章增加第6節(jié),明確“包含算法特征或商業(yè)規(guī)則和方法特征”的發(fā)明專利申請審查規(guī)定,逐步認可算法發(fā)明的專利保護。

      之所以各國對程序算法的專利保護持較為謹慎的態(tài)度,主要是因為程序算法與數(shù)學計算方法密切相關,容易理解為具有抽象意義的規(guī)則。智力活動的規(guī)則和方法不能被授予專利權這一規(guī)定的目的在于防止針對智力活動規(guī)則的壟斷,阻礙技術創(chuàng)新,因此程序算法在獲得專利保護過程中往往遇到障礙。實際上,程序算法并不必然是純粹的數(shù)學算法,其可以與具體的技術特征相聯(lián)系、解決技術問題。根據《專利審查指南》第二部分第一章4.2的規(guī)定,如果一項權利要求僅涉及智力活動的規(guī)則和方法,不構成技術方案,不能被授予專利權,如計算機的語言及計算規(guī)則、計算機程序本身。如果一項權利要求除智力活動的規(guī)則和方法外,還包括技術特征,則不能排除其獲得專利保護的可能性。此時,需要對程序算法進行分類,區(qū)分抽象算法與具體算法,也有學者稱為抽象思想與具體技術。[3]計算機程序中的抽象算法屬于思維層面,是表述、判斷、記憶的規(guī)則和方法,不屬于可專利主題;具體算法則將規(guī)則和方法與具體技術特征相結合,達到一定技術效果,可獲得專利保護。由此可見,抽象與具體的界分在進行智力活動規(guī)則和方法的判斷中至關重要,但這一界分的標準并非是清晰明確的。

      在界分抽象算法與具體算法技術,對智力活動規(guī)則和方法與具體技術特征進行關聯(lián)過程中,有學者指出,某一規(guī)則、方法具有技術功能或者與物質介質相聯(lián)系,符合專利的實質性要件,具有獲得專利授權的可能。[4]需要注意的是,僅提出以計算機為載體/介質來實現(xiàn)某一算法/方法,將算法與計算機這一物質介質相聯(lián)系,并不能說明其為具體算法,具體算法需要解決技術問題、產生技術效果。正如Alice案判決指出,該方法聲明其只需要通過計算機實現(xiàn),這一說明未能將抽象概念轉化為符合專利條件的發(fā)明。

      Alice Corp. v. CLS Bank International, 573 U.S. 208 (2014).若將程序算法與計算機相結合,通過計算機執(zhí)行的程序算法解決技術問題,則屬于具體算法,具有技術特征,構成技術方案,屬于可專利主題。如在“信號處理方法、數(shù)據處理方法及裝置”(CN200910150720)的專利申請中,其將程序算法應用到具體技術領域,可被授予專利權。根據《專利審查指南》的規(guī)定,將程序算法運用在工業(yè)控制、數(shù)據處理、計算機系統(tǒng)性能改進等領域,可構成技術方案,屬于專利法保護的客體。

      2.解決技術問題的人工智能生成發(fā)明屬于技術方案

      《專利法》第二條第二款規(guī)定,發(fā)明是對產品、方法或者其改進所提出的新的“技術方案”。探討人工智能生成發(fā)明的可專利性,在專利申請與審查階段,若要求保護的權利要求作為整體不屬于智力活動的規(guī)則和方法,則需要進一步分析其是否屬于技術方案。根據《專利審查指南》第二部分第一章對技術方案的定義,其是“對要解決的技術問題所采取的利用了自然規(guī)律的技術手段的集合”。

      探討人工智能生成發(fā)明是否屬于技術方案,要從整體上看發(fā)明中記載的全部特征,是否采用了利用自然規(guī)律的技術手段,并由此獲得技術效果。對于不包含程序算法的人工智能生成發(fā)明,其判斷方法與普通專利并不存在太大區(qū)別;對于包含程序算法的人工智能生成發(fā)明,結合《專利審查指南》對“包含算法特征或商業(yè)規(guī)則和方法特征的發(fā)明專利申請審查”的相關規(guī)定,需要分析其是否屬于可專利主題,判斷相關程序算法是否屬于具體算法、能夠解決具體的技術問題。

      3.人工智能生成發(fā)明與社會公德

      由于人工智能具有模仿人類思維的特點,對于其自動生成發(fā)明的過程可能存在有關倫理的討論,即《專利法》第五條所列出的是否屬于違反法律、社會公德或者妨害公共利益的發(fā)明創(chuàng)造。人工智能生成發(fā)明是否存在第五條所列情形的判斷與普通發(fā)明并不存在差別。當涉及算法時,需要特別考慮程序算法帶來的倫理與社會公德、公共利益問題。

      人工智能生成發(fā)明涉及的倫理問題主要包括兩個層面,一是人工智能生成發(fā)明對人和公共利益的影響與妨礙問題,如發(fā)明創(chuàng)造涉及對人身或者財產的損害,發(fā)明創(chuàng)造的實施對環(huán)境、資源、公眾健康的損害,這一問題在專利審查時會考慮,此時的發(fā)明不能被授予專利權。二是人工智能發(fā)明專利涉及算法,由算法“歧視”帶來的一系列不平等問題。[5]針對這一問題,在專利審查中通常難以判斷。但是,不能因為可能存在的社會公德風險直接否認涉及算法的人工智能生成發(fā)明的可專利性。當人工智能生成發(fā)明對社會公德、公共利益具有現(xiàn)實、緊迫威脅時,應避免其獲得專利法保護;當這種威脅僅具有潛在可能性時,不應對其加以限制,仍應結合具體技術問題、具體技術領域進行分析。

      (二)人工智能生成發(fā)明對“三性”的挑戰(zhàn)與標準判斷

      明確人工智能生成發(fā)明屬于可專利主題之后,需要進一步審查其是否能夠滿足“三性”的要求,這是判斷技術方案能否被授予專利權的前提。人工智能生成發(fā)明的過程包含大量的數(shù)據學習,其對數(shù)據的收集與分析能力較強,對人力檢索現(xiàn)有技術以判斷新穎性提出了挑戰(zhàn);同時,人工智能在跨學科、跨技術領域的技術分析與創(chuàng)新能力遠超某一領域普通技術人員的水平,對創(chuàng)造性標準的判斷亦提出了挑戰(zhàn)。

      第一,實用性標準判斷。專利審查中,需要進行實用性審查,即發(fā)明是否能夠在產業(yè)上制造或使用(再現(xiàn)性),并產生積極效果。再現(xiàn)性要求所屬技術領域人員能夠重復實施為解決技術問題采用的技術方案,且這種重復實施不得依賴隨機因素。就發(fā)明需產生積極效果而言,人工智能生成發(fā)明與普通發(fā)明專利審查不存在差異,實用性標準在人工智能生成發(fā)明審查中并不存在適用上的障礙。但基于算法運算與數(shù)據學習,人工智能有可能以較低成本生成大量發(fā)明,此時需要考慮這些發(fā)明的質量以及賦予專有權保護是否會影響“知識共享”?;趯θ斯ぶ悄苡锌赡苌珊A堪l(fā)明的擔憂,有學者建議可以在實用性標準審查時采用更為嚴格的標準,如在特定行業(yè)中的制造、特定產品上的使用。[6]筆者認為,基于目前人工智能技術發(fā)展水平以及應用現(xiàn)狀,對實用性標準的審查在人工智能生成發(fā)明與普通發(fā)明之間不應存在不同,或者目前尚不存在進行差異化審查的現(xiàn)實需求,若適用更為嚴格的標準,需要在對人工智能生成發(fā)明的數(shù)量、質量以及產業(yè)使用情況進行充分調研與論證基礎上,再進行相應調整。

      第二,新穎性標準判斷。新穎性要求發(fā)明不屬于現(xiàn)有技術,即在申請日以前不為國內外公眾所知。在發(fā)明的新穎性審查與判斷中,是否屬于現(xiàn)有技術,主要以審查員的檢索為限。人工智能以算法為基礎,具有超強的數(shù)據挖掘與分析能力,其生成發(fā)明的過程可以充分規(guī)避現(xiàn)有技術,從而符合新穎性要求。這種對現(xiàn)有技術的收集與分析能力,是人力所不能及的,在由審查員“人工”進行審查時,無疑會增加新穎性的判斷難度。此時,需要明確對“現(xiàn)有技術”檢索與分析的范圍。對新穎性的判斷難度是人類與人工智能在檢索能力上的差別造成的,并不意味著人工智能生成發(fā)明不能滿足新穎性的要求,只不過人工智能生成發(fā)明的特點對現(xiàn)有新穎性的審查與判斷帶來了困惑。為解決這一問題,將人工智能檢索引入專利新穎性審查作為輔助判斷工具,不僅能夠解決人工智能生成發(fā)明新穎性判斷的問題,同時亦能夠在審查自然人發(fā)明的新穎性之中發(fā)揮作用,彌補人力檢索的不足。

      第三,創(chuàng)造性標準判斷。創(chuàng)造性要求發(fā)明與現(xiàn)有技術相比,具有突出的實質性特點與顯著的進步。前者指對本領域普通技術人員而言,發(fā)明是非顯而易見的,即在現(xiàn)有技術基礎上不是僅通過邏輯分析、推理、有限實驗就可以得到的;后者指與現(xiàn)有技術相比能夠產生有益的技術效果。創(chuàng)造性判斷固然以“本領域普通技術人員”為視角,但在具體審查實踐中仍然由審查員來進行辨別。與新穎性標準判斷相同,人力的信息獲取與處理能力遠低于人工智能。由于“人”的學習能力以及專業(yè)領域的限制,現(xiàn)有關于創(chuàng)造性審查標準均指出是“本領域”或者“所屬技術領域”。對于人工智能而言,其進行跨學科、跨領域的學習與組合發(fā)明相對容易,這就打破了“人”的學科、知識局限性,本領域普通技術人員的理性人假設失去適用空間,[7]也對創(chuàng)造性標準的判斷帶來了挑戰(zhàn)。對此,可探索更高的判斷基準,不以“本領域普通技術人員”為限。

      綜上,人工智能生成發(fā)明對專利制度提出了一系列挑戰(zhàn),在審查人工智能生成發(fā)明的可專利性時,可以從智力活動規(guī)則與方法、技術方案、社會公德三個層面分析,而后再進行“三性”的評價。判斷人工智能生成發(fā)明是否屬于智力活動的規(guī)則與方法時,只要涉及程序算法的人工智能生成發(fā)明是具體算法,用以解決具體技術問題并產生相應的技術效果,則屬于技術方案,應納入可專利的客體范圍;在社會公德與公共利益層面的審查方面,應考慮人工智能生成發(fā)明的實施或使用是否具有現(xiàn)實而緊迫的威脅,若僅因為發(fā)明創(chuàng)造可能被濫用而妨害公共利益,則不能當然地拒絕授予專利權。對于人工智能生成發(fā)明“三性”的判斷,需特別關注人工智能對新穎性與創(chuàng)造性判斷提出的挑戰(zhàn)。在實踐中,可將人工智能檢索引入專利新穎性審查作為輔助判斷工具,對創(chuàng)造性標準的判斷也可以考慮不以“本領域普通技術人員”為限。此外,對人工智能生成發(fā)明可專利性的判斷,需要結合法律規(guī)定、產業(yè)實踐、倫理道德等進行綜合評價。

      三主體制度:人工智能生成發(fā)明的權利歸屬

      人工智能生成發(fā)明可專利性的判斷為專利申請中的實質審查內容,在此之前還需要進行形式審查,包括發(fā)明人主體資格,這也是目前人工智能生成發(fā)明申請專利保護首先面臨的障礙。依據我國現(xiàn)行《民法典》《專利法》等的規(guī)定,人工智能無法作為發(fā)明人。上文提及DABUS生成技術方案在世界各地進行的專利申請與訴訟結果也顯示,不同國家對于人工智能的發(fā)明人主體資格存在不同觀點。從知識產權法哲學理論角度分析,比較有影響力的學說,如“財產權勞動學說”“人格理論”“激勵理論”等,在解釋人工智能發(fā)明人主體資格時也面臨顛覆性的挑戰(zhàn)。隨著人工智能技術的應用,有必要從理論基礎、專利法價值目標、技術與產業(yè)發(fā)展等多個角度探討人工智能生成發(fā)明的權利歸屬,以建立能夠滿足保護權利、激勵創(chuàng)新、促進社會技術發(fā)展等三重目標的人工智能生成發(fā)明專利保護主體制度。

      (一)各國對于發(fā)明人主體資格存在的爭議

      有關人工智能發(fā)明人主體資格的探討,DABUS案提供了全新的實證分析與研究素材。正如Thaler的法律團隊表示,他們的目的是測試專利體系的邊界,并推動專利制度的改革。DABUS生成兩項發(fā)明后,Thaler于2018年開始向歐盟、美國、英國、以色列等國家和地區(qū)專利局提交了專利申請,其為專利申請人,DABUS為發(fā)明人。此后部分國家專利局和法院作出的對于DABUS能否作為發(fā)明人的決定與判決引發(fā)了激烈討論,核心法律問題主要有兩個:一是發(fā)明人是否必須為自然人;二是人工智能生成發(fā)明能否被授予專利權。針對這兩個問題,不同國家有不同的回應。主要有三種觀點,其中主流觀點是反對人工智能作為發(fā)明人,少數(shù)國家支持人工智能可作為發(fā)明人,還有國家內部亦存在爭議,有待司法裁判進一步明確。

      1.反對將人工智能作為發(fā)明人的國家和地區(qū):美國、歐盟、澳大利亞

      2022年8月5日,美國聯(lián)邦巡回上訴法院聯(lián)邦巡回庭就人工智能是否可以作為專利申請的“發(fā)明人”或者“共同發(fā)明人”作出判決,認為只有自然人才具備發(fā)明人的資格。此前,美國專利商標局駁回了Thaler的專利申請,理由是該專利申請沒有自然人作為發(fā)明人,而根據美國《專利法》第100條的規(guī)定,“發(fā)明人”應限于“自然人”(human beings),機器無法成為發(fā)明人。在向地方法院以及上訴法院提起訴訟中,Thaler指出,為了鼓勵創(chuàng)新和公開披露,人工智能生成發(fā)明應可以申請專利,否則相關發(fā)明進入公共領域,不利于產業(yè)發(fā)展。對此,法院認為,這種有關政策的論點是推測性的,缺乏專利法的依據,

      Thaler v. Vidal,Case No. 21-2347 (Fed. Cir. Aug. 5, 2022).而法院的判決應“從法定文本開始”。

      Mohamad v. Palestinian Auth., 566 U.S. 449, 454 (2012).

      歐洲專利局對DABUS案的論證思路與美國基本一致,認為發(fā)明人的適格性是申請專利的必要條件,在未滿足這一形式要求時無須開展實質審查。關于專利申請權問題,Thaler認為其作為DABUS的擁有者和控制者,可以從發(fā)明人DABUS處承繼專利申請權。對此,歐洲專利局認為,人工智能不具有法定人格權,不能被雇傭,不能向人類轉移權利。歐洲專利局上訴委員會亦認為,發(fā)明人必須為具有法律行為能力的自然人。

      ECLI:EP:BA:2021:J000820.20211221.

      澳大利亞專利局也以“發(fā)明人需為自然人”為由駁回Thaler的專利申請。Thaler起訴后,澳大利亞聯(lián)邦法院于2021年7月判決支持了Thaler的主張,理由是發(fā)明人定義并未排除非自然人;將人工智能認定為發(fā)明人,有助于鼓勵發(fā)明與促進技術創(chuàng)新;由于Thaler擁有并控制DABUS,其可以享有發(fā)明,成為專利申請人。

      Thaler v. Commissioner of Patents, FCA 879 (2021).該案判決后,澳大利亞專利局提起上訴。2022年4月,聯(lián)邦法院合議庭作出裁決,在一致決定中,法官同意“授予專利的權利源于人類的努力”,并得出結論,考慮到專利法的文本規(guī)定、體系結構、歷史發(fā)展以及立法的政策目標,將DABUS確定為發(fā)明人不符合reg 3.2C(2)(aa)的規(guī)定。

      Commissioner of Patents v. Thaler, FCAFC 62 (2022).

      2.支持將人工智能作為發(fā)明人的國家:南非

      Thaler在美國提起的訴訟中將南非專利授權情況作為訴訟理由之一,法院也明確指出,外國專利局不能解釋美國專利法。以DABUS為發(fā)明人、Thaler為申請人的PCT專利申請于2021年5月進入南非國家階段,并于當年7月獲得專利授權。但是,南非沒有實質性的專利審查系統(tǒng),只要專利申請符合形式要件,填寫專利申請請求書、說明發(fā)明名稱及申請人與代理人,滿足最低的形式要求,即可獲得授權。因此,南非通過形式審查認可了人工智能的發(fā)明人身份,但DABUS生成發(fā)明在南非獲得的專利權可以受到任何第三方的無效挑戰(zhàn),這一專利權的法律狀態(tài)并不穩(wěn)定。

      3.人工智能發(fā)明人資格存在爭議的國家:英國

      對人工智能發(fā)明人資格的認定,英國高等法院作出判決,“1977 年專利法的規(guī)定非常明確,發(fā)明人必須是個人,無論政策需求有多大,法院只能解釋法律,不能自行立法”。

      Thaler v. The Comptroller-General of Patents, Designs And Trade Marks, EWHC 2412(Pat) (2020).但法官在案件備忘錄中寫道,雖然目前的法律規(guī)定無法解決人工智能主體資格問題,但這并不意味著人工智能沒有能力生成發(fā)明,并指出其并不認為人工智能的所有者/控制者是“創(chuàng)新的實際發(fā)明者”的觀點是不恰當?shù)摹?/p>

      此案上訴后,英國上訴法院予以駁回,但三位法官并未完全達成共識。在核心問題上,三位法官一致認為,根據法律規(guī)定,發(fā)明人必須為自然人。此外,Arnold與Laing法官認為,根據英國《專利法》第13條第2款b項規(guī)定,該專利申請無法滿足形式要件。Arnold法官認為人工智能生成發(fā)明是人工智能的孳息,應類比無形財產,關于有形財產孳息的分配方式在此不適用,Thaler無法獲得該發(fā)明的專利申請權。Laing法官明確指出,專利權不能授予非自然人,任何人無權就人工智能生成發(fā)明申請專利。Birss法官則存在不同觀點,其認為Thaler申請專利是善意的,《專利法》第13條第2款b項是對形式審查的要求,未涉及實體審查,不能由此對人工智能主體資格下定論。僅根據形式要件在申請階段駁回申請并不能解決人工智能生成發(fā)明對專利制度帶來的挑戰(zhàn),需要政策與法律共同探討解決這一問題。

      Thaler v. Comptroller General of Patents Trade Marks And Designs, EWCA Civ 1374 (2021).目前該案已經上訴至英國最高法院。

      可見,各國基本認同專利發(fā)明人需要為“自然人”。之所以存在有關發(fā)明人主體資格的諸多爭議,是基于產業(yè)發(fā)展與政策等因素的考量。人工智能技術發(fā)展引發(fā)諸多倫理問題,人工智能主體資格僅是其中之一,需要結合理論基礎、產業(yè)政策與法律規(guī)定共同探討,以尋求合適的解決之道。

      (二)人工智能發(fā)明人主體資格的理論爭議與法律解釋

      1.人工智能生成發(fā)明主體資格引發(fā)的理論爭議

      洛克的財產權勞動學說、黑格爾的人格理論常被用以解釋為專利技術等智慧成果賦予財產權的正當性,創(chuàng)新激勵理論更是為專利制度存在的意義與價值提供理論基礎。人工智能時代,由于人工智能主體資格缺失,上述理論均無法為人工智能生成發(fā)明的專利保護提供圓滿的理論證成。

      根據財產權勞動學說,人們對于自己擁有所有權,勞動是人的身體進行的工作,人基于勞動可以享有所有權。[8]這里的勞動主要是指人的體力勞動,以財產權勞動學說論證賦予專利技術以財產權的正當性,則是將勞動延伸至人的“腦力勞動”,[9]即“勞動”概念容納“智慧勞動”。人工智能生成發(fā)明的過程并非“人”的勞動,無法以傳統(tǒng)意義上對“勞動”的理解來證成人工智能生成發(fā)明專利保護的合理性。有學者指出,可以將人工智能生成發(fā)明的“勞動”解釋為研發(fā)者“勞動”的延續(xù),[10]這種解釋的嘗試則僅是將人工智能作為工具,人工智能研發(fā)者的勞動成果是人工智能本身,或為計算機程序,或為專利技術,已經屬于知識產權保護客體。人工智能的“勞動”是數(shù)據輸入、自我學習與分析、通過算法進行運算并輸出相應成果的過程,[11]其勞動是復雜的數(shù)據計算,[12]與人的“智慧勞動”存在較大差異。

      根據黑格爾的人格理論,意志與自由不可分割,精神自由是人的最大的特征,自由意志主要是通過私人財產的所有權來表現(xiàn)的,[13]其從強調個人人格重要性的角度來解釋財產權。[14]以人格理論證成專利制度,專利權作為一種財產權,是對發(fā)明人自由創(chuàng)造意志的保護,是對發(fā)明人人格的尊重。在人工智能生成發(fā)明專利之中,人工智能本身并不具有自由意志,生成發(fā)明的過程也并非其創(chuàng)造意志的體現(xiàn),人工智能并不具備需要財產權予以保護的人格。人工智能“人格”的缺失也是其生成發(fā)明獲得專利保護的主要障礙。

      激勵理論是論證知識產權制度正當性最有力的理論基礎,其從激勵知識生產角度予以論證。人的創(chuàng)造力由積極性的奮斗與惰性兩個方面組成,人積極性的創(chuàng)造力容易被惰性抵消。[15]因此,人的創(chuàng)造力需要被激勵,知識產權通過賦權的方式來激勵人們的創(chuàng)新活動,由此激勵知識產品這一稀缺性產品的生產,從而推動社會生產力的提升以及技術的進步與發(fā)展。人工智能生成發(fā)明的過程并不需要激勵,如果不需要激勵也能產生成果,則權利無保護之必要。[16]

      由此可見,人工智能時代,知識產權的法哲學基礎均受到了極大挑戰(zhàn),主要問題在于人工智能并不具備作為“人”的主體資格,此時需要對上述理論進行延伸性解釋,探索人工智能生成發(fā)明專利保護的理論基礎及其合理性。

      2.從法律解釋角度分析人工智能發(fā)明人需為自然人

      從各國對于DABUS案的決定與判決中可以看出,除南非未經實質審查直接以DABUS為發(fā)明人授予專利權、澳大利亞聯(lián)邦法院支持將人工智能認定為發(fā)明人外,各國基本認同專利發(fā)明人需要為“自然人”。之所以南非、澳大利亞出現(xiàn)不同的判定,是因為其專利法律法規(guī)之中并未就發(fā)明人的內涵進行明確界定。南非《專利法實施細則》僅規(guī)定了專利申請的形式要件,沒有發(fā)明人相關規(guī)定。澳大利亞《專利法》也未對發(fā)明人進行明確定義,聯(lián)邦法院作出了有利于Thaler的判決,原因是《專利法》第15條第1款b項的規(guī)定缺少主語,Beach法官認為可以擴大解釋發(fā)明人包括非自然人。當然,該觀點在上訴后并未得到認同。

      我國目前尚未有關于人工智能生成發(fā)明專利保護的案例,從現(xiàn)行法律規(guī)定及相關規(guī)范性文件來看,《民法典》規(guī)定民事主體包括了自然人、法人和非法人組織,作為機器的人工智能并不包含在民事主體范疇之中?!秾@ā返谑鶙l明確規(guī)定,發(fā)明人享有署名權,有權在專利文件中表明發(fā)明人身份;《專利審查指南》則指出,發(fā)明人應當是個人。結合目前人工智能相關倫理、法律的實踐與討論,其無法享有身份權,故應將我國《專利法》中列明的發(fā)明人解釋為“自然人”。人工智能不僅能夠生成發(fā)明,也能夠“創(chuàng)作”作品,[17]類比分析《著作權法》中的相關規(guī)定,2018年北京市高級人民法院發(fā)布《侵害著作權案件審理指南》,明確規(guī)定“自然人”的創(chuàng)作是判斷構成作品的因素之一。同樣作為知識產權法律制度,發(fā)明人主體資格與作者的主體資格判斷類似,從現(xiàn)行法律的解釋角度分析,發(fā)明人應當為“自然人”。

      (三)激勵理論下人工智能生成發(fā)明的權利歸屬

      專利制度的目的之一在于鼓勵發(fā)明創(chuàng)造、激勵創(chuàng)新,通過對專利權人賦予一定時期的壟斷權以換取市場與經濟回報,從而激勵產生更多的發(fā)明創(chuàng)造,提高創(chuàng)新能力。人工智能生成發(fā)明的“創(chuàng)新”過程并不需要賦予壟斷性的財產權加以激勵,且不論我國現(xiàn)行法律要求發(fā)明人為“自然人”,僅依據創(chuàng)新激勵理論,將人工智能生成發(fā)明的專利權賦予人工智能這一主體就不符合專利法的立法宗旨。在DABUS案中,澳大利亞聯(lián)邦法院合議庭作出支持知識產權局的判決,除闡明裁判理由外,法官也在判決中提出一些問題供政策制定者參考,一是如果可以就人工智能生成發(fā)明進行授權,應將權利授予誰——人工智能所有者、開發(fā)者、計算機程序版權所有者、數(shù)據提供者或者其他人;二是若人工智能生成的發(fā)明,存在錯誤建議或者虛假陳述而撤回,這會持續(xù)發(fā)生怎樣的作用?

      Thaler v. Comptroller General of Patents Trade Marks And Designs, EWCA Civ 1374 (2021).基于這兩個問題,需要探討人工智能生成發(fā)明專利權的歸屬以及相應責任承擔。

      關于人工智能生成發(fā)明的專利保護,有學者指出,基于“先行者優(yōu)勢”,計算機軟件行業(yè)已經獲得了足夠多的激勵,不需要特殊保護,否則將損害市場秩序。[18]但多數(shù)學者認為應對人工智能生成發(fā)明提供專利保護。筆者認為,在人工智能等投入多、風險高的產業(yè)中,激勵理論可以發(fā)揮更大作用,通過有效的激勵,才能鼓勵更多主體參與到產業(yè)實踐中,促進創(chuàng)新與發(fā)展。且基于目前人工智能領域的國際競爭態(tài)勢與我國產業(yè)政策導向,加強人工智能領域的知識產權保護是必然趨勢。此外,從可專利性角度分析,人工智能生成發(fā)明可納入專利保護客體范圍,也能夠滿足專利“三性”的要求。在這種情況下,人工智能不具有發(fā)明人的主體資格,面臨的主要問題在于圍繞人工智能生成發(fā)明中涉及的相關主體分析確認專利權人,明確人工智能生成發(fā)明的權利歸屬。構建人工智能生成發(fā)明的主體制度,需要在現(xiàn)有以“自然人”為發(fā)明人的制度之外,探索“標注人工智能生成發(fā)明、權利歸屬于民事主體、法律責任由相關民事主體承擔”的制度。

      首先,需要明確人工智能生成發(fā)明的權利歸屬。人工智能生成發(fā)明的相關主體包括人工智能投資者、設計者、所有者、使用者、數(shù)據提供者等,各個主體在人工智能生成發(fā)明的過程中均有貢獻?;诩罾碚?,筆者認為,將人工智能生成發(fā)明相關權益賦予使用者,更有助于激勵創(chuàng)新與產業(yè)發(fā)展。人工智能投資者、設計者促進了人工智能軟件的開發(fā),但其成果為人工智能本身,其可以通過著作權法保護計算機程序,也可以通過專利法保護相關技術方案,從而使相關成果能夠通過現(xiàn)有法律制度獲得保護。關于數(shù)據提供者,在人工智能生成發(fā)明過程中,數(shù)據發(fā)揮著重要作用,但僅有數(shù)據無法促成人工智能生成發(fā)明。關于人工智能所有者與使用者,有學者認為,相較于所有者,使用者更加明確人工智能生成發(fā)明的運用場景,并有動力對其進行產業(yè)化運用。[19]筆者認可該觀點。人工智能使用者對于生成發(fā)明的貢獻固然僅在于“啟動”這一動作,卻實際促成了技術方案的生成。將權利歸屬于使用者,有助于人工智能的利用、生成更多技術方案,從而促進創(chuàng)新與發(fā)展。

      其次,探索通過特別標注的方式明確相關發(fā)明為人工智能生成。在人工智能生成“作品”的相關司法實踐中,法院認為,應當激勵使用者的使用和傳播行為,將相關權益賦予使用者,在相關成果之上,使用者可采取合適方式表明其享有相關權益。

      北京知識產權法院(2019)京73民終2030號民事判決書。與著作權自動取得制度不同,專利權的獲得需要經過明確的審查、授權。就人工智能生成“作品”而言,使用者可以在成果上標注其享有相關權益;對于人工智能生成發(fā)明,從申請階段就需要明確專利申請人。結合上文分析人工智能生成發(fā)明對可專利性提出的挑戰(zhàn),可探索通過特別標注的方式明確相關發(fā)明為人工智能生成,從而與自然人發(fā)明專利相區(qū)別。在此基礎上,再明確權利歸屬與法律責任承擔主體,這樣就可以構建較為完整的人工智能發(fā)明專利主體制度。

      當然,上述主張僅是提出了一種解決方案。在激勵理論下,激勵的對象是人工智能所有者、使用者還是數(shù)據提供者,抑或是其他主體,仍需要結合其在人工智能生成發(fā)明中所起到的作用、對生成發(fā)明的貢獻度、需要創(chuàng)新激勵的程度進行實證分析與綜合評價,明確何種主體需要通過賦予財產權形式予以激勵?;跈嗬c義務相一致原則,無論將專利權賦予何種主體,人工智能生成發(fā)明產生的相應責任也需要由其承擔。

      四限制制度:基于利益平衡理論的人工智能生成發(fā)明專利保護

      知識產權法具有二元價值目標,以激勵機制為基礎,以利益平衡的調節(jié)機制為手段,激勵機制可以充分保護創(chuàng)造者的合法權益,利益平衡機制則可以在私益與社會公共利益之間尋求平衡。[20]構建人工智能生成發(fā)明的專利保護制度,既需要從激勵創(chuàng)新視角探討相關權利的保護,也需要從利益平衡理論出發(fā),平衡私權與社會公共利益之間的關系,防止權利擴張帶來的系列問題。

      (一)利益平衡理論下人工智能生成發(fā)明專利保護的問題分析

      當前,人工智能技術進入蓬勃發(fā)展階段,其生成發(fā)明相關的專利保護問題逐漸顯現(xiàn)。在探討通過賦權的方式對人工智能生成發(fā)明予以激勵的同時,權利限制制度的構建同樣重要。在利益平衡理論指導下,明確人工智能生成發(fā)明專利保護存在的問題,有助于構建推動科技進步與社會發(fā)展的權利保護與限制制度。

      其一,人工智能生成發(fā)明專有與公有領域平衡問題。這主要體現(xiàn)在權利保護期限的確定上。通過設置合理的保護期,既能保障權利人對發(fā)明創(chuàng)造的實施,又可以使公眾適時獲取知識與信息。由于人工智能生成發(fā)明主要基于數(shù)據學習與算法執(zhí)行,其生成發(fā)明的成本相對較低,而且基于人工智能的特點,其可以在短時間內生成大量發(fā)明。如同人工智能生成發(fā)明需要學習大量數(shù)據、信息,人工智能生成發(fā)明同樣需要站在前人的肩膀上。如果針對這些發(fā)明規(guī)定較長的保護期,則有可能擠占公共領域,不利于技術進步與社會發(fā)展。

      其二,人工智能生成發(fā)明權利擴張引發(fā)的權能平衡問題。知識產權權能設立需要綜合考慮社會經濟、文化與科技發(fā)展。人工智能技術的發(fā)展,引發(fā)了對人工智能生成發(fā)明專利保護的激烈討論,也出現(xiàn)為應對技術發(fā)展有關權能擴張的討論與實踐,權利的擴張需要防范對社會公共利益的沖擊。依賴算法自動生成發(fā)明,將有可能導致利用人工智能進行專利“圈地運動”,[21]需要采取措施警惕權利擴張帶來的不利影響。

      其三,人工智能生成發(fā)明專利權行使方式的平衡問題。這種平衡主要在于權利的行使不能損害社會公共利益。對于人工智能生成發(fā)明專利權的行使而言,其需要具有一定限度,不能濫用權利,如獲得授權后,權利人濫用訴權,不正當?shù)刂\取私利,應在法律上予以規(guī)制。

      (二)人工智能生成發(fā)明專利保護的限制制度構建

      專利制度不僅在于激勵創(chuàng)新,更在于推動科技進步與社會發(fā)展,此時需要在私權保護與公共利益維護之間尋求平衡,構建權利限制機制,防止權利濫用,以實現(xiàn)在保護私權的同時促進社會共同福祉的提升。

      首先,合理設置人工智能生成發(fā)明專利的保護期。針對人工智能生成發(fā)明,有學者建議,考慮不同專利權客體的特點,可根據發(fā)明創(chuàng)造性水平、科技發(fā)展速度、技術生命更替周期,設置不同的保護期限,其中軟件專利權保護期可以10年為限,以減少“壟斷”帶來的社會成本。[22]筆者認可該觀點,針對不同權利客體,有針對性設置保護期,可以有效平衡專有與公有的利益。人工智能生成發(fā)明效率高、速度快、成本低,在普通發(fā)明專利20年保護期規(guī)定之下,設置稍短的保護期,既保護了權利人對發(fā)明的使用可以享有一定時期的壟斷權;又能夠相對較早進入公有領域,保證公眾及時獲取知識、信息,從而促進技術創(chuàng)新、產業(yè)發(fā)展與社會進步。

      其次,進一步明確人工智能生成發(fā)明專利申請人充分公開義務。專利制度旨在“以公開換保護”。美國《專利法》強調專利申請人具有信息披露義務,要求申請人通過更多的信息披露來維護社會公共利益,[23]我國《專利法》也規(guī)定發(fā)明專利申請人需要充分公開發(fā)明的技術方案。當人工智能生成發(fā)明涉及程序算法時,需要考慮“源代碼”等內容的公開,實現(xiàn)算法透明,以使本領域技術人員更好實現(xiàn)專利,未來專利進入公有領域,也可以更好推動在此基礎上的創(chuàng)新與發(fā)展。

      最后,強化“禁止專利權濫用”。禁止權利濫用是對權利人行使權利的限制和約束。由于人工智能本身的特性,其生成發(fā)明相對成本低、效率高,權利人基于人工智能可能擁有大量專利,而相關專利并不一定用于具體的產業(yè)實踐。因此,需要在人工智能生成發(fā)明專利保護制度構建中明確禁止專利權濫用原則的適用。

      五結論

      人工智能技術改變了創(chuàng)新的過程。隨著人工智能技術的發(fā)展與應用范圍擴大,作為機器的人工智能獨立性不斷增強,人工智能生成發(fā)明是體現(xiàn)其創(chuàng)新能力的成果之一。人工智能生成發(fā)明對專利制度帶來了巨大挑戰(zhàn),無論是專利客體適格性還是發(fā)明人主體資格問題,都在一定程度上影響了專利制度的變革與發(fā)展,有關人工智能生成發(fā)明的司法實踐也將推動專利制度的不斷完善,從而進一步促進人工智能技術的發(fā)展與創(chuàng)新能力的提升。正如Thaler的法律團隊表示,其在全球范圍內將人工智能生成發(fā)明申請專利、提起行政訴訟,主要目的就是通過實踐測試專利制度的邊界,推動專利制度變革。當然,人工智能發(fā)展不僅影響專利制度,對社會倫理、法律基礎理論都提出了巨大挑戰(zhàn),需要保持持續(xù)的研究與關注,及時作出應對。無論如何,專利制度能夠隨著技術的發(fā)展而與時俱進,這不僅為專利制度的發(fā)展所印證,而且是專利制度現(xiàn)代化的重要體現(xiàn)。

      [參考文獻]

      [1]劉強.人工智能算法發(fā)明可專利性問題研究[J].時代法學,2019(8):17-18.

      [2]余翔,劉珊.美國計算機軟件相關發(fā)明的專利保護及其與歐盟的比較[J].電子知識產權,2005(10):32-37.

      [3]崔國斌.專利法上的抽象思想與具體技術——計算機程序算法的客體屬性分析[J].清華大學學報(哲學社會科學版),2005(3):37-51.

      [4]吳漢東.計算機軟件專利保護問題研究[J].當代法學,2022(3):3-16.

      [5]孫那.人工智能的法律倫理建構[J].江西社會科學,2019(2):15-23.

      [6]Fraser E.Computers as inventors-legal and policy implications of artificial intelligence on patent law[J].SCRIPTed, 2016(3):305-332.

      [7]Abbott R.I think,therefore I invent: Creative computers and the future of patent law[J].Boston College Law Review, 2016(4):1079-1126.

      [8]易繼明.評財產權勞動學說[J].法學研究,2000(3):106.

      [9]Baird D G. Common law intellectual property and the legacy of International News Service v. Associated Press[J].University of Chicago Law Review, 1983(2):411-429.

      [10]劉鑫.人工智能生成技術方案的專利法規(guī)制——理論爭議、實踐難題與法律對策[J].法律科學(西北政法大學學報),2019(5):82-92.

      [11]郝明英.論人工智能生成內容的版權認定及法律規(guī)制[J].法大研究生,2019(2):422-440.

      [12]楊延超.人工智能對知識產權法的挑戰(zhàn)[J].治理研究,2018(5):120-128.

      [13]黑格爾.法哲學原理[M].范揚,張企泰,譯.北京:商務印書館,1961:10.

      [14]馮曉青.知識產權的人格理論研究[J].河南省政法管理干部學院學報,2003(4):28-39.

      [15]博登海默.法理學:法律哲學與法律方法[M].鄧正來,譯.北京:中國政法大學出版社,2004:407.

      [16]Samuelson p. Allocating ownership rights in computer-generated works[J]. Pittsburgh Law Review,1986(4):1185-1228.

      [17]楊利華.人工智能生成物著作權問題探究[J].現(xiàn)代法學,2021,43(4):102-114.

      [18]Landes W M,Posner R A. The economic structure of intellectual property law [M].Boston: Harvard University Press,2003:312-313.

      [19]劉友華,魏遠山.人工智能生成技術方案的可專利性及權利歸屬[J].湘潭大學學報(哲學社會科學版),2019(4):84-90.

      [20]馮曉青.知識產權法的價值構造:知識產權法利益平衡機制研究[J].中國法學,2007(1):67-77.

      [21]李想.人工智能參與發(fā)明的授權問題探究[J].科技進步與對策,2020(15): 144-151.

      [22]吳漢東.計算機軟件專利保護問題研究[J].當代法學,2022(3):3-16.

      [23]梁志文.論專利申請人之現(xiàn)有技術披露義務[J].法律科學(西北政法大學學報),2012(1):134.

      DOI:10.16339/j.cnki.hdxbskb.2023.02.019

      [收稿日期] 2022-10-27

      [基金項目] 國家社會科學基金重大項目:創(chuàng)新驅動發(fā)展戰(zhàn)略下知識產權公共領域問題研究(17ZDA139)

      [作者簡介] 馮曉青(1966—),男,湖南長沙人,中國政法大學民商經濟法學院教授,博士生導師,法學博士,研究方向:知識產權法。

      猜你喜歡
      公共領域人工智能算法
      基于MapReduce的改進Eclat算法
      Travellng thg World Full—time for Rree
      2019:人工智能
      商界(2019年12期)2019-01-03 06:59:05
      進位加法的兩種算法
      人工智能與就業(yè)
      IT經理世界(2018年20期)2018-10-24 02:38:24
      數(shù)讀人工智能
      小康(2017年16期)2017-06-07 09:00:59
      中國語境中的公共道德與公民道德辨析
      學理論·下(2016年11期)2016-12-27 14:30:41
      公共領域道德缺失問題的解析與研究
      理解公民道德
      道德與文明(2016年4期)2016-12-06 00:32:43
      微信朋友圈:互聯(lián)公共領域的新輿論圈
      香港| 新绛县| 章丘市| 武定县| 徐州市| 三明市| 翁牛特旗| 小金县| 湖北省| 蒙山县| 台湾省| 高阳县| 长垣县| 正宁县| 岳阳县| 塘沽区| 晋宁县| 金华市| 招远市| 广汉市| 秦皇岛市| 高清| 祁门县| 扶绥县| 南木林县| 清涧县| 贵定县| 南平市| 垦利县| 靖州| 资溪县| 措美县| 涞源县| 青海省| 仙游县| 长垣县| 肥乡县| 嘉禾县| 阜南县| 裕民县| 淅川县|