劉建銀,周 軼
(重慶師范大學 教育科學學院,重慶 401331)
我國青少年網(wǎng)絡(luò)游戲監(jiān)管政策的十年回顧與分析*
劉建銀,周 軼
(重慶師范大學 教育科學學院,重慶 401331)
旨在保護青少年的網(wǎng)絡(luò)游戲監(jiān)管政策大致經(jīng)歷了從籠統(tǒng)監(jiān)管到專項監(jiān)管兩個階段。監(jiān)管的領(lǐng)域和手段主要體現(xiàn)在:對網(wǎng)絡(luò)游戲內(nèi)容的行政審批、對網(wǎng)絡(luò)游戲出版與經(jīng)營單位資質(zhì)的行政審批、對網(wǎng)絡(luò)游戲經(jīng)營活動的行政與技術(shù)監(jiān)管以及對網(wǎng)絡(luò)游戲經(jīng)營場所的行政監(jiān)管等。目前,網(wǎng)絡(luò)游戲監(jiān)管政策仍存在多頭監(jiān)管和監(jiān)管職能重復設(shè)定、針對青少年消費者尤其是未成年網(wǎng)絡(luò)游戲行為的監(jiān)管及保護有效性不足、監(jiān)管政策技術(shù)和手段過于滯后等問題,亟待通過進一步研究加以完善。
網(wǎng)絡(luò)游戲;監(jiān)管政策;青少年保護
網(wǎng)絡(luò)游戲已經(jīng)成為了一個龐大的文化產(chǎn)業(yè),成為網(wǎng)民特別是青少年網(wǎng)民的主要網(wǎng)絡(luò)應(yīng)用類型。據(jù)調(diào)查,2011年我國網(wǎng)絡(luò)游戲市場實際銷售收入達到428.5億元人民幣[1]。2010年大型網(wǎng)絡(luò)游戲(MMOG)的用戶中,10~29歲年齡段的用戶群體比例達79.9%,從職業(yè)來看,40.7%的用戶為大中小學生[2],這就是說,青少年已經(jīng)成為網(wǎng)絡(luò)游戲消費的主流群體。可以預見,隨著手機的廣泛滲透,青少年通過移動通訊網(wǎng)絡(luò)使用網(wǎng)絡(luò)游戲的機率將大大增加,網(wǎng)絡(luò)游戲使用率將越來越呈現(xiàn)出低年齡化、普及化的趨勢,這對旨在保護青少年合理健康使用網(wǎng)絡(luò)游戲的監(jiān)管政策提出了嚴峻的挑戰(zhàn)。自2000年邁入新世紀以來,面對如何有效
監(jiān)管網(wǎng)絡(luò)游戲以保護青少年在網(wǎng)絡(luò)游戲中不受傷害等問題,我國政府以及其他黨群部門頒布了一系列政策。那么,十多年來我國針對青少年的網(wǎng)絡(luò)游戲監(jiān)管政策是如何演變和發(fā)展的?這些監(jiān)管政策所涉及的監(jiān)管領(lǐng)域和手段有哪些?還存在哪些問題和不足?本文在收集、梳理十余年國家有關(guān)部門頒布的政策文本基礎(chǔ)上,試圖對以上問題加以分析和回答。
從歷史來看,我國早在上世紀八九十年代就有針對電子游戲的監(jiān)管政策,但具體針對網(wǎng)絡(luò)游戲的監(jiān)管政策,則是與整個互聯(lián)網(wǎng)發(fā)展及網(wǎng)絡(luò)游戲的發(fā)展緊密聯(lián)系在一起的。因此,這些政策主要是在世紀之交我國互聯(lián)網(wǎng)蓬勃發(fā)展的背景下才如雨后春筍般地密集出臺。總的來說,十多年來的政策演變經(jīng)歷了一個從籠統(tǒng)監(jiān)管到專項監(jiān)管的過程,具體來說包括兩個階段。
(一)2000-2004年:網(wǎng)絡(luò)游戲籠統(tǒng)監(jiān)管階段
進入新世紀,互聯(lián)網(wǎng)逐漸滲透到人們社會生活的各個角落,國家逐漸意識到規(guī)范互聯(lián)網(wǎng)信息服務(wù)活動的重要性。因此,這一階段的政策主要集中在籠統(tǒng)、寬泛地監(jiān)管互聯(lián)網(wǎng)信息服務(wù)、互聯(lián)網(wǎng)出版業(yè)務(wù)、互聯(lián)網(wǎng)文化服務(wù)以及互聯(lián)網(wǎng)娛樂場所或上網(wǎng)場所方面。由于對網(wǎng)絡(luò)游戲本身的認識還不夠,針對青少年的網(wǎng)絡(luò)游戲監(jiān)管政策還主要停留在口頭提醒方面。
例如,2000年國務(wù)院頒布《互聯(lián)網(wǎng)信息服務(wù)管理辦法》(國務(wù)院令第292號),這是我國最早出臺的旨在監(jiān)管借助互聯(lián)網(wǎng)向上網(wǎng)用戶提供信息服務(wù)活動的政策。在監(jiān)管政策整體框架方面,該政策的最大亮點在于區(qū)分了經(jīng)營性和非經(jīng)營性兩種不同性質(zhì)的互聯(lián)網(wǎng)信息服務(wù),開創(chuàng)性地針對二者分別建立了許可制度和備案制度,并首次授權(quán)信息產(chǎn)業(yè)部門或電信管理部門直接進行監(jiān)督管理??梢哉f,該政策初步建立了我國互聯(lián)網(wǎng)信息服務(wù)監(jiān)管的制度框架。在此政策的指導下,2001年信息產(chǎn)業(yè)部等四部委制定了《互聯(lián)網(wǎng)上網(wǎng)服務(wù)營業(yè)場所管理辦法》,對開辦上網(wǎng)場所的經(jīng)營條件、審批流程、經(jīng)營行為、處罰等問題進行了規(guī)定。但此后,信息產(chǎn)業(yè)部門逐漸較少作為牽頭部門負責互聯(lián)網(wǎng)信息和上網(wǎng)服務(wù)問題的監(jiān)管,取而代之的是新聞出版總署和文化部。正是在這兩個部委的牽頭下,一系列針對互聯(lián)網(wǎng)信息出版行為和經(jīng)營行為的政策密集出臺。
國家新聞出版總署、信息產(chǎn)業(yè)部2001年底頒布《互聯(lián)網(wǎng)出版管理暫行規(guī)定》。該政策對從事互聯(lián)網(wǎng)信息出版業(yè)務(wù)的條件、審批流程、內(nèi)容要求和處罰細則等從源頭進行了規(guī)范。在關(guān)于出版內(nèi)容要求的第18條特別提到,“以未成年人為對象的互聯(lián)網(wǎng)出版內(nèi)容不得含有誘發(fā)未成年人模仿違反社會公德的行為和違法犯罪的行為的內(nèi)容,以及恐怖、殘酷等妨害未成年人身心健康的內(nèi)容”。該政策是新聞出版機構(gòu)首次介入到網(wǎng)絡(luò)游戲監(jiān)管的標志。到2003年,新聞出版總署發(fā)布《關(guān)于在游戲出版物中登載〈健康游戲忠告〉的通知》,明確提出其具有電子游戲和互聯(lián)網(wǎng)游戲出版物的歸口管理權(quán)。同時鑒于消費者特別是廣大青少年消費者在游戲過程中缺乏有效引導和沉迷游戲,新聞出版總署發(fā)布《健康游戲忠告》。鑒于這一階段網(wǎng)絡(luò)游戲監(jiān)管部門較多的狀況,2004年7月,新聞出版總署發(fā)出《關(guān)于落實國務(wù)院歸口審批電子和互聯(lián)網(wǎng)游戲出版物的通知》,明確新聞出版總署是國務(wù)院惟一歸口管理電子游戲出版物和互聯(lián)網(wǎng)游戲出版物的行政部門。在保護青少年特別是未成年人身心健康等目的的同時,該通知對提交審批電子游戲和互聯(lián)網(wǎng)游戲的條件、流程等也進行了規(guī)定。
從文化部介入網(wǎng)絡(luò)游戲監(jiān)管的途徑來看,首先是通過早期規(guī)范電子游戲場所、互聯(lián)網(wǎng)經(jīng)營場所開始的。如2000年國務(wù)院辦公廳轉(zhuǎn)發(fā)文化部等七部委制定的《關(guān)于開展電子游戲經(jīng)營場所的專項整治的意見》,要求文化部牽頭對非法經(jīng)營電子游戲的場所進行集中清理、規(guī)范。2002年8月,國務(wù)院頒布《互聯(lián)網(wǎng)上網(wǎng)服務(wù)營業(yè)場所管理條例》,該條例首次授權(quán)文化行政部門對網(wǎng)吧、電腦休閑室等營業(yè)性場所的設(shè)立進行審批,同時對其經(jīng)營活動加以監(jiān)管。針對青少年群體,該條例規(guī)定在中小學校園的周圍200米范圍內(nèi)不得設(shè)立上網(wǎng)場所,網(wǎng)吧要懸掛未成年人禁入標志并不得接納其進入。在此條例授權(quán)下,文化部于2003年制定、并于2004年修訂發(fā)布《互聯(lián)網(wǎng)文化管理暫行規(guī)定》,首次把網(wǎng)絡(luò)游戲、游戲產(chǎn)品定性為互聯(lián)網(wǎng)文化產(chǎn)品并將系列納入了監(jiān)管范疇。在2004、2005年開展全國網(wǎng)吧專項整治工作期間,文化部多次聯(lián)合其他部委頒布相關(guān)政策[3-4],進一步強調(diào)嚴禁未成年人進入網(wǎng)吧,并強化文化行政部門作為對包括網(wǎng)絡(luò)游戲在內(nèi)的互聯(lián)網(wǎng)文化產(chǎn)品和網(wǎng)吧經(jīng)營的監(jiān)管牽頭部門,應(yīng)采取各種措施封堵違法網(wǎng)絡(luò)游戲等互聯(lián)網(wǎng)文化產(chǎn)品,從而確保青少年用戶的身心健康和權(quán)益。
除信息產(chǎn)業(yè)部、新聞出版總署和文化部的政策之外,這一時期還有其他部門牽頭制定的一些針對青少年群體的網(wǎng)絡(luò)游戲監(jiān)管政策。如2004年頒布的《中共中央、國務(wù)院關(guān)于進一步加強和改進未成年人思想道德建設(shè)的若干意見》,提出了要“開發(fā)和推廣弘揚民族精神、反映時代特點、有益于未成年人健康成長的游戲軟件產(chǎn)品”,同時“嚴格審查面向未成年人的游戲軟件內(nèi)容,查處含有誘發(fā)未成年人違法犯罪行為和恐怖、殘忍等有害內(nèi)容的游戲軟件產(chǎn)品”以及“加強對互聯(lián)網(wǎng)上網(wǎng)服務(wù)營業(yè)場所和電子游戲經(jīng)營場所的管理”。同年,國家廣電總局也發(fā)出通知,要求從保護未成年人健康的角度,全面禁止了廣播電視播出電腦網(wǎng)絡(luò)游戲類節(jié)目。
總的來看,早期的監(jiān)管政策奠定了針對青少年的網(wǎng)絡(luò)游戲監(jiān)管制度基礎(chǔ)。但是,由于當時我國網(wǎng)絡(luò)游戲產(chǎn)業(yè)主要以代理國外游戲產(chǎn)品為主,整體實力較弱,國家監(jiān)管工作又剛剛起步,因此早期政策還沒有認識到網(wǎng)絡(luò)游戲?qū)η嗌倌暧绊懙闹匾院蛷碗s性,其監(jiān)管重點寬泛性地集中在互聯(lián)網(wǎng)出版物或互聯(lián)網(wǎng)文化產(chǎn)品的提供行為、經(jīng)營行為和未成年人的上網(wǎng)地點方面,監(jiān)管部門也不統(tǒng)一、不穩(wěn)定。在這種狀況下,應(yīng)當轉(zhuǎn)換監(jiān)管思路,需要根據(jù)產(chǎn)業(yè)發(fā)展和用戶行為的變化使監(jiān)管政策更加集中、完善。
(二)2005-2011年:網(wǎng)絡(luò)游戲?qū)m棻O(jiān)管階段
經(jīng)過進入新世紀以來前五年的快速發(fā)展,網(wǎng)絡(luò)游戲逐漸成為我國互聯(lián)網(wǎng)時代使用頻率最高的互動娛樂形式。特別是2004年上海盛大公司——首個中國網(wǎng)絡(luò)游戲公司在美國納斯達克的上市,極大地推動了中國網(wǎng)絡(luò)游戲產(chǎn)業(yè)的發(fā)展。這一時期,網(wǎng)絡(luò)游戲公司以及用戶以幾何級數(shù)倍增,一系列新的問題層出不窮。因此,如何對網(wǎng)絡(luò)游戲進行專項監(jiān)管,逐漸成為了政府迫在眉睫的政策課題。不過,這一時期的監(jiān)管政策也主要從新聞出版總署和文化部兩條線展開。
從新聞出版總署這條線來看,繼2003年發(fā)布專項政策友情提醒青少年健康游戲之后,進入2005年,該署發(fā)布了專門針對網(wǎng)絡(luò)游戲的監(jiān)管政策——《關(guān)于禁止利用網(wǎng)絡(luò)游戲從事賭博活動的通知》。通知要求各網(wǎng)絡(luò)游戲研發(fā)、出版運營機構(gòu)不得研發(fā)、出版運營各類賭博游戲或為各類網(wǎng)絡(luò)賭博游戲以及其他賭博活動提供平臺、工具或服務(wù)。2007年1月,在公安部的牽頭下,《關(guān)于規(guī)范網(wǎng)絡(luò)游戲經(jīng)營秩序查禁利用網(wǎng)絡(luò)游戲賭博的通知》發(fā)布,新聞出版總署進一步明確了清理查處含賭博內(nèi)容的網(wǎng)絡(luò)游戲出版物的任務(wù)。也在該年4月,新聞出版總署聯(lián)合七個部委共同頒布了《關(guān)于保護未成年人身心健康、實施網(wǎng)絡(luò)游戲防沉迷系統(tǒng)的通知》以及隨文發(fā)布的《網(wǎng)絡(luò)游戲防沉迷系統(tǒng)開發(fā)標準》和《網(wǎng)絡(luò)游戲防沉迷系統(tǒng)實名認證方案》。該系統(tǒng)首次從控制玩家游戲時間、削減玩家在線游戲收益的方式來防止沉迷,以引導未成年人自覺健康文明上網(wǎng)。2011年,新聞出版總署聯(lián)合七部委正式啟動了網(wǎng)絡(luò)游戲防沉迷實名驗證工作。而在此之前的2009年,鑒于長期以來在網(wǎng)絡(luò)游戲管理中存在的自設(shè)審批、重復審查的問題,新聞出版總署就歸口管理的問題再次發(fā)布《關(guān)于貫徹落實國務(wù)院〈“三定”規(guī)定〉和中央編辦有關(guān)解釋,進一步加強網(wǎng)絡(luò)游戲前置審批和進口網(wǎng)絡(luò)游戲?qū)徟芾淼耐ㄖ罚厣昶鋵Τ霭?、進口網(wǎng)絡(luò)游戲擁有前置審批權(quán)。
從文化部這條線來看,2005年是其專項監(jiān)管網(wǎng)絡(luò)游戲的啟動之年,亦是其加速出臺專項監(jiān)管政策的標志性年份。6月,文化部聯(lián)合四部委發(fā)出《關(guān)于凈化網(wǎng)絡(luò)游戲工作的通知》,主要工作是打擊存在違法內(nèi)容的網(wǎng)絡(luò)游戲產(chǎn)品及經(jīng)營行為,查處未經(jīng)審查的境外游戲產(chǎn)品和清理未經(jīng)許可的網(wǎng)絡(luò)游戲經(jīng)營行為,打擊“私服”、“外掛”等侵犯知識產(chǎn)權(quán)的行為。7月,文化部聯(lián)合信息產(chǎn)業(yè)部進一步發(fā)布了《關(guān)于網(wǎng)絡(luò)游戲發(fā)展和管理的若干意見》,針對未成年人群體《意見》要求網(wǎng)絡(luò)游戲企業(yè)“對未成年人上網(wǎng)游戲和游戲時間加以限制,對可能誘發(fā)網(wǎng)絡(luò)游戲成癮癥的游戲規(guī)則進行技術(shù)改造,實行實名游戲制度,拒絕未成年人登陸進入”。進入2007年,文化部同樣加入了公安部查禁利用網(wǎng)絡(luò)游戲賭博的工作,其主要任務(wù)是對從事賭博活動的網(wǎng)絡(luò)游戲經(jīng)營單位、活動進行清理。該年2月,文化部聯(lián)合十二個部委發(fā)出《關(guān)于進一步加強網(wǎng)吧及網(wǎng)絡(luò)游戲管理工作的通知》,針對青少年群體提出了對接納未成年人網(wǎng)吧的嚴管重罰、規(guī)范學校內(nèi)上網(wǎng)場所、查處未經(jīng)其審批或備案的網(wǎng)絡(luò)游戲網(wǎng)站、建設(shè)未成年人公益性上網(wǎng)場所以及把預控網(wǎng)絡(luò)成癮納入精神衛(wèi)生工作范圍和強化家庭學校教育監(jiān)護責任等措施,以防止其沉迷網(wǎng)絡(luò)游戲。2009年,文化部聯(lián)合商務(wù)部發(fā)布了《關(guān)于加強網(wǎng)絡(luò)游戲虛擬貨幣管理工作的通知》,針對未成年人,特別要求網(wǎng)絡(luò)游戲虛擬貨幣交易服務(wù)企業(yè)不得為其提供交易服務(wù),從而使虛擬貨幣的發(fā)行交易漸入規(guī)范化軌道。
2010年是我國網(wǎng)絡(luò)游戲監(jiān)管政策的又一標志性年份,因為該年6月文化部頒布了我國第一部專門針對網(wǎng)絡(luò)游戲管理的部門規(guī)章——《網(wǎng)絡(luò)游戲管理暫行辦法》。該政策較為全面地對網(wǎng)絡(luò)游戲的研發(fā)生產(chǎn)、運營、虛擬貨幣發(fā)行與交易服務(wù)等經(jīng)營活動進行了全面規(guī)范。針對青少年群體,其特別要求不得含有誘發(fā)青少年模仿違反社會公德的行為和違法范圍的行為的內(nèi)容,以及妨害其身心健康的內(nèi)容,并要求經(jīng)營單位應(yīng)采取技術(shù)措施,禁止未成年人接觸不適宜的游戲或者游戲功能,限制未成年人的游戲時間,預防未成年人沉迷網(wǎng)絡(luò)。網(wǎng)絡(luò)游戲虛擬貨幣交易服務(wù)企業(yè)不得為未成年人提供交易服務(wù)等。同年7月,文化部又緊跟著頒布了《關(guān)于貫徹落實實施〈網(wǎng)絡(luò)游戲管理暫行辦法〉的通知》,要求各相關(guān)單位應(yīng)以頒布的管理辦法為依據(jù),規(guī)范主體審批、強化內(nèi)容管理、加強經(jīng)營活動監(jiān)管,特別是要采取切實措施保護未成年人。該通知同時附帶《網(wǎng)絡(luò)游戲服務(wù)格式化協(xié)議必備條款》,以切實保障網(wǎng)絡(luò)游戲用戶的合法權(quán)利。2011年,為維護未成年人合法權(quán)益,文化部又聯(lián)合七部委共同印發(fā)了《“網(wǎng)絡(luò)游戲未成年人家長監(jiān)護工程”實施方案》。主要內(nèi)容是家長可根據(jù)需要限制孩子每天或每周玩游戲的時間長度及時間段,或者完全禁止,從而制止或限制未成年人的不當游戲行為。與該方案同時發(fā)布的還有《未成年人健康參與網(wǎng)絡(luò)游戲提示》,提醒未成年人健康參與網(wǎng)絡(luò)游戲。
除此兩部門頒布的監(jiān)管政策以外,這一時期也有相關(guān)的法律出臺。如2006年全國人大修訂發(fā)布《未成年人保護法》,規(guī)定校園周邊不得設(shè)立上網(wǎng)場所,上網(wǎng)場所應(yīng)設(shè)立警示標志并不得接納未成年人,國家、家庭都要采取有效措施,預防和制止未成年人沉迷網(wǎng)絡(luò)等??偟膩砜矗@一時期的監(jiān)管政策更加符合網(wǎng)絡(luò)游戲本身的特點,面向青少年的監(jiān)管政策更具有針對性、系統(tǒng)性,其監(jiān)管范圍也從早期的地點、行為、內(nèi)容進一步擴大到游戲?qū)嵜?、游戲時間、游戲虛擬貨幣交易等方面。特別是文化部專門化的部門規(guī)章出臺,彌補了原有網(wǎng)絡(luò)游戲監(jiān)管政策散亂、互相沖突的不足,使監(jiān)管政策邁上了一個新的臺階。
通過以上對我國十多年來關(guān)于網(wǎng)絡(luò)游戲監(jiān)管政策的梳理,我們不難發(fā)現(xiàn),盡管關(guān)于網(wǎng)絡(luò)游戲的監(jiān)管政策有著重復強調(diào)、相互沖突等情形,但總的來看,其領(lǐng)域和手段基本涵蓋了網(wǎng)絡(luò)游戲研發(fā)及經(jīng)營的基本環(huán)節(jié)。概括起來,這些監(jiān)管領(lǐng)域主要是網(wǎng)絡(luò)游戲出版或經(jīng)營單位、網(wǎng)絡(luò)游戲內(nèi)容、網(wǎng)絡(luò)游戲經(jīng)營活動和網(wǎng)絡(luò)游戲經(jīng)營地點四個方面,手段主要是行政審批或?qū)彶椤?/p>
(一)對網(wǎng)絡(luò)游戲出版與經(jīng)營單位資質(zhì)的行政審批
為加強網(wǎng)絡(luò)游戲研發(fā)運營機構(gòu)的市場準入,新聞出版總署與文化部均要求對網(wǎng)絡(luò)游戲出版單位、經(jīng)營單位的設(shè)立、變更進行行政審批,取得《互聯(lián)網(wǎng)出版許可證》、《網(wǎng)絡(luò)文化經(jīng)營許可證》的單位才可辦理電信接入業(yè)務(wù)、工商營業(yè)執(zhí)照以及后續(xù)的業(yè)務(wù)手續(xù)。例如,新聞出版總署的政策要求,設(shè)立互聯(lián)網(wǎng)出版機構(gòu),應(yīng)當符合《互聯(lián)網(wǎng)出版管理暫行規(guī)定》的基本條件,包括確定的出版范圍,章程,必要的編輯出版機構(gòu)和專業(yè)人員,資金、設(shè)備和場所,并由其實行前置審批;文化部對監(jiān)管對象的范圍設(shè)定更寬,涵蓋了網(wǎng)絡(luò)游戲運行單位、虛擬貨幣發(fā)行或交易單位等。相關(guān)政策要求,申請設(shè)立網(wǎng)絡(luò)游戲上網(wǎng)運營、網(wǎng)絡(luò)游戲虛擬貨幣發(fā)行和網(wǎng)絡(luò)游戲虛擬貨幣交易服務(wù)等網(wǎng)絡(luò)游戲經(jīng)營活動的單位,應(yīng)當具備相應(yīng)條件,包括有明確的名稱、住所、組織機構(gòu)和章程,確定的網(wǎng)絡(luò)游戲經(jīng)營范圍,符合國家規(guī)定的從業(yè)人員,不低于1 000萬元的注冊資金等。符合條件的單位將由省級文化行政部門審批核發(fā)《網(wǎng)絡(luò)文化經(jīng)營許可證》,有效期為3年。兩部委的文件均要求,網(wǎng)絡(luò)游戲出版或經(jīng)營單位如果變更網(wǎng)站名稱、域名或者法定代表人、地址、資金、股權(quán)結(jié)構(gòu)或資本結(jié)構(gòu)以及許可經(jīng)營范圍的,應(yīng)當重新辦理變更手續(xù)。應(yīng)當說,這些監(jiān)管措施有效地確保了網(wǎng)絡(luò)游戲出版單位與經(jīng)營單位的資質(zhì),使得網(wǎng)絡(luò)游戲生產(chǎn)及經(jīng)營者一進入市場就納入到政府的監(jiān)管范圍。
(二)對網(wǎng)絡(luò)游戲內(nèi)容的行政審批
為防止網(wǎng)絡(luò)游戲有違法或不健康內(nèi)容,文化部和新聞出版署都設(shè)定了相應(yīng)的審批環(huán)節(jié)。文化部政策要求,網(wǎng)絡(luò)游戲經(jīng)營單位應(yīng)當將國產(chǎn)網(wǎng)絡(luò)游戲報文化部備案,進口網(wǎng)絡(luò)游戲應(yīng)當報文化部審批。內(nèi)容審查主體是文化部網(wǎng)絡(luò)游戲?qū)彶閷<椅瘑T會,審查主要通過游戲客戶端登錄賬號及密碼遍歷所有游戲全部場景和功能來完成。備案及審批內(nèi)容包括游戲主題及內(nèi)容、游戲操作說明、游戲全部對白旁白描述性文字和游戲主題曲插曲的歌詞文本等,附帶相應(yīng)的申請表格和許可證書;新聞出版總署的政策要求,引進版或進口電子和互聯(lián)網(wǎng)游戲出版物必須由其進行內(nèi)容審批,提交材料包括游戲出版物中文腳本全文,以及反映游戲基本面貌、表現(xiàn)游戲的主要任務(wù)、場景、道具、情節(jié)的樣品。該署也同時對國產(chǎn)網(wǎng)絡(luò)游戲?qū)嵭星爸脤徟?。兩部委的文件均?guī)定,網(wǎng)絡(luò)游戲內(nèi)容有實質(zhì)性變動以及經(jīng)營單位有變更的,必須重新辦理審批手續(xù),而且網(wǎng)絡(luò)游戲內(nèi)容的審查權(quán)統(tǒng)一上收至文化部、國家新聞出版總署,地方文化行政部門、新聞出版部門沒有審查權(quán)。
(三)網(wǎng)絡(luò)游戲經(jīng)營活動的行政與技術(shù)監(jiān)管
為保證網(wǎng)絡(luò)游戲能夠合法合規(guī)經(jīng)營,使未成年人能夠綠色游戲,在相關(guān)政策的安排下,一些行政和技術(shù)監(jiān)管措施得以逐漸實施。如采取專項行動整治網(wǎng)吧、要求網(wǎng)絡(luò)游戲經(jīng)營者使用格式合同保護用戶權(quán)益、進行實名制登記等等。特別在保護未成年人方面,采取了健康提醒、防沉迷工程、家長監(jiān)護工程和打擊利用網(wǎng)絡(luò)游戲進行賭博的專項行動,有效防止了青少年游戲用戶沉迷和偏差行為的發(fā)生。目前,一些網(wǎng)絡(luò)游戲運營商通過技術(shù)手段,在游戲進入頁面設(shè)置了健康游戲提醒警示;有的建立了“疲勞系統(tǒng)”使游戲玩家的時間與游戲收益負相關(guān);“家長監(jiān)護工程”也在網(wǎng)易、完美時空、騰訊、盛大、暢游、巨人等六家大型網(wǎng)絡(luò)游戲公司開始實行;有的網(wǎng)絡(luò)游戲公司還制定了玩家守則和部分游戲內(nèi)容按年齡的分級體驗制度,等等。不過,整體來看,目前盡管對網(wǎng)絡(luò)游戲經(jīng)營活動的監(jiān)管政策在逐漸增多,但體系較為散亂,缺乏系統(tǒng)的構(gòu)建。
(四)對網(wǎng)絡(luò)游戲經(jīng)營場所的行政監(jiān)管
對網(wǎng)絡(luò)游戲經(jīng)營場所的監(jiān)管主要包括網(wǎng)吧、娛樂場所的監(jiān)管。在監(jiān)管機構(gòu)建設(shè)方面,國家層面建立了“全國網(wǎng)吧及網(wǎng)絡(luò)游戲管理工作協(xié)調(diào)小組”,由包括文化部、公安部在內(nèi)的十四個部委參加;在制度建設(shè)方面,文化行政部門還制定了網(wǎng)吧日常檢查頻度最低標準制度、違法案件公示制度等,加強了對網(wǎng)吧的日常監(jiān)管的制度建設(shè);在技術(shù)手段方面,建立了網(wǎng)吧計算機監(jiān)管平臺,為信息暢通提供了方便。近年來,監(jiān)管力度得到加強,內(nèi)容主要包括推進網(wǎng)吧的布局結(jié)構(gòu)調(diào)整,增強其規(guī)?;?、專業(yè)化和品牌化;取締黑網(wǎng)吧;學校周邊200米以內(nèi)不得設(shè)置網(wǎng)吧或上網(wǎng)娛樂場所;網(wǎng)吧應(yīng)在顯著位置設(shè)置警示標志,禁止未成年人進入。接納未成年人2次以及一次接納3名以上的網(wǎng)吧將停業(yè)整頓15天以上并處罰款,接納3次以上或一次接納8名以上將被吊銷許可證[5];以及規(guī)范學校內(nèi)的上網(wǎng)場所等等。應(yīng)該說,經(jīng)過若干年的集中整治,網(wǎng)吧的經(jīng)營逐漸趨于規(guī)范化。
以上四個方面的監(jiān)管,前兩個旨在從源頭監(jiān)管,強化網(wǎng)絡(luò)游戲的市場準入;后兩個集中在運營環(huán)節(jié)的監(jiān)管,增強網(wǎng)絡(luò)游戲的市場規(guī)范。在監(jiān)管政策中,有關(guān)部門都設(shè)定了相應(yīng)的行政處罰規(guī)定,對網(wǎng)絡(luò)游戲出版、經(jīng)營的違法內(nèi)容和違法行為加以處罰。處罰手段主要包括罰款、停業(yè)整頓、通知電信部門終止接入直至吊銷相應(yīng)許可證、吊銷營業(yè)執(zhí)照和移交司法機關(guān)等。
應(yīng)該說,已有政策搭起了我國網(wǎng)絡(luò)游戲監(jiān)管的制度框架。但是,針對青少年特別是未成年人來說,原有監(jiān)管政策中還存在一些體制性障礙使得監(jiān)管渠道不暢、監(jiān)管合力難以發(fā)揮的問題,而且隨著技術(shù)的發(fā)展,一些新的現(xiàn)象對網(wǎng)絡(luò)游戲監(jiān)管政策提出了更高的要求。因此,解決既有監(jiān)管中的深層次體制問題,結(jié)合新現(xiàn)象對現(xiàn)有監(jiān)管政策所存在的問題進行分析思考,并適時對政策加以完善是當前監(jiān)管部門所面臨的緊迫問題。
(一)關(guān)于網(wǎng)絡(luò)游戲的多頭監(jiān)管和監(jiān)管職能重復設(shè)定的問題
通過對以上政策的梳理分析,我們看到,針對青少年特別是未成年用戶的網(wǎng)絡(luò)游戲監(jiān)管,動輒涉及數(shù)十個部門的聯(lián)合行動。即便指定了牽頭部門,但主要牽頭部門更是存在監(jiān)管職能重復設(shè)定的問題,而且長期存在并廣受詬病[6]?,F(xiàn)在,網(wǎng)絡(luò)游戲內(nèi)容審查和單位資質(zhì)審查主要由新聞出版行政機構(gòu)和文化行政機構(gòu)兩個部門負責。新聞出版機構(gòu)負責對網(wǎng)絡(luò)游戲內(nèi)容及出版單位進行前置審查,文化行政機構(gòu)對網(wǎng)絡(luò)游戲內(nèi)容和經(jīng)營單位進行資質(zhì)審查。但是,縱觀兩個部門對網(wǎng)絡(luò)游戲的審批事項、審批程序、審查主體、主要內(nèi)容以及要求提交的材料來看,兩個部門的審批條件幾乎沒有差別。首先,在內(nèi)容審查上本身就是重復的,其核心都是對網(wǎng)絡(luò)游戲的場景、對白、音樂、腳本等進行全面審查。重復審查很可能導致一些網(wǎng)絡(luò)游戲無法正常上線,從而影響了正常的市場秩序。如《魔獸世界》是在我國流行最大的網(wǎng)絡(luò)游戲之一,2009年,網(wǎng)易公司在重新代理該款網(wǎng)絡(luò)游戲前的審批過程中,就直接遭遇了兩個部門必須同時審查許可的矛盾。出現(xiàn)久拖不決使《魔獸世界》長期無法按時上線[7];其次,從資質(zhì)審查來看,其實目前很多網(wǎng)絡(luò)游戲公司本身既是網(wǎng)絡(luò)游戲研發(fā)或出版單位,同時又是經(jīng)營單位。兩個部門所列出的資質(zhì)條件也沒有關(guān)鍵差別。通觀已有的監(jiān)管政策,新聞出版和文化兩個部門的政策交集大,但彼此“老死不相往來”,同時聯(lián)動的情況幾乎很少出現(xiàn)[8],監(jiān)管部門負責人之間的唇槍舌戰(zhàn)也此起彼伏。我們認為,行政監(jiān)管的目的在為市場的健康、規(guī)范發(fā)展助力,在多頭監(jiān)管已經(jīng)造成了責任不明確的前提下,兩個部門再重復設(shè)定審批權(quán)限、不斷爭奪對網(wǎng)絡(luò)游戲的監(jiān)管主導權(quán),不僅增加了公司的運營成本,給產(chǎn)業(yè)的發(fā)展設(shè)置了多余的行政障礙,而且也為網(wǎng)絡(luò)游戲市場的不正當競爭埋下了諸多隱患。
在有關(guān)文件中,文化行政部門雖然初步認可了新聞出版署所實行的實名制、前置審批權(quán)等,但二者的矛盾沒有得到根本解決。我們認為,造成多頭監(jiān)管和職能重復設(shè)定的問題,根本原因在于監(jiān)管部門缺乏對網(wǎng)絡(luò)游戲特征的認識。例如,文化和新聞行政部門仍舊固守于過去電子游戲機或計算機單機游戲的思路來認識和監(jiān)管網(wǎng)絡(luò)游戲,因而一個監(jiān)管生產(chǎn)環(huán)節(jié)、一個監(jiān)管經(jīng)營環(huán)節(jié)。這樣兩段式的監(jiān)管應(yīng)對過去的電子游戲或許是一個有效的辦法,但是針對網(wǎng)絡(luò)游戲就會失效。因為網(wǎng)絡(luò)游戲的生產(chǎn)和經(jīng)營單位大多是一體的,重復設(shè)定審批權(quán)顯然會給網(wǎng)絡(luò)游戲添加不必要的障礙。因此,未來應(yīng)當針對網(wǎng)絡(luò)游戲的產(chǎn)品及市場特征統(tǒng)籌整合監(jiān)管職能,通過重新賦予某個部門新的行政許可加以解決。
(二)關(guān)于針對青少年網(wǎng)絡(luò)游戲消費者的監(jiān)管及保護政策有效性不足的問題
經(jīng)過十多年的發(fā)展,目前針對網(wǎng)絡(luò)游戲產(chǎn)業(yè)的準入監(jiān)管政策日漸成熟和完善,但對消費者特別是青少年消費者、未成年消費者的監(jiān)管及保護政策仍然存在不少漏洞。從未成年消費者來看,對其消費行為的監(jiān)管主要放在簡單的口頭提醒、網(wǎng)絡(luò)游戲?qū)嵜啤⒎莱撩韵到y(tǒng)和家長監(jiān)護工程方面。這些措施的有效性很難實現(xiàn)。目前,大多數(shù)網(wǎng)絡(luò)游戲沒有在游戲進入頁面進行健康游戲的口頭提醒,即便是有但多數(shù)也只是在進入頁面的不顯著位置出現(xiàn),或者很容易被游戲用戶“跳過”而根本起不到提醒的作用;實名制的實施也剛剛起步,目前網(wǎng)絡(luò)上出現(xiàn)了很多他人的身份證號,某個游戲用戶隨便選擇一個身份證號就可以順利進入網(wǎng)絡(luò)游戲入口,因此現(xiàn)有的實名制無法也不能對身份證號的真實性進行驗證;而關(guān)于沉迷時間的限制,由于很多網(wǎng)絡(luò)方法的原因,基本上發(fā)揮不了作用。防沉迷系統(tǒng)試圖從限制游戲用戶的時間、降低游戲收益來引導未成年人主動養(yǎng)成健康文明上網(wǎng)的習慣,但該方法可能對網(wǎng)絡(luò)游戲深度沉迷者有用,一般網(wǎng)絡(luò)游戲沉迷者仍可利用一些漏洞達到長時間玩網(wǎng)絡(luò)游戲的目的,例如,使用一個身份證在不同游戲中設(shè)置多個不同賬號等;家長監(jiān)護工程需要家長知曉孩子的游戲賬號,但青少年用戶往往有多個游戲賬號,家長往往難以全面了解而且有時根本不能從孩子那里得到具體賬號。此外,在保護網(wǎng)絡(luò)游戲用戶的權(quán)益如游戲虛擬物方面,監(jiān)管政策也還多處存在空白,而近年來這方面的法律訴訟卻層出不窮。我們認為,網(wǎng)絡(luò)游戲監(jiān)管政策最終要落實到保護消費者特別是未成年人的權(quán)益方面[9]。因此,未來應(yīng)當開展重點針對消費方的監(jiān)管及保護政策的研究和完善上。
已有針對青少年消費者特別是未成年人消費者監(jiān)管保護的政策缺乏有效性,原因有以下幾個方面。一是政策制定多數(shù)是從成人角度出發(fā),而沒有考慮到青少年本身的需求??陀^地說,游戲包括網(wǎng)絡(luò)游戲本身無所謂好壞,關(guān)鍵在于社會對它的態(tài)度。從對青少年的調(diào)查來看,青少年自己描述的網(wǎng)絡(luò)游戲?qū)λ麄兊呢撁嬗绊?,遠沒有家長教師們所描述的那么嚴重,而且他們認為網(wǎng)絡(luò)游戲?qū)ζ渖硇暮蜕鐣l(fā)展反而有一定幫助,但是在許多政策中青少年的聲音和需求被忽略了。沒有考慮到政策對象的需求所制定出來的政策,會主要偏向于限制、禁止而不是權(quán)益保護,很難得到青少年玩家的響應(yīng)。二是政策對未成年消費者的網(wǎng)絡(luò)游戲行為研究不夠。未成年人網(wǎng)絡(luò)游戲過程中的行為是非常復雜的行為組合,如游戲場景行為既有現(xiàn)實中的行為也有顛覆現(xiàn)實的行為,因此在制定保護未成年消費者網(wǎng)絡(luò)游戲政策的過程中應(yīng)當對各種行為加以分類規(guī)范。有些行為可以鼓勵,有些應(yīng)該限制,有些必須禁止?;\統(tǒng)限制時間、查禁賬號并不是有效的做法。我們認為,在規(guī)范青少年消費者行為方面,可以通過制定相應(yīng)的格式化條款,要求網(wǎng)絡(luò)游戲公司建立相應(yīng)的《玩家守則》,分析相應(yīng)的網(wǎng)絡(luò)游戲行為,在反騷擾管理、欺詐、賭博、虛擬物買賣、偷盜等行為方面建立玩家自律性規(guī)范。三是現(xiàn)有行業(yè)監(jiān)管政策重在準入和違法處罰,而對行業(yè)自律標準、運作規(guī)范乃至游戲商的社會責任重視不夠。這樣,很多企業(yè)很難考慮到消費者權(quán)益的長期性,當消費者傾注大量金錢、時間和感情而得來的虛擬財產(chǎn)受到損失的時候,相關(guān)企業(yè)往往逃避法律責任。因此,政策同樣應(yīng)當出臺相應(yīng)的格式化標準或行業(yè)規(guī)范,用以規(guī)范企業(yè)的經(jīng)營行為。如上海就于2011年底出臺了《上海市網(wǎng)絡(luò)游戲服務(wù)規(guī)范》,該規(guī)范從資質(zhì)、未成年人保護、服務(wù)人員、官方網(wǎng)站、服務(wù)場所、運營時間、服務(wù)費用、用戶信息管理、安全措施等方面對網(wǎng)游企業(yè)提出基本要求,并在質(zhì)量評估、服務(wù)改進等方面做了具體要求。但是,這僅僅是地方行政規(guī)章,還應(yīng)進一步研究以將此規(guī)范完善并擴大到全國網(wǎng)絡(luò)游戲產(chǎn)業(yè)。
(三)關(guān)于網(wǎng)絡(luò)游戲監(jiān)管政策技術(shù)和手段過于滯后的問題
現(xiàn)有網(wǎng)絡(luò)游戲的監(jiān)管技術(shù)或監(jiān)管手段多數(shù)仍舊具有滯后性。例如,對網(wǎng)絡(luò)游戲內(nèi)容的監(jiān)管主要是上市前的專家集中內(nèi)容審查,而且網(wǎng)絡(luò)游戲如果有核心內(nèi)容更新也必須送交新聞及文化兩部門重新審查通過才可以上市。專家集中審查往往耗時較長,這使網(wǎng)絡(luò)游戲的及時上市受到阻礙;而且有的網(wǎng)絡(luò)游戲幾乎每天都在更新內(nèi)容,還有的網(wǎng)絡(luò)游戲是根據(jù)玩家互動而產(chǎn)生新內(nèi)容,這些內(nèi)容很難判斷是否就是實質(zhì)性變動,那么關(guān)于內(nèi)容的審查是否每天都要進行呢?在針對未成年人保護的監(jiān)管中,只有實名制、防沉迷系統(tǒng)、家長監(jiān)護工程從行為角度進行了初步規(guī)范,但從新聞出版署的《健康游戲忠告》到文化部的《參與網(wǎng)絡(luò)游戲提示》,基本上屬于口頭提醒。而與青少年教育工作最貼近的共青團、婦聯(lián)、文明辦、教育部等單位,主要職能在宣傳、咨詢、心理健康輔導等,多數(shù)是說服教育。這些監(jiān)管措施缺乏對青少年玩家不同網(wǎng)絡(luò)游戲行為的約束,而且現(xiàn)行的多數(shù)監(jiān)管主要是“事前審查”和“事后監(jiān)管”,特別是“事后監(jiān)管”,使得通常是在市場出現(xiàn)問題時才去解決問題。例如,對于違規(guī)的網(wǎng)絡(luò)游戲出版和經(jīng)營單位,最嚴厲的處罰方式基本上是出版或文化部門取締許可證、電信部門封堵端口、工商部門吊銷執(zhí)照、公安部門查封網(wǎng)絡(luò)游戲出版經(jīng)營場所等。這些監(jiān)管缺乏對網(wǎng)絡(luò)游戲運營過程的“事中監(jiān)管”,同樣有著嚴重的滯后性。
我們認為,未來監(jiān)管應(yīng)該改變監(jiān)管思路,在技術(shù)或手段方面可以通過以下幾種方法加以彌補:一是廣泛使用網(wǎng)絡(luò)技術(shù)。網(wǎng)絡(luò)游戲技術(shù)有著動態(tài)發(fā)展的特性,因此在監(jiān)管網(wǎng)絡(luò)游戲的過程中,應(yīng)當充分利用網(wǎng)絡(luò)技術(shù)的作用,通過建立相應(yīng)的網(wǎng)絡(luò)平臺來監(jiān)管網(wǎng)絡(luò)游戲,如要求網(wǎng)絡(luò)游戲企業(yè)必須提供相應(yīng)的賬號和密碼,供監(jiān)管者不定期的、不定時的對游戲內(nèi)容及運營狀況進行抽查;同時,也可參考“網(wǎng)絡(luò)掃黃打非”的經(jīng)驗,設(shè)立相應(yīng)的違規(guī)網(wǎng)絡(luò)游戲舉報平臺,接受群眾舉報進行違法違規(guī)內(nèi)容的監(jiān)管。二是對網(wǎng)絡(luò)游戲進行分級管理。分級管理是很多文獻討論的熱點話題,因為現(xiàn)在僅僅通過籠統(tǒng)性的內(nèi)容審查機制來進行內(nèi)容控制和管理會非常乏力,而且效果不佳。近年來,一些地方和網(wǎng)絡(luò)游戲企業(yè)開始嘗試網(wǎng)絡(luò)游戲的分級管理,如上海市《關(guān)于貫徹落實〈網(wǎng)絡(luò)游戲管理暫行辦法〉有關(guān)規(guī)定的通知》第16條規(guī)定,所有網(wǎng)絡(luò)游戲經(jīng)營單位必須在其運營產(chǎn)品的官網(wǎng)首頁左上角顯著位置、用戶注冊和登錄頁面的顯著位置提供產(chǎn)品“適齡提示”的標志:18歲以下標注字體顏色用綠色,18歲以上的標注字體用紅色。標注紅色“適齡提示”的網(wǎng)游產(chǎn)品,應(yīng)采取技術(shù)措施,禁止未成年人接觸不適宜的游戲或者游戲功能。《魔獸世界》將游戲內(nèi)容分為三個年齡段:15歲以下、15~18歲、18歲以上。15歲以下的不能體驗到《魔獸世界:巫妖王之怒》,并同時接受防沉迷系統(tǒng)的限制;15~18歲的雖能體驗到所有內(nèi)容,但要接受防沉迷系統(tǒng)和法定監(jiān)護人指導管理的限制[10]。這樣,通過分級來分類管理網(wǎng)絡(luò)游戲內(nèi)容。三是建立行業(yè)標準和玩家行為規(guī)范。正如上文提及的,未來應(yīng)在全國范圍內(nèi)建立相應(yīng)的行業(yè)規(guī)范,增強網(wǎng)絡(luò)游戲企業(yè)的自我監(jiān)督和自我約束,同時建立玩家的行為準則,對不同網(wǎng)絡(luò)游戲行為加以分類規(guī)范。這樣,企業(yè)的自身規(guī)范、企業(yè)對玩家的行為規(guī)范以及各網(wǎng)絡(luò)游戲企業(yè)、玩家自主發(fā)起的聯(lián)盟的日常監(jiān)督就可以將違規(guī)行為遏制在最初期,從而減少給社會、青少年帶來的不良影響。
[1] 李苑.2011年我國網(wǎng)絡(luò)游戲產(chǎn)業(yè)增長強勁[N].光明日報,2012-01-11.
[2] 中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC). 2010年中國網(wǎng)絡(luò)游戲用戶調(diào)研報告[EB/OL].(2011-06-20)[2012-08-10].http://www.cnnjc.net.cn/research/bgxz/wybg/201106/t20110620_21452.html.
[3] 國務(wù)院辦公廳.國務(wù)院辦公廳轉(zhuǎn)發(fā)文化部等部門關(guān)于開展網(wǎng)吧等互聯(lián)網(wǎng)上網(wǎng)服務(wù)營業(yè)場所專項整治意見的通知[EB/OL].(2004-02-17)[2012-08-25].http://www.110.com/fagui/law_4102.html.
[4] 文化部,國家工商行政管理總局,公安部,信息產(chǎn)業(yè)部,教育部.關(guān)于進一步深化網(wǎng)吧管理工作的通知[EB/OL].(2012-03-12)[2012-08-25].http://www.wenming.cn/ziliao/wenjian/jigou/qita/201203/t2012 0312551762.shtml.
[5] 文化部.關(guān)于進一步加強網(wǎng)吧及網(wǎng)絡(luò)游戲管理工作的通知[EB/OL].(2007-09-12)[2012-08-25].http://news.txwm.com/policy/v10782.html.
[6] 常青.行政許可重復設(shè)定怎么辦[J].出版發(fā)行研究,2006(4):55-58.
[7] 孫春燕.誰在爭奪魔獸世界[J].中國新聞周刊,2009(11):61-63.
[8] 公安部,信息產(chǎn)業(yè)部,文化部,新聞出版總署.關(guān)于規(guī)范網(wǎng)絡(luò)游戲經(jīng)營秩序查禁利用網(wǎng)絡(luò)游戲賭博的通知[EB/OL].[2012-08-26].http://wuxizazhi.cnki.net/serch/YWWX200735012.html.
[9] 唐雪,何勇平.論網(wǎng)絡(luò)游戲?qū)η嗌倌晟鼉r值觀的影響及啟示[J].重慶郵電大學學報:社會科學版,2011(1):111-115.
[10] 《魔獸世界:巫妖王之怒》適齡要求專題[EB/OL].[2012-08-15].http://www.warcraftchina.com/services/age-restriction/.
(編輯:劉仲秋)
ReviewandAnalysisofRegulatoryPolicyofOnlineGameforAdolescentsinDecennium
LIU Jianyin, ZHOU Yi
(CollegeofEducationalScience,ChongqingNormalUniversity,Chongqing401331,China)
Online game regulatory policies designed to protect adolescents were experienced from general regulation to special regulation. The regulatory domain and method are mainly embodied in the administrative examination and approval of online game content, administrative examination and approval of qualification of online game business, administrative and technical regulation of the online game activities as well as administrative regulation of playing places of online games. At present, some problems should be solved urgently, such as multi-point regulation, regulation setting repeatedly, insufficient effectiveness of regulatory policy on adolescents and undeveloped regulatory technology.
online games; supervision policy; protection for adolescent
10.3969/j.issn.1673-8268.2013.01.006
2012-09-18
國家社會科學基金資助項目:青少年網(wǎng)絡(luò)游戲行為分析與網(wǎng)絡(luò)游戲成癮預警指標體系研究(11XSH003);重慶市社會科學基金資助項目:重慶市青少年網(wǎng)絡(luò)游戲行為調(diào)查與網(wǎng)絡(luò)游戲成癮預警指標體系研究(08-JY04)
劉建銀(1976-),男,四川鄰水人,教授,博士,主要從事青少年教育、教育政策與法律研究;周 軼(1984-),女,四川平昌人,重慶師范大學教育科學學院碩士研究生,主要從事教育政策與法律研究。
C913.5
A
1673-8268(2013)01-0026-07