• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      論賽博空間的架構及其法律意蘊

      2018-05-28 05:26:56胡凌
      東方法學 2018年3期
      關鍵詞:賽博架構用戶

      胡凌

      內(nèi)容摘要:“架構”是增進我們對賽博空間及其治理問題理解的少數(shù)核心概念之一。架構理論的核心是架構的建構過程、構成及邊界,揭示架構權力如何從內(nèi)在生發(fā)和延伸。架構伴隨新經(jīng)濟和“架構企業(yè)”的興起而生長,這一過程中最核心的法律保障機制是“選擇退出”與“知情同意”。架構可以分為基本橫向(場景)與縱向(分層)維度,并衍生出三個相互聯(lián)系的子維度(網(wǎng)絡、黑箱、基礎設施),在這些維度當中,圍繞架構的邊界劃定可以對既有法律問題進行系統(tǒng)化的解讀。當下智能架構的延伸按照特定邏輯展開,并需要一整套相互配套的法律制度進行支撐,同時也揭示出究竟以何種方式對架構進行治理更為有效,其中需要特別強調(diào)用戶選擇能力的重要意義。

      關鍵詞:架構企業(yè)賽博空間場景黑箱基礎設施

      賽博空間的出現(xiàn)逐漸帶來了整個社會的政治經(jīng)濟結構改變,法律作為上層建筑也不例外。越來越多的研究集中在互聯(lián)網(wǎng)引發(fā)的新問題上,且多從部門法切入,對整個賽博空間的規(guī)則模式進行整全式思考的討論相對較少?!? 〕這不僅因為技術和商業(yè)模式的變化產(chǎn)生了大量新問題亟需法律進行回應,也因為層出不窮的新概念容易導致對賽博空間原初問題的偏離和遺忘,從而陷入并追隨流行的意識形態(tài)?!? 〕增進我們對賽博空間及其治理問題理解的少數(shù)核心概念之一是“架構”,它的設計和使用直接影響社會主體的活動,并塑造新秩序。筆者試圖穿越看似復雜多變的新鮮問題迷霧,從作為問題本源的架構入手,結合互聯(lián)網(wǎng)形態(tài)的變化重新解釋這一概念,并將各類法律問題與之系統(tǒng)地勾連起來。

      架構作為一個隱喻,可從多個視角進行觀察,每一個視角都能幫助重新理解賽博空間的特質(zhì)以及如何對法律和治理產(chǎn)生影響。〔3 〕在《代碼及賽博空間的其他法律》一書中,Lawrence Lessig首次將架構納入法律社會學分析,提升到與法律、市場、社會規(guī)范平行的高度,系統(tǒng)地說明(甚至預言)架構如何“規(guī)制”社會主體的在線行為,影響諸如版權、隱私、言論這樣的法律制度,〔4 〕進而提出賽博空間中的根本問題:誰最終控制架構的生產(chǎn)和運作。〔5 〕受限于電子屏幕和終端設備,用戶較容易區(qū)分以互聯(lián)網(wǎng)為媒介的賽博空間和物理世界,即在線/離線的二分,隨著萬物互聯(lián)和智能時代的到來,賽博空間的架構最終將涵攝物理世界中的一切事物。由此有必要超越電子屏幕,在一個更大范圍內(nèi)探討架構的具體意涵,并將其分解為有意義的法律問題。筆者之前的研究將上述規(guī)制性代碼理論看成架構原理的1.0版本,在其“控制性”功能基礎上挖掘其“生產(chǎn)性”意蘊,主張代碼本身就是一種新經(jīng)濟的價值生產(chǎn)過程,這是架構原理的2.0版本;而無論是政治管控邏輯還是商業(yè)生產(chǎn)邏輯,兩者在移動互聯(lián)網(wǎng)時代都可以通過微觀的“賬戶—數(shù)據(jù)—評分”框架統(tǒng)一起來,筆者稱之為“代碼3.0”。筆者試圖在橫向和縱向上展示,圍繞作為內(nèi)核的“賬戶—數(shù)據(jù)—評分”機制,什么是與賽博空間控制/生產(chǎn)過程相適應的架構,以形成完整的架構理論。此外,網(wǎng)絡信息傳播、接受的架構設計與動態(tài)變化引發(fā)關于公共領域內(nèi)民主溝通機制和議程設置的討論,〔6 〕人工智能快速發(fā)展帶來對“黑箱”問題的隱憂,〔7 〕數(shù)據(jù)跨境流通與管轄,都可在一定程度上納入架構理論。

      架構理論并非無所不包,它不是關于網(wǎng)絡法新生問題事無巨細的羅列,其核心是架構的建構過程、構成及邊界,揭示架構權力如何從內(nèi)在生發(fā),并像觸手一樣蔓延。代碼理論1.0的不足在于,盡管它看到了架構的“規(guī)制能力”,卻沒能更精確地抽象出架構的一般含義。根據(jù)日?;ヂ?lián)網(wǎng)使用經(jīng)驗,技術架構的邊界似乎是清晰明確的,但在現(xiàn)實中卻充滿爭議:架構有時可能會延伸到無法預測的場景,有時則成為深不可測的黑箱,那么充分有效的信息披露就變得重要,其意義不主要在于賦予用戶多少操作權限,而是清楚地說明架構邊界可識別的標準,給予用戶適當預期;而在無法通過語言精確說明的場合應給予用戶足夠的技術操作能力。因此我們需要一個更為系統(tǒng)和綜合的架構分類,并在其中討論每一類的邊界問題。

      一、架構演進的邏輯

      1.“架構企業(yè)”的興起

      在代碼理論1.0的原初論述中,架構只是一個隱喻,涵蓋了從微觀程序設計到宏觀網(wǎng)絡傳輸協(xié)議的多個層面,其核心在于對架構內(nèi)行為主體產(chǎn)生的規(guī)制能力?!? 〕從這個意義上說,“代碼就是法律”,這一表達形象地將賽博空間塑造主體行為的空間感描繪出來,甚至容易令人和物理空間結構進行類比。這種描繪更多是一種靜態(tài)的說明,隨著互聯(lián)網(wǎng)自身形態(tài)的不斷變化,以及賽博空間不斷向物理世界智能性地擴展,有必要將架構置于一個動態(tài)生成的歷史語境下理解,進而發(fā)掘架構形成的邏輯。

      抽象來看,架構誕生并依托于場景,通過場景匯聚生產(chǎn)性資源,形成各類社會關系,從而促成更多交易與連接。架構的不斷形成依賴于新經(jīng)濟同傳統(tǒng)行業(yè)爭奪生產(chǎn)資料的強大競爭力,對外表現(xiàn)為“非法興起”,不斷將已有的社會關系轉化為生產(chǎn)關系(“商品化”過程),并要求最終上升為法律關系?!? 〕這一過程延續(xù)了傳統(tǒng)資本主義生產(chǎn)方式將社會中各類“堅固的東西”持續(xù)碎片化的過程,〔10 〕利用信息技術將各類生產(chǎn)資料數(shù)字化,分解為更為細小的模塊與微粒,并加以重新組合、連接與創(chuàng)造性使用。微粒重組體現(xiàn)在宏觀層面是所謂“分享經(jīng)濟”的興起:平臺企業(yè)為零散(甚至閑置)的生產(chǎn)要素提供直接交易組合的機會,同時增進對于參與者偏好的了解,預測其未來行為,給予信息性指引或通過經(jīng)濟手段引導,影響其實際選擇,或者便利傳統(tǒng)企業(yè)組織更加靈活地低成本外包;〔11 〕體現(xiàn)在微觀層面則是數(shù)據(jù)化,在識別社會主體行為基礎上,根據(jù)既有行為和交易數(shù)據(jù)為其重新畫像,生成未來多變的社會連接和社會身份,產(chǎn)生新的科學知識?!?2 〕架構就是微粒重組過程的重要模式,它是活動場景,是生產(chǎn)方式,也是計算方式。

      微粒重組催生平臺企業(yè)大量出現(xiàn),后者通過構建雙邊市場形成新的經(jīng)濟模式,隨著平臺開發(fā)越來越多的服務功能,雙邊市場業(yè)已演進成多邊市場?!?3 〕但交易結構與利潤模式是一回事,平臺與流動于其上的資源活動之間的生產(chǎn)與法律關系是另一回事。從生產(chǎn)關系上看,大量流動資源無疑為平臺貢獻了有形與無形的經(jīng)濟價值。有趣的是,其民事法律關系十分松散,盡管行政義務越來越接近傳統(tǒng)媒介守門人,例如,用戶在平臺公開區(qū)域生產(chǎn)的作品顯然不是職務作品,得不到相應的廣告分成;專車司機、主播們與平臺不是勞動關系,受到的工作管理和監(jiān)視程度卻遠超出傳統(tǒng)企業(yè)。相應地,從早期的避風港原則開始,擴展中的平臺一直在爭取更少行政義務和更多自治權利。因為這樣才能充分利用流動資源獲得競爭優(yōu)勢,降低運營成本,迅速增值。〔14 〕由此可以看出,經(jīng)濟學上的平臺理論無法描繪真實的平臺運作,它僅說明平臺上各類交叉價值鏈如何生成,但不能反映平臺本身為實現(xiàn)更多交易進行的建構性努力,也無法解釋從傳統(tǒng)組織中釋放(或解放)出的無序社會資源因何變得有序而非失控;另一方面,單純指責平臺試圖一味減輕責任也不符合現(xiàn)實,至少就成熟的大型平臺企業(yè)而言,事后責任成本事實上被更多地轉化為事前預防成本,用于完善交易流程降低糾紛風險,即投入到作為基礎服務的架構建設中。此外,“平臺”一詞本身可能會給受眾帶來某種二維平面感,無法充分描繪賽博空間中來自各個維度的影響力。因此,筆者使用“架構企業(yè)”一詞作為具有更廣泛解釋力的研究術語。它涵蓋了平臺的經(jīng)濟學維度,還能把架構的規(guī)制能力置于平臺和流動資源之間的變動關系中看待,揭示“架構企業(yè)”如何實質(zhì)性介入在線交易與活動過程,對主體產(chǎn)生規(guī)制效應。〔15 〕這也是代碼理論1.0沒有進一步回答的問題。這一變動關系最為主要的是架構與作為產(chǎn)消者的用戶之間的關系,架構的現(xiàn)實邊界即形成于兩者的互動過程中。

      2.架構與用戶的法律關系

      作為消費者的用戶與作為生產(chǎn)者/勞工的用戶會帶來對賽博空間完全不同的法律想象,〔16 〕限于篇幅和主題,筆者主要討論作為消費者的用戶。由于架構權力的多樣性,我們可從如下個案中感受其模糊的邊界(對其問題的不同答案都將導致不同的架構):

      例1:百度的廣告聯(lián)盟在多大程度上可以在用戶實際上不知情的情況下通過cookies追蹤用戶;〔17 〕例2:安裝360水滴攝像頭的商家是否應當告知進入特定區(qū)域的顧客直播已經(jīng)開始(或者,其他場合下,人臉識別已經(jīng)開啟);〔18〕例3:消費者是否有權要求卸載預裝在智能手機上的吸費應用程序(或者干脆自己越獄卸載);〔19 〕例4:QQ聊天軟件是否可以基于聊天記錄向用戶推送定向廣告;〔20 〕例5:視頻網(wǎng)站能否因探測到用戶正在使用裝有廣告屏蔽插件的瀏覽器(或者其他干擾性軟件)而拒絕服務;〔21 〕例6:用戶是否有權要求使用第三方工具(如今日頭條)批量將自己在微博上創(chuàng)作的內(nèi)容“一鍵搬家”;〔22 〕例7:用戶能否永久刪除特定服務賬戶及其活動歷史數(shù)據(jù),甚至退出賽博空間。〔23 〕

      表面上看,上述個案僅有關服務合同效力或消費者保護,實際上共同指向用戶在賽博空間中的行動能力和范圍。代碼理論1.0告訴我們,用戶的行為邊界止于架構建立起來的地方,但用戶能否依據(jù)協(xié)議或法律要求改變架構,獲得知情權甚至更大的自主權(例如財產(chǎn)權)則沒有統(tǒng)一規(guī)則。根據(jù)用戶能夠對架構進行操作的能力程度,可將架構大致分為四類:類型1:用戶必須接受作為基礎設施的架構之基本功能和默認設置,不可更改,否則侵犯了架構企業(yè)的財產(chǎn)權利,除了操作信息,基本的技術信息沒有必要向用戶披露(這屬于監(jiān)管范疇),用戶只是單純的消費者和使用者;類型2:用戶接受架構的基本功能和默認設置,架構未必是基礎設施,但不可更改,否則侵犯了架構企業(yè)的財產(chǎn)權利,基本的技術信息可向用戶披露,便于用戶及其代理人評估這些信息給自身權益帶來的影響,如不接受可自行退出架構;類型3:用戶接受架構的基本功能和默認設置,可以在架構企業(yè)允許的情況下進行對部分功能的選擇操作,或更改架構的非基本設置,用戶需要在特定情況下為自己的選擇負責;類型4:用戶接受架構的基本功能和默認設置,不經(jīng)架構企業(yè)允許即可進行功能上的選擇操作,或更改架構的基本/非基本設置,甚至自主設計因人而異的架構。

      從類型1到類型4的光譜變化是用戶獲得更多行動自主權并控制架構某些層面的過程,架構企業(yè)與用戶之間的責任分擔也應隨之改變。上述7個案例也基本圍繞架構的何種權力能被法院或立法者界定在哪一類而展開,從而劃定架構內(nèi)消費者的權利邊界:(1)如果用戶行為規(guī)則被寫入架構變成默認設置,則一般而言較難改變,只能遵循架構設定,法律往往更傾向于保護架構企業(yè)基于投入開發(fā)形成的財產(chǎn)權利(例3、6)、在先合同權利(例2、7)和基于特定技術的商業(yè)模式正當性(例1、4、5),一旦發(fā)生糾紛,首先被歸結為一個知情同意的合同問題;(2)如果用戶行為可以突破默認設置,在架構中有較大的行為空間和控制權,則架構企業(yè)需要承擔更多的協(xié)助與監(jiān)控義務,增加運營成本。有時用戶需要法律作為架構之上的規(guī)范干預架構默認的權力,而一旦架構權力吸納公法上的行政義務,又會引發(fā)此種義務設定是否會不當影響私法義務的范圍的爭議?!?4 〕

      上述例子也說明,架構興起的法律保障主要依賴于用戶知情權和選擇權的實現(xiàn)過程。物理世界中的傳統(tǒng)規(guī)則是知情基礎上的自由選擇(選擇加入),但賽博空間的邏輯相反:首先,早期互聯(lián)網(wǎng)行業(yè)支持“選擇退出”,以避風港減輕責任為名,把各類線下資源引入賽博空間,推動了多個行業(yè)的數(shù)字化進程。相比之下“選擇加入”就非常沒有效率?!?5 〕結果是當事人可能選擇在某個未經(jīng)授權使用作品的平臺退出,但卻最終決定選擇擁抱互聯(lián)網(wǎng)。類似地,用戶不過是新經(jīng)濟生產(chǎn)鏈條上的一環(huán),既需要作為生產(chǎn)者不斷生產(chǎn)信息內(nèi)容,也需要作為消費者不斷反饋使用數(shù)據(jù),選擇退出為這一過程的順利實現(xiàn)提供了法律的形式正當性,但在實際操作中表現(xiàn)為“刪除權”則遠未得到落實?!?6 〕架構從默認保護隱私翻轉為默認搜集使用隱私,傳統(tǒng)的空間/信息隱私不復存在,〔27 〕隨著架構有能力獲取更加豐富的用戶數(shù)據(jù),表面上的明示知情同意幾乎無法阻止這一過程。

      其次,選擇退出權往往以用戶協(xié)議形式告知,而絕大部分用戶不會瀏覽協(xié)議而直接使用特定服務,根據(jù)協(xié)議規(guī)定這等同于認可協(xié)議的效力?!?8 〕從這個意義上說,用戶協(xié)議不完全是協(xié)議合同,而更類似于懸掛張貼于架構入口處的單方公告。但問題不在于這些文字的真實法律性質(zhì)(無論是合同還是公告,特定內(nèi)容都可因侵犯消費者權益而事后宣布無效),而在于試圖改進這一問題的意識形態(tài)化的流行思維方式:假定消費者會理性地權衡利弊,而非在特定架構和具體場景內(nèi)拓展真正的選擇能力和操作空間,從而不斷要求加強信息披露,使他們獲得最大限度的形式知情權。這種路徑的必然結果是:用戶協(xié)議越來越冗長,以影響體驗的方式展示,以全有或全無的形式要么接受要么退出,而用戶無法判斷其實質(zhì)意義何在,寧愿接受架構企業(yè)提供的一切告知;〔29 〕同時,以人類語言形式寫成的用戶協(xié)議永遠無法涵蓋架構的全部維度,一旦出現(xiàn)糾紛還需要法院進一步解釋。

      二、架構橫向與縱向的基本維度

      前文已經(jīng)例示,當下賽博空間的默認架構邊界是,用戶得容忍架構之內(nèi)定向廣告的追蹤和監(jiān)控,即使退出刪除賬戶也無法徹底消除數(shù)據(jù),還要尊重包括終端和服務器在內(nèi)的架構企業(yè)財產(chǎn)權,而架構的范圍還在以無法感知的速度不斷擴展。

      1.架構的橫向場景

      場景是最基本的架構形態(tài),也是構成賽博空間可見部分的基本單元。它是架構企業(yè)實現(xiàn)特定服務功能的樣態(tài),以B2B或C2C模式打造出供諸多社會主體活動的空間。賽博空間的演進由簡單到復雜,早期停留在大眾媒體的單向傳播模式,后來則試圖還原和塑造愈加復雜的交互式場景,捕捉和預測主體行為。場景既可以是通過電子屏幕使用的在線虛擬世界,也可以是以傳感器、攝像頭覆蓋物理場所的空間再造;〔30 〕可以是單一的應用程序功能,也可以是一整套代碼設計的行為流程組合。我們在日常工作生活中需要使用大量各類以APP為基礎的服務,會在賽博空間中不斷從一個場景轉向下一個,架構設計允許我們在一個場景中能夠做什么、無法做什么。

      場景內(nèi)的實際活動產(chǎn)生了大量副產(chǎn)品——數(shù)據(jù),脫離了實際活動的泡沫或虛假數(shù)據(jù)無法帶來分析有效性,只有應用才能得到檢驗;反之有效的數(shù)據(jù)分析能提升實際活動的數(shù)量和規(guī)模,從而擴大市場。架構企業(yè)將收集到的數(shù)據(jù)標準化,以自身為中介向第三方開發(fā)者提供挖掘消費者數(shù)據(jù)、提供多樣服務的機會,是目前較為有效率的做法?!?1 〕架構企業(yè)向第三方開發(fā)者開放某類標準化數(shù)據(jù)的端口,后者可接觸到用戶儲存在架構中的相關數(shù)據(jù),但作為交換,要與前者分享用戶后續(xù)使用其服務的衍生數(shù)據(jù)。

      與連續(xù)的物理空間不同,賽博空間場景下的行為都會被若干具有橫向關系的架構覆蓋、記錄與追蹤,并存儲在該場景對應的賬戶中。隨著商業(yè)邏輯的泛化和商業(yè)模式的擴散,大量場景都具備“賬戶—數(shù)據(jù)—評分”的微觀權力結構,意味著賽博空間的同構性和趨同性,架構既可以交叉、重合,也可以分離,其邊界代表了架構企業(yè)的(排他)控制力?!?2 〕用戶使用便利性的需求(很難記住數(shù)十個不同的賬戶登錄信息)催生了對微小場景進行整合,不僅合并虛擬場景(例如打造一站式服務,或打通不同的終端服務),也合并線上與線下場景(例如O2O),使原本分散的場景連通起來。場景維度提示我們,賽博空間未必是天然鐵板一塊的自由世界,而是由無數(shù)個獨立架構相互連接構成,只實現(xiàn)了以TCP/IP、WWW協(xié)議和Windows操作系統(tǒng)為底層標準的最簡統(tǒng)一性。在控制/生產(chǎn)機制下運行的賽博空間從一開始就注定是分裂的,由巨型架構企業(yè)進行的橫向和縱向架構合并將架構之間的連接內(nèi)化,或者民族國家在一國內(nèi)建設電信基礎設施,反而增進了用戶行為的便捷和統(tǒng)一性?!?3 〕

      不難看出,代碼理論1.0就是在場景意義上討論架構,就其構成而言,除了(1)交易流程設計與輔助功能,(2)以賬戶為核心的行為控制機制,更重要的是包含了(3)屬于默認設置的商業(yè)定向廣告。所有用戶協(xié)議都表明,用戶不僅需要容忍作為商業(yè)模式的廣告展示,還需要接受廣告不斷在架構內(nèi)識別與定向追蹤,上文的例4就是一個明顯的例子。而例1進一步說明,用戶已經(jīng)進入了百度及其廣告聯(lián)盟的架構中,其行為被轉化為可識別分析的數(shù)據(jù),進而觸發(fā)定向廣告,這并未發(fā)生在用戶所處的私人物理空間內(nèi),從而不受后者規(guī)范(如生活安寧)的約束。例5則說明,無論是用戶還是競爭對手,試圖破壞商業(yè)廣告的行為是法律禁止的,相關架構企業(yè)當然有權利自保或回擊。同時,作為承載特定架構功能的應用程序也受到知識產(chǎn)權法律保護,破解終端軟件或以DRM加密的數(shù)字作品,都會被視為破壞技術保護措施?!?4 〕

      最后,場景視角還可幫助部分理解網(wǎng)絡法的演進。在監(jiān)管者或法院試圖規(guī)制線上行為時,要么為看上去新的活動制定新規(guī)則,要么就套用既有規(guī)則。鑒于場景是和物理空間較為接近的概念,很多情況下會按照線下場所的慣常思路進行擬制,觸發(fā)這種思維方式的首先不是思考行為本身應當如何科學地解釋定性,而是行為發(fā)生場景的類似性引發(fā)法律上的類比可以方便地解決問題。例如,對尋釁滋事行為的規(guī)制從線下公共場所擴展至線上,〔35 〕深度鏈接視為破壞了被侵權內(nèi)容原初展示的場景,等等。即使在需要對非法行為定性的案件中,法院也更多愿意以架構邊界為標準確定行為非法與否,而不愿意更多地區(qū)分特定行為的性質(zhì)。〔36 〕

      2.架構的縱向分層

      互聯(lián)網(wǎng)分層理論是縱向觀察架構的重要視角,能彰顯賽博空間的物理性和復雜性。以分層形式發(fā)展互聯(lián)網(wǎng)并提出技術標準的實踐由來已久,〔37 〕法律與公共政策分析也發(fā)現(xiàn)這一視角可清晰地討論互聯(lián)網(wǎng)不同層面的監(jiān)管問題及其相互影響?!?8 〕它們往往采用較為籠統(tǒng)的非技術性分層,且多基于PC互聯(lián)網(wǎng)形態(tài)。早期影響力較大的分層理論將賽博空間分為內(nèi)容層、邏輯層、物理層;〔39 〕在此基礎上的沙漏式協(xié)議分層則用于論證“創(chuàng)生性互聯(lián)網(wǎng)”理論,〔40 〕以及互聯(lián)網(wǎng)架構如何有利于分布式創(chuàng)新。〔41 〕綜合之前的研究,筆者把適用于當下賽博空間的縱向分層以水平順序展示如下:

      這一圖示表明,除用戶外,架構至少可以通過七個層面生成和擴展。與橫向場景(內(nèi)容與應用層)不同,縱向分層涵蓋了支撐場景的若干物理機制(如硬件、物理層和云端存儲)和邏輯機制(如傳輸協(xié)議/域名系統(tǒng)),展示出原初互聯(lián)網(wǎng)的“端到端”分布式架構如何塑造賽博空間,〔42 〕并引發(fā)包括信息安全在內(nèi)的一系列新問題,〔43 〕也啟發(fā)當下的物聯(lián)網(wǎng)和智慧城市網(wǎng)絡如何通過架構設計而拓展?!?4 〕表面上看,架構企業(yè)開發(fā)出更多類型的終端,適應更多場景與用戶,使賽博空間變得更加異質(zhì)多元,但通過提升計算能力、整合數(shù)據(jù)分析,可在更大范圍內(nèi)追蹤和分析更多主體的行為,并且每一個層面都可以通過“賬戶—數(shù)據(jù)—評分”機制加以改造,使實際控制力和服務效率不斷提升?!?5 〕

      縱向分層的視角使我們更好地理解網(wǎng)絡法的新問題。首先,縱向分層本身拉伸了賽博空間的維度,從日??山佑|的終端到不可見的云端,也由此創(chuàng)造了新型權力關系。例如,云計算和流媒體服務模式的出現(xiàn)永久改變了消費者和服務商的法律關系,前者沒有能力在技術上控制他們付費使用的虛擬物品(因此不是財產(chǎn)),只能依協(xié)議獲得許可使用權;類似地,如同上述例3表明的那樣,用戶也無法以解鎖或破解的方式任意操控已經(jīng)“購買”的智能手機?!?6 〕這充分說明了架構的邊界已侵入傳統(tǒng)生活的物理空間。其次,分層理論指出了架構并非只沿著水平場景擴展,也會在縱向進行“垂直整合”,這將重塑數(shù)據(jù)傳輸服務商與內(nèi)容服務商之間的法律關系,帶來網(wǎng)絡中立性的爭議?!?7 〕推而廣之,垂直整合凸顯了架構之間的嵌套性,即底層架構企業(yè)在多大程度上有動力和能力影響上游架構企業(yè),重新劃定架構之間的利益邊界,以及底層架構多大程度上應當為法定強制中立而非可由談判改變?!?8 〕強大的底層架構會影響上層活動者,把自己確立的標準變成行業(yè)標準,通過技術措施強制執(zhí)行。反之如果談判不成,像例6展示的那樣,邊界更有可能通過實際侵權而劃定或默認。最后,架構內(nèi)的生產(chǎn)性資源和在橫向場景中一樣會沿著縱向架構流動。例如,各類數(shù)據(jù)可能存儲在云端服務器上,也可能顯示在智能終端屏幕上,甚至在往來傳輸?shù)墓艿乐?,由此形成了對架構企業(yè)而言都需要能夠隨時調(diào)取控制并要求法律保護的“數(shù)據(jù)池”。〔49 〕這些數(shù)據(jù)并非集中在特定位置,而是一個抽象的集合性財產(chǎn)權利,是架構企業(yè)可資使用的全部不特定數(shù)據(jù)的總和,重點在于企業(yè)通過架構進行支配的能力。〔50 〕由此也引申出一國政府對賽博空間管轄權涵蓋范圍的問題,即在何種程度上可要求深入架構企業(yè)的物理服務器獲取數(shù)據(jù)。

      三、架構的衍生維度

      本部分討論作為基本架構內(nèi)容補充的三個衍生子維度,它們一定意義上代表了架構的特殊性。首先是貫穿場景與分層的更為復雜的動態(tài)網(wǎng)絡化架構,其次是以黑箱視角看待驅動整個架構變化的內(nèi)核——算法,最后則是如何將架構看成是一種基礎服務(不僅僅是公用事業(yè)基礎設施)。

      1.網(wǎng)絡化的架構

      場景對行動者而言是給定的靜態(tài)架構,但場景創(chuàng)設的目的大多是為了創(chuàng)設連接,即將各類生產(chǎn)性資源吸引至架構中建立聯(lián)系,互通信息,從而達成潛在合作與交易。作為社會性動物,人類一直處于復雜的社會網(wǎng)絡中,但信息技術的普及使這種網(wǎng)絡(及其權力關系及產(chǎn)生的社會資本)更容易被意識到和追求。賽博空間中的用戶時刻處于與他人(社交網(wǎng)絡)、服務應用(隨時使用)和傳感器(交流數(shù)據(jù))之間的持續(xù)連接中,成為不斷生成的網(wǎng)絡上的節(jié)點,〔51 〕行為也因此受到影響和制約,這是一種觀察架構的動態(tài)視角。

      有意義的連接都發(fā)生在場景之中,是被不斷發(fā)現(xiàn)和創(chuàng)設出來的結果,其中既體現(xiàn)了架構中的社會關系,也體現(xiàn)了架構企業(yè)針對特定場景設計的意圖,希望將社會關系轉化成體現(xiàn)經(jīng)濟價值的生產(chǎn)關系。架構設計能微妙地影響信息傳播和連接,例如微博的設計鼓勵用戶更多地生產(chǎn)和更便利地傳播圖片和觀點(而非博客式長篇大論,只能寫140個字),這加速促成了以網(wǎng)絡大V為核心節(jié)點的貴族式網(wǎng)絡;〔52 〕像今日頭條這樣的架構企業(yè)甚至進一步使這種分享自動化,在用戶登錄之后根據(jù)瀏覽記錄預測偏好,推送(也是匹配)相關信息。這都反映了架構企業(yè)在塑造網(wǎng)絡連接方面產(chǎn)生的巨大影響,將B2C和C2C模式愈加緊密地整合,彰顯出網(wǎng)絡化的架構不只是關于用戶之間的關系,也是用戶和架構之間的關系。

      網(wǎng)絡化架構對法律的影響尚有待深入探討,就筆者的目的而言至少可以從若干方面例示。第一,這一視角凸顯了隱私的“關系性”本質(zhì),而非純粹個人可支配擁有,即無論是空間性還是信息性隱私,都處于個體和他人之間的關系當中,可沿著特定網(wǎng)絡流動分享,而侵犯隱私的標準就在于是否超出當事人的預期/控制能力而轉移到網(wǎng)絡之外流動?!?3 〕社交網(wǎng)絡企業(yè)使更容易地分享隱私成為默認設置,彰顯了隱私的本質(zhì)。第二,網(wǎng)絡言論的影響力與該種言論傳播的信息渠道和架構設計密切相關,這使得貴族式網(wǎng)絡逐漸形成,核心節(jié)點成為重要的規(guī)制對象;同時,社交網(wǎng)絡可以追蹤并量化特定言論(如謠言),通過輿情監(jiān)控技術進行風險防范?!?4 〕第三,社會主體的身份變得愈加網(wǎng)絡化,在與不同種類的社會存在之間的相互連結中不斷形成新的社會身份和認同,〔55 〕進而產(chǎn)生特定場景中的“社會信用”,其本質(zhì)在于依托特定主體的歷史記錄通過算法預測其未來行為和本性,以便降低風險。不斷流動形成的數(shù)據(jù)和連接使主體的身份更加動態(tài),出現(xiàn)了當下以社會信用為基礎的公共管理模式,試圖從時刻變動的行為過程中找到不變的標準?!?6 〕第四,網(wǎng)絡視角還可能為競爭法中相關市場認定提供新思路,當市場行為越來越可以通過網(wǎng)絡化進行追蹤和計算時,傳統(tǒng)上以地域劃分相關市場的標準就會變得粗糙,因為架構企業(yè)的影響力完全可能超越地域限制,隱性地發(fā)揮網(wǎng)絡效應,沿著特定網(wǎng)絡傳輸價值?!?7 〕

      2.作為(算法)黑箱的架構

      使用“黑箱”的隱喻意在突出架構和信息披露的關系,而非僅僅關注算法規(guī)制。對用戶而言,縱向分層結構中從云計算、算法到操作系統(tǒng)、終端都算得上是黑箱,它們通過技術實現(xiàn)某種功能,構成了賽博空間中的生產(chǎn)過程,而作為非專業(yè)人士的用戶只能依賴這些功能設計和披露出的有限信息進行活動?!?8 〕這里以算法為例簡要展示應如何以黑箱為視角看待架構,說明用戶需要容忍黑箱無法徹底透明化的現(xiàn)實,也沒有必要這樣做。算法是架構權力起作用的決定性力量,決定了生產(chǎn)資料的匹配調(diào)用,對架構企業(yè)而言也是核心商業(yè)秘密;算法黑箱本質(zhì)上包括了技術層面的復雜性和默認使用性,幾乎不可能公開。但為了消費者知情和安全監(jiān)管需要,有必要在一定范圍內(nèi)將技術性的構成和功能加以披露,轉譯成普通人可理解的文字,以增強技術產(chǎn)品的可信性,〔59 〕但這種信息披露需要和架構企業(yè)的財產(chǎn)權利相平衡。

      如同上述對架構分類的標準類似,根據(jù)信息強制披露標準,可把作為黑箱的架構大致分為兩類,從而設定不同的治理思路:(1)用戶無權獲悉黑箱的技術細節(jié),只能根據(jù)功能設置使用軟件程序,如發(fā)生意外僅根據(jù)表現(xiàn)出的行為和后果判斷責任,不關心黑箱本身的設計(無論有多智能)。這是最為符合現(xiàn)狀的模式,基本上依靠市場化的運作方式,通過競爭推動算法的改進和創(chuàng)新,也符合對企業(yè)財產(chǎn)權利的一般認知。與這種低責任水平制度相配套的安排是在風險較大的服務中為用戶事先購買保險?!?0 〕(2)黑箱被強制要求進行一定程度的信息披露,對大部分用戶而言,算法的技術細節(jié)難于理解,需要依賴語言說明,主要通過用戶協(xié)議(或產(chǎn)品說明書)對相關功能和商業(yè)模式進行精確描述。充分利用專職代理人的專業(yè)優(yōu)勢幫助進行監(jiān)督,推動公私合作,例如在特定范圍內(nèi)披露源代碼或系統(tǒng)安全漏洞,鼓勵白帽黑客在有限范圍內(nèi)公開漏洞,以便缺陷及時得到修補;同時也需要某些市場中介(如軟件評級和安全軟件廠商)幫助發(fā)現(xiàn)漏洞,使消費者做出更好的選擇。〔61 〕盡管像網(wǎng)絡推手、職業(yè)打假人、刷單組織等異化的代理人有時也會幫助用戶,但這對一個健康的架構企業(yè)始終是有問題的。

      3.作為數(shù)字基礎設施的架構

      架構的復雜性要求一個統(tǒng)一可信的底層基礎設施,以確保賽博空間中交易的安全和穩(wěn)定持續(xù)。我們已經(jīng)見證了在中國由架構企業(yè)提供私人數(shù)字基礎設施的過程,〔62 〕這些基礎設施同物理世界中的市場基礎設施十分類似。其演進方式是,首先為了解決某個架構企業(yè)自身業(yè)務的特定問題而開發(fā),當該企業(yè)不斷增長或發(fā)現(xiàn)這類問題具有普遍性時,就產(chǎn)生了將基礎服務進行擴展的需求和動力,規(guī)模效應使得邊際成本不斷降低,而收益遞增。〔63 〕同時,國家對于某些基礎服務的牌照許可管理也直接影響了這類服務的供給(如第三方支付)。以下重點討論除了一般技術服務之外的四種基礎服務,它們或多或少都針對生產(chǎn)性資源的流動方式,以及更為基礎的增強信任的設施?!?4 〕

      (1)支付與結算。支付是支撐數(shù)字經(jīng)濟的核心功能,沒有快捷的支付手段,互聯(lián)網(wǎng)只能停留在“免費內(nèi)容+廣告”這樣的初級媒體模式,或者僅僅允許用戶在特定服務體系內(nèi)使用自創(chuàng)點卡或虛擬幣,價值交換無法真正融入賽博空間。中國互聯(lián)網(wǎng)發(fā)展史表明,第三方支付服務適應了早期像淘寶那樣的大規(guī)模以個體為單位的遠程交易,對線下支付手段的缺失是一個強力補充,并迅速擴展到淘寶體系以外的各類商業(yè)場景,使無處不在的交易成為可能?!?5 〕更重要的是,第三方支付的擔保功能和累計評分機制解決了陌生人交易的信任問題,這在信任程度較低的社會環(huán)境中尤其關鍵。后續(xù)發(fā)展的非金融機構支付業(yè)務更有助于平臺重塑支付渠道,向更多消費零售新場景擴展。一些分享經(jīng)濟企業(yè)還承擔統(tǒng)一結算的功能,意味著對交易更強的控制力。

      (2)物流。物流伴隨著電子商務的興起而不斷擴展,其核心思路是,原子應當追趕比特傳輸?shù)乃俣龋瑥娜肆Φ诫妱游锪鬈嚨綗o人機的不斷創(chuàng)新都說明了這一點。〔66 〕民營快遞業(yè)利用成本低廉的勞動力得到大力發(fā)展,無論是國有的郵政快遞還是四大國際快遞企業(yè)都沒能充分適應這一變化?!?7 〕部分架構企業(yè)擁有自營的物流服務,像阿里巴巴這樣的企業(yè)則把C2C模式推廣到快遞服務,通過建立第三方快遞業(yè)務的菜鳥聯(lián)盟打造一個可控的快遞二級市場?!?8 〕

      (3)認證。實名制認證在互聯(lián)網(wǎng)治理中是一個逐步完善的過程。盡管國家按照政治治理邏輯不斷要求落實互聯(lián)網(wǎng)各層面的實名認證,架構企業(yè)通過賬戶體系綁定和識別固定的生產(chǎn)者和消費者,對及時預測和平衡不穩(wěn)定的新經(jīng)濟有重要意義。特別是互聯(lián)網(wǎng)時代的金融賬戶和用戶行為賬戶合二為一,有利于將用戶日常行為和消費行為結合在一起分析,加深對用戶的認識?!?9 〕

      (4)征信與金融。傳統(tǒng)征信服務無法滿足大眾參與的分享經(jīng)濟。在掌握大量中小企業(yè)和用戶的交易/消費數(shù)據(jù)后,架構企業(yè)有能力進行預測分析,以算法重新構建新型征信體系,為眾多中小企業(yè)或個人提供貸款或其他金融服務(如貨幣市場基金、保險),反過來進一步推動實體經(jīng)濟交易,形成正向循環(huán),緩解商業(yè)銀行無法解決的普惠金融服務問題。〔70 〕國家允許私人企業(yè)征信服務開展試點后,各類信用算法不僅使用非信貸個人數(shù)據(jù),還被應用于越來越多的網(wǎng)絡服務中,往往起到促銷或折扣的功能,偏離了征信服務的信貸本意?!?1 〕

      值得注意的是,上述基礎服務一旦由巨頭架構企業(yè)推動,會形成更具有公共性的基礎設施(如占有移動支付市場重要份額的支付寶和微信支付)或《網(wǎng)絡安全法》意義上的關鍵基礎設施,這將促成由國家主導的相關產(chǎn)業(yè)平臺產(chǎn)生(如網(wǎng)聯(lián) 〔72 〕和信聯(lián) 〔73 〕),由國家監(jiān)管其運行數(shù)據(jù)和信息安全。

      4.多視角的綜合

      如果把前述基本架構和衍生架構綜合在一起,則可進一步充實“賬戶—數(shù)據(jù)—評分”框架,圍繞何種力量能夠對主體行為產(chǎn)生影響這一主題重新認識架構企業(yè)的生態(tài)系統(tǒng)。這一視角更貼近于一般意義上的“平臺治理”,既突出場景中的生產(chǎn)資料,也突出具有規(guī)制能力的諸多要素。筆者以水平順序展示總結如下:

      這一圖示表明,除用戶外,架構至少由九個基本要素構成,在架構內(nèi)影響主體行為的力量除了默認的剛性場景設計,還包括更加柔性的平臺規(guī)則(及其糾紛解決機制)和信用評分機制。這里凸顯出架構與其他具有不同效力等級的規(guī)范之間既有協(xié)調(diào)關系,也有競爭關系。

      值得一提的是架構企業(yè)的生產(chǎn)和交易管理功能。這至少包括:(1)交易流程可以通過代碼設計強制實施?!?4 〕(2)為海量交易者制定交易規(guī)則和指引,并對違規(guī)者采取強制力處罰。(3)通過聲譽評價機制等社會規(guī)范利用交易雙方主體進行評分排序,本質(zhì)上是一種勞動管理過程?!?5 〕(4)通過技術手段對假冒偽劣商品、網(wǎng)絡推手、非法內(nèi)容等活動進行甄別發(fā)現(xiàn)?!?6 〕(5)將用戶的糾紛行為進行標準化和類型化,在解決未來糾紛時由用戶選擇類別進行簡易處理,這是在線爭議解決的核心。平臺管理權來自通過用戶協(xié)議確立的管理權,也來自某些行政法規(guī)的行政義務?!?7 〕

      四、智能架構的生長與法律保障

      1.架構延伸及其邊界標準

      隨著架構企業(yè)發(fā)展,架構變得愈加智能和復雜,其觸手也圍繞“賬戶—數(shù)據(jù)—評分”這個核心機制不斷在橫向場景和縱向層面上對外延伸,對內(nèi)強化控制和生產(chǎn),從早期的機械合并到有機智能整合。這一過程主要通過如下方式進行:線上開發(fā)更多新功能,以軟件自動更新的方式捆綁擴展,盡管可能會引發(fā)反壟斷爭議;線下以“賬戶—數(shù)據(jù)—評分”機制通過終端設備覆蓋更多物理場景,允許用戶通過一個賬戶使用多種服務;線上通過架構企業(yè)合并獲得既有平臺流量;線下與傳統(tǒng)組織合作獲得更多場景,吸納更多資源,沿著物理世界的地理位置擴展,但可能會受到線下資源流動性管制;通過廣告聯(lián)盟擴展影響力,在不同架構中持續(xù)追蹤用戶;將基礎服務(特別是受到牌照管制的支付、物流)向更多企業(yè)和開發(fā)者提供和外包;算法不斷自動更新,變得更加智能,架構的流程更加簡單和自動化,將所有的交易過程隱藏在架構之中,基于數(shù)據(jù)分析形成的架構越來越因人而異。

      從用戶的角度看,架構的迅速擴張為其清楚知曉邊界帶來了困惑,法律上目前有幾種可資判斷的標準:(1)用戶感知標準。即用戶在使用終端時以感知到的違法行為為邊界?!?8 〕這對信息披露提出了較高的要求,需要向用戶清楚展示架構權力之所及,否則用戶可能無法實際判斷廣告的來源或服務來源,也并不知道攝像頭的默認開啟是否會影響其賬戶行為。(2)用戶協(xié)議文字標準。這往往很模糊,在一些涉及較為復雜的分層與功能標準的場合可能無法實現(xiàn),只能由專業(yè)人士和監(jiān)管機構進行監(jiān)督。但只要用戶協(xié)議展示得當,語言清晰易懂,法院往往傾向于認可知情同意有效。〔79 〕(3)技術標準。如深層服務器或云端標準,這超越了用戶感知,只在特定侵權案件中認可,也需要相當?shù)膶I(yè)知識和取證能力?!?0 〕第一種標準對用戶最為有利,后兩種則對架構企業(yè)有利。在理想狀態(tài)下,三個標準應當相互對應解釋,保持一致,但在實際中用戶協(xié)議無法完全涵蓋技術標準,用戶感知標準無法完全以常識方式得到應用,技術標準本身也會模糊不清,出現(xiàn)架構的重疊沖突。同時,法院尚未在思維方式上突破知情同意的約束,即正視賽博空間架構問題,有必要進一步討論架構的延伸是否恰當?shù)厝肭至藗鹘y(tǒng)空間,對傳統(tǒng)權利和價值造成了威脅?!?1 〕從這個意義上講,為賽博空間的邊界劃定標準就是圍繞社會共識和基本價值展開的論爭。

      架構的擴展是既封閉又開放的動態(tài)競爭過程,架構企業(yè)有動力使用各類方式將生產(chǎn)性資源留在架構中,這一過程伴隨著基礎服務能力的提升,從而為向新的生產(chǎn)性資源開放奠定基礎?;ヂ?lián)網(wǎng)行業(yè)的發(fā)展過程就是架構企業(yè)不斷調(diào)整架構邊界而展開的競爭。架構企業(yè)希望不斷厘清邊界,為自身擴張尋求法律和技術依據(jù),并阻止競爭對手擴張?!?2 〕筆者在第二部分已經(jīng)看到消費者如何推動架構邊界形成,但用戶與架構企業(yè)的關系在某種場合下也可以轉化為架構企業(yè)之間的關系,這就是塑造架構事實邊界的第二種力量:企業(yè)間(不正當)競爭,這類力量往往以保護消費者權利、增強其選擇能力為理由試圖重新劃定架構邊界?!?3 〕例如,在哪一層架構抓取競爭對手的數(shù)據(jù)不違規(guī),如何為消費者屏蔽廣告(同時放置自己的廣告)或干擾他人的軟件運行,如何幫助用戶創(chuàng)制內(nèi)容一鍵搬家,等等?!?4 〕

      2.智能架構需要何種法律

      在因人而異的智能架構出現(xiàn)時,似乎問題就解決了。因為架構會隨著用戶的需求有多種可能性,而一切的可能性也都是在設計之中,只要用戶行使同意權就可以展示出來。〔85 〕因此,理想中的充分知情并選擇退出已經(jīng)不符合互聯(lián)網(wǎng)的現(xiàn)實,持續(xù)地監(jiān)控架構功能變動和了解自身數(shù)據(jù)使用狀況。進行充分選擇操作才是需要解決的問題。核心問題在于,作為架構組成部分的數(shù)據(jù)池在多大程度上能夠為用戶掌控、由第三方代理人處理或只能由架構企業(yè)排他地分析。架構企業(yè)無疑希望排他使用數(shù)據(jù)池,從而打造更加智能的服務,將數(shù)據(jù)服務變成不可更改的默認設置。智能服務是架構的進一步提升,但仍遵循互聯(lián)網(wǎng)興起的邏輯,在宏觀上使資源配置和交易流程更加自動化,在微觀上通過數(shù)據(jù)分析提升預測質(zhì)量,以便更了解和塑造用戶身份?!?6 〕這一服務的前提是,只有事先獲得各類資源(包括用戶數(shù)據(jù)、版權作品、線下服務)的使用權,能夠輕易調(diào)取,掌握真實的元數(shù)據(jù),才能精確匹配或推送廣告,或者推動開發(fā)新服務。這似乎陷入了悖論:形式上在使用特定個人數(shù)據(jù)時需要明示授權,但在架構之中已經(jīng)進行了模擬,而模擬的前提又基于之前的一攬子授權。換言之,智能服務依托的架構首先取代物理世界變成新世界的默認設置,再由用戶在架構內(nèi)行使經(jīng)由設計的“自由選擇”。

      最后總結一些原則性的要點如下:第一,在特定架構中給予用戶更多市場選擇,防止平臺捆綁獨家應用,推動開發(fā)應用市場。智能手機預裝應用程序卸載的實踐合理區(qū)分了手機的基本功能與非基本功能,基本功能(特別是調(diào)動硬件的程序)無法卸載或更改,但需要披露基本信息,而非基本功能則需要給予用戶包括卸載在內(nèi)的操作空間。類似地,架構企業(yè)在各類服務場景中也可以按此標準設計(如點擊關閉浮動廣告,阻止追蹤等)。第二,在另一些架構中,用戶也需要自行更改的能力,至少是用戶購買而非租用的終端中,應當允許用戶對硬件和軟件的特定層面進行個人化的合理使用,但不允許使用第三方提供的工具自動化批量處理。第三,任何架構都由“質(zhì)量”和“功能”兩個層面組成,質(zhì)量層面需要符合行業(yè)技術標準,受消費者法和產(chǎn)品質(zhì)量法約束,而功能層面則給予架構企業(yè)以更多靈活性,確保算法不斷智能演進,通過可刪除、開發(fā)應用市場、自動更新說明和保險等方式彌補可能的風險。第四,通過外在法律和監(jiān)管制約架構設計,設定標準并要求對事后產(chǎn)生的外部行為負責,包括對黑箱設計的倫理干預,審查商業(yè)模式和用戶協(xié)議等。

      結語

      架構理論試圖繪制一幅地圖,展示賽博空間的架構在多大程度上影響用戶行為,其權力通過何種可見/不可見的途徑發(fā)生作用,這取決于如何想象用戶和架構的關系。筆者主要以消費者視角進行了探討,展示出架構企業(yè)需要的法律和技術邊界,這也構成了當下我們熟悉的賽博空間基本樣態(tài)。

      筆者經(jīng)由架構提出了兩種不同層面的契約問題:(1)締結新世界的社會契約,討論人們是否有權退回/重建架構以外的“烏托邦”世界(被架構遺忘、免于自動化算法分析)。(2)人們是否能通過民事契約在架構之內(nèi)行使選擇權操作,而非表面上的知情同意。除了詳細分析的第二種思路,我們也有必要進一步探討第一種理論路徑,即推動用戶通過賬戶參與架構企業(yè)的治理,參與規(guī)則制定與架構設計,這超越了簡單的技術操作層面,而是需要用戶產(chǎn)生某種公共性的自我意識,維護數(shù)字公共資源的生產(chǎn)和合理分配,這需要良好高效的溝通和信息傳播機制。

      猜你喜歡
      賽博架構用戶
      基于FPGA的RNN硬件加速架構
      OnePlus 8T賽博朋克2077限定版
      電腦報(2021年7期)2021-07-01 10:55:56
      功能架構在電子電氣架構開發(fā)中的應用和實踐
      汽車工程(2021年12期)2021-03-08 02:34:30
      賽博朋克
      阿麗塔與“賽博朋克”世界
      從城寨到屋村,尋找隱藏的賽博朋克之城
      空中之家(2018年1期)2018-01-31 01:50:40
      LSN DCI EVPN VxLAN組網(wǎng)架構研究及實現(xiàn)
      電信科學(2017年6期)2017-07-01 15:45:17
      關注用戶
      商用汽車(2016年11期)2016-12-19 01:20:16
      關注用戶
      商用汽車(2016年6期)2016-06-29 09:18:54
      關注用戶
      商用汽車(2016年4期)2016-05-09 01:23:12
      定襄县| 会宁县| 平阳县| 定结县| 云龙县| 余姚市| 遵化市| 贵阳市| 静海县| 芒康县| 新邵县| 五河县| 辛集市| 黔东| 阿鲁科尔沁旗| 江达县| 京山县| 茌平县| 襄城县| 崇左市| 南江县| 富顺县| 定兴县| 乐至县| 静海县| 常宁市| 石家庄市| 宁海县| 玛沁县| 临沭县| 富宁县| 和顺县| 德格县| 新郑市| 卓资县| 错那县| 汉中市| 陇南市| 百色市| 台州市| 巴里|