• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      物聯(lián)網(wǎng)節(jié)點(diǎn)動(dòng)態(tài)信任度評(píng)估方法

      2019-10-31 09:21:33謝麗霞魏瑞炘
      計(jì)算機(jī)應(yīng)用 2019年9期
      關(guān)鍵詞:物聯(lián)網(wǎng)

      謝麗霞 魏瑞炘

      摘 要:針對(duì)現(xiàn)有物聯(lián)網(wǎng)(IoT)信任度評(píng)估方法未考慮信任的時(shí)效性、非入侵因素對(duì)直接信任度評(píng)估的影響以及缺乏對(duì)推薦節(jié)點(diǎn)可靠度的評(píng)估,造成信任評(píng)估準(zhǔn)確度低且不能有效應(yīng)對(duì)節(jié)點(diǎn)惡意行為的不足,提出一種IoT節(jié)點(diǎn)動(dòng)態(tài)信任度評(píng)估方法(IDTEM)。首先,設(shè)計(jì)節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子評(píng)估節(jié)點(diǎn)行為,并采用動(dòng)態(tài)信任衰減因子表達(dá)信任的時(shí)效性,改進(jìn)基于貝葉斯的直接信任度評(píng)估方法;其次,從推薦節(jié)點(diǎn)價(jià)值、評(píng)價(jià)離散度與節(jié)點(diǎn)自身的信任度值三個(gè)方面評(píng)估推薦節(jié)點(diǎn)可靠度,并據(jù)此優(yōu)化推薦信任度權(quán)重計(jì)算方法;同時(shí),設(shè)計(jì)推薦信任反饋機(jī)制,通過服務(wù)提供節(jié)點(diǎn)完成服務(wù)后的實(shí)際信任度與推薦信任度的反饋誤差實(shí)現(xiàn)對(duì)協(xié)同惡意推薦節(jié)點(diǎn)的懲罰;最后,基于熵計(jì)算節(jié)點(diǎn)自適應(yīng)權(quán)重,得到節(jié)點(diǎn)綜合信任度值。實(shí)驗(yàn)結(jié)果表明,同基于貝葉斯理論的面向無(wú)線傳感器網(wǎng)絡(luò)的信譽(yù)信任評(píng)估框架(RFSN)模型及基于節(jié)點(diǎn)行為的物聯(lián)網(wǎng)信任度評(píng)估方法(BITEM)相比,IDTEM可較好地識(shí)別惡意服務(wù)和抑制惡意推薦行為,且具有較低的傳輸能耗。

      關(guān)鍵詞:物聯(lián)網(wǎng);信任度評(píng)估;貝葉斯理論;推薦信任;節(jié)點(diǎn)相似度

      中圖分類號(hào):TP309

      文獻(xiàn)標(biāo)志碼:A

      Dynamic trust evaluation method for IoT nodes

      XIE Lixia*, WEI Ruixin

      College of Computer Science and Technology, Civil Aviation University of China, Tianjin 300300, China

      Abstract:

      In order to solve the problem that the existing Internet of Things (IoT) trust evaluation method ignores the impact of the timeliness of trust and non-intrusion factors on direct trust evaluation, and is lack of reliability evaluation of trust recommendation nodes, which lead to low trust evaluation accuracy and low capability to deal with malicious nodes, an IoT node Dynamic Trust Evaluation Method (IDTEM) was proposed. Firstly, the quality of service persistence factor for nodes was introduced to evaluate node behavior and the dynamic trust attenuation factor of nodes was used to express the timeliness of trust, improving the Bayesian-based direct trust evaluation method. Secondly, the reliability of recommended node was evaluated from three aspects: recommended node value, evaluation difference and trust value of the node itself, and was used to optimize the recommendation trust weight calculation method. At the same time, recommendation trust feedback mechanism was designed to suppress collaborative malicious recommendation nodes by the feedback error between the actual trust of the service provided node after providing service and the recommendation trust. Finally, the adaptive weights of direct and recommendation trust of the node were calculated based on the entropy to obtain the comprehensive trust value of the node. Experimental results show that compared with the Reputation-based Framework for high integrity Sensor Network model (RFSN) based on Bayesian theory and the Behavior-based IoT Trust Evaluation Method (BITEM), IDTEM has certain advantages in dealing with malicious services and malicious recommendation behaviors, and has lower transmission energy consumption.

      Key words:

      Internet of Things (IoT); trust evaluation; Bayesian theory; recommendation trust; node similarity

      0 引言

      近年來(lái),物聯(lián)網(wǎng)(Internet of Things, IoT)已廣泛應(yīng)用于環(huán)境控制、智能家居等各領(lǐng)域[1],但由于物聯(lián)網(wǎng)環(huán)境的開放性、服務(wù)多樣性、節(jié)點(diǎn)能量受限等特征,使得物聯(lián)網(wǎng)的安全問題面臨嚴(yán)峻挑戰(zhàn)。一方面,不同設(shè)備的計(jì)算資源和存儲(chǔ)能力差異較大,加大了傳統(tǒng)安全認(rèn)證和加密技術(shù)應(yīng)用于物聯(lián)網(wǎng)中的難度;另一方面,物聯(lián)網(wǎng)中業(yè)務(wù)屬性、服務(wù)形式及信任特征差異較大,致使信任關(guān)系更為復(fù)雜,利用節(jié)點(diǎn)信任關(guān)系以獲取服務(wù)或資源為目標(biāo)的惡意行為也成為保障網(wǎng)絡(luò)安全的威脅之一。因此,在物聯(lián)網(wǎng)中,充分挖掘節(jié)點(diǎn)信任關(guān)系并有效識(shí)別惡意節(jié)點(diǎn),對(duì)保障物聯(lián)網(wǎng)安全和服務(wù)質(zhì)量具有重要意義。

      信任管理作為有效防御網(wǎng)絡(luò)內(nèi)部攻擊和識(shí)別惡意節(jié)點(diǎn)的方法之一,在無(wú)線傳感器網(wǎng)絡(luò)[2-3]等領(lǐng)域應(yīng)用廣泛,國(guó)內(nèi)外學(xué)者也提出了很多典型模型。Ganeriwal等[4]基于貝葉斯理論提出了一個(gè)面向無(wú)線傳感器網(wǎng)絡(luò)的信譽(yù)信任評(píng)估框架(Reputation-based Framework for high integrity Sensor Network,RFSN),證明了β函數(shù)可較好擬合信任分布,可以作為信任計(jì)算的方法。在RFSN中,信任數(shù)據(jù)根據(jù)來(lái)源被劃分為直接和間接信任,信譽(yù)值通過全局信任迭代的方式獲得。但由于該框架未對(duì)間接信任數(shù)據(jù)來(lái)源的可靠度進(jìn)行評(píng)估,造成模型不能有效抵御惡意推薦節(jié)點(diǎn)的攻擊,同時(shí),全局范圍內(nèi)收集信任證據(jù)將會(huì)面臨能耗較大的問題。Priayoheswari等[5]提出一種Beta信譽(yù)和直接信任(Beta Reputation and Direct Trust, BRDT)模型,Sathish等[6]通過引入代理節(jié)點(diǎn)改進(jìn)BRDT模型,提出智能Beta信譽(yù)和動(dòng)態(tài)信任度評(píng)估模型。上述兩種模型僅依據(jù)節(jié)點(diǎn)直接通信行為評(píng)估節(jié)點(diǎn)的可信度,雖然降低了信任計(jì)算的能耗,但由于缺少間接信任度評(píng)估過程,降低了模型的收斂速率,從而無(wú)法快速識(shí)別惡意節(jié)點(diǎn)。劉宴兵等[7]則結(jié)合節(jié)點(diǎn)直接和間接交互經(jīng)驗(yàn)綜合評(píng)估目標(biāo)節(jié)點(diǎn)信任度,提出基于節(jié)點(diǎn)行為的物聯(lián)網(wǎng)信任度評(píng)估方法和惡意行為檢測(cè)(Behavior-based IoT Trust Evaluation Model, BITEM)模型,實(shí)驗(yàn)結(jié)果表明該方法可以快速識(shí)別惡意節(jié)點(diǎn);但模型僅從單一角度評(píng)估推薦節(jié)點(diǎn)的可靠度,使得模型抵御惡意推薦行為的能力降低。

      隨著智能設(shè)備的發(fā)展,物聯(lián)網(wǎng)中的節(jié)點(diǎn)由硬件設(shè)備擴(kuò)展為以智能設(shè)備及其用戶為代表的實(shí)體節(jié)點(diǎn),利用用戶的社交關(guān)系,服務(wù)可能在信任特征及業(yè)務(wù)屬性差異較大的陌生實(shí)體間展開[8],同時(shí),各種物聯(lián)網(wǎng)設(shè)備在計(jì)算與存儲(chǔ)能力上存在較大差異,上述特征使物聯(lián)網(wǎng)設(shè)備間的交互關(guān)系更為復(fù)雜。一些學(xué)者將社會(huì)關(guān)系的概念引入信任評(píng)估模型中,并通過實(shí)驗(yàn)驗(yàn)證了將其引入信任評(píng)估中的有效性。如:Abderrahim等[9]利用節(jié)點(diǎn)的社區(qū)興趣進(jìn)行節(jié)點(diǎn)分簇,提出了基于社區(qū)興趣的信任度評(píng)估模型。Bao等[10]和Chen等[11]則利用協(xié)同過濾方法篩選信任推薦節(jié)點(diǎn),提出基于社會(huì)關(guān)系的物聯(lián)網(wǎng)信任管理模型。此類模型的優(yōu)勢(shì)在于能夠提升推薦信任評(píng)估的可靠性,增強(qiáng)模型對(duì)抗惡意推薦行為的能力,但多數(shù)模型在直接信任評(píng)估過程中,僅考慮了信任時(shí)效性,不能準(zhǔn)確地反映節(jié)點(diǎn)行為。除此之外,上述模型僅有部分考慮了平衡節(jié)點(diǎn)能耗和信任評(píng)估準(zhǔn)確度的問題,而在物聯(lián)網(wǎng)中,由于節(jié)點(diǎn)計(jì)算、存儲(chǔ)資源和能量受限,因此,在充分挖掘節(jié)點(diǎn)信任關(guān)系、保證信任度計(jì)算準(zhǔn)確度的同時(shí),也需要考慮節(jié)點(diǎn)能耗。

      綜上所述,上述研究為物聯(lián)網(wǎng)環(huán)境下的信任模型研究奠定了較好的基礎(chǔ),但尚存在以下不足:

      1)在直接信任度計(jì)算中,忽略了非入侵因素及信任時(shí)效性對(duì)信任評(píng)估的影響,從而不能較好反映節(jié)點(diǎn)行為,降低了信任計(jì)算準(zhǔn)確度;

      2)忽略不同節(jié)點(diǎn)的信任特征差異及對(duì)推薦節(jié)點(diǎn)的可靠度評(píng)估,不能有效抑制節(jié)點(diǎn)的惡意推薦行為;

      3)缺乏對(duì)協(xié)同惡意推薦節(jié)點(diǎn)的有效抑制方法,從而降低信了任評(píng)估方法有效性。

      針對(duì)上述不足,本文提出一種物聯(lián)網(wǎng)節(jié)點(diǎn)動(dòng)態(tài)信任評(píng)估方法(IoT node Dynamic Trust Evaluation Method, IDTEM)。首先,設(shè)計(jì)節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子刻畫節(jié)點(diǎn)在監(jiān)測(cè)周期內(nèi)的整體行為,降低非入侵因素對(duì)信任評(píng)估的影響;采用動(dòng)態(tài)信任衰減因子實(shí)現(xiàn)對(duì)節(jié)點(diǎn)近期信任記錄的有效利用,改進(jìn)基于貝葉斯的直接信任度評(píng)估方法。其次,通過節(jié)點(diǎn)價(jià)值分析,排除信任特征與評(píng)估節(jié)點(diǎn)偏差較大的節(jié)點(diǎn),并結(jié)合評(píng)價(jià)離散度與節(jié)點(diǎn)自身的信任度綜合評(píng)估推薦節(jié)點(diǎn)的可靠度,優(yōu)化推薦信任度權(quán)重計(jì)算方法;通過信任反饋機(jī)制實(shí)現(xiàn)對(duì)協(xié)同惡意推薦節(jié)點(diǎn)的懲罰,最終提高推薦信任評(píng)估的準(zhǔn)確性。最后,基于熵計(jì)算節(jié)點(diǎn)自適應(yīng)權(quán)重,獲得節(jié)點(diǎn)綜合信任度值。

      1 應(yīng)用環(huán)境與基本定義

      1.1 應(yīng)用環(huán)境

      本文研究應(yīng)用于分布式物聯(lián)網(wǎng)環(huán)境下的信任評(píng)估方法。環(huán)境中存在多個(gè)信任管理域,屬于同一用戶Userx的所有設(shè)備構(gòu)成單個(gè)管理域,單個(gè)管理域由信任管理節(jié)點(diǎn)Gx及其他普通設(shè)備dx(如RFID標(biāo)簽和讀寫器、傳感器等)構(gòu)成,環(huán)境中的各設(shè)備具有唯一標(biāo)識(shí),域內(nèi)設(shè)備的信任關(guān)系由管理節(jié)點(diǎn)維護(hù)。應(yīng)用環(huán)境如圖1所示。

      1.2 基本定義

      信任作為一個(gè)抽象概念[12],基于不同上下文存在多種不同的定義。為更好地描述模型,對(duì)本文采用的信任定義作出如下說(shuō)明:

      定義1 信任是評(píng)估節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)提供服務(wù)能力或合作概率的預(yù)期,評(píng)估節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)合作概率預(yù)測(cè)的量化表示即為信任度值。

      定義2 直接信任度值是主體結(jié)合歷史直接交互數(shù)據(jù),對(duì)與其產(chǎn)生直接交互行為的客體的合作概率和服務(wù)能力的預(yù)測(cè)值。節(jié)點(diǎn)i對(duì)節(jié)點(diǎn)j的直接信任度值記為Tdij。

      定義3 推薦信任度是主體根據(jù)其他節(jié)點(diǎn)傳遞的信任度值對(duì)目標(biāo)節(jié)點(diǎn)服務(wù)能力或合作概率的預(yù)測(cè)值。節(jié)點(diǎn)i對(duì)節(jié)點(diǎn)j的直接信任度值記為Treij。

      根據(jù)節(jié)點(diǎn)在信任評(píng)估過程中的不同角色,將物聯(lián)網(wǎng)節(jié)點(diǎn)劃分為以下3類節(jié)點(diǎn):

      1)目標(biāo)節(jié)點(diǎn)。該節(jié)點(diǎn)為提供服務(wù)的節(jié)點(diǎn),是信任度計(jì)算中的被評(píng)估節(jié)點(diǎn)。

      2)服務(wù)評(píng)估節(jié)點(diǎn)。發(fā)起服務(wù)請(qǐng)求,同時(shí)計(jì)算并存儲(chǔ)目標(biāo)節(jié)點(diǎn)的信任度值,設(shè)備根據(jù)信任值選擇合作節(jié)點(diǎn)。

      3)推薦節(jié)點(diǎn)。推薦節(jié)點(diǎn)為與評(píng)估節(jié)點(diǎn)存在交互記錄的其他域管理節(jié)點(diǎn),在推薦信任度評(píng)估過程中,向評(píng)估節(jié)點(diǎn)傳遞目標(biāo)節(jié)點(diǎn)的信任度值。

      節(jié)點(diǎn)間的信任關(guān)系通過直接交互節(jié)點(diǎn)列表Dx={d1,d2,…,dn}與信任度列表Txi={Tx1,Tx2,…,Txj,…,Txn}描述,其中Txn為用戶Userx對(duì)設(shè)備dn的信任度值,Txn、Dx均由Gx維護(hù)。

      2 直接信任度評(píng)估

      2.1 問題分析

      現(xiàn)有的信任度評(píng)估方法在直接信任度計(jì)算中大多采用基于貝葉斯理論的評(píng)估方法[13]。該方法中,若節(jié)點(diǎn)i與節(jié)點(diǎn)j的歷史交互成功次數(shù)和失敗次數(shù)分別為αij和βij,則節(jié)點(diǎn)i關(guān)于節(jié)點(diǎn)j的信任度Trustij服從Beta分布,即有Trustij~Beta(αij+1, βij+1)[4],則節(jié)點(diǎn)i對(duì)節(jié)點(diǎn)j的直接信任度值Tdij的統(tǒng)計(jì)期望為:

      Tdij=E(B(α+1, β+1))=E(f(u|α+1, β+1))=αij+1αij+βij+2(1)

      多數(shù)采用上述公式計(jì)算節(jié)點(diǎn)直接信任度的方法中,采用靜態(tài)衰減因子實(shí)現(xiàn)歷史信任的衰減,而當(dāng)衰減常數(shù)被惡意節(jié)點(diǎn)知悉時(shí),難以保證信任評(píng)估的有效性。其次,由于節(jié)點(diǎn)受到信號(hào)干擾等非入侵因素影響時(shí)也可能造成交互失敗,未將此類情況和持續(xù)惡意行為的節(jié)點(diǎn)進(jìn)行區(qū)分使得信任評(píng)估結(jié)果不能準(zhǔn)確刻畫節(jié)點(diǎn)行為,也會(huì)直接影響節(jié)點(diǎn)的服務(wù)選擇,從而影響網(wǎng)絡(luò)服務(wù)質(zhì)量。

      2.2 直接信任度計(jì)算

      2.2.1 節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子

      為解決上述問題,本文設(shè)計(jì)節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子評(píng)估節(jié)點(diǎn)在監(jiān)測(cè)周期內(nèi)的整體行為。節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子定義如下:

      定義4 在監(jiān)測(cè)周期內(nèi),服務(wù)提供節(jié)點(diǎn)產(chǎn)生合法行為和惡意行為的次數(shù)為該節(jié)點(diǎn)的節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子Faj(a=reward,publish),F(xiàn)publishj為節(jié)點(diǎn)服務(wù)的懲罰因子,F(xiàn)rewardj為獎(jiǎng)勵(lì)因子。

      該指標(biāo)用來(lái)懲罰持續(xù)產(chǎn)生惡意行為的節(jié)點(diǎn),或激勵(lì)持續(xù)合法行為的節(jié)點(diǎn)。

      Fpublishj或Frewardj計(jì)算方法為:

      Faj=serviceajserviceNj+servicePj(2)

      其中,a=reward,publish;serviceNj、servicePj分別為節(jié)點(diǎn)j在監(jiān)測(cè)周期內(nèi)提供低質(zhì)量和高質(zhì)量服務(wù)的次數(shù)。

      2.2.2 直接信任度

      1)動(dòng)態(tài)信任衰減因子。

      信任值基于歷史交互記錄計(jì)算且隨時(shí)間的增加而衰減,近期記錄更能反映節(jié)點(diǎn)合作概率。因此,計(jì)算直接信任度時(shí)也需要考慮信任的時(shí)效性。

      本文采用如下動(dòng)態(tài)信任衰減因子表達(dá)信任的時(shí)效性:

      FR(λ,tk)=e-λ·L(t-tk)(3)

      其中:λ和L(t-tk)為兩個(gè)相互獨(dú)立的變量。λ為速率調(diào)節(jié)因子,且0<λ≤1,λ可根據(jù)實(shí)際應(yīng)用場(chǎng)景進(jìn)行調(diào)整;L(t-tk)為時(shí)間更新函數(shù),表示第k個(gè)歷史信任記錄發(fā)生時(shí)距離當(dāng)前時(shí)刻t的距離,tk為該節(jié)點(diǎn)第k次交互產(chǎn)生的時(shí)刻。

      2)直接信任度計(jì)算。

      當(dāng)節(jié)點(diǎn)完成一次合作時(shí),評(píng)估節(jié)點(diǎn)結(jié)合該節(jié)點(diǎn)的歷史高質(zhì)量服務(wù)信任序列αij(αt11,αt21, …,αtn1)和低質(zhì)量服務(wù)信任序列βij(βt11, βt21, …, βtn1)計(jì)算節(jié)點(diǎn)直接信任度值。歷史信任記錄根據(jù)動(dòng)態(tài)信任因子進(jìn)行衰減,同時(shí)依據(jù)節(jié)點(diǎn)本次交互行為更新該節(jié)點(diǎn)的節(jié)點(diǎn)服務(wù)質(zhì)量持續(xù)因子的量化值。

      節(jié)點(diǎn)交互完成后,若服務(wù)提供節(jié)點(diǎn)j此次服務(wù)為低質(zhì)量服務(wù)時(shí),則βpresentij=1,根據(jù)式(2)和式(4)分別更新Fpublishj和βij;相反,若本次服務(wù)提供節(jié)點(diǎn)j提供高質(zhì)量服務(wù),則αpresentij=1,并根據(jù)式(2)更新Frewardj,同時(shí)根據(jù)式(5)計(jì)算αij。最后根據(jù)式(1),計(jì)算節(jié)點(diǎn)的直接信任度值。

      βij′=∑ni=1FR(βi,ti)·βtij+Fpublishj·βpresentij(4)

      αij′=∑ni=1FR(αi,ti)·αtij+Frewardj·αpresentij(5)

      3 推薦信任度評(píng)估

      3.1 問題分析

      多數(shù)信任模型在推薦信任度計(jì)算過程中,傾向于認(rèn)為主體對(duì)推薦節(jié)點(diǎn)的信任度越高則越可靠,依據(jù)此原則,若惡意節(jié)點(diǎn)通過提供良好服務(wù)獲得來(lái)自評(píng)估節(jié)點(diǎn)的高信任評(píng)價(jià)后,容易利用這一規(guī)則實(shí)施惡意推薦行為,從而降低推薦信任度計(jì)算的準(zhǔn)確性。此外,共謀惡意推薦節(jié)點(diǎn)通過組織同類節(jié)點(diǎn)提供大量不實(shí)信任值的方式,混淆評(píng)估節(jié)點(diǎn)對(duì)惡意推薦行為的判斷,并達(dá)到讓其協(xié)同節(jié)點(diǎn)獲取資源或服務(wù)的目的,進(jìn)而影響網(wǎng)絡(luò)安全,而缺少對(duì)此類節(jié)點(diǎn)的有效應(yīng)對(duì)機(jī)制也將造成信任評(píng)估的準(zhǔn)確性降低。

      另一方面,不同節(jié)點(diǎn)的需求有著較大的差異,服務(wù)偏好不同使得不同評(píng)估節(jié)點(diǎn)對(duì)同一服務(wù)節(jié)點(diǎn)的信任度也有很大差別,這也降低了不同推薦節(jié)點(diǎn)傳遞的推薦信息的參考價(jià)值;同時(shí),考慮到物聯(lián)網(wǎng)內(nèi)節(jié)點(diǎn)規(guī)模龐大、計(jì)算資源受限的特點(diǎn),在提高推薦信任度計(jì)算的有效性的同時(shí)需考慮能耗問題。

      3.2 推薦信任度計(jì)算

      3.2.1 推薦信任度計(jì)算步驟

      為解決上述問題,本文首先根據(jù)節(jié)點(diǎn)本地信任度過濾低信任度節(jié)點(diǎn),并依據(jù)節(jié)點(diǎn)價(jià)值評(píng)估結(jié)果篩選高價(jià)值節(jié)點(diǎn)建立推薦節(jié)點(diǎn)集;然后,評(píng)估推薦節(jié)點(diǎn)集內(nèi)節(jié)點(diǎn)的可靠度;最后將各推薦節(jié)點(diǎn)的可靠度作為推薦信任度的權(quán)重,從而進(jìn)一步提高推薦信任計(jì)算的準(zhǔn)確度。

      推薦信任度計(jì)算過程如圖2所示。

      推薦信任度值計(jì)算過程設(shè)計(jì)如下:

      1)本地信任查詢。該步驟查詢服務(wù)請(qǐng)求節(jié)點(diǎn)的域管理節(jié)點(diǎn)Gx的本地信任列表,篩選信任度值較高的m個(gè)節(jié)點(diǎn)。當(dāng)推薦節(jié)點(diǎn)數(shù)不足時(shí),隨機(jī)選取部分目標(biāo)節(jié)點(diǎn)提供的備選可信節(jié)點(diǎn)作為補(bǔ)充推薦節(jié)點(diǎn)。

      2)推薦信任值請(qǐng)求。該步驟中,評(píng)估節(jié)點(diǎn)向1)中的m個(gè)節(jié)點(diǎn)請(qǐng)求推薦信任傳遞。

      3)節(jié)點(diǎn)價(jià)值評(píng)估。根據(jù)2)中節(jié)點(diǎn)傳遞的信任列表,計(jì)算上述用戶與服務(wù)請(qǐng)求節(jié)點(diǎn)所屬用戶的價(jià)值Im(x, y)user(計(jì)算方法見3.2.2節(jié))。

      4)建立高價(jià)值節(jié)點(diǎn)集。選取Im(x, y)user較高的前n個(gè)節(jié)點(diǎn)建立高價(jià)值節(jié)點(diǎn)集Imn。

      5)由式(10)計(jì)算Imn內(nèi)各節(jié)點(diǎn)的評(píng)價(jià)離散度Diffk(計(jì)算方法見3.2.3節(jié))。

      6)計(jì)算第k個(gè)節(jié)點(diǎn)的推薦可靠度作為該推薦節(jié)點(diǎn)的信任度權(quán)重Rlk(計(jì)算方法見3.2.4節(jié))。

      7)計(jì)算節(jié)點(diǎn)推薦信任度值Treij:

      Treij=∑k∈simnRlk∑k∈simnRlk×Tdkj(6)

      3.2.2 推薦節(jié)點(diǎn)價(jià)值評(píng)估

      推薦節(jié)點(diǎn)與評(píng)估節(jié)點(diǎn)間的公共交互節(jié)點(diǎn)數(shù)及對(duì)這些節(jié)點(diǎn)的評(píng)分相似性,能夠表明推薦節(jié)點(diǎn)與評(píng)估節(jié)點(diǎn)在服務(wù)偏好和評(píng)分標(biāo)準(zhǔn)方面的一致性。若兩節(jié)點(diǎn)在這兩方面的評(píng)分越高,則說(shuō)明該推薦節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)的評(píng)價(jià)越有可能接近主體對(duì)目標(biāo)節(jié)點(diǎn)的評(píng)價(jià),因此,該推薦節(jié)點(diǎn)提供的信息具有越高的參考價(jià)值。

      計(jì)算推薦節(jié)點(diǎn)價(jià)值時(shí),推薦節(jié)點(diǎn)首先傳遞直接交互節(jié)點(diǎn)列表與信任度列表至該設(shè)備隸屬的域管理節(jié)點(diǎn);并由式(8)計(jì)算評(píng)估節(jié)點(diǎn)x與推薦節(jié)點(diǎn)y在好友相似度SFxy、對(duì)共同通信節(jié)點(diǎn)的評(píng)分相似性SExy這兩方面的綜合評(píng)估值,即:

      在該過程中,首先計(jì)算SFxy和SExy:

      SFxy=|Dx∩Dy||Dx∪Dy|(7)

      SExy=1SFxy ∑i∈(Dx∩Dy)|Txi-Tyi|(8)

      其中:Dx、Dy分別為與用戶x、y發(fā)生直接交互節(jié)點(diǎn)列表,SFxy的計(jì)算結(jié)果為評(píng)估節(jié)點(diǎn)x與推薦節(jié)點(diǎn)y的共同通信好友數(shù),|Txi-Tyi|為2個(gè)用戶對(duì)共同節(jié)點(diǎn)評(píng)分的差值。

      完成上述計(jì)算后,計(jì)算推薦節(jié)點(diǎn)的價(jià)值Im(x, y)user:

      Im(x,y)user=12(SExy+SFxy)(9)

      根據(jù)Im(x, y)user評(píng)分,將前n個(gè)用戶加入高價(jià)值節(jié)點(diǎn)集Imn。

      3.2.3 評(píng)價(jià)離散度

      推薦節(jié)點(diǎn)與總體評(píng)價(jià)的離散度可衡量推薦節(jié)點(diǎn)提供的數(shù)據(jù)是否可靠。本文通過計(jì)算推薦節(jié)點(diǎn)集Imn中某一節(jié)點(diǎn)對(duì)推薦節(jié)點(diǎn)集總體評(píng)價(jià)的偏差作為推薦節(jié)點(diǎn)k的評(píng)價(jià)離散度,記為Diffk。

      設(shè)dk為所有推薦節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)j直接信任度的期望,Tdkj為節(jié)點(diǎn)k對(duì)節(jié)點(diǎn)j的直接信任度值(k∈Imn),則第k個(gè)節(jié)點(diǎn)的評(píng)價(jià)離散度Diffk為:

      Diffkj=1∑ki=1Tdkj-dkTdkj-dk(10)

      3.2.4 推薦節(jié)點(diǎn)可靠度

      推薦節(jié)點(diǎn)的可靠度為推薦節(jié)點(diǎn)在推薦節(jié)點(diǎn)價(jià)值、評(píng)價(jià)離散度及推薦節(jié)點(diǎn)自身信任度這3個(gè)方面的綜合評(píng)價(jià)值。

      推薦節(jié)點(diǎn)k的可靠度RLk由式(11)計(jì)算:

      Rlk=Im(x,y)user×(1-Diffk)×Txk(11)

      其中:Txk為評(píng)估節(jié)點(diǎn)x對(duì)推薦節(jié)點(diǎn)k的信任度,IM(x, y)user為推薦節(jié)點(diǎn)價(jià)值的量化值,Diffk為推薦節(jié)點(diǎn)與整體評(píng)價(jià)期望的評(píng)價(jià)離散度。

      3.3 推薦信任反饋機(jī)制

      推薦信任計(jì)算過程除了需要識(shí)別單個(gè)節(jié)點(diǎn)的惡意推薦行為外,還需要對(duì)網(wǎng)絡(luò)中存在協(xié)同惡意推薦行為的節(jié)點(diǎn)進(jìn)行識(shí)別。

      當(dāng)環(huán)境中存在協(xié)同惡意推薦節(jié)點(diǎn)時(shí),評(píng)估節(jié)點(diǎn)對(duì)服務(wù)提供節(jié)點(diǎn)實(shí)際行為的評(píng)估值將與協(xié)同惡意節(jié)點(diǎn)提供的推薦信任值相差很大,將評(píng)估節(jié)點(diǎn)對(duì)合作節(jié)點(diǎn)實(shí)際行為的評(píng)估值,即采用評(píng)估節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)的直接信任度值作為信任反饋,衡量推薦信任度與節(jié)點(diǎn)直接信任度值的反饋誤差,并根據(jù)該反饋誤差調(diào)節(jié)評(píng)估節(jié)點(diǎn)對(duì)推薦節(jié)點(diǎn)的信任度,能夠抑制惡意節(jié)點(diǎn)的策略性攻擊行為。

      信任反饋機(jī)制執(zhí)行過程如圖3。

      當(dāng)目標(biāo)節(jié)點(diǎn)完成本次服務(wù),評(píng)估節(jié)點(diǎn)k根據(jù)其對(duì)目標(biāo)節(jié)點(diǎn)本次服務(wù)評(píng)分Tdkj,實(shí)現(xiàn)該節(jié)點(diǎn)對(duì)推薦節(jié)點(diǎn)i的本地信任的反饋更新。

      設(shè)ε為評(píng)估節(jié)點(diǎn)對(duì)信任數(shù)據(jù)偏差的容忍度,評(píng)估節(jié)點(diǎn)對(duì)推薦節(jié)點(diǎn)i的本地信任更新方式如下:

      Tkinew=Tkihistory+Mre×ψ(Tdkj-Tdij)n, Tdkj-Tdij<ε

      Tkihistory-Mp×ψ(Tdkj-Tdij)n,Tdkj-Tdij≥ε(12)

      其中:Mre和Mp分別為評(píng)估節(jié)點(diǎn)對(duì)推薦節(jié)點(diǎn)本地信任獎(jiǎng)勵(lì)和懲罰的最大值,這兩個(gè)值保證了Tijnew在其取值范圍內(nèi)。ψ(|Tdkj-Tdij|)表示對(duì)推薦節(jié)點(diǎn)懲罰值或獎(jiǎng)勵(lì)值與容忍度ε的關(guān)系。

      4 綜合信任度計(jì)算與更新

      4.1 綜合信任度計(jì)算

      綜合信任度計(jì)算需要融合直接信任度和間接信任度。若根據(jù)經(jīng)驗(yàn)設(shè)定節(jié)點(diǎn)的直接信任度和推薦信任度的權(quán)重,將會(huì)增加綜合信任度計(jì)算的主觀性。信息熵作為度量各指標(biāo)的效用值的方法,可以用來(lái)確定各指標(biāo)對(duì)應(yīng)的權(quán)重以克服根據(jù)經(jīng)驗(yàn)確定權(quán)重的局限性。

      由式(13)計(jì)算節(jié)點(diǎn)j的綜合信任度值Ttotalj:

      Ttotalj=wd·Tdij+wre·Treij(13)

      其中wd、wre分別為直接信任度和推薦信任度的自適應(yīng)權(quán)重,計(jì)算方法如下:

      wd=1-(H(Tdij)lb Tdij)1-H(Tdij)lb Tdij+1-H(Treij)lb Treij(14)

      wre=1-(H(Treij)lb Treij)1-H(Tdij)lb Tdij+1-H(Treij)lb Treij(15)

      其中H(Tdij)和H(Treij)分別為直接信任和推薦信任的信息熵。

      4.2 信任更新

      由于物聯(lián)網(wǎng)內(nèi)存在大量存儲(chǔ)和計(jì)算能力差異較大的節(jié)點(diǎn),因此在本方法中參與信任計(jì)算的數(shù)據(jù)僅存儲(chǔ)在各信任管理域內(nèi)的管理節(jié)點(diǎn)Gx中。信任記錄中包含各節(jié)點(diǎn)服務(wù)時(shí)間、節(jié)點(diǎn)標(biāo)識(shí)、信任值、直接交互節(jié)點(diǎn)列表等數(shù)據(jù)。

      IDTEM的信任更新方式如圖4所示。

      服務(wù)結(jié)束后,根據(jù)如下規(guī)則進(jìn)行信任記錄更新:

      1)若直接交互節(jié)點(diǎn)列表中未存儲(chǔ)關(guān)于節(jié)點(diǎn)j的設(shè)備標(biāo)識(shí),此時(shí)存儲(chǔ)列表中無(wú)關(guān)于節(jié)點(diǎn)j的信任記錄,若列表仍有存儲(chǔ)空間,則在列表中插入節(jié)點(diǎn)j的信任度值(如圖4中的1),同時(shí)更新直接交互節(jié)點(diǎn)列表;

      2)若直接交互節(jié)點(diǎn)列表中存在關(guān)于節(jié)點(diǎn)j的設(shè)備標(biāo)識(shí),則根據(jù)設(shè)備標(biāo)識(shí)索引存儲(chǔ)列表中關(guān)于該節(jié)點(diǎn)的信任記錄并更新該記錄(如圖4中的2);

      3)若無(wú)該節(jié)點(diǎn)信任記錄但存儲(chǔ)列表已滿,則依據(jù)節(jié)點(diǎn)服務(wù)時(shí)間刪除距當(dāng)前時(shí)刻最遠(yuǎn)的節(jié)點(diǎn)的信任記錄,并在直接交互節(jié)點(diǎn)列表和信任值列表中新增關(guān)于節(jié)點(diǎn)j的信任記錄(如圖4中的3)。

      5 實(shí)驗(yàn)與結(jié)果分析

      5.1 實(shí)驗(yàn)環(huán)境與參數(shù)設(shè)置

      為驗(yàn)證IDTEM是否能夠較好刻畫節(jié)點(diǎn)行為,有效降低惡意推薦行為對(duì)信任評(píng)估的影響,以及是否能夠有效降低信任度的傳輸能耗,本文在NS-3上進(jìn)行仿真實(shí)驗(yàn)。

      仿真實(shí)驗(yàn)參數(shù)設(shè)置如表1。

      5.2 直接信任度評(píng)估效果

      在本實(shí)驗(yàn)中,對(duì)比環(huán)境中存在信號(hào)干擾影響時(shí),BITEM[7]、RFSN[4]和IDTEM 3個(gè)模型分別在節(jié)點(diǎn)提供正常服務(wù)和惡意服務(wù)時(shí)得到的直接信任度值,以驗(yàn)證由DTEM得到的直接信任度值是否可以較好反映節(jié)點(diǎn)行為,有效識(shí)別惡意節(jié)點(diǎn)。

      實(shí)驗(yàn)步驟設(shè)計(jì)如下:

      步驟1 為模擬非入侵因素造成的節(jié)點(diǎn)數(shù)據(jù)異常,設(shè)置節(jié)點(diǎn)的數(shù)據(jù)包轉(zhuǎn)發(fā)率為[0.9,1]內(nèi)的隨機(jī)數(shù);

      步驟2 t=0min至t=40min時(shí),目標(biāo)節(jié)提供正常服務(wù),計(jì)算目標(biāo)節(jié)提供正常服務(wù)時(shí)的信任度值;

      步驟3 t=40min時(shí),選取20%的節(jié)點(diǎn)為惡意節(jié)點(diǎn),隨機(jī)產(chǎn)生選擇性丟包、轉(zhuǎn)發(fā)大量重復(fù)分組、丟棄數(shù)據(jù)包且轉(zhuǎn)發(fā)大量重復(fù)分組等惡意行為。計(jì)算節(jié)點(diǎn)完成服務(wù)后的直接信任度值。

      由BITEM、RFSN和IDTEM分別計(jì)算得到的直接信任度值變化情況如圖5所示。由圖5可知,當(dāng)節(jié)點(diǎn)提供正常服務(wù)時(shí),隨著時(shí)間周期的增長(zhǎng),3個(gè)模型的信任度值均呈上升趨勢(shì),在IDTEM中,當(dāng)節(jié)點(diǎn)提供的正常行為次數(shù)較少,信任度上升較緩,能夠有效防止惡意節(jié)點(diǎn)通過少數(shù)幾次合法服務(wù)迅速騙取信任的行為。當(dāng)3種類型節(jié)點(diǎn)開始隨機(jī)提供持續(xù)不可信服務(wù)時(shí),3個(gè)模型對(duì)該節(jié)點(diǎn)的信任度評(píng)價(jià)值均呈下降趨勢(shì)。隨著惡意行為次數(shù)的累積,IDTEM得到的信任值下降速率最快,且最終低于其他兩個(gè)模型得到的直接信任度值。由此可見,IDTEM可較好地刻畫節(jié)點(diǎn)行為,識(shí)別惡意節(jié)點(diǎn)。

      5.3 針對(duì)惡意推薦行為的仿真實(shí)驗(yàn)

      信任模型根據(jù)節(jié)點(diǎn)行為對(duì)節(jié)點(diǎn)合作概率進(jìn)行量化評(píng)估,并據(jù)此選擇服務(wù)節(jié)點(diǎn),因此,交互成功率是衡量模型是否有效的重要指標(biāo)。

      本實(shí)驗(yàn)?zāi)M物聯(lián)網(wǎng)中存在惡意推薦行為的場(chǎng)景,對(duì)比服務(wù)請(qǐng)求節(jié)點(diǎn)根據(jù)RFSN[4]、BITEM[7]、IDTEM模型計(jì)算得到信任度值選擇服務(wù)節(jié)點(diǎn),以及無(wú)推薦信任度計(jì)算模塊時(shí),隨機(jī)選擇服務(wù)節(jié)點(diǎn)時(shí)的交互成功率,驗(yàn)證IDTEM是否能夠有效抑制節(jié)點(diǎn)的惡意推薦行為,保證節(jié)點(diǎn)交互成功率,從而保障網(wǎng)絡(luò)服務(wù)質(zhì)量。

      仿真實(shí)驗(yàn)中設(shè)置3類節(jié)點(diǎn),其中A類和B類節(jié)點(diǎn)為惡意節(jié)點(diǎn),C類為正常節(jié)點(diǎn)。各類節(jié)點(diǎn)的行為特征如下:

      1)A類節(jié)點(diǎn)在直接交互過程中提供惡意服務(wù),即隨機(jī)產(chǎn)生選擇性丟包、轉(zhuǎn)發(fā)大量重復(fù)分組等惡意行為。在推薦信任評(píng)估過程中,提高A類節(jié)點(diǎn)的信任值及詆毀C類節(jié)點(diǎn)信任值,該節(jié)點(diǎn)傳遞的關(guān)于節(jié)點(diǎn)k的信任值為Tk′,Tk為節(jié)點(diǎn)k的實(shí)際信任值。若該節(jié)點(diǎn)實(shí)施詆毀行為,則Tk′=Tk-0.5(若Tk-0.5<0,則Tk′=0);若實(shí)施夸大行為,則Tk′=Tk+0.5(若Tk+0.5>1,則Tk′=1)。

      2)B類節(jié)點(diǎn)提供正常服務(wù),因此自身具有較好信任度值,但此類節(jié)點(diǎn)存在提高A類節(jié)點(diǎn)信任值或詆毀C類信任值的惡意推薦行為,在實(shí)施上述兩種行為時(shí)提供的信任值的設(shè)置同A類節(jié)點(diǎn)。

      3)C類節(jié)點(diǎn)提供正常服務(wù),且提供目標(biāo)節(jié)點(diǎn)的實(shí)際信任值,即Tk′=Tk。

      實(shí)驗(yàn)步驟設(shè)計(jì)如下:

      步驟1 分別在仿真網(wǎng)絡(luò)中設(shè)置比例為10%,15%,…,55%的B類惡意節(jié)點(diǎn)。

      步驟2 計(jì)算3種模型得到的目標(biāo)節(jié)點(diǎn)的綜合信任度值。

      步驟3 節(jié)點(diǎn)根據(jù)步驟2中計(jì)算得到的信任度值選擇服務(wù)節(jié)點(diǎn)。無(wú)推薦信任度評(píng)估模塊的節(jié)點(diǎn)則在服務(wù)提供節(jié)點(diǎn)中隨機(jī)選擇節(jié)點(diǎn)進(jìn)行交互。

      步驟4 重復(fù)上述步驟,計(jì)算環(huán)境中存在不同比例惡意節(jié)點(diǎn)時(shí)的交互成功率。

      步驟5 環(huán)境中配置5%至35%的A類節(jié)點(diǎn),比例為30%至5%的B類節(jié)點(diǎn)。重復(fù)步驟2至步驟4,計(jì)算該情形下的交互成功率。

      當(dāng)環(huán)境中僅存在A類惡意節(jié)點(diǎn),隨惡意節(jié)點(diǎn)比例增加,節(jié)點(diǎn)交互成功率如圖6所示。環(huán)境中同時(shí)存在A類和B類節(jié)點(diǎn)時(shí)的交互成功率如圖7所示。

      由圖6可見,隨著A類節(jié)點(diǎn)比例的不斷增加,BITEM、RFSN、IDTEM的交互成功率均呈下降趨勢(shì),當(dāng)網(wǎng)絡(luò)中存在不同比例惡意節(jié)點(diǎn)時(shí),由于IDTEM通過節(jié)點(diǎn)價(jià)值評(píng)估過濾了與評(píng)價(jià)標(biāo)準(zhǔn)信任特征差異較大的推薦節(jié)點(diǎn),使得推薦節(jié)點(diǎn)的評(píng)估值盡可能接近評(píng)估節(jié)點(diǎn)的評(píng)估值。同時(shí)推薦節(jié)點(diǎn)采用可靠度懲罰具有高信任度值卻提供了不實(shí)推薦信息的節(jié)點(diǎn),也因此降低了此類節(jié)點(diǎn)權(quán)重,從而降低其參與交互成功的概率。因此,根據(jù)IDTEM計(jì)算得到的信任值進(jìn)行服務(wù)選擇時(shí)的交互成功率始終高于BITEM及無(wú)推薦信任評(píng)估模塊。

      [6]SATHISH S, AYYASAMY A, ARCHANA M. An intelligent beta reputation and dynamic trust model for secure communication in wireless networks [M]// BHATTACHARYYA, SEN S, DUTTA M, et al. Industry Interactive Innovations in Science, Engineering and Technology, LNNS 11. Berlin: Springer, 2017: 395-402.

      [7]劉宴兵,龔雪紅,馮艷芬.基于物聯(lián)網(wǎng)節(jié)點(diǎn)行為檢測(cè)的信任評(píng)估方法[J].通信學(xué)報(bào),2014,35(5):8-15.(LIU Y B, GONG X H, FENG Y F. Trust system based on node behavior detection in Internet of things [J]. Journal on Communications, 2014, 35(5): 8-15.)

      [8]弭寶瞳,梁循,張樹森.社交物聯(lián)網(wǎng)研究綜述[J].計(jì)算機(jī)學(xué)報(bào),2018,41(7):1441-1475.(MI B T, LIANG X, ZHANG S S. A survey on social Internet of things [J]. Chinese Journal of Computers, 2018,41(7):1441-1475.)

      [9]ABDERRAHIM O B, ELHDHILI M H, SAIDANE L. TMCoI-SIOT: a trust management system based on communities of interest for the social Internet of Things [C]// Proceedings of the 13th International Wireless Communications and Mobile Computing Conference. Piscataway, NJ: IEEE, 2017: 747-752.

      [10]BAO F, CHEN I. Trust management for the Internet of things and its application to service composition [C]// Proceedings of the 2012 IEEE International Symposium on a World of Wireless, Mobile and Multimedia Networks. Piscataway, NJ: IEEE, 2012: 1-6.

      [11]CHEN I R, BAO F, GUO J. Trust-based service management for social Internet of things systems [J]. IEEE Transactions on Dependable and Secure Computing, 2016, 13(6): 684-696.

      [12]MCKNIGHT D H, CHERVANY N L. What trust means in e-commerce customer relationships: an interdisciplinary conceptual typology[J]. International Journal of Electronic Commerce, 2001, 6(2): 35-59.

      [13]ATZORI L, IERA A, MORABITO G. SIoT: giving a social structure to the Internet of things [J]. IEEE Communications Letters, 2011, 15(11): 1193-1195.

      [14]徐軍,鐘元生,萬(wàn)樹平.一種集成直覺模糊信息的激勵(lì)自適應(yīng)信任模型 [J].電子與信息學(xué)報(bào),2016,38(4):803-810.(XU J, ZHONG Y S, WAN S P. Incentive adaptive trust model based on integrated intuitionistic fuzzy information [J]. Journal of Electronics and Information Technology, 2016, 38(4): 803-810.)

      [15]游靜,上官經(jīng)倫,徐守坤,等.考慮信任可靠度的分布式動(dòng)態(tài)信任管理模型[J].軟件學(xué)報(bào),2017,28(9):2354-2369.(YOU J, SHANGGUAN J L, XU S K, et al. Distributed dynamic trust management model based on trust reliability[J]. Journal of Software, 2017, 28(9): 2354-2369.)

      This work is partially supported by the National Science and Technology Major Project (2012ZX03002002), the Civil Aviation Joint Research Fund Project of National Natural Science Foundation of China (U1833107), the Fundamental Research Funds for the Central Universities (ZYGX2018028).

      XIE Lixia, born in 1974, Ph. D., professor. Her research interests include information security.

      WEI Ruixin, born in 1994, M. S. candidate. Her research interests include information security.

      猜你喜歡
      物聯(lián)網(wǎng)
      基于物聯(lián)網(wǎng)的無(wú)線測(cè)溫模塊設(shè)計(jì)
      基于物聯(lián)網(wǎng)ZigBee技術(shù)的智能家居監(jiān)控系統(tǒng) 
      物聯(lián)網(wǎng)監(jiān)測(cè)技術(shù)在G15W112邊坡的應(yīng)用
      基于物聯(lián)網(wǎng)的健康管理服務(wù)模式
      基于物聯(lián)網(wǎng)的煤礦智能倉(cāng)儲(chǔ)與物流運(yùn)輸管理系統(tǒng)設(shè)計(jì)與應(yīng)用
      基于高職院校物聯(lián)網(wǎng)技術(shù)應(yīng)用人才培養(yǎng)的思考分析
      如何在高校架設(shè)學(xué)生洗衣服務(wù)系統(tǒng)
      科技視界(2016年22期)2016-10-18 17:23:30
      基于無(wú)線組網(wǎng)的智慧公交站點(diǎn)信息系統(tǒng)研究與實(shí)踐
      基于LABVIEW的溫室管理系統(tǒng)的研究與設(shè)計(jì)
      論智能油田的發(fā)展趨勢(shì)及必要性
      小金县| 茂名市| 盱眙县| 平度市| 顺义区| 湟中县| 监利县| 华亭县| 营口市| 兴国县| 永兴县| 简阳市| 拉孜县| 焉耆| 高淳县| 磐安县| 金山区| 绍兴县| 闽清县| 梨树县| 霍州市| 尚义县| 岫岩| 达日县| 万山特区| 海南省| 随州市| 鹤岗市| 页游| 昭通市| 郴州市| 呼伦贝尔市| 辉南县| 疏勒县| 信宜市| 曲水县| 漳平市| 历史| 宜阳县| 比如县| 常山县|