宋躍忠

摘要：ART2是一種基于自適應(yīng)諧振理論的無監(jiān)督神經(jīng)網(wǎng)絡(luò)，由于其快速響應(yīng)、實(shí)時(shí)學(xué)習(xí)等特點(diǎn)，被廣泛的應(yīng)用在實(shí)時(shí)聚類問題中。傳統(tǒng)的ART2存在幅值信息丟失、容易產(chǎn)生模式漂移的問題，本文針對(duì)此不足提出了一種基于廣義相似度和置信度的GSC-ART2網(wǎng)絡(luò)。它通過引入廣義相似度檢測和競爭機(jī)制，解決了幅值信息丟失的問題。置信度結(jié)合廣義相似度的權(quán)值調(diào)整方式抑制了模式漂移并使網(wǎng)絡(luò)的連接權(quán)值更加準(zhǔn)確。通過實(shí)驗(yàn)表明，GSC-ART2網(wǎng)絡(luò)在處理幅值相關(guān)、樣本漸變分類問題上的識(shí)別性能均優(yōu)于傳統(tǒng)ART2網(wǎng)絡(luò)，從而證明了此GSC-ART2網(wǎng)絡(luò)的有效性，也為解決模式識(shí)別中普遍存在的模式漂移問題找到了一種優(yōu)良的解決方法。

關(guān)鍵詞：GSC-ART2；模式漂移；幅值丟失；廣義相似度；置信度；

中圖分類號(hào)： TP391 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)：2095-2163（2014）04-

文章編號(hào)：

An Improved ART2 Neural Network： Resisting Pattern Drifting through General Similarity and Confidence Measures

SONG Yuezhong，LI Haifeng，GAO Chang

（ School of Computer Science and Technology，Harbin Institute of Technology，Harbin 150001，China）

Abstract： ART2 is a kind of non-supervised neural network based on the Adaptive Resonance Theory， and due to such advantages as rapid response and real-time learning abilities， ART2 has been widely used in real-time clustering problems. In traditional ART2 models， the amplitude information is usually ignored and the problem of pattern drifting often occurred. To solve such problems， general similarity and confidence measures are introduced into ART2 to form an improved model --- GSC-ART2. Using a vigilance-testing and a competition mechanism based on the general similarity， the problem of amplitude information losing is solved in GSC-ART2. The weights adjustment is modified to consider both the general similarity and the confidence measures. In such a way， ourthe designed GSC-ART2 inhibits pattern drifting and obtains more accurate network connections. Experiments showeds that the GSC-ART2 performeds better than traditional ART2 in cases where the data possess magnitude information and the data grading or pattern drifting exists. OurThe proposed GSC-ART2 network would become an universal solution to the pattern drifting problem in various applications.

Keywords： GSC-ART2； ART2； Ppattern dDrifting； aAmplitude Iinformation Llosing； General Similarity； Confidence Measure

0引言

抑制模式漂移和防止網(wǎng)絡(luò)震蕩是提高模式識(shí)別準(zhǔn)確率關(guān)鍵因素，尤其對(duì)人工神經(jīng)網(wǎng)絡(luò)ART2學(xué)習(xí)過程中的抑制模式漂移、進(jìn)行權(quán)值合理準(zhǔn)確性研究，更是提升網(wǎng)絡(luò)分類性能的重要工作。自Stephen Grossberg教授提出一種無教師競爭型神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制即自適應(yīng)諧振理論（Adaptive resonance theory，ART）[1]，并解決了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中穩(wěn)定性與可塑性之間的矛盾，并后，雖然促進(jìn)了一系列實(shí)時(shí)無教師聚類學(xué)習(xí)的模式識(shí)別方法的發(fā)展。，但它卻容易產(chǎn)生模式漂移、網(wǎng)絡(luò)震蕩的問題，本文即針對(duì)這個(gè)問題進(jìn)行了深入的研究。

ART網(wǎng)絡(luò)是基于自適應(yīng)諧振理論的神經(jīng)網(wǎng)絡(luò)，它在其在實(shí)現(xiàn)原理上借鑒了人腦對(duì)信息的處理機(jī)制，既能夠保持舊的知識(shí)，還可以對(duì)新的知識(shí)進(jìn)行學(xué)習(xí)。隨著研究的深入開展，可將ART分為3種基本模型：ART1，ART2，ART3[2-4]。其中，ART2網(wǎng)絡(luò)具有無監(jiān)督學(xué)習(xí)、快速響應(yīng)、自動(dòng)識(shí)別時(shí)序信號(hào)等特點(diǎn)，已經(jīng)被應(yīng)用到在諸多領(lǐng)域獲得了成功應(yīng)用[5-6]，有重要的理論研究與實(shí)際應(yīng)用價(jià)值，但ART2網(wǎng)絡(luò)仍存在很多一定的缺點(diǎn)和不足。首先，傳統(tǒng)ART2對(duì)輸入數(shù)據(jù)要求歸一化，這樣將丟失數(shù)據(jù)的幅值信息，導(dǎo)致相同相位的樣本不可區(qū)分，從而對(duì)于幅值相關(guān)的分類問題表現(xiàn)出了局限性[7-8]。其次，傳統(tǒng)ART2對(duì)輸入樣本單方向漸變的情況并不敏感，容較易產(chǎn)發(fā)生生模式漂移的問題。也就是當(dāng)大量的呈單方向漸變分布且均可以通過相似度檢驗(yàn)的數(shù)據(jù)輸入到ART2網(wǎng)絡(luò)中后，其記憶模式就會(huì)嚴(yán)重偏離初始記憶模式，由此而導(dǎo)致識(shí)別性能下降[9]。同時(shí)，每一個(gè)樣本進(jìn)入網(wǎng)絡(luò)后都會(huì)引起連接權(quán)值更新，而由于沒有考慮樣本的可靠性，即降低了網(wǎng)絡(luò)的穩(wěn)定性。

針對(duì)以上不足，大量學(xué)者對(duì)其進(jìn)行展開了有關(guān)研究，并獲得了相應(yīng)的研究成果。對(duì)于相同相位不可區(qū)分的問題，Xiaodong Qian[10]提出了一種對(duì)輸入樣本幅值進(jìn)行過濾的方法，如果其值與現(xiàn)存各模式幅值的相似度均沒有未超過預(yù)定的閾值，則直接開辟創(chuàng)建新類，不再參與后續(xù)識(shí)別。此方法在一定程度上解決了相位差別很大的樣本分到劃分至同一類模式的問題，但并沒有卻未將樣本與各模式的幅值相似度信息引入到網(wǎng)絡(luò)競爭中，從而可能造成分類錯(cuò)誤的情況。Chu Na等人[11]提出了一種將輸入樣本各分量與對(duì)應(yīng)模式信息進(jìn)行相似度比較的方法，雖然解決了幅值丟失的問題，但需要額外開辟大量的存儲(chǔ)空間來存儲(chǔ)各模式的分量信息。對(duì)于模式漂移問題，Jiaoyan Ai等人[12]提出了一種基于樣本均值的權(quán)值更新方式，使更新后的權(quán)值向量更能代表樣本真實(shí)的聚類中心，但只是這種方式必須每次記錄各類別節(jié)點(diǎn)現(xiàn)存樣本數(shù)，浪費(fèi)耗費(fèi)存儲(chǔ)空間并而且又增加了運(yùn)算時(shí)間。Zhiling Lin等人[13]提出了一種基于樣本累積的權(quán)值更新的方法，此方法需要為每個(gè)模式開另辟 個(gè)存儲(chǔ)單元來貯存最新進(jìn)入此模式的最新樣本信息，浪費(fèi)了大量的存儲(chǔ)空間。

本文給出了一種基于廣義相似度（General Similarity）和置信度（Confidence）的改進(jìn)ART2網(wǎng)絡(luò)，簡稱GSC-ART2網(wǎng)絡(luò)。其中，廣義相似度是在傳統(tǒng)ART2網(wǎng)絡(luò)使用的相位相似度的基礎(chǔ)上結(jié)合了幅值相似度信息，從而使相同相位樣本不可分問題得到了圓滿解決。另外，定義置信度作為對(duì)樣本可靠性的衡量，用其結(jié)合樣本與相應(yīng)模式的相似度信息來共同決定權(quán)值修正方法，能夠使更新后的權(quán)值更加趨合理與準(zhǔn)確，并且很好的而且有效抑制了模式漂移。實(shí)驗(yàn)表明GSC-ART2很好地解決了模式漂移和數(shù)據(jù)幅值信息丟失問題，是一個(gè)分類更準(zhǔn)確、適用范圍更廣、使用更加靈活的自適應(yīng)分類器，在很多實(shí)際分類問題上均表現(xiàn)出其優(yōu)良且出眾的性能。

本文的組織結(jié)構(gòu)如下：第一部分簡單介紹了ART2神經(jīng)網(wǎng)絡(luò)的基本原理，第二部分詳細(xì)介紹了GSC-ART2的工作方式。第三部分針對(duì)GSC-ART2相對(duì)于傳統(tǒng)ART2的改進(jìn)設(shè)計(jì)實(shí)驗(yàn)，證明GSC-ART2的有效性，最后對(duì)本文做了總結(jié)。

1 ART2網(wǎng)絡(luò)基本原理

經(jīng)典的ART2神經(jīng)網(wǎng)絡(luò)包括注意子系統(tǒng)和定向子系統(tǒng)兩部分，如圖1所示。其中，注意子系統(tǒng)由 特征表示場和 類別表示場組成，由此而實(shí)現(xiàn)向量的競爭選擇和向量間相似程度的綜合比較。

圖1： ART2網(wǎng)絡(luò)結(jié)構(gòu)

Fig.1 Structure of ART2 network

對(duì) 場計(jì)算得到的向量 ，在 場中參與競爭選擇，其競爭準(zhǔn)則函數(shù)為：

（1）

其中， （2）

經(jīng)過上述競爭，獲勝節(jié)點(diǎn) 得到了被激活。選中并激活其存貯原型與中層模式 最相似的節(jié)點(diǎn)，經(jīng)反饋通道將獲勝節(jié)點(diǎn)的模式原型送入定向子系統(tǒng)進(jìn)行相似度閾值 測試。相似度 的計(jì)算公式如（3）（4）所示：

（3）

（4）

其中， 為計(jì)算相似度時(shí) 的加權(quán)系數(shù)。

若 （5）

其中 為誤差參數(shù)，則輸入樣本通過相似度檢驗(yàn)，系統(tǒng)產(chǎn)生諧振，進(jìn)入權(quán)系數(shù)學(xué)習(xí)階段；否則對(duì) 場的獲勝模式進(jìn)行重置，獲勝節(jié)點(diǎn) 的連接權(quán)值的快速調(diào)整方式則分別為：

（6）

（7）

在經(jīng)典的ART2網(wǎng)絡(luò)中， 場為了防止網(wǎng)絡(luò)過度震蕩，對(duì)輸入數(shù)據(jù)進(jìn)行歸一及非線性變換的預(yù)處理，使輸入向量的幅值均變調(diào)整為1，這就導(dǎo)致使得在整個(gè)ART2運(yùn)行過程中都沒有不曾考慮輸入向量的幅值信息，而幅值信息卻是分類的重要依據(jù)之一，如果在幅值相關(guān)的分類問題中忽略了此這一信息，則即會(huì)嚴(yán)重影響網(wǎng)絡(luò)的性能。公式（6）和（7）給出了一種ART2權(quán)值更新方式，使各模式連接權(quán)值的大小均由新進(jìn)入的樣本自信息確定，且沒對(duì)樣本本身可靠性進(jìn)行分析，導(dǎo)致容易產(chǎn)生模式漂移問題頗易發(fā)生。為此，本文提出了基于廣義相似度-置信度ART2網(wǎng)絡(luò)（General Similarity Confidence ART2，GSC-ART2），重點(diǎn)解決了模式漂移和相同相位樣本不可分問題。

2 GSC-ART2網(wǎng)絡(luò)基本原理

本文所提出的GSC-ART2神經(jīng)網(wǎng)絡(luò)重點(diǎn)改進(jìn)了原ART2中數(shù)據(jù)信息丟失與已有的權(quán)值修正方法，由此而達(dá)到了抑制數(shù)據(jù)漂移和網(wǎng)絡(luò)震動(dòng)的目的。具體改進(jìn)機(jī)制如下。

2.1基于廣義相似度的檢測機(jī)制研究

傳統(tǒng)的ART2網(wǎng)絡(luò)在數(shù)據(jù)分類過程中沒有考慮樣本的幅值信息，因而在分析相關(guān)問題分析中表現(xiàn)顯現(xiàn)了一定出了的局限性。針對(duì)此問題，本文將幅值信息引入到網(wǎng)絡(luò)的競爭機(jī)制中，并提出了一種基于廣義相似度的檢測方法， 層的競爭機(jī)制綜合考慮了輸入樣本與各個(gè)模式間的相位相似度和幅值相似度信息，使輸入樣本能夠找到最相似的模式類別，此處相應(yīng)的改進(jìn)即如圖2所示，簡稱GS-ART2。綜上所述，GS-ART2網(wǎng)絡(luò)就是在ART2網(wǎng)絡(luò)的基礎(chǔ)上增加了基于幅值信息 的競爭和相似度檢測機(jī)制。

圖2 GS-ART2網(wǎng)絡(luò)結(jié)構(gòu)圖

Fig.2 Structure of GS-ART2 network

設(shè) 為第 個(gè)模式的幅值信息，其代表了分到模式 所有樣本幅值信息的綜合值，當(dāng)有某一新樣本進(jìn)入模式 時(shí)，其具體的調(diào)整方式如公式（8）所示：

（8）

其中， 為輸入樣本的幅值， 為當(dāng)前模式 包含的樣本個(gè)數(shù)，而且 為模式 調(diào)整前的幅值信息， 為模式 調(diào)整后的幅值信息。

設(shè) 為幅值相似度，其值表征了輸入樣本與模式 在幅值信息上的相似程度，其值計(jì)算即如公式（9）所示：

（9）

越大，表明 與 的相對(duì)差別越小，也即輸入樣本與模式 的幅值信息越相近，其取值范圍在0和1之間。

為了全面考慮樣本與各模式相似度信息，可將競爭準(zhǔn)則修正如下：

（10）

其中 （11）

通過競爭學(xué)習(xí)與輸入模式具有最大相似測度值的節(jié)點(diǎn) 被激活，其外部連接權(quán)矢量反饋到 層并與中層模式 一起進(jìn)送入調(diào)整子系統(tǒng)中進(jìn)行相似度閾值測試。

設(shè) 為廣義相似度，其值與的運(yùn)算主要和樣本與獲勝模式間的相位相似度 與以及幅值相似度 的乘積開方成正比，具體表述如公式（12）所示：

（12）

與傳統(tǒng)ART2閾值測試機(jī)制不同，GS-ART2閾值測試需滿足一定的條件，即：

（13）

式中， ：表示預(yù)先設(shè)定的廣義相似度閾值。；

當(dāng)滿足公式（13）獲得滿足，則調(diào)整對(duì)應(yīng)模式的內(nèi)外連接權(quán)值，否則將發(fā)生重置并抑制此節(jié)點(diǎn)參與后續(xù)競爭。

此這一GS-ART2網(wǎng)絡(luò)將輸入樣本的幅值信息作為網(wǎng)絡(luò)競爭和分類的依據(jù)之一，而解決了相同相位不可區(qū)分的問題，從而提高了系統(tǒng)分類性能。

2.2 基于置信度的抗漂移權(quán)值修正方法研究

對(duì)于傳統(tǒng)ART2，每一個(gè)新樣本進(jìn)入網(wǎng)絡(luò)后都會(huì)引起連接權(quán)值的更新，而可靠性低的樣本引起的權(quán)值更新容則易導(dǎo)致ART2模式中心偏離實(shí)際的聚類中心，隨之而降低了網(wǎng)絡(luò)的穩(wěn)定性。同時(shí)，權(quán)值快速更新方法又容易帶來模式漂移問題。本文提出了一種基于置信度的抗漂移的權(quán)值調(diào)整技術(shù)，就是在GS-ART2網(wǎng)絡(luò)的基礎(chǔ)上的添加了樣本的置信度計(jì)算模塊，并且在 場增加了從屬模式節(jié)點(diǎn)。

為了衡量輸入樣本屬于相應(yīng)模式的可靠程度，設(shè)樣本屬于獲勝模式的置信度為 ，定義為輸入樣本與獲勝模式的廣義相似度和以及其與從屬模式的廣義相似度間的相對(duì)差別，具體如公式（14）所示。

（14）

其中， 、 分別為樣本與獲勝模式 和從屬模式 的廣義相似度，其值分別表征了樣本與獲勝模式和樣本與以及從屬模式間的相似程度。

其中并且，從屬模式為除獲勝模式外與樣本相似度最高的模式，相應(yīng)的計(jì)算公式如下：

（15）

其中，模式 即為從屬模式。

置信度 作為評(píng)價(jià)輸入樣本屬于相應(yīng)模式可靠性的指標(biāo)。此值越小，說明此樣本越不易于模式間的分類，則即可靠性較低。；反之此值越大，樣本的可靠性則越高。根據(jù)不同分類問題對(duì)樣本可靠性的要求，設(shè)定相應(yīng)的置信度閾值 ，如果有預(yù)先分類的數(shù)據(jù)集，則 應(yīng)該滿足如下公式：

（16）

其中， 和 分別為預(yù)先分類數(shù)據(jù)集中所有樣本屬于對(duì)應(yīng)類別的置信度最小值和最大值。如果計(jì)算得到的置信度水平 超過此閾值 ，即則進(jìn)行相應(yīng)的權(quán)值調(diào)整，否則僅將此樣本劃分到至此模式，但而并不進(jìn)行后續(xù)的權(quán)值調(diào)整。

針對(duì)傳統(tǒng)ART2的快速權(quán)值調(diào)整公式容易產(chǎn)生模式漂移的問題，而且對(duì)漸變分類問題亦不敏感的狀況，。經(jīng)過分析可知，為了解決上述問題，GSC-ART2獲勝模式更新后的連接權(quán)值即應(yīng)該由此模式更新前的連接權(quán)值和由傳統(tǒng)快速權(quán)值調(diào)整公式計(jì)算得到的連接權(quán)值聯(lián)合確定。并且，由廣義相似度的定義還可以知道，其值可以作為判別輸入樣本與所屬模式中心相似程度的基礎(chǔ)依據(jù)。同時(shí)，為了解決模式漂移的問題，還需要減弱那些與當(dāng)前所屬模式中心相似度較低的樣本通過傳統(tǒng)快速權(quán)值調(diào)整方式得到的連接權(quán)值在權(quán)值更新中所占的比例，因此進(jìn)一步地本文提出了基于廣義相似度的權(quán)值調(diào)整技術(shù)，具體公式如下：

（17）

（18）

其中， 和 分別為本文定義的廣義相似度和及其閾值。 越小即，樣本與所屬模式的相似度越低，此樣本通過傳統(tǒng)快速權(quán)值調(diào)整方式確定的連接權(quán)值在權(quán)值更新中的所占的比例也就越低，反之亦然，從而有效抑制了模式漂移。

GSC-ART2網(wǎng)絡(luò)通過在GSC-ART2的基礎(chǔ)上引入置信度檢測機(jī)制和基于廣義相似度的快速權(quán)值調(diào)整方式，抑制了可靠性低的樣本引起的權(quán)值改變，并使各模式聚類中心的數(shù)值更加接近實(shí)際的聚類中心，并同時(shí)也抑制了模式漂移問題，提升了系統(tǒng)整體的分類性能。

從上文分析可以知道，GSC-ART2網(wǎng)絡(luò)在傳統(tǒng)ART2網(wǎng)絡(luò)的基礎(chǔ)上進(jìn)行設(shè)計(jì)了兩方面改進(jìn)。一方面，此該網(wǎng)絡(luò)將輸入向量的幅值信息 引入到網(wǎng)絡(luò)的競爭和閾值檢測中，避免了幅值信息丟失的問題。另一方面，此該網(wǎng)絡(luò)又通過引入二近鄰獲勝機(jī)制得到樣本置信度，并用此置信度結(jié)合樣本與所屬模式間的廣義相似度信息共同決定連接權(quán)值的更新方式，使GSC-ART2網(wǎng)絡(luò)各模式聚類中心的準(zhǔn)確性得到提高并，而且也抑制了模式漂移問題。，從而真實(shí)全面地說明此該GSC-ART2網(wǎng)絡(luò)即是一個(gè)適用范圍更廣、識(shí)別準(zhǔn)確性更高的自適應(yīng)諧振網(wǎng)絡(luò)。

3 GSC-ART2網(wǎng)絡(luò)性能分析

針對(duì)GSC-ART2網(wǎng)絡(luò)相對(duì)較于傳統(tǒng)ART2在各方面改進(jìn)的有效性，又基于在模擬數(shù)據(jù)上進(jìn)行了網(wǎng)絡(luò)測試分析。

3.1 GS-ART2的廣義相似度檢測機(jī)制實(shí)驗(yàn)分析

為了驗(yàn)證基于廣義相似度檢測機(jī)制的GS-ART2網(wǎng)絡(luò)在幅值相關(guān)分類問題中表現(xiàn)出的性能優(yōu)于傳統(tǒng)的ART2網(wǎng)絡(luò)的結(jié)論有效性，本文設(shè)計(jì)了一個(gè)有效的對(duì)比實(shí)驗(yàn)。此該實(shí)驗(yàn)通過Matlab工具模擬生成3組服從正態(tài)分布的二維樣本數(shù)據(jù)共45個(gè)，每組各15個(gè)。各組樣本期望值分別為（2，8）、（3，3）、（6，6），所有樣本各維屬性的方差為0.5，

編號(hào)依次為1-15、16-30、31-45，而且各組內(nèi)部編號(hào)由則按照數(shù)據(jù)生成的順序決來依次確定定。

對(duì)于上述問題，首先用傳統(tǒng)ART2網(wǎng)絡(luò)進(jìn)行分類，網(wǎng)絡(luò)的基本參數(shù)設(shè)置為 、 、 、 、 、 ，在不同閾值下，按樣本編號(hào)從小到大的順序逐一運(yùn)行，實(shí)驗(yàn)結(jié)果如表1.所示。

表1. 傳統(tǒng)ART2在不同閾值的分類結(jié)果

Tab.1 The classification result of traditional ART2 under different threshold

分類結(jié)果

第一類 1-45 1-15 1-15

第二類 None 16-45 16-20、25-27、40-45

第三類 None None 21-24、33、38

第四類 None None 28-32、34-37、39-40

表1可以看出， 傳統(tǒng)ART2網(wǎng)絡(luò)在閾值小于0.972的情況下，將三類樣本分到了同一類別。 而隨著閾值不斷增加直至超過0.972時(shí)，網(wǎng)絡(luò)仍將第一組樣本正確地與第二、三組樣本分開進(jìn)行了正確的區(qū)分。但是由于第二組和第三組樣本的相位相似度較高，閾值的繼續(xù)增加并不能使其正確分開，尤其當(dāng)閾值達(dá)到0.999時(shí)，第二和第三組樣本被即分到了三個(gè)類別，且混淆率較高。傳統(tǒng)的ART2在處理此類問題上表現(xiàn)出一定局限性。

接下來，又使用GS-ART2網(wǎng)絡(luò)對(duì)上述問題進(jìn)行分類，網(wǎng)絡(luò)基本參數(shù)與上述傳統(tǒng)ART2設(shè)置相同，得到不同廣義相似度閾值下的識(shí)別結(jié)果如表2.所示。

表2. GS-ART2在不同閾值下的分類結(jié)果

Tab.2 The classification result of GS-ART2 under different threshold

分類結(jié)果

第一類 1-15 1-15、31-45 1-15

第二類 16-30 16-30 16-30

第三類 31-45 None 31-45

由從表2可以看出，GS-ART2網(wǎng)絡(luò)在 小于0.890時(shí)與傳統(tǒng)ART2的分類結(jié)果相同，即將三組樣本均分到至一類。但隨著 的不斷增加，首先將第二組樣本與第一和、第三組樣本分到不同類別，并且最終將三類樣本均正確分開，也沒有混淆的情況發(fā)生。

綜合上述實(shí)驗(yàn)結(jié)果可以看出，由于GS-ART2網(wǎng)絡(luò)的基于廣義相似度的檢測機(jī)制可將樣本幅值信息引入到整個(gè)網(wǎng)絡(luò)的競爭和閾值測試中，從根本上解決了傳統(tǒng)ART2網(wǎng)絡(luò)不能區(qū)分相位相似樣本的問題，而且使網(wǎng)絡(luò)的識(shí)別準(zhǔn)確性得到了大幅提升。

3.2 GSC-ART2的基于置信度的抗漂移權(quán)值調(diào)整方式實(shí)驗(yàn)分析

為了驗(yàn)證GSC-ART2網(wǎng)絡(luò)的抗漂移權(quán)值調(diào)整方式在處理實(shí)際分類問題中可能遇到的模式漸變問題上的有效性，本文在實(shí)驗(yàn)3.1的基礎(chǔ)上進(jìn)行提供了進(jìn)一步的模擬試驗(yàn)。該實(shí)驗(yàn)過程是為實(shí)驗(yàn)3.1生成獲得的三個(gè)模式各自隨機(jī)產(chǎn)生三組符合正態(tài)分布的模式漸變數(shù)據(jù)，每組數(shù)據(jù)各15個(gè)樣本，各組數(shù)據(jù)均值的橫坐標(biāo)和縱坐標(biāo)分別以0.5和0.7的步長遞增變化，而且各維屬性的方差依然為0.5。即基于均值為（2，8）的模式所產(chǎn)生的三組數(shù)據(jù)的均值分別為（2.5，8.7）、（3，9.4）、（3.5，10.1），其余則依此類推。

將本實(shí)驗(yàn)新生成的九組數(shù)據(jù)以組間漸變組內(nèi)隨機(jī)的順序輸入到實(shí)驗(yàn)3.1中 時(shí)運(yùn)行得到的初始GS-ART2網(wǎng)絡(luò)，并分別以傳統(tǒng)ART2的快速權(quán)值調(diào)整方式和GSC-ART2的抗漂移權(quán)值調(diào)整方式去運(yùn)行此網(wǎng)絡(luò)，置信度閾值 取為0.1。由此而得到不同權(quán)值調(diào)整方式下各模式的初始聚類中心和最終聚類中心表示圖，見分別如圖3和圖4所示。其中，五角星表示原始聚類中心位置，正方形代表輸入漸進(jìn)模式數(shù)據(jù)后的聚類中心的位置。

由圖3可以看出，在傳統(tǒng)ART2的快速權(quán)值調(diào)整方式下，當(dāng)大量漸進(jìn)模式數(shù)據(jù)輸入到網(wǎng)絡(luò)并運(yùn)行后，各模式的聚類中心發(fā)生了嚴(yán)重的漂移，最終其位置不能很好的有效地代表輸入到此模式數(shù)據(jù)的整體分布情況，導(dǎo)致后續(xù)識(shí)別性能下降。而由圖4則可以看出，基于GSC-ART2網(wǎng)絡(luò)抗漂移權(quán)值調(diào)整方式運(yùn)行得到的各模式聚類中心相對(duì)于其原始聚類中心差別合理，并且其最終位置能很好的有效表征輸入到此模式所有數(shù)據(jù)的分布情況，從而使后續(xù)識(shí)別結(jié)果更加準(zhǔn)確。由此可以即可證明GSC-ART2的基于置信度的抗漂移權(quán)值更新方方法在處理模式漸變問題上的優(yōu)越性，也就是使網(wǎng)絡(luò)的后續(xù)分類性能得到了明確提升。

圖3 ART2網(wǎng)絡(luò)的聚類中心 圖4 基于GSC-ART2網(wǎng)絡(luò)的聚類中心

Fig.3 The clustering center of ART2 network Fig.4 The clustering center of ART2 network

4 結(jié)束語

本文詳細(xì)分析了傳統(tǒng)ART2網(wǎng)絡(luò)存在的幅值信息丟失和模式漂移問題，并針對(duì)這些問題提出了基于廣義相似度的檢測機(jī)制和基于置信度的抗漂移權(quán)值調(diào)整技術(shù)，從相似度檢測和權(quán)值更新兩方面解決了上述問題。通過實(shí)驗(yàn)對(duì)比，證明了本文提出的GSC-ART2網(wǎng)絡(luò)在處理幅值相關(guān)、模式漸進(jìn)分類問題上相對(duì)于傳統(tǒng)ART2的優(yōu)越性，從而可以將此網(wǎng)絡(luò)用于處理模式識(shí)別中普遍存在的漂移問題。今后還需要對(duì)此網(wǎng)絡(luò)的改進(jìn)方式做進(jìn)一步進(jìn)行深入研究，包括更合理的閾值設(shè)置方法和網(wǎng)絡(luò)結(jié)構(gòu)的自組織優(yōu)化方法，使此網(wǎng)絡(luò)閾值能夠得到動(dòng)態(tài)的調(diào)整，閾值并能動(dòng)態(tài)對(duì)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行實(shí)施動(dòng)態(tài)調(diào)整，使其識(shí)別性能亦得到更進(jìn)一步的提升。

參考文獻(xiàn)：

[1]Wangang M， Lin X. The ART2 Neural Network Based on the Adaboost Rough Classification[M].Advances in Image and Graphics Technologies. Springer Berlin Heidelberg， 2013： 44-53.

[2]CARPENTER GA，GROSSBERGS.A massively parallel architecture for a self-organizing neural pattern recognition machine[J].ComputerVision， Graphics， and Image Processing， 1987，37（1）：54-115.

[3]CARPENTER GA，GROSSBERGS.ART-2：self-organization of stable category recognition codes for analog input pattern[J].Applied Optics，1987，26（23）： 4919-4930.

[4]CARPENTER GA，GROSSBERGS.ART-3：hierarchical search using chemical transmitters in self-organizing pattern cognition architectures[J]. Neural Networks， 1990， 3（2）： 129-152.

[5] HOURALI Maryam Hourali， MONTAZER Gholam Ali Montazer. Using ART2 Neural Network and Bayesian Network for Aautomating the Oontology Cconstructing Pprocess[J]，. Procedia Engineering 29 ，2012，：3914 -3923.

[6] KIMim K B， PARKark H J， SONGong D H. Self Hhealth Ddiagnosis Ssystem for Korean tTraditional mMedicine with eEnhanced ART2[J].Bioscience and Medical Research 2013，2013.：16-19.

[7]QIANian X D. A method of data clustering based on improved algorithm of ART2[C]//Machine Learning and Cybernetics， 2008 International Conference on. IEEE， 2008， 5： 2640-2645.

[8]ANGADIngadi U B， VENKATESULUenkatesulu M. Structural SCOP superfamily level classification using unsupervised machine learning[J]. IEEE/ACM Transactions on Computational Biology and Bioinformatics （TCBB）， 2012， 9（2）： 601-608.

[9]Wang M， Lin X. The ART2 Neural Network Based on the Adaboost Rough Classification[M]//Advances in Image and Graphics Technologies. Springer Berlin Heidelberg， 2013： 44-53.

[10] QIAN Xiaodong Qian，. A mMethod of dData cClustering bBased on iImproved aAlgorithm of ART2[J]. Proceedings of the Seventh International Conference on Machine Learning and Cybernetics，2008（12），：2640-2645.

[11] NAa C， LIZHUANGizhuang M. Pattern recognition based on weighted and supervised ART2[C]//Intelligent System and Knowledge Engineering， 2008. ISKE 2008. 3rd International Conference on. IEEE， 2008， 1： 98-102.

[12] AI Jiaoyan Ai， WEI Shange Wei， ZHANG Lihua Zhang.A mMagnitude-bBased ART2 cClassifier： sStructure and aAlgorithms[J]，. Proceedings of the World Congress on Intelligent Control and Automation （WCICA），2006（6），：9799-9803.

[13] LINin Z， YUEue Y， ZHAOhao H， et al. Judging the sStates of bBlast fFurnace by ART2 Neural Network[C].//The Sixth International Symposium on Neural Networks （ISNN 2009）. Springer Berlin Heidelberg， 2009： 857-864.