劉稀文，段隆振，段文影

(南昌大學(xué)信息工程學(xué)院，江西 南昌 330031)

分類技術(shù)一直是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的研究重點(diǎn)和熱點(diǎn)，在理論研究和工程實(shí)踐領(lǐng)域都有著廣泛的應(yīng)用。傳統(tǒng)的分類算法如KNN、SVM和決策樹(shù)等在平衡數(shù)據(jù)集上通常表現(xiàn)很好，但在樣本類別分布不均衡時(shí)，會(huì)出現(xiàn)分類面偏倚的現(xiàn)象，少數(shù)類的樣本更容易被誤判，得不到好的分類結(jié)果。例如，網(wǎng)絡(luò)入侵檢測(cè)[1]、信用卡欺詐檢測(cè)[2]、垃圾郵件過(guò)濾[3]、自閉癥診斷[4]等問(wèn)題就是典型的類別不平衡問(wèn)題，在互聯(lián)網(wǎng)入侵檢測(cè)的樣本數(shù)據(jù)中，入侵的樣本數(shù)遠(yuǎn)遠(yuǎn)少于正常的樣本數(shù)，如果將傳統(tǒng)的分類器直接應(yīng)用于這些類別不平衡的樣本上，模型會(huì)傾向于多數(shù)類，忽略少數(shù)類樣本，從而降低了對(duì)少數(shù)類樣本的分類能力，甚至?xí)霈F(xiàn)把全部樣本都判為多數(shù)類的情況，這樣的分類結(jié)果是沒(méi)有意義的。針對(duì)類別不平衡的分類問(wèn)題，已有很多有效的算法被提出，主要體現(xiàn)在兩個(gè)層面：算法層面和數(shù)據(jù)層面。

算法層面是對(duì)標(biāo)準(zhǔn)的分類算法進(jìn)行改進(jìn)，或者提出新的應(yīng)用在不平衡數(shù)據(jù)集上的分類算法。算法層面典型的解決方法有代價(jià)敏感算法和集成學(xué)習(xí)方法。代價(jià)敏感學(xué)習(xí)[5]是在訓(xùn)練模型時(shí)以整體誤分代價(jià)的最小化取代樣本的整體誤差最小化作為訓(xùn)練目標(biāo)，通過(guò)引入代價(jià)矩陣，賦予少數(shù)類樣本更大的代價(jià)權(quán)重，以降低分類器在少數(shù)類樣本上的錯(cuò)分率。集成學(xué)習(xí)方法的思想是將多個(gè)基分類器組合成一個(gè)強(qiáng)分類器，以提高分類性能。集成學(xué)習(xí)有兩種經(jīng)典的范式：Bagging[6]和Boosting[7]。

數(shù)據(jù)層面主要包含過(guò)采樣和欠采樣算法。過(guò)采樣方法中最簡(jiǎn)單的是隨機(jī)過(guò)采樣，但這種方法容易導(dǎo)致過(guò)擬合。Chawla等人[8]提出了少類樣本合成過(guò)采樣技術(shù)(synthetic-minority-over-sampling-technique，SMOTE)，根據(jù)樣本分布對(duì)少數(shù)類別樣本進(jìn)行分析模擬，在少數(shù)類樣本的鄰域間插入人工合成的新少數(shù)類樣本，在一定程度上避免了隨機(jī)過(guò)采樣法易于陷入過(guò)擬合的問(wèn)題。此外還有在SMOTE算法基礎(chǔ)上進(jìn)行了改進(jìn)的Borderline-SMOTE[9]算法、ADASYN[10]算法等。

在欠采樣方法中，最簡(jiǎn)單的方法是隨機(jī)欠采樣(Random Under Sampling，RUS)，隨機(jī)刪除多數(shù)類中的部分樣本，形成新的平衡數(shù)據(jù)集。但這種方法存在隨機(jī)性，容易刪除一些有代表性的樣本數(shù)據(jù)，導(dǎo)致多數(shù)類樣本丟失一些重要信息，分類器不能學(xué)習(xí)到完整的分類規(guī)則。為了克服這一缺點(diǎn)，很多研究者都提出了其他的欠采樣方法。Zhang等[11]提出基于KNN的4種欠采樣方法：NearMiss-1，NearMiss-2，NearMiss-3和MostDistant。思路是利用K近鄰信息挑選具有代表性的多數(shù)類樣本，實(shí)驗(yàn)表明NearMiss-2算法具有較好的不平衡數(shù)據(jù)的分類能力。李春雪等人[12]使用聚類算法，令每次聚類的簇?cái)?shù)取不同的值，對(duì)多數(shù)類樣本進(jìn)行多次聚類，把聚類中心作為新的多數(shù)類樣本參與訓(xùn)練，提高了分類結(jié)果的G-mean值。但該方法需要生成很多份不同不平衡比率的訓(xùn)練集，然后在這些訓(xùn)練集上分別訓(xùn)練分類模型，其時(shí)間復(fù)雜度較大。Kocyigit 等人[13]使用FCM算法對(duì)全部樣本進(jìn)行聚類，得到若干個(gè)簇，重復(fù)進(jìn)行50次聚類，每次聚類指定不同的簇?cái)?shù)，選擇與聚類中心最近鄰的多數(shù)類樣本加入候選集，然后用t檢驗(yàn)從候選集中選出與少數(shù)類樣本相等數(shù)量的多數(shù)類樣本，與少數(shù)類樣本合并得到平衡的訓(xùn)練集。該算法提高了分類器的分類性能，而且算法的獨(dú)立性較好。Lin等人[14]提出了兩種基于聚類的欠采樣方法：Clustering-based undersampling(CBUS)，令多數(shù)類的聚類簇?cái)?shù)等于少數(shù)類樣本的個(gè)數(shù)。 在方法1中，對(duì)樣本中的多數(shù)類使用kmeans聚類算法，將聚類中心作為新的多數(shù)類樣本與少數(shù)類樣本合并，得到新的平衡樣本集，此類方法較為經(jīng)典，其它的研究人員[15]也使用了這種方法。在方法2中，先對(duì)多數(shù)類樣本進(jìn)行kmeans聚類，然后選擇每個(gè)聚類中心的最近鄰樣本作為新的多數(shù)類樣本與少數(shù)類樣本合并。這兩種方法都有效地改善了傳統(tǒng)的分類算法在不平衡數(shù)據(jù)集上的分類效果。但此類方法也存在一些不足，不能保證聚類簇?cái)?shù)等于少數(shù)類樣本數(shù)時(shí)的G-mean值一定最大，而且如果少數(shù)類的樣本非常多，則要求多數(shù)類的簇?cái)?shù)也要同樣多，聚類的時(shí)間會(huì)相應(yīng)地成倍增加。另外，這些方法只是考慮了類間不平衡問(wèn)題，沒(méi)有考慮到類內(nèi)不平衡問(wèn)題。

為了克服傳統(tǒng)分類器在不平衡數(shù)據(jù)上的性能缺陷，本文借鑒基于聚類的欠采樣方法，結(jié)合模糊聚類和集成學(xué)習(xí)理論，提出基于FCM的簇內(nèi)欠采樣算法(Fuzzy C-means clustering based undersampling in clusters)，提高不平衡數(shù)據(jù)的分類性能。

1 相關(guān)工作

1.1 模糊 C-均值聚類算法(Fuzzy C-means

clustering，F(xiàn)CM)

在聚類問(wèn)題的研究工作中，研究者應(yīng)用均方逼近理論構(gòu)造帶約束的非線性規(guī)劃函數(shù)，將聚類問(wèn)題的求解轉(zhuǎn)化為非線性目標(biāo)規(guī)劃問(wèn)題，此時(shí)的目標(biāo)函數(shù)是類內(nèi)平方誤差和J1。Dunn[16]基于模糊劃分理論把每個(gè)樣本與全部聚類中心的距離用其隸屬度平方加權(quán)，把J1推廣到類內(nèi)加權(quán)平均誤差和函數(shù)J2。后來(lái)，Bezdek等人[17]引入?yún)?shù)m，把J2推廣到一個(gè)目標(biāo)函數(shù)的無(wú)限簇，并提出了交替優(yōu)化算法，形成了FCM 算法。

FCM算法的優(yōu)化目標(biāo)函數(shù)是：

(1)

其中，D是樣本總數(shù)，N是聚類簇?cái)?shù)，uij表示元素xi對(duì)第j類的隸屬度，cj是第j個(gè)簇的簇心，m是權(quán)重指數(shù)，控制著聚類矩陣的模糊程度，m的值大于1，且m越大，聚類的模糊程度越高，m越小，則聚類越接近于硬C均值聚類。在實(shí)際應(yīng)用中，m的缺省值為2。

FCM 算法的算法步驟如下:

初始化：設(shè)X是由d個(gè)元素構(gòu)成的集合，X={x1，x2，…，xd}，給定聚類類別數(shù)N，2 ≤N≤d，迭代停止閾值ε，初始聚類中心C0，迭代計(jì)數(shù)器b=0；

步驟1用下式計(jì)算或者更新劃分矩陣Ub=Uij：

(2)

步驟2根據(jù)公式(3)更新聚類中心Cb+1：

(3)

步驟3如果‖Ub+1-Ub‖≤ε或者算法達(dá)到指定的迭代次數(shù)，則算法停止并輸出劃分矩陣和聚類中心，否則令b=b+1，轉(zhuǎn)為執(zhí)行步驟一。

1.2 K近鄰(k-nearest neighbor，K-NN)分類器

KNN算法[18]是一個(gè)廣泛使用的分類算法，其思路是：對(duì)于某個(gè)待分類的樣本，若在該樣本的K個(gè)最近鄰的樣本中大多數(shù)屬于某個(gè)類，就將該樣本判為這個(gè)類別。關(guān)于k值的選擇，一般令k為較小的奇數(shù)，可以采用交叉驗(yàn)證法來(lái)確定。樣本間的距離通常選用歐式距離、曼哈頓距離、馬氏距離、余弦距離、漢明距離等公式來(lái)度量，本文使用歐氏距離。對(duì)于兩個(gè)樣本A、B，假設(shè)A=(x1，x2，…，xn)，B=(y1，y2，…，yn)，則它們之間的歐氏距離為：

(4)

1.3 隨機(jī)森林(Random Forest，RF)

構(gòu)建隨機(jī)森林的算法步驟如下：

算法1隨機(jī)森林的構(gòu)建算法

輸入：訓(xùn)練集N，訓(xùn)練集N的總數(shù)n，隨機(jī)森林的規(guī)模k，每個(gè)決策樹(shù)選擇的特征數(shù)m。

輸出：隨機(jī)森林分類器RF。

1.初始化：RF=?；

2.Fori=1:k

3.使用Bootstrap抽樣法對(duì)訓(xùn)練集N重復(fù)n次抽樣，得到第i個(gè)決策樹(shù)treei的訓(xùn)練集Ti和treei的袋外樣本OOBi；

4.在訓(xùn)練集Ti上隨機(jī)選擇m個(gè)特征，訓(xùn)練決策樹(shù)treei；

5.使用treei對(duì)OOBi進(jìn)行預(yù)測(cè)；

6.將第i棵決策樹(shù)納入RF模型，RF=RF∪treei。

7.End for

隨機(jī)森林算法具備了Bagging 算法與隨機(jī)子空間算法的特點(diǎn)，能很好地處理在訓(xùn)練模型時(shí)可能存在的特征遺失現(xiàn)象，由于樣本隨機(jī)和特征隨機(jī)的二重隨機(jī)性，模型不易陷入過(guò)擬合，而且由于袋外數(shù)據(jù)的存在，使用袋外數(shù)據(jù)可以在建模的過(guò)程中得到真實(shí)誤差的無(wú)偏估計(jì)，不需要另外留出驗(yàn)證集對(duì)模型進(jìn)行評(píng)估，袋外數(shù)據(jù)誤差估計(jì)與同訓(xùn)練集一樣大小的測(cè)試集得到的精度一樣，可以用袋外誤差估計(jì)取代測(cè)試集的誤差估計(jì)。

2 基于FCM的簇內(nèi)欠采樣算法

2.1 相關(guān)概念

不平衡數(shù)據(jù)集是指在數(shù)據(jù)集中不同類別的樣本在數(shù)量上具有很大差別的數(shù)據(jù)集。其中，樣本數(shù)較多的一類樣本被稱為多數(shù)類樣本，也叫負(fù)類樣本，樣本數(shù)較少的一類樣本稱為少數(shù)類樣本，也叫正類樣本。多數(shù)類樣本數(shù)與少數(shù)類樣本數(shù)之比稱為不平衡比率(imbalanced ratio，IR)。數(shù)據(jù)集的IR值越大，分類難度也就越大。為了降低數(shù)據(jù)集的不平衡比率，需要以合適的采樣倍率對(duì)數(shù)據(jù)集進(jìn)行重采樣，采樣倍率是一個(gè)系數(shù)，例如少數(shù)類(或多數(shù)類)樣本的數(shù)量為m，采樣倍率為n，則重采樣后的少數(shù)類(或多數(shù)類)樣本數(shù)為m*n。

2.2 算法過(guò)程

基于FCM的簇內(nèi)欠采樣算法(Fuzzy C-means clustering based undersampling in clusters，F(xiàn)CMUSIC)主要有兩個(gè)過(guò)程：首先，利用 FCM算法對(duì)多數(shù)類樣本進(jìn)行聚類欠采樣 ，設(shè)定聚類簇?cái)?shù)n的值，n的選擇通過(guò)層次聚類算法初步確定，然后用交叉驗(yàn)證法嘗試比較多個(gè)n值。在得到聚類劃分的n個(gè)簇后，對(duì)每個(gè)簇進(jìn)行欠采樣，在每個(gè)簇內(nèi)，按照采樣倍率不放回地隨機(jī)抽取一定數(shù)量的樣本代表多數(shù)類，得到新的多數(shù)類樣本，和少數(shù)類樣本合并，形成平衡樣本集。其次 ，在得到的平衡數(shù)據(jù)集上訓(xùn)練分類器 ，并進(jìn)行多次分類實(shí)驗(yàn)。本文在欠采樣后的平衡數(shù)據(jù)集上結(jié)合單個(gè)分類器和集成分類器進(jìn)行訓(xùn)練，以檢測(cè)在不同的分類器上的提升效果。

FCMUSIC在欠采樣階段的算法描述如下：

算法2FCMUSIC算法

輸入：不平衡數(shù)據(jù)集S，聚類簇?cái)?shù)n。

輸出：平衡數(shù)據(jù)集S′。

1.初始化：S′=φ；

2.將數(shù)據(jù)集S劃分為多數(shù)類N-和少數(shù)類N+，計(jì)算數(shù)據(jù)集S的不平衡比率IR；

3.使用FCM算法將多數(shù)類樣本N-劃分為n個(gè)簇，N-={C1，C2，…Cn}；

4.Fori=1:n;

6.S′=S′∪Di；

7.End for

8.返回S′。

關(guān)于聚類簇?cái)?shù)n的值，本文使用層次聚類算法來(lái)進(jìn)行選擇。層次聚類可以把數(shù)據(jù)劃分到不同的組群，聚類的結(jié)果是樹(shù)狀結(jié)構(gòu)， 可以被直觀地展示出來(lái)，然后人為地觀察來(lái)確定聚類的簇?cái)?shù)。關(guān)于層次聚類的更多介紹可以參閱文獻(xiàn)[19]。層次聚類的結(jié)果如圖1所示，每個(gè)子節(jié)點(diǎn)上的數(shù)據(jù)可以被分到同一個(gè)簇。

圖1 層次聚類的結(jié)果可視化

數(shù)據(jù)不平衡不僅體現(xiàn)在多數(shù)類與少數(shù)類之間的比例不平衡，也體現(xiàn)在同一類別的數(shù)據(jù)內(nèi)部。如圖2所示，多數(shù)類樣本分布在major1和major2兩個(gè)不同的區(qū)域，major2是小析取項(xiàng)。這兩個(gè)區(qū)域互不相鄰，而且在樣本數(shù)量上也有很大的差異。major2偏離樣本空間太遠(yuǎn)，卻又與少數(shù)類樣本空間相鄰，而且包含的樣本數(shù)量稀少，容易被當(dāng)成噪聲樣本處理，或者被直接忽略，導(dǎo)致沒(méi)有利用到這部分樣本的信息。FCMUSIC算法對(duì)多數(shù)類樣本進(jìn)行聚類可以找出小析取項(xiàng)的簇，然后在這些簇內(nèi)抽樣，避免出現(xiàn)小析取項(xiàng)樣本沒(méi)被利用的情況。

圖2 樣本集的類內(nèi)分布

FCMUSIC算法減少了多數(shù)類樣本的數(shù)量，獲得了平衡的訓(xùn)練集。原始不平衡樣本集和經(jīng)過(guò)FCMUSIC算法處理后的樣本集的樣本分布分別如圖3和圖4所示。其中，類別1為多數(shù)類，類別2為少數(shù)類。FCMUSIC算法在每個(gè)簇內(nèi)都選取了一定數(shù)量樣本，使得抽取的樣本來(lái)自于原始樣本集分布空間的各個(gè)方向，保留了多數(shù)類樣本原有的分布特征，從而在保證了欠采樣后樣本的多樣性和全面性。

特征2圖3 原始樣本分布

特征2圖4 經(jīng)FCMUSIC算法處理后的樣本分布

3 實(shí)驗(yàn)分析

3.1 實(shí)驗(yàn)數(shù)據(jù)集

為了檢驗(yàn)FCMUSIC算法的分類性能，選取UCI(https://archive.ics.uci.edu/ml/index.php)和KEEl(http://www.keel.es)上的五組不平衡數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)，分別是pima、yeast1、haberman、segment0和German Credit Data(以下簡(jiǎn)稱german)。5組數(shù)據(jù)的具體信息如表1所示。

表1 5組數(shù)據(jù)的具體信息

3.2 實(shí)驗(yàn)環(huán)境

實(shí)驗(yàn)環(huán)境為64位Windows10 操作系統(tǒng)，Intel Core i5處理器，8GB內(nèi)存，512G固態(tài)硬盤(pán)，開(kāi)發(fā)工具使用開(kāi)源軟件R3.6.0。

3.3 實(shí)驗(yàn)評(píng)價(jià)指標(biāo)

性能評(píng)價(jià)測(cè)度是對(duì)模型分類效果的一種量度，最為常用的一個(gè)測(cè)度就是分類正確率，即為分類模型對(duì)測(cè)試集樣本分類正確的數(shù)量與測(cè)試集樣本總數(shù)之比。對(duì)于平衡數(shù)據(jù)集的分類，分類正確率可以很好地反映出模型的性能，但在不平衡的數(shù)據(jù)集上，就很難反映出模型的性能高低。假設(shè)有一個(gè)包含100個(gè)樣本的數(shù)據(jù)集，有90個(gè)屬于多數(shù)類樣本和10個(gè)少數(shù)類樣本，分類器只要把這個(gè)數(shù)據(jù)集全部判別為多數(shù)類就能保證90%的正確率，但是很顯然，這樣分類沒(méi)有識(shí)別出少數(shù)類樣本，分類表現(xiàn)非常差。因此，對(duì)于不平衡數(shù)據(jù)集，需要采用其它的性能測(cè)度來(lái)反映分類模型的質(zhì)量。被廣泛采用的性能測(cè)度有查準(zhǔn)率Precision 、召回率Recall 、真正率TPR、F-measure，G-mean和 AUC值。

在二分類問(wèn)題中，分類器對(duì)樣本的分類結(jié)果有四種情況，通過(guò)混淆矩陣展示，如表2所示。

表2 二分類問(wèn)題的混淆矩陣

根據(jù)模糊矩陣，可以計(jì)算出對(duì)于分類器的性能測(cè)度：

分類精度的計(jì)算如公式(5)所示：

(5)

分類器的查準(zhǔn)率Precision:

(6)

召回率Recall：

(7)

真負(fù)率：

(8)

F1度量是對(duì)Precision和Recall兩者的一種平衡，如果分類器分類后的Precision和Recall都比較高，F(xiàn)1才會(huì)比較高。

(9)

真正率TPR和真負(fù)率TNR代表分類器在正類與負(fù)類樣本各自的分類精度，G-mean可以來(lái)平衡這二者的關(guān)系：

(10)

G-mean是TPR和Recall的幾何均值，如果TPR很大但TNR很小，或者TNR很大TPR很小，G-mean都不能取得較大的值，只有當(dāng)TPR和TNR都較高的時(shí)候，G-mean才能取得較大的值，因此，G-mean能較為全面地評(píng)價(jià)分類器的性能。

ROC 是以假正率 FPR 為 x 軸 ，真正率 TPR為 y 軸繪制的曲線。AUC即為ROC曲線下的面積。AUC 值常用于評(píng)價(jià)分類器性能，如果AUC值越高，代表著分類器的分類效果越好 。本文采用F1、G-mean、AUC 3種度量作為分類器的評(píng)價(jià)指標(biāo)。

3.4 實(shí)驗(yàn)結(jié)果分析

為了驗(yàn)證FCMUSIC算法的綜合性能，采用原始數(shù)據(jù)直接建模、隨機(jī)欠采樣算法RUS、CBUS1算法作為對(duì)比組，使用KNN分類器、RF分類器結(jié)合欠采樣處理后的平衡數(shù)據(jù)集進(jìn)行分類，并設(shè)置以下對(duì)比組，分別是：不經(jīng)處理的原始數(shù)據(jù)、經(jīng)隨機(jī)欠采樣算法(RUS)處理后的數(shù)據(jù)、文獻(xiàn)[14]中的第一種基于聚類的欠采樣算法CBUS1處理后的數(shù)據(jù)(CBUS1算法對(duì)多數(shù)類樣本應(yīng)用kmeans聚類，并設(shè)置聚類簇?cái)?shù)等于少數(shù)類樣本數(shù)，將聚類中心作為欠采樣后的多數(shù)類樣本)。然后結(jié)合KNN分類器和RF分類器進(jìn)行分類。KNN的臨近數(shù)k值通過(guò)交叉驗(yàn)證法來(lái)選擇，先根據(jù)經(jīng)驗(yàn)指導(dǎo)，選擇比較小的奇數(shù)作為k值，然后進(jìn)行交叉驗(yàn)證，最終選擇分類結(jié)果最好的情況下使用的k值。

關(guān)于聚類簇?cái)?shù)n的選擇，先使用層次聚類初步確定n可能的取值，觀察得到適合的一個(gè)或多個(gè)值作為待選的n值，然后把多數(shù)類樣本按照不同的n值進(jìn)行聚類，選擇使分類表現(xiàn)較好的n值。聚類簇?cái)?shù)n對(duì)實(shí)驗(yàn)結(jié)果的影響較大，以pima數(shù)據(jù)集為例，當(dāng)聚類簇?cái)?shù)取不同的值時(shí)，F(xiàn)1、G-mean和AUC的值如圖4到圖6所示。聚類簇?cái)?shù)n值的范圍是從2到少數(shù)類樣本數(shù)。從圖中可以看出，隨著n的增加，F(xiàn)1和G-mean值呈現(xiàn)下降趨勢(shì)，AUC的變化總體平緩。在本實(shí)驗(yàn)中，數(shù)據(jù)集pima、yeast1、haberman、segment0和german各自的n的取值為：8、27、5、3和9。

聚類簇?cái)?shù)圖5 不同聚類簇?cái)?shù)下的F1值

聚類簇?cái)?shù)圖6 不同聚類簇?cái)?shù)下的G-mean值

聚類簇?cái)?shù)圖7 不同聚類簇?cái)?shù)下的AUC值

為了避免偶然性對(duì)實(shí)驗(yàn)結(jié)果的影響，對(duì)各個(gè)算法重復(fù)進(jìn)行10次5折交叉驗(yàn)證并取平均值作為最終的實(shí)驗(yàn)結(jié)果。實(shí)驗(yàn)結(jié)果如表3和表4所示，每個(gè)數(shù)據(jù)集對(duì)應(yīng)的評(píng)價(jià)指標(biāo)的最優(yōu)值用黑體標(biāo)出。

表3 各算法與KNN分類器結(jié)合時(shí)的分類表現(xiàn)

表4 各算法與Random Forest分類器結(jié)合時(shí)的分類表現(xiàn)

通過(guò)比較各個(gè)算法的F1、G-mean、AUC值發(fā)現(xiàn)，在五組數(shù)據(jù)的分類度量指標(biāo)的平均值上，當(dāng)使用KNN分類器時(shí)，F(xiàn)CMUSIC算法的F1值平均提高了6.65%，G-mean值平均提高了7.75%，AUC值平均提高了1.96%；RUS算法在對(duì)應(yīng)指標(biāo)上分別提高了6.21%、7.37%和1.94%；CBUS1算法分別提高了 5%、6.37%和0.69%。在這些算法中，F(xiàn)CMUSIC算法的提升幅度最大，這也證明了FUCMSIC算法的有效性。 具體表現(xiàn)在對(duì)于pima、yeast1、haberman和german四個(gè)數(shù)據(jù)集，F(xiàn)CMUSIC算法和RUS算法、CBUS1算法的整體性能都比原始不平衡數(shù)據(jù)集有明顯提高，而在segment0數(shù)據(jù)集上， FCMUSIC算法和其他的欠采樣算法都比直接在初始的不平衡數(shù)據(jù)集上訓(xùn)練分類器的總體表現(xiàn)要差，特別是F1值有較大的下降，分析下降的原因，與樣本的分布有關(guān)，segment0數(shù)據(jù)集的多數(shù)類和少數(shù)類樣本的空間分布具有明顯的區(qū)別，傳統(tǒng)的分類器可以直接在不平衡數(shù)據(jù)集上找到精準(zhǔn)的分類超平面，由于segment0數(shù)據(jù)集的不平衡比率較大，欠采樣的方法會(huì)不可避免地丟失多數(shù)類的部分信息，使得分類性能有所下降。但FCMUSIC算法比其他算法下降的幅度要小。這也表明FCMUSIC算法具有一定的穩(wěn)定性。

當(dāng)各個(gè)算法與RF分類器結(jié)合時(shí)，F(xiàn)CMUSIC算法在各個(gè)數(shù)據(jù)集上的F1值平均提高了5.31%，G-mean值平均提高了6.07%，AUC值則平均下降了0.59%，RUS算法在F1和G-mean值上分別提高了5.14%和5.88%，AUC下降了0.55%，CBUS1算法在F1和G-mean值上分別提高了2.95%，2.62%，AUC下降了3.17%。欠采樣算法比原始數(shù)據(jù)集建模的AUC值有所下降，但整體分類性能仍然有不同程度的提高。在各個(gè)數(shù)據(jù)集上，F(xiàn)CMUSIC算法的G-mean值比CBUS1算法要高。 FCMUSIC算法的分類結(jié)果也表明了該算法具有良好的分類性能。

根據(jù)實(shí)驗(yàn)結(jié)果可以看出，F(xiàn)CMUSIC算法與KNN和RF分類器結(jié)合，都提高了分類器的分類性能，表明FCMUSIC算法具有一定的獨(dú)立性，不依賴于特定的分類器。就分類器而言，與KNN分類器結(jié)合時(shí)的提升幅度更大，與RF分類器結(jié)合時(shí)的分類表現(xiàn)更好。就評(píng)價(jià)指標(biāo)而言，在F1和G-mean值上的提升幅度更大。

4 結(jié)語(yǔ)

針對(duì)傳統(tǒng)分類器在不平衡數(shù)據(jù)集上分類性能降低的情況，本文結(jié)合聚類算法，提出了基于FCM的簇內(nèi)欠采樣算法——FCMUSIC。FCMUSIC算法能夠有效提升分類器的分類性能，特別是F1值和G-mean值。通過(guò)與不同的分類器結(jié)合，驗(yàn)證了FCMUSIC算法的獨(dú)立性，與其它欠采樣算法進(jìn)行對(duì)比，驗(yàn)證了FCMUSIC算法的有效性，表明FCMUSIC算法能夠作為一種有效的欠采樣算法，用來(lái)提高分類器對(duì)不平衡數(shù)據(jù)集的分類性能。