梁 珊

(華南理工大學(xué)廣州學(xué)院，廣東 廣州 510800)

大數(shù)據(jù)時代，傳統(tǒng)的相關(guān)分析方法已不能滿足對數(shù)據(jù)的探索以及認(rèn)知需求，隨著計(jì)算機(jī)技術(shù)的提升，大量新的相關(guān)分析方法產(chǎn)生，MIC作為目前為止最具有代表性，發(fā)展最快，認(rèn)同度最高的大數(shù)據(jù)相關(guān)分析方法被廣泛使用。本文總結(jié)相關(guān)分析的發(fā)展史，在此基礎(chǔ)上比較研究MIC的適用范圍、測度效果、解釋能力及計(jì)算速度，分析其優(yōu)缺點(diǎn)，以避免使用過程中的誤用。

一、MIC概述

Reshef(2011)指出大數(shù)據(jù)中度量相關(guān)性的統(tǒng)計(jì)量應(yīng)該具有“普遍性”和“均等性”。并給出MIC方法。MIC主要思想是：如果兩個變量之間存在著相關(guān)關(guān)系，那么在變量的散點(diǎn)圖中可以繪制網(wǎng)格線，通過網(wǎng)格線將隨機(jī)變量數(shù)據(jù)集進(jìn)行劃分，形成網(wǎng)格，計(jì)算變量之間的相關(guān)關(guān)系就是在每種網(wǎng)格劃分方式下，計(jì)算變量數(shù)據(jù)集的互信息，然后歸一化互信息來確保在不同劃分方式下的互信息值可以做比較。最大相關(guān)系數(shù)就是在各種網(wǎng)格劃分方式下，互信息的最大值。

可以證明MIC具有如下性質(zhì)：(1)MIC是互信息歸一化后的最大值，因此MIC取值范圍在[0,1]之間；(2)由于互信息具有對稱性，因此，MIC(X,Y)=MIC(Y,X)；(3)I{x,y}的取值僅依賴于數(shù)據(jù)點(diǎn)的排序分布，對隨機(jī)變量進(jìn)行單調(diào)變換，其數(shù)據(jù)點(diǎn)的排序分布不會發(fā)生變化，故MIC在隨機(jī)變量的單調(diào)變換下具有不變性；(4)大數(shù)據(jù)樣本下，對于無噪音的相關(guān)關(guān)系，MIC趨近于1；當(dāng)兩個變量獨(dú)立時，MIC趨近于0。

在大數(shù)據(jù)相關(guān)分析方法中，MIC最具有代表性，發(fā)展最快，認(rèn)同度最高，因此，本文將MIC作為大數(shù)據(jù)相關(guān)分析方法的典型代表與傳統(tǒng)相關(guān)分析方法進(jìn)行比較。

二、適用范圍比較

表1 適用范圍比較

注：*表示該方法對變量的維度沒有限制。

比較可知：分布要求方面，Pearson相關(guān)系數(shù)、典型相關(guān)分析要求變量服從正態(tài)分布，其他方法則沒有此要求；測度的相關(guān)關(guān)系類型方面，Pearson相關(guān)系數(shù)和經(jīng)典的典型相關(guān)系數(shù)只能度量隨機(jī)向量間的線性相關(guān)關(guān)系；Copula函數(shù)、HHG、MIC可以測度線性相關(guān)，也可以測度非線性相關(guān)；測度維度方面，典型相關(guān)分析、Copula函數(shù)、HHG可以測度多維數(shù)據(jù)相關(guān)性。

適用范圍的綜合比較來看，MIC對于兩維數(shù)據(jù)之間的相關(guān)關(guān)系顯現(xiàn)出明顯優(yōu)勢，對隨機(jī)變量的分布沒有要求，測度的相關(guān)關(guān)系類型涵蓋了線性相關(guān)和非線性相關(guān)，缺點(diǎn)是不能測度多維數(shù)據(jù)的相關(guān)程度。

三、測度效果比較

(一)對非線性相關(guān)關(guān)系的測度

取X={xi:i=1:500}～U(-1,1)，按照表2-4中的各個相關(guān)關(guān)系類型模擬變量Y，計(jì)算變量X與Y之間的Pearson相關(guān)系數(shù)與MIC得分。

表2 MIC與Pearson相關(guān)系數(shù)對比表

結(jié)果表明，MIC可以準(zhǔn)確度量變量之間的線性關(guān)系以及非線性關(guān)系，而Pearson相關(guān)系數(shù)則僅能識別線性相關(guān)關(guān)系。

(二)對異常值的敏感程度

取X={xi:i=1:30}～U(0,1)，ε={εi:i=1:30}～N(0,1),Y=2X+ε。在模擬得到數(shù)據(jù)(X,Y)基礎(chǔ)上增加四個離群點(diǎn)，增加離群點(diǎn)后的數(shù)據(jù)設(shè)為(X′,Y′)。左圖為數(shù)據(jù)(X,Y)的散點(diǎn)圖，增加離群點(diǎn)后，得到右圖，為數(shù)據(jù)(X′,Y′)的散點(diǎn)圖。

圖1 MIC穩(wěn)定性示意圖

分別計(jì)算(X,Y)和(X′,Y′)的Pearson相關(guān)系數(shù)與MIC值，MIC(X,Y)=0.26，ρ(X,Y)=0.33；MIC(X′,Y′)=0.26，ρ(X′,Y′)=0.60。去掉離群點(diǎn)前后數(shù)據(jù)的MIC得分相同，而ρ(X′,Y′)-ρ(X,Y)=0.27，表明MIC具有穩(wěn)定性，而Pearson相關(guān)系數(shù)易受異常值的影響。

四、相關(guān)關(guān)系的解釋能力比較

Copula函數(shù)、HHG、MIC三者均可以度量變量之間的非線性相關(guān)關(guān)系，除HHG方法之外，Copula函數(shù)和MIC都可以對相關(guān)關(guān)系進(jìn)行進(jìn)一步的描述和解釋。Copula函數(shù)能夠刻畫不同邊緣分布之間的連接結(jié)構(gòu)，因此能夠全面地描述相關(guān)關(guān)系結(jié)構(gòu)，在金融時間序列中被廣泛使用。而MIC方法則衍生出諸多統(tǒng)計(jì)量，可以通過這些統(tǒng)計(jì)量對變量之間的相關(guān)關(guān)系類型做出逐步推斷。例如：MIC-ρ2可以檢驗(yàn)變量之間的相關(guān)關(guān)系類型是否為非線性相關(guān)關(guān)系，最大非對稱得分(maximal asymmetry score，MAS)用來度量兩個變量間的單調(diào)性，最大值(maximum edge value，MEV)可以用來判斷變量間的關(guān)系是否是函數(shù)關(guān)系，最小網(wǎng)格單元數(shù)(minimum cell number，MCN)可以用來衡量相關(guān)性的復(fù)雜程度。

五、計(jì)算速度比較

研究對象從樣本到類總體的轉(zhuǎn)變，對相關(guān)分析方法的計(jì)算能力與計(jì)算速度提出了較高要求，將MIC與HHG相關(guān)關(guān)系計(jì)算方法相比較，MIC的計(jì)算時間較短，滿足數(shù)據(jù)流挖掘中算法時間復(fù)雜度低的原則。

圖2 HHG與MIC計(jì)算時長比較

六、結(jié)論

通過比較研究發(fā)現(xiàn)，MIC具有以下優(yōu)點(diǎn)：對于兩維數(shù)據(jù)的復(fù)雜相關(guān)關(guān)系測度適用范圍廣、結(jié)果測度準(zhǔn)確，不易受異常值影響、解釋能力強(qiáng)、計(jì)算快，能夠滿足大數(shù)據(jù)挖掘需求；缺點(diǎn)方面：MIC只能測度兩變量之間的相關(guān)關(guān)系，不能測度多變量的相關(guān)關(guān)系，因此，對MIC方法的改進(jìn)可以從測度變量的個數(shù)入手。