基于RFM模型的信用卡客戶特征自動挖掘方法研究

鐵錦程

摘 要： 基于數(shù)據(jù)驅(qū)動的決策已經(jīng)成為信用卡客戶經(jīng)營的關(guān)鍵，各類業(yè)務(wù)場景中的決策需要大量的客戶深層次特征，同時對特征的可解釋性有較高的要求。論文借鑒RFM模型和蒙特卡洛思想，提出了一種自動構(gòu)造特征、智能篩選特征的數(shù)據(jù)挖掘方法，并以客戶風(fēng)險識別模型為場景進行了實驗驗證。結(jié)果表明，基于RFM模型的自動化數(shù)據(jù)挖掘方法，一方面能夠提高特征挖掘的效率，發(fā)掘更深層次的復(fù)合特征，提升模型的識別能力；另一方面產(chǎn)出的特征可溯源、可解釋，能更好地幫助業(yè)務(wù)人員理解模型的結(jié)果。

關(guān)鍵詞： 數(shù)據(jù)挖掘；RFM模型；自動特征構(gòu)造；智能篩選

中圖分類號： TP 391

文獻標(biāo)志碼： A

Tapping the Automatic Mining Method of Credit CardCustomer Features Based on RFM Model

TIE Jincheng

（Shanghai Pudong Development Bank， Shanghai 200120， China）

Abstract： Data-driven decision-making has become critical to credit card customer operations. Decision-making in various business scenarios requires a large number of deep-level features of customers， and has high requirements for the interpretability of features. In this paper， based on the RFM model and the Monte Carlo method， a data mining method is proposed to automatically construct and intelligently filter features. A numerical experiment is carried out with the customer risk identification model scenario. The results show that the automatic data mining method can improve the efficiency of feature mining and discover deeper composite features. It is also able to improve the recognition ability of the model to help people understand the results of the model.

Key words： data mining; RFM model; automatic feature construction; intelligent filtering

1 特征工程現(xiàn)狀及問題

1.1 特征工程重要性

分析建模一般包括數(shù)據(jù)清洗、特征構(gòu)造、篩選、模型訓(xùn)練、部署和監(jiān)控等步驟，其中數(shù)據(jù)清洗、特征構(gòu)造、篩選的過程稱為特征工程。在分析建模中，特征工程是非常重要的環(huán)節(jié)，目的是盡可能地從原始數(shù)據(jù)中提取信息供算法使用?！皵?shù)據(jù)和特征決定著機器學(xué)習(xí)模型的上限”，機器學(xué)習(xí)算法結(jié)果的好壞在很大程度上取決于特征質(zhì)量，因此在機器學(xué)習(xí)模型算法和參數(shù)配置相同的情況下，特征的微小變化都可能對預(yù)測結(jié)果產(chǎn)生較大的影響。同時，特征工程也是一項復(fù)雜并耗時的活動，往往需要人工花費大量的時間參與，且高度依賴工程師的業(yè)務(wù)經(jīng)驗和直覺。

圖1展示了一般情況下建模全流程中的主要工作內(nèi)容及工作量分布，特征工程占到全部工作的70%左右，是非常重要的一環(huán)。

1.2 特征工程的現(xiàn)狀及問題

當(dāng)前，特征工程工作大多仍采用人工方式。人工方式由建模人員依靠其領(lǐng)域內(nèi)的專業(yè)知識，通過迭代試錯、模型評估等方法來進行。這種方法具有非常大的局限性：一是加工的數(shù)據(jù)源始終局限在自己的認(rèn)知范圍，很難在有限的時間內(nèi)從更多角度、維度發(fā)現(xiàn)客戶的特征并加以構(gòu)造，導(dǎo)致無法跟上客戶的行為變化；二是挖掘?qū)哟蔚?，較難進行深層次的特征挖掘，難以有效地挖掘客戶潛藏的特征；三是人工加工費時費力，需要開發(fā)大量的代碼和腳本，邏輯設(shè)計、特征梳理中很大一部分工作是重復(fù)的，得到的特征還需驗證之后才能使用。同時隨著數(shù)據(jù)量的持續(xù)爆炸式增長，人工特征的構(gòu)造速度已經(jīng)遠遠跟不上數(shù)據(jù)的發(fā)展規(guī)模，長尾數(shù)據(jù)也很難得到有效挖掘，且隨著建模人員的流失，好的特征構(gòu)造經(jīng)驗也很難得到傳承。

由于特征工程的重要性，而人工特征挖掘限制較多，不少公司、組織開始嘗試用深度學(xué)習(xí)方式來實現(xiàn)自動特征挖掘。這種方式是通過大數(shù)據(jù)深度學(xué)習(xí)技術(shù)，通過預(yù)制的算子來實現(xiàn)特征的自動產(chǎn)出。但其也存在一些問題：一是無效特征多，由于采用固定的方法和算子，挖掘出來的不少特征只是數(shù)據(jù)間的簡單運算，很多特征無實際含義，無法發(fā)揮實效；二是深度學(xué)習(xí)產(chǎn)出的特征可解釋性較差，難以滿足監(jiān)管要求。因此，深度學(xué)習(xí)自動產(chǎn)出的特征難以直接應(yīng)用于金融領(lǐng)域。

2 基于RFM模型的自動數(shù)據(jù)挖掘方法研究

2.1 RFM模型簡介

RFM 模型是客戶關(guān)系管理的常見分析模型，是衡量客戶價值的一種常見方法。RFM 模型包括近度R （recency）、頻度F （frequency）以及金額M （monetary）三個參數(shù)。R表示用戶最近一次消費時間點距離分析時間點的時間間隔; F 表示在一段時間內(nèi)用戶的交易次數(shù); M 表示在一定時間內(nèi)用戶消費的總金額。

RFM模型思路清晰、操作簡單，且能夠快速區(qū)分出不同價值的客戶群體，在客戶價值的分析中較實用。

2.2 深度特征合成算法簡介

深度特征合成算法（Deep Feature Synthesis， DFS）是一種能夠直接從關(guān)系型數(shù)據(jù)庫中自動提取信息，并轉(zhuǎn)化有意義的交叉特征的方法。該方法基于原始數(shù)據(jù)信息，按照一定的順序應(yīng)用數(shù)學(xué)邏輯創(chuàng)造出新的特征。因為衍生是有順序的，且衍生可以是多層次的，所以產(chǎn)出的特征是有深度且可以解釋的。

算法的輸入是一系列有關(guān)系的實體組合，如E1，2，…，K表示有K個實體的數(shù)據(jù)集，xki，j表示第k個實體第i個實例特征j的值。算法最終衍生出三種類型的特征：實體特征efeat、直接特征dfeat、關(guān)系特征rfeat，三類特征的產(chǎn)生方式如下：

1）efeat： 實體本身的特征，由實體中的每個值推導(dǎo)出新的特征，推導(dǎo)過程可由公式（1）表示：

xi，j′=efeat（x：，j，i）（1）

2）dfeat： 用于兩個具有前向關(guān)系（多對一）的實體之間，可直接進行轉(zhuǎn)換，即對于屬于實體Ek的特征（i∈Ek） 可直接轉(zhuǎn)化成實體El的特征（m∈El）。

3）rfeat： 用于兩個具有后向關(guān)系（一對多）的實體之間，即在實體El中進行聚合操作，得到Ek中一系列新的特征，聚合條件為ek=i，轉(zhuǎn)化過程可由公式（2）表示：

xki，j′=rfeat（xl：，j|ek=i（2）

最終衍生出的特征數(shù)量zi可由公式（3）表示：

zi=（e·j）∑iu=0［（r·m+n）u·（e+1）u］（3）

式中 i表示迭代次數(shù)；e表示efeat的個數(shù)；r表示rfeat的個數(shù)；n、m表示前向關(guān)系和后向關(guān)系的個數(shù)。

2.3 基于RFM模型的自動數(shù)據(jù)挖掘思路

本研究借鑒了RFM模型，并對參數(shù)R、F、M的含義進行了拓展。新方法中各參數(shù)的含義見表1，其中R代表時間、間隔等時間類特征，F(xiàn)代表次數(shù)、頻次等特征，M代表金額、數(shù)量、期數(shù)等數(shù)值類特征。

為使特征自動化產(chǎn)出，本研究引入了算子的概念。將數(shù)據(jù)分析人員常用的特征挖掘邏輯，即變量之間的運算關(guān)系，加工為一段固定代碼，形成一個函數(shù)，該函數(shù)就被稱為算子。一個完整的算子包含如下幾個部分，見表2。

整體衍生過程思路如下：將處理后的基礎(chǔ)數(shù)據(jù)劃分成R、F、M不同類別，隨后調(diào)用算子衍生出各類別的基礎(chǔ)特征，此類的組合是有順序的，一般是R類、F類、M類單獨，或R類和F、M類的組合，衍生出R類、F類、M類、RF類、RM類等各類別基礎(chǔ)特征，如R類特征“上次交易距今時間”、M類特征“金額是否大于100”、RF類特征 “近一個月交易次數(shù)是否大于5次”等。然后通過不同基礎(chǔ)特征間的隨機交叉組合，衍生出大量的交叉特征，如RF類特征“近一個月交易次數(shù)大于5次”和RM類特征“近一個月交易金額大于1000元”交叉組合成RFM類特征“近一個交易金額大于5次且交易金額大于1000元”。同時基礎(chǔ)特征、一層交叉特征及新產(chǎn)生的交叉特征之間還可以進行隨機交叉組合，衍生出更多、更深層次的特征。整個衍生過程中按照DFS算法進行有序的特征衍生，這樣可通過衍生層次的控制，挖掘更多潛藏的客戶特征。衍生思路如圖2所示。

3 基于RFM模型的自動數(shù)據(jù)挖掘過程

3.1 總體方案

圖3展示了基于RFM模型的自動數(shù)據(jù)挖掘總體流程，整體分為三個階段：一、數(shù)據(jù)梳理，包含數(shù)據(jù)清洗、行為數(shù)據(jù)分類兩個步驟，是對數(shù)據(jù)進行的整理和歸類工作，便于之后進行特征挖掘；二、特征構(gòu)造，是特征挖掘的核心階段，包含算子開發(fā)和特征衍生兩個步驟；三、特征篩選，過濾出更加有用、區(qū)分度高、魯棒性強的特征，便于后續(xù)模型調(diào)用。

3.2 數(shù)據(jù)梳理

數(shù)據(jù)梳理階段，主要是對數(shù)據(jù)的前期整理工作，包含數(shù)據(jù)的清洗和歸類，最終梳理出有用且歸類好的數(shù)據(jù)用于后續(xù)的特征挖掘。同時，對數(shù)據(jù)進行維度分類，將雜亂無章的數(shù)據(jù)進行細(xì)分，使產(chǎn)生的特征具有業(yè)務(wù)含義，使得后續(xù)的特征挖掘在有序的空間內(nèi)進行。這樣的特征衍生是有序的，避免暴力衍生的發(fā)生。

3.2.1 數(shù)據(jù)清洗

數(shù)據(jù)的預(yù)處理工作，主要操作如下：

1）無效數(shù)據(jù)剔除：如全空值數(shù)據(jù)、全唯一值數(shù)據(jù)等。

2）數(shù)據(jù)類型識別：識別數(shù)據(jù)的基礎(chǔ)類型，如布爾型、數(shù)值型、枚舉型、時間型和文本型等。

3）空值填充：數(shù)值型填充為平均值，其余類別數(shù)據(jù)填充為-999999。

4）數(shù)據(jù)處理：將時間型數(shù)據(jù)轉(zhuǎn)換為標(biāo)準(zhǔn)時間，文本型數(shù)據(jù)進行分詞等。

5）數(shù)據(jù)標(biāo)準(zhǔn)化：對數(shù)值型數(shù)據(jù)進行歸一化處理等。

3.2.2 行為數(shù)據(jù)分類

在得到干凈的數(shù)據(jù)后，依據(jù)數(shù)據(jù)描述的行為類型，對數(shù)據(jù)進行分類。根據(jù)信用卡數(shù)據(jù)的特點，將數(shù)據(jù)分成交易類、埋點類等不同大類，每個大類又包含多個小類。表3為部分分類示例。

3.3 自動特征構(gòu)造

特征構(gòu)造是自動特征工程中的核心部分，也是自動特征工程中的難點。在得到清洗且分類好的數(shù)據(jù)后，基于RFM衍生框架和算子匹配，得到大量、有序、有深度且可解釋的基礎(chǔ)特征和衍生特征。

3.3.1 算子構(gòu)造

算子固化了建模人員特征加工的經(jīng)驗，將其轉(zhuǎn)化為固定程序，實現(xiàn)了特征的自動挖掘和衍生，大幅提升了特征生成的效率。當(dāng)前已梳理加工八大類219個算子，算子類型及示例如表4所示。

3.3.2 基于RFM模型的交叉特征衍生

在得到清洗過且分類好的數(shù)據(jù)后，進一步按照RFM模型，將數(shù)據(jù)劃分成R、F、M等不同類別，并調(diào)用算子生成基礎(chǔ)特征；隨后在RFM的框架下，按照DFS算法隨機且有序地生成大量交叉特征。

表5與表6分別是用戶交易數(shù)據(jù)和app瀏覽數(shù)據(jù)的部分字段示例。圖4為利用基于RFM模型的自動特征衍生方法特征生成路徑演示。

這種基于RFM模型框架下衍生機制的主要好處有：

1）特征衍生是有序的：交叉特征衍生基于RFM框架和DFS算法，通過不同類別特征間的有序組合，避免大量雜亂無章的特征衍生，所產(chǎn)生的特征都是有邏輯的。

2）特征衍生是大量的：特征間的組合是隨機的，這就保證能充分利用所有數(shù)據(jù)，盡可能全面地挖掘客戶所有特征。

3）特征衍生是有深度的：可通過控制交叉特征衍生的層次，實現(xiàn)特征挖掘的深度，盡可能發(fā)掘客戶潛藏的信息。

4）產(chǎn)生的特征是可解釋的：由于特征已按信息維度和指標(biāo)維度進行分類，且數(shù)據(jù)間的衍生組合是有順序、有邏輯的，這就保證每個產(chǎn)出的特征都可以翻譯成業(yè)務(wù)邏輯，都是可以解釋的。

3.4 智能特征篩選

特征篩選也是非常重要的一個環(huán)節(jié)，能夠降低特征維度、減少數(shù)據(jù)冗余，保留更有效的特征。由于金融業(yè)務(wù)場景中數(shù)據(jù)特征維度較大，存在大量無關(guān)或冗余的特征，這些特征對模型的性能沒有貢獻，甚至?xí)档湍Ｐ偷男Ч虼诵枰Y選更有用、區(qū)分能力更強的特征，減少特征維度和模型復(fù)雜度，在增強模型性能的同時降低計算迭代成本。本研究通過統(tǒng)計指標(biāo)篩選和模型篩選來篩選出有效的特征。其中，統(tǒng)計指標(biāo)篩選包括極值、缺失值、分位數(shù)、信息值IV等統(tǒng)計量指標(biāo)過濾出有效的特征；模型篩選是對訓(xùn)練樣本隨機抽取并建立模型，通過模型群自動篩選入模特征。

由于在建模過程中使用的是歷史數(shù)據(jù)集訓(xùn)練模型，而隨著不同時間段策略、政策等因素的變化，人群結(jié)構(gòu)也發(fā)生變化，這使得很多特征雖然在總體訓(xùn)練集、測試集、跨時間驗證集上的效果很好，但策略發(fā)生變動后，特征的穩(wěn)定性和區(qū)分度變差。因此，本研究創(chuàng)新性地引入多模型篩選方法，可以解決特征在不同切片數(shù)據(jù)源上不穩(wěn)定的問題，使得最終產(chǎn)出的特征在滿足區(qū)分能力的前提下穩(wěn)定性更好，在不同場景、不同數(shù)據(jù)集上的魯棒性更強。

該方法的理論基礎(chǔ)是蒙特卡洛法。蒙特卡洛法的基本思路是，為了求解問題，首先建立一個隨機過程，使隨機過程的參數(shù)或特征等于問題的解，然后通過抽樣實驗來計算這些參數(shù)或特征，最后給出所求解的近似值。在計算仿真中，通過構(gòu)造一個系統(tǒng)性能近似概率模型，并進行隨機試驗，可以模擬系統(tǒng)的隨機特性。具體做法如下：

1）將訓(xùn)練數(shù)據(jù)按7∶3切分成訓(xùn)練集和測試集。

2）每隨機切割一次訓(xùn)練集和測試集，進行模型訓(xùn)練，統(tǒng)計訓(xùn)練后的入模特征、特征的重要性及特征的假設(shè)檢驗，剔除不滿足的特征。

3）重復(fù)第二步，統(tǒng)計各特征的入模次數(shù)并結(jié)合假設(shè)檢驗，剔除不滿足條件的特征，利用最終特征集訓(xùn)練模型，若測試集和訓(xùn)練集區(qū)分度最優(yōu)且各性能指標(biāo)穩(wěn)定，說明模型訓(xùn)練收斂。

4）進行跨時間驗證，檢驗特征在跨時間訓(xùn)練集上的穩(wěn)定性，若不穩(wěn)定，結(jié)合具體特征并按照同樣的方式切割數(shù)據(jù)，重復(fù)步驟1～3，直至模型收斂。

特征篩選的流程如圖5所示。

4 效果分析

本文設(shè)計的客戶特征自動挖掘方法已經(jīng)在卡中心多個客戶經(jīng)營場景下得到了應(yīng)用，在此我們以客戶風(fēng)險識別場景為例，來驗證自動挖掘方法的效果。

客戶風(fēng)險識別場景是指在客戶申請信用卡時決策是否接受客戶準(zhǔn)入的環(huán)節(jié)。銀行需要預(yù)判每個客戶的風(fēng)險，如果客戶風(fēng)險過高則進行攔截。傳統(tǒng)的方法都是基于專家經(jīng)驗的評分積分卡對客戶進行打分。這種方法顆粒度較大，不僅會遺漏一些中高風(fēng)險的客戶，也會攔截掉一些高質(zhì)量的中低風(fēng)險的客戶，因此最近幾年各銀行都采用機器學(xué)習(xí)的算法來進行建模打分。我們構(gòu)建了一個機器學(xué)習(xí)模型，來評估每一位客戶的指標(biāo)，其重要輸入則是客戶大量的多方面的特征，其涉及的原始數(shù)據(jù)表有11張。假設(shè)只分析1萬個客戶，則大約需要分析10萬行數(shù)據(jù)。使用本文提出的特征自動構(gòu)造、自動篩選的數(shù)據(jù)挖掘方法，我們大約構(gòu)建了2000個特征，然后和基于專家經(jīng)驗指定的55個特征一起輸入機器學(xué)習(xí)模型。該模型中，最終入模的84個變量中，有60個特征是用此機制產(chǎn)出的自動特征。按重要性排序，前10個最重要特征中，有6個是自動產(chǎn)出的特征，如表7所示。

同時本文也對比了基于自動特征的新模型和現(xiàn)有模型的效果。對比6個月的模型運行數(shù)據(jù)，可以發(fā)現(xiàn)新模型的KS值提升4%左右。

由于采用了特征自動構(gòu)造、自動篩選的數(shù)據(jù)挖掘方法，減少了分析建模人員大量的數(shù)據(jù)加工開發(fā)工作，簡化了特征篩選的過程，實現(xiàn)了特征挖掘效率的大幅提升，提升了建模效率。

5 總結(jié)與展望

本研究基于信用卡行業(yè)數(shù)據(jù)特點，建立的基于RFM模型的自動特征衍生機制和基于蒙特卡洛思想的模型篩選機制，極大提升了特征挖掘的效率、深度和廣度，且產(chǎn)生的特征具有高度的穩(wěn)定性、區(qū)分能力和可解釋性，能夠?qū)崿F(xiàn)在信用卡領(lǐng)域的快速應(yīng)用，取得了較好的業(yè)務(wù)效果。本研究探索出一套針對信用卡領(lǐng)域知識的自動化特征挖掘方法，對于金融領(lǐng)域傳承業(yè)務(wù)經(jīng)驗、規(guī)范特征管理、提升數(shù)據(jù)挖掘效率、縮短建模周期等具有借鑒意義。

本研究雖然實現(xiàn)了特征衍生和篩選環(huán)節(jié)的自動化、智能化，但數(shù)據(jù)分析理解環(huán)節(jié)仍需要人工參與。后續(xù)將深入研究數(shù)據(jù)業(yè)務(wù)含義自動推斷，探索信用卡數(shù)據(jù)自動分析識別機制，從而實現(xiàn)數(shù)據(jù)挖掘的全流程自動化，進一步解放人力，讓科技在更深、更廣的層面助力業(yè)務(wù)發(fā)展。

參考文獻：

［1］ 崔嘉桐. 特征變量數(shù)據(jù)挖掘技術(shù)助力信用卡業(yè)務(wù)智慧決策［J］. 中國信用卡， 2020（11）： 92-93.

［2］ 高富平， 冉高苒. 數(shù)據(jù)要素市場形成論：一種數(shù)據(jù)要素治理的機制框架［J］. 上海經(jīng)濟研究， 2022（9）： 70-86.

［3］ 黃寶鳳， 祁婷婷. 基于特征工程的個人信用風(fēng)險評估組合模型［J］. 中國統(tǒng)計， 2021（6）： 37-39.

［4］ 閆永君. 基于時間特性的信息用戶行為特征挖掘研究［J］. 情報科學(xué)， 2021， 39（8）： 126-131.

［5］ ZHANG X， HAN Y， XU W， et al. HOBA： a novel feature engineering methodology for credit card fraud detection with a deep learning architecture［J］. Information Sciences， 2021， 557： 302-316.

［6］ 王成， 王昌琪. 一種面向網(wǎng)絡(luò)支付反欺詐的自動化特征工程方法［J］. 計算機學(xué)報， 2020， 43（10）： 1983-2001.

［7］ 周俊妍， 薛文良， 魏孟媛， 等. 基于在線評論的服裝質(zhì)量特征挖掘方法［J］. 東華大學(xué)學(xué)報（自然科學(xué)版）， 2021， 47（5）： 68-73.

［8］ 朝樂門， 王銳. 數(shù)據(jù)科學(xué)平臺：特征、技術(shù)及趨勢［J］. 計算機科學(xué)， 2021， 48（8）： 1-12.

［9］ 卓靈， 孫昕. 一種基于改進RFM模型的數(shù)字集群用戶分類方法［J］. 計算機應(yīng)用研究， 2020， 37（9）： 2822-2826.

［10］ KANTER J M，VEERAMACHANENI K. Deep feature synthesis：towards automating data science endeavors［C］// Proceedings of the 2015 IEEE International Conference on Data Science and Advanced Analytics. Piscataway：IEEE，2015：1-10.

［11］ 潘婧， 柴洪峰， 孫權(quán)， 等. 超高維刪失數(shù)據(jù)的聯(lián)合特征篩選方法研究［J］. 系統(tǒng)工程理論與實踐， 2023，43（1）： 1-22.

［12］ RTAYLI N， ENNEYA N. Selection features and support vector machine for credit card risk identification［J］. Procedia Manufacturing， 2020， 46： 941-948.

收稿日期：2023-04-20

作者簡介：鐵錦程（1970—），男，河南開封人，博士，高級工程師，主研領(lǐng)域：計算機應(yīng)用。