王震++代巖巖++陳亮++林曉蘭
摘 要
95598熱點(diǎn)業(yè)務(wù)工單的挖掘與分析,對業(yè)務(wù)詳單進(jìn)行分類,熱點(diǎn)問題的及時(shí)發(fā)現(xiàn)與追蹤,起到很重要的作用。目前對于熱點(diǎn)業(yè)務(wù)工單的分類,采用人工查詢工單并分類,工作繁瑣且效率低。本文提出了一種基于LDA的熱點(diǎn)業(yè)務(wù)工單分類模型,對工單中的受理內(nèi)容進(jìn)行中文自然語言的處理和數(shù)據(jù)挖掘,實(shí)現(xiàn)對熱點(diǎn)業(yè)務(wù)工單的分類篩選,對準(zhǔn)確有效地提高供電服務(wù)質(zhì)量具有十分重要的現(xiàn)實(shí)意義。
【關(guān)鍵詞】語義分析 文本挖掘 熱點(diǎn)工單 LDA
隨著電力行業(yè)售電側(cè)改革不斷加深,對客服管理質(zhì)量要求越來越高,需要進(jìn)一步改善客戶體驗(yàn)和提升客戶滿意度。要提升客戶滿意度,需從客戶的熱點(diǎn)業(yè)務(wù)工單入手,分析挖掘熱點(diǎn)業(yè)務(wù)聚焦點(diǎn),快速有效找出業(yè)務(wù)短板,提升客戶服務(wù)質(zhì)量。
本文依據(jù)一般客服問題管理機(jī)制和文本挖掘理論,并結(jié)合電力企業(yè)客服特點(diǎn),闡述了如何對客服熱點(diǎn)工單文本進(jìn)行挖掘分析以及如何在系統(tǒng)中基于LDA算法對其進(jìn)行分類的應(yīng)用。業(yè)務(wù)工單中的投訴工單、客戶回訪處理不滿意的工單能直接反映客戶對產(chǎn)品、對服務(wù)的感知,是客戶滿意度的最直接反映。從現(xiàn)狀來看,目前的熱點(diǎn)工單分類的處理方式,是由調(diào)查分析人員通過對95598客戶訴求數(shù)據(jù)的分析,對受理的內(nèi)容進(jìn)行分析和篩選,然后完成分類。這種方式缺乏有效的輔助分析手段,分析手段單一,影響服務(wù)問題的分析和解決效率,因此需利用中文自然語言處理、文本挖掘等技術(shù),結(jié)合電力領(lǐng)域的業(yè)務(wù)特點(diǎn),對95598來電工單進(jìn)行自動化的智能分析與處理,實(shí)現(xiàn)熱點(diǎn)業(yè)務(wù)工單的智能分類與原因挖掘。
1 熱點(diǎn)業(yè)務(wù)工單業(yè)務(wù)描述
熱點(diǎn)業(yè)務(wù)主要包括停電、亂收費(fèi)、抄核收、人身傷亡、賠償、外界關(guān)注等的工單,相互之間可以重復(fù)統(tǒng)計(jì)。通過對工單的挖掘結(jié)果,對熱點(diǎn)業(yè)務(wù)工單進(jìn)行可視化展示,展示維度包括單位、市縣公司、以及業(yè)務(wù)類型。
熱點(diǎn)業(yè)務(wù)主要分為以下6個(gè)大類,分類如表1。
2 文本挖掘相關(guān)理論
文本挖掘(Text Mining,TM)是近幾年來數(shù)據(jù)挖掘領(lǐng)域的一個(gè)新興分支,是以文本數(shù)據(jù)為特定挖掘?qū)ο蟮闹R挖掘。文本挖掘是抽取有效、新穎、有用、可理解的、散布在文本文件中的有價(jià)值知識,并且利用這些知識更好地組織信息的過程文本挖掘的要點(diǎn)是分詞,根據(jù)文本數(shù)據(jù)中的特征信息進(jìn)行分詞處理,以此構(gòu)建文本的中間表示。原始的文本數(shù)據(jù)通常以非結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)呈現(xiàn),再利用文本挖掘手段轉(zhuǎn)換為結(jié)構(gòu)化文本,進(jìn)而發(fā)掘新的概念與對應(yīng)關(guān)系。
基于領(lǐng)域特征詞表的特征詞標(biāo)注,主要以大量來電工單中反映業(yè)務(wù)種類、熱點(diǎn)問題現(xiàn)象的特征詞為基礎(chǔ),設(shè)立特征詞表,進(jìn)行基于特征詞匹配的子句標(biāo)注,并依不同維度進(jìn)行工單分類。
通過構(gòu)建檢測模型和確定模型指標(biāo)體系、指標(biāo)閾值等參數(shù),對工單數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析,采取可視化大屏全屏展示的方式進(jìn)行全方位多角度的展開實(shí)時(shí)監(jiān)控、分析、預(yù)警和展示,及時(shí)發(fā)現(xiàn)當(dāng)前問題、變化趨勢,并對問題點(diǎn)改進(jìn)情況進(jìn)行跟蹤。
2.1 文本自動分類
為了方便對文本進(jìn)行歸類與管理,我們通常會在實(shí)際操作中給文本內(nèi)容指定一個(gè)或多個(gè)分類類別。傳統(tǒng)的人工標(biāo)注,需要耗費(fèi)巨大的時(shí)間和精力。文檔自動分類是文本挖掘領(lǐng)域針對這一業(yè)務(wù)場景的典型應(yīng)用。通過相應(yīng)的分類器,實(shí)現(xiàn)文本分類的預(yù)測功能。當(dāng)對一個(gè)新文檔進(jìn)行分類時(shí),分類器通常為這個(gè)文檔指定一個(gè)或多個(gè)類別標(biāo)簽,并根據(jù)算法策略給出分類標(biāo)簽的可信度。
按照機(jī)器學(xué)習(xí)方式的不同,文檔自動分類的實(shí)現(xiàn)大體上分為兩類,監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)。
監(jiān)督學(xué)習(xí)方法是在訓(xùn)練集上建立模型,針對每個(gè)訓(xùn)練集,需人工為每個(gè)訓(xùn)練集中的文檔打上類別標(biāo)記,接著用訓(xùn)練集訓(xùn)練一個(gè)分類器。訓(xùn)練完成后,這個(gè)分類器將能夠預(yù)測任何一個(gè)給定文檔的類別。非監(jiān)督學(xué)習(xí)方式與監(jiān)督學(xué)習(xí)方法的不同點(diǎn),在于他們不需要訓(xùn)練數(shù)據(jù)集,可以在一批文檔中自動發(fā)現(xiàn)相似文檔并完成分組。
實(shí)際應(yīng)用中,分類器一般由數(shù)據(jù)集整理,數(shù)據(jù)預(yù)處理,分類算法等三部分組成。數(shù)據(jù)集,需要整理足夠數(shù)量的高質(zhì)量文檔,為了將數(shù)據(jù)集轉(zhuǎn)化為便于進(jìn)行文本挖掘的格式,同時(shí)為提高結(jié)果的精度,數(shù)據(jù)預(yù)處理主要包括中文分詞、詞項(xiàng)的權(quán)值修正等步驟。分類算法與策略主要依據(jù)相應(yīng)的文本挖掘模型計(jì)算文檔的特征,最終實(shí)現(xiàn)對文檔的分類處理。
2.2 主題模型
主題模型(Topic Model)是在機(jī)器學(xué)習(xí)和自然語言處理等領(lǐng)域是用來在一系列文檔中發(fā)現(xiàn)抽象主題的一種統(tǒng)計(jì)模型。通常來說,若文檔有一個(gè)中心思想,即主題,那么文檔中就會頻繁出現(xiàn)與主題關(guān)聯(lián)密切的詞項(xiàng)然而,實(shí)際上文檔會包含多個(gè)主題,并且每個(gè)主題所占比例也不相同。因此,,如果一篇文檔和主題A相關(guān)的內(nèi)容占10%,和主題B有關(guān)的內(nèi)容占90%,那么和主題B有關(guān)的詞項(xiàng)出現(xiàn)的次數(shù)大概會是和主題A有關(guān)的詞項(xiàng)出現(xiàn)次數(shù)的9倍。主題模型試圖用數(shù)學(xué)框架來體現(xiàn)文檔分類的這種特點(diǎn),先對每個(gè)文檔進(jìn)行自動分析,再統(tǒng)計(jì)文檔內(nèi)詞語出現(xiàn)的頻率,最后根據(jù)統(tǒng)計(jì)信息來判斷當(dāng)前文檔包括哪些主題,以及每類主題的所占比例。
主體模型的優(yōu)勢如下:還有如下兩個(gè)優(yōu)點(diǎn):
(1)無監(jiān)督學(xué)習(xí)完全自動化,在訓(xùn)練過程不需要引入人工的標(biāo)注,而是以概率計(jì)算為基礎(chǔ),進(jìn)行分類訓(xùn)練。
(2)滿足多種不同的語言形式,都可以經(jīng)過分詞處理后進(jìn)行主題模型的訓(xùn)練。
3 基于LDA的熱點(diǎn)工單分類
在LDA主題模型中,一個(gè)主題是由一些詞項(xiàng)的分布定義的,每個(gè)主題由帶有分布率的一系列詞項(xiàng)構(gòu)成。一篇文本則是由一些主題構(gòu)成的。LDA主題模型的產(chǎn)生過程,主要是按照概率分布,選擇部分主題,從主題中再按照概率,選擇部分詞語,這些詞語的無序組合就組成了最終文檔。
若上述兩個(gè)概率分布能被我們計(jì)算清楚,則可得到一個(gè)模型,根據(jù)某偏文檔推斷出其主題分布,也就是分類。文檔生成的過程與由文檔推斷主題的過程互為逆過程。
3.1 LDA主題模型
LDA模型的數(shù)學(xué)原理比較復(fù)雜,其Gibbs Sampling公式如下:
公式的右邊部分其實(shí)就是文檔—>主題—>詞語的路徑概率,其物理意義在于K條的路徑采樣,K為主題的個(gè)數(shù)。LDA主題模型的文檔分類過程分為兩步:訓(xùn)練過程和推理過程。訓(xùn)練過程即根據(jù)當(dāng)前訓(xùn)練文檔集建立模型。同時(shí)在建模過程中,對各種估計(jì)參數(shù)進(jìn)行選取與調(diào)優(yōu),直至訓(xùn)練過程結(jié)束。訓(xùn)練過程結(jié)束后,模型建立和參數(shù)優(yōu)化已經(jīng)完成。而推理過程則是,根據(jù)當(dāng)前模型與參數(shù),對新的文檔進(jìn)行主題分布的計(jì)算過程。
訓(xùn)練過程如下:
(1)隨機(jī)初始化:給語料中每篇文檔中的每個(gè)詞w,隨機(jī)的賦一個(gè)主題編號z。
(2)更新主題:對語料庫進(jìn)行重新掃描,根據(jù)公式(1)重新采樣主題并更新。
(3)重復(fù)采樣,直至Gibbs Sampling公式結(jié)果收斂。
(4)建立LDA模型:統(tǒng)計(jì)語料庫中主題-詞語共現(xiàn)頻率矩陣。
推理過程如下:
經(jīng)過訓(xùn)練后,得到參數(shù)文檔-主題分布矩陣Θ與主題-詞語分布矩陣Φ。其中對文檔-主題分布矩陣Θ一般不進(jìn)行保存。而在推理過程中需要使用主題-詞語分布矩陣Φ。根據(jù)Gibbs Sampling公式,對新文檔中每個(gè)詞的主題進(jìn)行抽樣,得到此文檔的主題分布θ_new,同時(shí)在利用公式計(jì)算條件概率的時(shí)候,公式中的φ 保持不變。具體過程如下:
(1)隨機(jī)初始化:給語料中每篇文檔中的每個(gè)詞w,隨機(jī)的賦一個(gè)主題編號z;
(2)重復(fù)掃描當(dāng)前文檔,按照Gibbs Sampling公式,對于每個(gè)詞w,重新采樣它的主題;
(3)重復(fù)以上過程直至Gibbs Sampling收斂;
(4)統(tǒng)計(jì)文檔中的主題分布,該分布即為所求的主題分布θ_new。
3.2 基于LDA的熱點(diǎn)工單內(nèi)容分類過程
本文在對熱點(diǎn)工單受理內(nèi)容的分類過程中,首先進(jìn)行數(shù)據(jù)清洗和預(yù)處理,剔除95598熱點(diǎn)工單受理內(nèi)容的文本為空或者格式不正確的工單。其次對工單內(nèi)容進(jìn)行分詞,即基于IK Analyzer這個(gè)輕量級的中文分詞工具包,對熱點(diǎn)工單的內(nèi)容進(jìn)行分詞。再次建立LDA模型進(jìn)行文本語義分析,包括LDA模型的訓(xùn)練和LDA模型的推理過程,把工單受理內(nèi)容按照亂收費(fèi)、人身傷亡、停電、外界關(guān)注、抄核收、賠償?shù)攘鶄€(gè)主題進(jìn)行文本分類。最后在95598運(yùn)營分析系統(tǒng)熱點(diǎn)業(yè)務(wù)分析欄進(jìn)行結(jié)果的匯總和展示。
4 業(yè)務(wù)價(jià)值展現(xiàn)
首先從效率上來講,對熱點(diǎn)業(yè)務(wù)工單分析和分類替代了人工查找、分類和匯總,能提高工作速率。工單的受理內(nèi)容多,數(shù)量多,僅憑人工肉眼去辨別,不僅耗時(shí)巨大,可操作性也不高,當(dāng)類別等因子需求產(chǎn)生變化時(shí),很難對結(jié)果進(jìn)行調(diào)整和再利用。而通過該系統(tǒng),利用大數(shù)據(jù)挖掘、語義分析技術(shù)、文本分類等技術(shù)。計(jì)算時(shí)間短,時(shí)效性更強(qiáng),復(fù)用性高,更有助于及時(shí)決策。
其次從質(zhì)量上來講,利用基于LDA的熱點(diǎn)工單分類模型對數(shù)據(jù)進(jìn)行處理,經(jīng)實(shí)驗(yàn)驗(yàn)證,能達(dá)到較高的準(zhǔn)確率,數(shù)據(jù)質(zhì)量較優(yōu)。
5 結(jié)語
本文利用基于LDA的文本挖掘技術(shù),結(jié)合山東電力業(yè)務(wù)需求,熱點(diǎn)業(yè)務(wù)工單專題研究,大大改善目前人工進(jìn)行熱點(diǎn)工單分類效率較低的狀況,實(shí)現(xiàn)熱點(diǎn)業(yè)務(wù)工單的智能分類與原因挖掘。專題的應(yīng)用,將會提高客服部門的工作效率,為客服管理人員作出決策提供技術(shù)支持,提高了用戶的滿意度。
參考文獻(xiàn)
[1]JiaweiHan.數(shù)據(jù)挖掘:概念與技術(shù)(原書第三版)[M].北京:機(jī)械工業(yè)出版社,2012.
[2]Ronen FeIdmarl,James Sanger.文本挖掘[M].北京:人民郵電出版社,2009.
[3]Mitchell T.M,曾華軍.機(jī)器學(xué)習(xí)[M].北京:機(jī)械工業(yè)出版社,2008.
[4]呂鎮(zhèn)超,姬東鴻,吳飛飛.基于LDA特征擴(kuò)展的短文本分類[J].計(jì)算機(jī)工程與應(yīng)用,2015,51(04):123-127.
[5]姚全姝,宋志理,彭程.基于LDA模型的文本分類研究[J].計(jì)算機(jī)工程與應(yīng)用,2011,47(13):150-152.
作者單位
山東魯能軟件技術(shù)有限公司 山東省濟(jì)南市 250001