張亞輝 馬海燕 王家平 茅磊 夏明昕
摘要:針對(duì)CMDB資源管理中缺乏可視化呈現(xiàn),大數(shù)據(jù)量情況下資源計(jì)算查詢效率不高的問題,文章研究知識(shí)圖譜在IT配置管理中的價(jià)值,分析了配置管理數(shù)據(jù)庫CMDB的特點(diǎn)及需求?;谥R(shí)圖譜研究IT資源配置項(xiàng)管理方法,運(yùn)用圖數(shù)據(jù)庫Neo4j替代傳統(tǒng)關(guān)系型數(shù)據(jù)庫,將原有單純的數(shù)據(jù)和表管理轉(zhuǎn)變?yōu)閷?duì)數(shù)據(jù)節(jié)點(diǎn)及其相互間關(guān)系鏈條的管理,通過Neo4j的Cypher語言實(shí)現(xiàn)便捷、快速、可自由定義的復(fù)雜查詢,同時(shí)對(duì)外提供豐富的資源可視化展示方案。該方案實(shí)現(xiàn)了CMDB與知識(shí)圖譜的融合,為提升資源管理的可視化水平和管理效率提供了一種新思路。
關(guān)鍵詞:配置管理;CMDB;圖計(jì)算;知識(shí)圖譜;圖數(shù)據(jù)庫
中圖分類號(hào):TP319? 文獻(xiàn)標(biāo)志碼:A
0 引言
隨著數(shù)據(jù)中心IT 基礎(chǔ)設(shè)施的快速擴(kuò)增,IT資源配置數(shù)據(jù)規(guī)模日益龐大,層次關(guān)系也愈加復(fù)雜,IT配置管理的需求不再滿足于數(shù)據(jù)的基本檢索和呈現(xiàn),而是更加傾向于對(duì)IT資源信息的上下文信息檢索需求,更需要基于關(guān)聯(lián)交織的海量數(shù)據(jù)為上層提供 IT 決策和服務(wù)交付所需的所有洞察力,傳統(tǒng)管理方法論ITIL中的配置管理數(shù)據(jù)庫(Configuration Management Database,CMDB)[1-3]已無法滿足對(duì)配置項(xiàng)(Configuration Item,CI)的最新管理需求。
以某IT運(yùn)維項(xiàng)目為例,運(yùn)維團(tuán)隊(duì)承擔(dān)著數(shù)據(jù)中心近萬臺(tái)設(shè)備的日常維護(hù)和配置管理工作,傳統(tǒng)CMDB產(chǎn)品雖歷經(jīng)多年建設(shè)但仍專注于對(duì)基礎(chǔ)數(shù)據(jù)的增刪改查操作,且大多使用關(guān)系型數(shù)據(jù)庫,主要存在以下問題:(1)對(duì)CI的查詢和操作效率較低,面對(duì)大數(shù)據(jù)量經(jīng)常出現(xiàn)頁面卡死現(xiàn)象;(2)對(duì)CI間關(guān)系的管理質(zhì)量低,關(guān)系覆蓋率幾乎為零;(3)無法挖掘和體現(xiàn)海量數(shù)據(jù)的價(jià)值。
1 知識(shí)圖譜研究與應(yīng)用
針對(duì)傳統(tǒng)CMDB無法進(jìn)行高度自定義的復(fù)雜查詢、海量資源查詢速度偏慢、數(shù)據(jù)孤島問題嚴(yán)重、無法在業(yè)務(wù)線條建立立體關(guān)聯(lián)、配置管理可視化缺失等問題,網(wǎng)絡(luò)運(yùn)維團(tuán)隊(duì)基于知識(shí)圖譜相關(guān)技術(shù)理念,對(duì)IT資源中的所有配置項(xiàng)CI的關(guān)系管理[4-5]提出創(chuàng)新性思路,設(shè)計(jì)全新的資源CI關(guān)系,并運(yùn)用主流圖數(shù)據(jù)庫Neo4j替代傳統(tǒng)關(guān)系型數(shù)據(jù)庫,將原有單純的數(shù)據(jù)和表管理轉(zhuǎn)變?yōu)閷?duì)數(shù)據(jù)節(jié)點(diǎn)及其相互間關(guān)系鏈條的管理,通過Neo4j的Cypher語言實(shí)現(xiàn)便捷、快速、可自由定義的復(fù)雜查詢,同時(shí)對(duì)外提供了豐富的資源可視化展示功能。
本研究主要定位于IT配置管理整體架構(gòu)(見圖1)中的功能實(shí)現(xiàn)層,基于資源數(shù)據(jù)層的海量數(shù)據(jù)進(jìn)行資源配置管理、數(shù)據(jù)分析、管理關(guān)系生成、拓?fù)湔宫F(xiàn)等功能,可替換傳統(tǒng)CMDB中的部分功能,解決其在關(guān)系分析、可視化呈現(xiàn)、查詢速度等方面的劣勢(shì)。本應(yīng)用生成的關(guān)系數(shù)據(jù)和圖形展示可通過標(biāo)準(zhǔn)接口傳送給上層應(yīng)用場(chǎng)景或提供給其他外部平臺(tái)調(diào)用。
本文將以上創(chuàng)新思路在運(yùn)維的8 400余條資產(chǎn)CI管理中進(jìn)行了應(yīng)用,生成2.3萬余條關(guān)聯(lián)關(guān)系,相關(guān)記錄的創(chuàng)建、關(guān)聯(lián)和查詢速度均以毫秒級(jí)實(shí)現(xiàn),形成了機(jī)房局址、機(jī)架、設(shè)備、操作系統(tǒng)、應(yīng)用進(jìn)程、業(yè)務(wù)系統(tǒng)等多層級(jí)立體管理體系,并與動(dòng)力、空調(diào)、環(huán)境、維保等多個(gè)管理維度進(jìn)行關(guān)聯(lián),初步達(dá)成了應(yīng)用創(chuàng)新目標(biāo)。本應(yīng)用主要通過數(shù)據(jù)建模、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)展現(xiàn)3個(gè)過程實(shí)現(xiàn)。
2 數(shù)據(jù)建模
本文通過知識(shí)圖譜技術(shù)體系對(duì)IT資源中的所有配置項(xiàng)CI進(jìn)行管理,基于多年IT運(yùn)維中積累的配置
管理經(jīng)驗(yàn),創(chuàng)新性地提出各類物理和邏輯資源的關(guān)系設(shè)計(jì)方法,形成了機(jī)房局址、機(jī)架、設(shè)備、操作系統(tǒng)、應(yīng)用進(jìn)程、業(yè)務(wù)系統(tǒng)等多層級(jí)架構(gòu),并與動(dòng)力、空調(diào)、環(huán)境、維保等多個(gè)管理維度進(jìn)行關(guān)聯(lián),建立了IT資源的立體管理體系[6-7]。
本研究創(chuàng)新了CI關(guān)系設(shè)計(jì)方法,通過分類分層的方式將CI進(jìn)行縱向關(guān)聯(lián)(見圖2),在生命周期的前后向上進(jìn)行橫向關(guān)聯(lián)(見圖3),所有物理、邏輯、應(yīng)用、環(huán)境等各大類CI數(shù)據(jù)交織成數(shù)據(jù)網(wǎng),生成各類依賴、從屬、連接的關(guān)系,從而形成以點(diǎn)帶線、由線成面的聯(lián)動(dòng)效果[8-9]。
圖2 配置項(xiàng)分類分層縱向關(guān)聯(lián)關(guān)系
圖3 配置項(xiàng)生命周期橫向關(guān)聯(lián)關(guān)系
通過此CI關(guān)系設(shè)計(jì)方法使CI數(shù)據(jù)進(jìn)行縱向、橫向交織關(guān)聯(lián),通過某一節(jié)點(diǎn)可實(shí)現(xiàn)雙維度數(shù)據(jù)關(guān)聯(lián),例如:通過某一業(yè)務(wù),可縱向關(guān)聯(lián)業(yè)務(wù)所屬主機(jī)、端口、進(jìn)程及相關(guān)文件或數(shù)據(jù)庫,進(jìn)而關(guān)聯(lián)所屬物理服務(wù)器、存儲(chǔ)及網(wǎng)絡(luò)設(shè)備、所屬機(jī)房環(huán)境、機(jī)架、資源池等,當(dāng)某一環(huán)節(jié)出現(xiàn)故障時(shí),可以對(duì)所有可能關(guān)聯(lián)的CI節(jié)點(diǎn)進(jìn)行預(yù)警。
3 數(shù)據(jù)存儲(chǔ)
運(yùn)用圖數(shù)據(jù)庫Neo4j替代傳統(tǒng)關(guān)系型數(shù)據(jù)庫,將原有單純的數(shù)據(jù)和表管理轉(zhuǎn)變?yōu)閷?duì)數(shù)據(jù)節(jié)點(diǎn)及其相互間關(guān)系鏈條的管理,在CI關(guān)系設(shè)計(jì)的基礎(chǔ)上,實(shí)現(xiàn)各節(jié)點(diǎn)相互關(guān)聯(lián)。Neo4j數(shù)據(jù)庫配置管理具備多項(xiàng)技術(shù)優(yōu)勢(shì),可進(jìn)行實(shí)時(shí)、高速、深度遍歷查詢,操作效率高;圖可視化能力好,展示直觀清晰;擴(kuò)展性好,支撐多種數(shù)據(jù)結(jié)構(gòu);易于維護(hù)和數(shù)據(jù)修改,可集成其他數(shù)據(jù)源;不鎖表,讀寫效率很高。
Neo4j具備豐富的圖數(shù)據(jù)科學(xué)算法:連通分量算法可將圖切分成彼此不連通的子圖;頁面排行算法可計(jì)算節(jié)點(diǎn)在網(wǎng)絡(luò)中的影響力;Louvain算法可識(shí)別頻繁出現(xiàn)的集群;Jaccard相似度算法可判斷節(jié)點(diǎn)間的相似度。豐富的算法支撐了對(duì)數(shù)據(jù)價(jià)值的挖掘,從而提供決策支撐。
4 資源展現(xiàn)
本應(yīng)用利用Neo4j的Cypher語言實(shí)現(xiàn)了便捷、快速、可自由定義的復(fù)雜查詢,項(xiàng)目團(tuán)隊(duì)在充分調(diào)研業(yè)務(wù)的基礎(chǔ)上設(shè)計(jì)了大量貼近業(yè)務(wù)場(chǎng)景的查詢規(guī)則[10],可對(duì)IT資源數(shù)據(jù)進(jìn)行深度查詢,探索關(guān)系結(jié)構(gòu)或網(wǎng)絡(luò)拓?fù)洌瑢?duì)隱患識(shí)別和風(fēng)險(xiǎn)防范提供了充實(shí)依據(jù),同時(shí)對(duì)外提供了豐富的資源可視化展示功能。
部分應(yīng)用場(chǎng)景如下:
(1)以3 000個(gè)CI間的關(guān)聯(lián)關(guān)系為例,輸出關(guān)聯(lián)拓?fù)洹?/p>
(2)以圖4中的服務(wù)器A為例,進(jìn)行上下級(jí)關(guān)系查詢,結(jié)果輸出其關(guān)聯(lián)的網(wǎng)絡(luò)設(shè)備、所屬機(jī)架、機(jī)房等物理位置、包含的應(yīng)用、進(jìn)程、主機(jī)歸屬系統(tǒng)部門、維保等各類數(shù)據(jù)關(guān)系,如圖4所示。
(3)以某系統(tǒng)為例,展示其內(nèi)部設(shè)備組網(wǎng)拓?fù)浣Y(jié)構(gòu),如圖5所示。
圖5中線條數(shù)量與占用端口和物理線纜數(shù)量有關(guān),可根據(jù)自動(dòng)生成的線纜數(shù)量判斷物理設(shè)備之間的端口占用情況及鏈路主備用情況。圖5僅展示了簡(jiǎn)單網(wǎng)絡(luò)關(guān)系,依據(jù)實(shí)際生產(chǎn)數(shù)據(jù)生成的網(wǎng)絡(luò)拓?fù)湟话爿^為復(fù)雜,邏輯結(jié)構(gòu)及其關(guān)系價(jià)值更高。
(4)以某機(jī)房為例,展示UPS、列頭柜、機(jī)架、設(shè)備各層級(jí)供電關(guān)系,如圖6所示。
從供電角度進(jìn)行多層級(jí)CI關(guān)聯(lián),可實(shí)現(xiàn)機(jī)房供電系統(tǒng)安全性排查,提前且直觀地發(fā)現(xiàn)未實(shí)現(xiàn)雙路供電的設(shè)備或機(jī)架,及早進(jìn)行供電方案優(yōu)化。在此基礎(chǔ)上,當(dāng)機(jī)房供電系統(tǒng)或設(shè)備掉電時(shí),可及時(shí)發(fā)現(xiàn)供電依賴關(guān)系,分析可能造成的影響范圍。結(jié)合圖4中的配置項(xiàng)上下級(jí)關(guān)聯(lián)關(guān)系,可進(jìn)一步實(shí)現(xiàn)相關(guān)業(yè)務(wù)、應(yīng)用、進(jìn)程等故障預(yù)警。
5 本研究應(yīng)用效果
本研究應(yīng)用初步達(dá)成數(shù)據(jù)交織、隱患識(shí)別、風(fēng)險(xiǎn)聯(lián)動(dòng)的設(shè)計(jì)目標(biāo),解決了傳統(tǒng)IT配置管理中的各類重點(diǎn)難點(diǎn)問題,應(yīng)用效果如下。
5.1 大幅提升各類資源操作的效率
經(jīng)驗(yàn)證,資源相關(guān)記錄的創(chuàng)建、關(guān)聯(lián)和查詢速度均不超過10 ms,徹底解決了傳統(tǒng)CMDB中對(duì)大量數(shù)據(jù)進(jìn)行遍歷時(shí)的延時(shí)問題,完全杜絕了操作頁面卡死無響應(yīng)的現(xiàn)象。該方式和傳統(tǒng)關(guān)系型數(shù)據(jù)庫相比可大幅提升資源讀寫性能,避免因海量數(shù)據(jù)頻繁讀寫造成的數(shù)據(jù)庫壓力。經(jīng)對(duì)比測(cè)算,各類操作效率提升比例在50%以上。
5.2 全面生成資源間的關(guān)聯(lián)關(guān)系
圖計(jì)算基于節(jié)點(diǎn)、關(guān)系生成關(guān)聯(lián)記錄,數(shù)據(jù)保存質(zhì)量高,可輕松形成機(jī)房局址、機(jī)架、設(shè)備、操作系統(tǒng)、應(yīng)用進(jìn)程、業(yè)務(wù)系統(tǒng)等多層級(jí)立體管理體系,并與動(dòng)力、空調(diào)、環(huán)境、維保等多個(gè)管理維度進(jìn)行關(guān)聯(lián),對(duì)所有配置項(xiàng)CI做到全部生成了關(guān)聯(lián)關(guān)系,達(dá)到關(guān)聯(lián)關(guān)系100%覆蓋,質(zhì)量提升達(dá)100%。
5.3 可視化呈現(xiàn)各類關(guān)系線條
對(duì)網(wǎng)絡(luò)連接、數(shù)據(jù)依賴、層次架構(gòu)等業(yè)務(wù)場(chǎng)景實(shí)現(xiàn)可視化展示,可直觀、清晰地進(jìn)行隱患識(shí)別、風(fēng)險(xiǎn)聯(lián)動(dòng),將傳統(tǒng)IT資源由表數(shù)據(jù)轉(zhuǎn)換為圖數(shù)據(jù),極大地提升了數(shù)據(jù)可讀性,也可通過標(biāo)準(zhǔn)接口傳送給其他應(yīng)用或外部平臺(tái)調(diào)用。本可視化呈現(xiàn)手段可作為應(yīng)用嵌入各類生產(chǎn)功能模塊,進(jìn)一步實(shí)現(xiàn)定制化開發(fā)。
5.4 充分挖掘海量資源的數(shù)據(jù)價(jià)值
本應(yīng)用通過分類分層的方式進(jìn)行縱向關(guān)聯(lián),在生命周期的前后向上進(jìn)行橫向關(guān)聯(lián),所有數(shù)據(jù)交織成網(wǎng),徹底解決數(shù)據(jù)孤島問題。基于動(dòng)態(tài)變化且相互依存的數(shù)據(jù)更能充分挖掘其數(shù)據(jù)價(jià)值,為上層提供 IT 決策和服務(wù)交付所需的洞察力。
6 結(jié)語
本研究提出了一種創(chuàng)新性的配置管理方法,結(jié)合先進(jìn)的知識(shí)圖譜理念,應(yīng)用主流開源圖數(shù)據(jù)庫技術(shù),開辟了數(shù)據(jù)中心IT配置管理方面新的研究方向,在此研究成果基礎(chǔ)上可進(jìn)一步優(yōu)化CI關(guān)系設(shè)計(jì),豐富業(yè)務(wù)線條下的配置管理,以完善運(yùn)維為業(yè)務(wù)服務(wù)的最終目標(biāo)。
參考文獻(xiàn)
[1]趙樑.CMDB建設(shè)與運(yùn)營(yíng)的方法研究[J].信息化技術(shù)應(yīng)用,2018(4):10-11.
[2]鄧鑫.基于CMDB的IT資產(chǎn)管理系統(tǒng)研究與應(yīng)用[J].計(jì)算機(jī)與信息技術(shù),2020(8):69-70.
[3]劉權(quán).基于CMDB的網(wǎng)管系統(tǒng)業(yè)務(wù)可用性監(jiān)控平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)[J].電信工程技術(shù)與標(biāo)準(zhǔn)化,2012(10):29-32.
[4]張友朋.基于ITIL配置管理的研究與應(yīng)用[J].計(jì)算機(jī)工程與設(shè)計(jì),2010(9):2084-2088.
[5]連城.淺析CMDB在云環(huán)境中軟件系統(tǒng)的應(yīng)用方式[J].科學(xué)技術(shù)創(chuàng)新,2019(19):81-82.
[6]徐雪艷.數(shù)據(jù)中心運(yùn)維管理系統(tǒng)CMDB庫設(shè)計(jì)[J].中國(guó)新技術(shù)新產(chǎn)品,2019(6):25-26.
[7]付慶華.數(shù)據(jù)中心運(yùn)維管理系統(tǒng)CMDB庫設(shè)計(jì)與實(shí)踐[J].信息系統(tǒng)工程,2018(1):65.
[8]曾曉松.一種基于CMDB平臺(tái)的運(yùn)維管理系統(tǒng)的研究[J].新一代信息技術(shù),2021(13):26-30.
[9]王磊.一種支撐云管理平臺(tái)的CMDB設(shè)計(jì)方法[J].冶金自動(dòng)化,2015(1):13-18.
[10]戴聲.基于圖數(shù)據(jù)庫的大規(guī)模配置管理數(shù)據(jù)庫關(guān)聯(lián)查詢[J].計(jì)算機(jī)與現(xiàn)代化,2017(1):51-56.
(編輯 王雪芬編輯)
Application scheme of CMDB and knowledge graph fusion
Zhang Yahui1, Ma Haiyan2, Wang Jiaping1, Mao Lei1, Xia Mingxin1
(1.Shandong Branch of China Mobile Group Design Institute Co., Ltd., Jinan 250101, China;
2.Shandong College of Electronic Technology, Jinan 250200, China)
Abstract: In response to the lack of visual presentation in CMDB resource management and the low efficiency of resource calculation and query in the case of large amounts of data, the value of knowledge graph in IT configuration management is studied, and the characteristics and requirements of the configuration management database CMDB are analyzed. Based on the knowledge graph, IT resource configuration item management methods are studied, and the graph database Neo4j is used to replace traditional relational databases, Transforming the original simple data and table management into the management of data nodes and their interrelationships, using Neo4js Cypher language to achieve convenient, fast, and freely defined complex queries, while providing rich resource visualization display solutions to the outside world. This solution achieves the integration of CMDB and knowledge graph, providing a new solution for improving the visualization level and management efficiency of resource management.
Key words: configuration management; CMDB; figure calculation; knowledge graph; graph database