劉文生
摘要:在當前我國橋梁發(fā)展由建設向養(yǎng)護轉(zhuǎn)移的重要背景下,因為長期積累的橋梁監(jiān)測數(shù)據(jù)類型繁多、評價標準不同,導致數(shù)據(jù)可視化差、企業(yè)決策困難。以武漢市城市橋梁智慧管理平臺橋梁監(jiān)測數(shù)據(jù)為例,開展多源監(jiān)測數(shù)據(jù)的標準化集成和基于Power BI的商業(yè)數(shù)據(jù)分析工具的可視化,對原始數(shù)據(jù)進行建模轉(zhuǎn)換,實現(xiàn)異構數(shù)據(jù)源的集成,多維角度觀察數(shù)據(jù),通過可視化界面展開,提高橋梁數(shù)據(jù)展示能力,支持企業(yè)戰(zhàn)略決策需求。
Abstract: In the current important background of bridge development in China shifting from construction to maintenance, long-term accumulation of bridge monitoring data has many types and different evaluation standards, resulting in poor data visualization and difficult decision-making for enterprises. Taking the bridge monitoring data of Wuhan City Bridge Smart Management Platform as an example, the standardized integration of multi-source monitoring data and the visualization of commercial data analysis tools based on Power BI are carried out, and the original data is modeled and converted to realize the integration of heterogeneous data sources, and observe the data from a multi-dimensional perspective and expand it through a visual interface to improve the ability to display bridge data and support corporate strategic decision-making needs.
關鍵詞:橋梁監(jiān)測數(shù)據(jù);Power BI;可視化
0? 引言
橋梁監(jiān)測過程中,隨著監(jiān)測年份增加,數(shù)據(jù)量增大,信息相對固化,客觀上易形成信息孤島。傳統(tǒng)的紙質(zhì)記錄和Excel方法,無法對大量數(shù)據(jù)進行有效管理,也阻礙對數(shù)據(jù)進一步的分析和挖掘。
本文基于Power BI橋梁監(jiān)測數(shù)據(jù)可視化研究,構建數(shù)據(jù)展示層的橋梁監(jiān)控數(shù)據(jù)倉庫模型,通過數(shù)據(jù)挖掘,實現(xiàn)數(shù)據(jù)可視化。
1? 理論基礎
1.1 Power BI
Power BI是微軟開發(fā)的一款應用在商業(yè)中自助式智能軟件。它可把復雜而混亂數(shù)據(jù)轉(zhuǎn)化為交互式可視化報告。
數(shù)據(jù)分析過程包括數(shù)據(jù)采集、建模和分析、數(shù)據(jù)可視化三個步驟。數(shù)據(jù)分析最終目標是把繁雜的數(shù)據(jù)簡單地展示,為企業(yè)決策提供有利幫助。
在對數(shù)據(jù)大量重復手工整理、要求多變的定期報告、數(shù)據(jù)可視化等方面,Power BI可以為人們提供有效幫助。
1.2 Microsoft Azure
微軟基于云計算的操作系統(tǒng)——“Microsoft Azure”。平臺可操作性強、功能豐富和Office兼容與繼承性好,穩(wěn)定性高,區(qū)域支持全面,網(wǎng)速快。
隨著信息大數(shù)據(jù)時代的到來,各類需求層出不窮,傳統(tǒng)的本地部署服務器的模式將會導致成本日增,不能滿足企業(yè)日益增長的業(yè)務需求,而采用彈性的云計算服務模式將獲得更大IT容量,使企業(yè)能夠更好地匹配實際的網(wǎng)絡負荷。
1.3 可視化基本原理
很多學者對可視化的基本原理有著各自的理解?;ㄏ蚣t認為基本思想是“用圖形數(shù)據(jù)圖像來表示數(shù)據(jù)?!本唧w地說,就是利用計算機圖形技術與方法,對大量的數(shù)據(jù)進行處理,用圖形、圖像的形式,形象而具體地顯示出來,使研究人員能夠觀察與模擬,從而豐富科學發(fā)現(xiàn)的過程,給予人們深刻與意想不到的洞察力,在許多領域使科研人員的研究方式發(fā)生了很大的變化[1]。周海燕與袁景凌等人認為是利用計算機圖形學和圖像處理技術,將數(shù)據(jù)轉(zhuǎn)換成圖形或圖形在屏幕上顯示出來,并進行交互處理[2-3]。Wood等人認為是指人通過視覺觀察并在頭腦中形成客觀事物的影像過程,這是一個心智處理過程,提高了人對事物的觀察能力及整體概念的形成[4-5]。吳加敏等人認為可視化以人們慣于接受圖形、圖像并輔以信息處理技術將客觀事物及其內(nèi)在的聯(lián)系表現(xiàn)出來[6]。
2? 多源異構監(jiān)測數(shù)據(jù)的標準化集成
2.1 監(jiān)測數(shù)據(jù)標準化組織與處理
數(shù)據(jù)標準化是實現(xiàn)數(shù)據(jù)可視化基礎,只有在數(shù)據(jù)標準化的前提下,才能夠?qū)ζ溥M行編碼,這是實現(xiàn)橋梁監(jiān)測信息化的重要標志。
目前橋梁監(jiān)測源數(shù)據(jù)量巨大,數(shù)據(jù)格式和評價體系各異,需要根據(jù)用戶需求對數(shù)據(jù)進行標準化處理并建立相應的數(shù)據(jù)庫。依據(jù)對真實數(shù)據(jù)的分析和向下挖掘的需要,將數(shù)據(jù)分為四類:載荷項、整體響應項、關鍵部件響應項和載荷-響應相關項。
監(jiān)測數(shù)據(jù)標準化主要是針對監(jiān)測格式、監(jiān)測指標、監(jiān)測關鍵構件等進行標準化。
2.2 多源異構數(shù)據(jù)建庫與集成
各類監(jiān)測數(shù)據(jù)經(jīng)過數(shù)據(jù)標準化組織后為其建庫提供了統(tǒng)一標準。根據(jù)監(jiān)測數(shù)據(jù)分類,利用SQL語句單獨設計每一小類數(shù)據(jù)庫的數(shù)據(jù)表,將監(jiān)測數(shù)據(jù)指標數(shù)據(jù)字段一一映射。為了實現(xiàn)監(jiān)測信息空間可視化,單獨設計監(jiān)測橋梁地理信息數(shù)據(jù)表,利用Power BI軟件中內(nèi)置的ArcGIS Maps for Power BI可視化組件將監(jiān)測橋梁的具體地理位置(緯度、經(jīng)度)與其他監(jiān)測數(shù)據(jù)進行關聯(lián),形成數(shù)據(jù)模型。
數(shù)據(jù)庫的集成入庫主要是由不同種類的監(jiān)測數(shù)據(jù)以Excel格式導入到新建立的SQL數(shù)據(jù)庫中,根據(jù)不同的監(jiān)測類別的特點,采用不同的導入方法,將其統(tǒng)一封裝到數(shù)據(jù)導入服務接口中。通過數(shù)據(jù)導入服務方法可判斷數(shù)據(jù)格式與信息是否正確,實時進行數(shù)據(jù)信息規(guī)范化處理。
3? 平臺需求分析
3.1 平臺功能
以武漢市城市智慧橋梁管理平臺為例。該平臺著重對武漢市橋梁處管理的44座重點橋梁建立在線安全監(jiān)測系統(tǒng)。
源橋梁監(jiān)測數(shù)據(jù)差別體現(xiàn):由于各個歷史時期對數(shù)據(jù)監(jiān)測格式的要求不一,導致監(jiān)測數(shù)據(jù)格式不同;不同年份的數(shù)據(jù)監(jiān)測指標不同或相同的監(jiān)測指標使用了不同的數(shù)據(jù)來源單位;數(shù)據(jù)分類混亂,沒有對所有的數(shù)據(jù)進行有效的歸類整理。
這些差別都會給監(jiān)測數(shù)據(jù)的分析帶來困難,影響管理決策。所以需要在可視化之前先建立統(tǒng)一的數(shù)據(jù)模型,對數(shù)據(jù)規(guī)范化定義,實現(xiàn)統(tǒng)一信息資源體系、數(shù)據(jù)元素標準化和信息編碼,建立統(tǒng)一的數(shù)據(jù)模型以滿足之后的多維數(shù)據(jù)可視化展示分析及更深的數(shù)據(jù)向下挖掘。
3.2 平臺業(yè)務需求
針對武漢市城市智慧橋梁管理平臺使用狀態(tài),其主要需求如下:全市橋梁管理接入同一平臺,管養(yǎng)同一標準;橋梁關鍵安全狀態(tài)自動監(jiān)控,專業(yè)人員定制成套監(jiān)測指標,橋上荷載有效控制;橋梁現(xiàn)場視頻隨時查看,關鍵安全事件智能識別;橋梁巡查、維修、驗收全程監(jiān)管,大數(shù)據(jù)輔助管養(yǎng)優(yōu)化決策。
4? 監(jiān)測數(shù)據(jù)可視化
為簡明扼要展現(xiàn)數(shù)據(jù)變化情況,采用基于Power BI商務智能解決方法。
4.1 監(jiān)測數(shù)據(jù)導出
根據(jù)平臺業(yè)務需求分析,主要數(shù)據(jù)來源于橋梁關鍵部位安裝的傳感器數(shù)據(jù)的導出與人工手動錄入兩種方式。
4.2 建立數(shù)據(jù)倉庫
將業(yè)務系統(tǒng)數(shù)據(jù)庫導出的數(shù)據(jù)分別導入新建Access數(shù)據(jù)庫(Excel),對于分析可能需要的數(shù)據(jù)維度轉(zhuǎn)換表則直接在Access(Excel)中建立,從而構建業(yè)務分析自定義數(shù)據(jù)倉庫。
4.3 業(yè)務數(shù)據(jù)提取
利用Power BI軟件創(chuàng)建新的文件作為系統(tǒng)主體,將各數(shù)據(jù)表和業(yè)務數(shù)據(jù)庫維度表導入該文件中,并根據(jù)需要設置數(shù)據(jù)刷新頻率,從而建立系統(tǒng)動態(tài)數(shù)據(jù)鏈接。
4.4 數(shù)據(jù)清洗
利用Power BI軟件內(nèi)置Power Query功能,對提取的業(yè)務數(shù)據(jù)庫數(shù)據(jù)進行分析前的數(shù)據(jù)清洗。
4.5 數(shù)據(jù)建模
為了數(shù)據(jù)之間的維度分析,找出不同數(shù)據(jù)板塊之間的業(yè)務關系,并利用DAX函數(shù)計算出各類指標數(shù)值,通過度量值建立一整套數(shù)據(jù)指標集市,供業(yè)務分析人員實時調(diào)取。
4.6 分析儀表盤建立
根據(jù)集團業(yè)務和系統(tǒng)功能設計要求,在使用上述數(shù)據(jù)、指標基礎上,利用Power BI軟件內(nèi)置 Power view功能和不同的可視化對象插件對數(shù)據(jù)進行可視化處理,實現(xiàn)業(yè)務分析目的。
4.7 儀表盤展示異常問題處理步驟
①使用微軟賬號登陸Azure網(wǎng)站(https://portal.azure.com)。找到Azure服務窗口,點擊“創(chuàng)建資源”按鈕;在“新建”按鈕下搜索“Azure Active Directory”,再點擊“創(chuàng)建”按鈕,在子頁的“組織名稱”和“初始區(qū)域”中輸入用戶可供選擇的名稱,然后點擊“創(chuàng)建”。如圖1所示。
②文件創(chuàng)建好以后,單擊“此處”按鈕以管理新目錄。在跳轉(zhuǎn)頁面后,在“管理”菜單欄下,點擊“用戶”菜單。如圖2所示。
③點擊“新建用戶”按鈕進入創(chuàng)建界面,完成編輯后點擊“創(chuàng)建”按鈕。如圖3所示。
④點擊剛剛建立的用戶,在左側(cè)管理界面上選擇“分配的角色”按鈕。選擇子菜單下指定的角色,并在該頁面添加上選擇“添加角色分配”功能,選擇“全局管理員”角色。如圖4所示。
以上四步可保證Power BI網(wǎng)頁端儀表盤正常運行與發(fā)布。利用Azure云服務功能,可防止Power BI自帶微軟服務器不穩(wěn)定帶來不利影響。
5? 結(jié)語
本文針對海量傳統(tǒng)橋梁監(jiān)測數(shù)據(jù)多源類型,對多源異構監(jiān)測數(shù)據(jù)進行標準化集成;簡要分析橋梁管理平臺及其業(yè)務需求;著重利用Power BI商業(yè)智能軟件,對橋梁監(jiān)測數(shù)據(jù)動態(tài)圖表可視化研究,包括理論基礎、操作步驟及可視化圖表發(fā)布過程異常問題的處理等。
參考文獻:
[1]花向紅.測量數(shù)據(jù)可視化技術研究[J].測繪工程,1999(03):30-33.
[2]周海燕,郭建忠,王家耀.知識發(fā)現(xiàn)與數(shù)據(jù)可視化技術淺析[J].信息工程大學學報,2002(04):78-80.
[3]袁景凌,鐘珞,瞿偉廉,金鵬.結(jié)構健康監(jiān)測中的可視化技術研究[J].武漢理工大學學報(交通科學與工程版),2008(05):925-928.
[4]K. W. Brodlie, D. A. Duce, J. R. Gallop, J. P. R. B. Walton, J. D. Wood. Distributed and Collaborative Visualization[J]. Computer Graphics Forum,2004,23(2).
[5]周海燕,郭建忠,王家耀.知識發(fā)現(xiàn)與數(shù)據(jù)可視化技術淺析[J].信息工程大學學報,2002(04):78-80.
[6]吳加敏,孫連英,張德政.空間數(shù)據(jù)可視化的研究與發(fā)展[J].計算機工程與應用,2002(10):85-88.