摘" 要:我國是世界上震害嚴重的國家之一,提高地震預(yù)測預(yù)報水平是國家和社會公眾的迫切需求。地球物理臺網(wǎng)的發(fā)展在地震預(yù)測、資源勘探和環(huán)境監(jiān)測等領(lǐng)域發(fā)揮重要作用。該文介紹一種基于Python開發(fā)的地球物理臺網(wǎng)數(shù)據(jù)實時采集與監(jiān)控系統(tǒng)。該系統(tǒng)集成實時數(shù)據(jù)采集、智能分析和故障報警三大核心功能。數(shù)據(jù)采集利用Python的requests庫,通過模擬登錄獲取地震觀測儀器的數(shù)據(jù)。智能分析模塊通過對省級數(shù)據(jù)庫中的數(shù)據(jù)進行統(tǒng)計分析,提取關(guān)鍵指標并評估數(shù)據(jù)質(zhì)量。故障報警功能則監(jiān)測儀器的通信狀態(tài),一旦檢測到異常,系統(tǒng)會自動觸發(fā)警報,提醒值班人員及時處理。該系統(tǒng)不僅提升地球物理觀測網(wǎng)絡(luò)的自動化和智能化水平,還為地震監(jiān)測和數(shù)據(jù)管理提供有力支持。
關(guān)鍵詞:地震預(yù)測;地球物理臺網(wǎng);實時數(shù)據(jù)采集;智能分析;故障報警;Python
中圖分類號:P315.73" " " 文獻標志碼:A" " " " " 文章編號:2095-2945(2025)06-0040-04
Abstract: China is one of the countries with serious earthquake disasters in the world. Improving the level of earthquake prediction and prediction is an urgent need of the country and the public. The development of geophysical networks plays an important role in the fields of earthquake prediction, resource exploration and environmental monitoring. This paper introduces a real-time data acquisition and monitoring system for geophysical network based on Python. The system integrates three core functions: real-time data collection, intelligent analysis and fault alarm. Data acquisition uses Python's requests library to obtain data from seismic observation instruments through simulated login. The intelligent analysis module performs statistical analysis on data in provincial databases, extracts key indicators and evaluates data quality. The fault alarm function monitors the communication status of the instrument. Once an abnormality is detected, the system will automatically trigger an alarm to remind the person on duty to deal with it in a timely manner. This system not only improves the automation and intelligence level of geophysical observation networks, but also provides strong support for earthquake monitoring and data management.
Keywords: earthquake prediction; geophysical network; real-time data acquisition; intelligent analysis; fault alarm; Python
我國是世界上震害嚴重的國家之一,提高地震預(yù)測預(yù)報水平是國家和社會公眾的迫切需求。盡管地震監(jiān)測預(yù)報工作已經(jīng)取得了一些進展,但仍面臨著諸多挑戰(zhàn)[1-3]。地球物理學(xué)作為研究地球物理場和地球內(nèi)部結(jié)構(gòu)的科學(xué),在地震預(yù)測、資源勘探和環(huán)境監(jiān)測等領(lǐng)域發(fā)揮著重要作用。
地球物理學(xué)科業(yè)務(wù)人員可以通過多種技術(shù)手段實現(xiàn)對觀測網(wǎng)絡(luò)的高效監(jiān)控和管理,以確保數(shù)據(jù)的連續(xù)性和準確性,并及時發(fā)現(xiàn)且解決網(wǎng)絡(luò)問題,提高數(shù)據(jù)質(zhì)量。
通過構(gòu)建基于Nagios地震觀測網(wǎng)絡(luò)監(jiān)控平臺[4],實現(xiàn)對設(shè)備和服務(wù)的綜合監(jiān)控。趙楠、姜佳寧、趙祖虎等[5-7]通過編寫自動化監(jiān)控報警軟件實現(xiàn)對網(wǎng)絡(luò)進行監(jiān)控,并對異常情況發(fā)出告警。崔博聞等[8]通過編程針對Oracle數(shù)據(jù)庫的監(jiān)測實現(xiàn)更為復(fù)雜的地球物理管理系統(tǒng)。這些技術(shù)的應(yīng)用不僅促進了地球物理觀測網(wǎng)絡(luò)的自動化和智能化,還為地震監(jiān)測和數(shù)據(jù)管理提供了強有力的支持。
本項研究是使用成熟的技術(shù)實現(xiàn)地球物理臺網(wǎng)數(shù)據(jù)的實時采集和存儲,并對采集的數(shù)據(jù)進行校驗和數(shù)據(jù)質(zhì)量的簡單評價。對于數(shù)據(jù)的缺失、突跳以及超量程等問題,研究將提供及時的處理方法,以提高數(shù)據(jù)的可靠性和及時性。
1" 系統(tǒng)設(shè)計
本系統(tǒng)采用Python開發(fā),集成了實時數(shù)據(jù)采集、智能分析和故障報警三大核心功能。地球物理臺網(wǎng)涵蓋了流體、地電、形變、重力和地磁等五大學(xué)科領(lǐng)域[9]。這些學(xué)科的儀器設(shè)備,如地電場、地磁、形變、流體和重力儀器,均可通過網(wǎng)頁進行信息查詢、配置調(diào)整,并能夠?qū)崟r讀取儀器記錄的數(shù)據(jù)[10]。數(shù)據(jù)采集功能通過Python的requests模塊實現(xiàn),該模塊攜帶用戶認證信息模擬登錄過程,獲取并解析儀器的實時數(shù)據(jù)輸出。
智能分析模塊則通過連接到省級數(shù)據(jù)庫,對儀器的3至7天預(yù)處理數(shù)據(jù)進行深入分析,提取關(guān)鍵統(tǒng)計指標如平均值和標準差。對于形變類儀器,該模塊還能計算當前的形變速率,并根據(jù)實時數(shù)據(jù)評估是否接近或超出量程邊界。一旦檢測到超量程情況,系統(tǒng)將自動觸發(fā)警報機制。
黑龍江局的地電場儀器自2007年起便開始服役,部分儀器因使用年限較長可能出現(xiàn)死機或假死現(xiàn)象。故障報警功能通過監(jiān)測數(shù)據(jù)采集情況和儀器的網(wǎng)絡(luò)通信狀態(tài),判斷儀器是否運行正常。一旦發(fā)現(xiàn)通信異常或數(shù)據(jù)采集中斷,系統(tǒng)將通過聲音警報提醒值班人員,以便及時采取相應(yīng)措施。
2" 數(shù)據(jù)實時采集
地球物理臺網(wǎng)各學(xué)科Web管理頁面相似,需要用戶名和密碼,驗證身份信息。驗證身份后,可以讀取儀器的參數(shù)、儀器狀態(tài)、下載儀器中存取的數(shù)據(jù)、讀取當天的數(shù)據(jù)等。這里以黑龍江省牡丹江中心站密山地震臺地電場儀作為實驗對象,設(shè)計地電場觀測Web網(wǎng)頁數(shù)據(jù)提取流程。密山地電場儀登錄后,可以查閱當前儀器產(chǎn)出數(shù)據(jù)。
使用Python的requests庫,模擬用戶、密碼登錄,攜帶此次訪問的cookies訪問下載頁面,直接保存數(shù)據(jù)。
對用戶名和密碼進行base64編碼,把編碼信息寫入請求頭,實現(xiàn)身份的認證,requests.Session()用于保持會話的持久性,這樣可以在多個請求之間保持cookies和其他會話參數(shù)。再次請求當前數(shù)據(jù)頁面,對數(shù)據(jù)解析。
使用正則表達式移除返回數(shù)據(jù)中的HTML標簽,對每一行數(shù)據(jù)進行分割,第1列為時間,可以和當前日期拼接,轉(zhuǎn)化成可以識別的datetime格式,便于后面的繪圖,后面幾列為各道數(shù)據(jù)進行分割。經(jīng)過以上的操作,我們獲取當前日期的儀器所采集的各測道數(shù)據(jù)。
我們采用數(shù)據(jù)融合技術(shù),以便于更準確地展示和評估密山地震臺地電場的實時監(jiān)測數(shù)據(jù)。圖1詳細展示了我們的數(shù)據(jù)集成結(jié)果,其中黑色線條代表了從Oracle數(shù)據(jù)庫中提取的歷史數(shù)據(jù),而灰色線條代表直接從監(jiān)測儀器采集的實時數(shù)據(jù)。確保數(shù)據(jù)的連續(xù)性和完整性,我們收集3天的數(shù)據(jù)集。
由于在每天的0點之后至與省局地球物理臺網(wǎng)和中心站進行數(shù)據(jù)交換之前,存在一段時間的數(shù)據(jù)缺失,這可能會影響我們對地電場變化趨勢的全面理解。為了彌補這一數(shù)據(jù)空白,直接從地電場監(jiān)測儀器下載前一天缺失的數(shù)據(jù)段。這種方法不僅確保了數(shù)據(jù)采集的連續(xù)性,而且提高了我們研究的可靠性和有效性。
通過將這兩部分數(shù)據(jù)進行精確拼接,我們成功地構(gòu)建了一個完整的數(shù)據(jù)集,并將其存儲為pandas的DataFrame格式,這為后續(xù)的數(shù)據(jù)分析和可視化提供了極大的便利。
對于地磁數(shù)據(jù),我們所處理的數(shù)據(jù)集記錄的時間均以國際標準時間(UTC)為基準??紤]到地區(qū)時差的影響,將所有時間數(shù)據(jù)轉(zhuǎn)換為北京時間(CST)。將數(shù)據(jù)庫中的UTC時間數(shù)據(jù)統(tǒng)一加上8個小時,以實現(xiàn)時區(qū)的轉(zhuǎn)換。
流體水位儀、水溫儀,形變的寬頻帶傾斜儀(VP)、垂直擺傾斜儀(VS)、水管傾斜儀(DSQ)、銦瓦棒伸縮儀,重力的相對重力儀(PET),氣象三要素等均可以通過網(wǎng)頁形式獲取當前的最新數(shù)據(jù),方法和原理類似,這里就不做過多的介紹。
為減少儀器訪問壓力,我們每10分鐘采集一次數(shù)據(jù)。這不僅能夠降低服務(wù)器負載,還能節(jié)省計算成本。
3" 數(shù)據(jù)質(zhì)量監(jiān)控
數(shù)據(jù)質(zhì)量監(jiān)控模塊,通過一系列校驗和異常檢測手段,全面評估和提升數(shù)據(jù)質(zhì)量。我們采用基于統(tǒng)計和規(guī)則的異常檢測。通過對異常值占比統(tǒng)計和數(shù)據(jù)質(zhì)量評分,提供數(shù)據(jù)質(zhì)量評估報告。并設(shè)定報警機制,以便于在數(shù)據(jù)質(zhì)量低于預(yù)期時及時通知值班人員。
3.1" 數(shù)據(jù)完整性校驗
在數(shù)據(jù)完整性校驗方面,所有儀器的采樣率和最新采集數(shù)據(jù)時間都是已知的。通常情況下,儀器錯誤數(shù)據(jù)用NULL表示,我們可以統(tǒng)計NULL數(shù)量來獲取缺失數(shù)據(jù)量,并計算當前儀器的連續(xù)率。如果發(fā)現(xiàn)超過10分鐘或更長時間的數(shù)據(jù)缺失,將觸發(fā)報警。
連續(xù)率的計算公式是
連續(xù)率=(實際樣本數(shù)/預(yù)期樣本數(shù))×100%。
3.2" 異常值檢測
我們通過從數(shù)據(jù)庫下載與實時數(shù)據(jù)的拼接,基于統(tǒng)計學(xué)方法進行檢測,并對異常值進行標注。具體方法是,計算數(shù)據(jù)庫中前7天數(shù)據(jù)的均方差作為閾值,如果當前產(chǎn)出數(shù)據(jù)的波動大于2倍均方差,則被認定為異常值,對異常值進行標注。
異常值檢測還可以基于預(yù)定義的規(guī)則進行,例如,德都地磁臺GM-4磁通門磁力儀Z分量設(shè)置范圍為13~254 nT,H分量設(shè)置為-34~168 nT,D分量磁偏角為-67~-25分,設(shè)置地磁數(shù)據(jù)范圍合理,能有效減少報警次數(shù),檢測并標注異常值。如果檢測到的異常值數(shù)量超過閾值,系統(tǒng)將觸發(fā)報警。
4" 實時報警
在數(shù)據(jù)質(zhì)量監(jiān)控中,可以通過聲音報警、郵件通知和企業(yè)微信消息多種方式,根據(jù)不同場景提供靈活的報警手段。
4.1" 聲音報警
聲音報警是最直接的報警方式,當系統(tǒng)檢測到數(shù)據(jù)完整性或異常值問題時,將通過揚聲器發(fā)出警報音,提醒值班人員立即查看系統(tǒng)狀態(tài)。
4.2" 郵件通知
郵件通知適用于需要詳細記錄報警信息的場景。當數(shù)據(jù)質(zhì)量出現(xiàn)異常時,系統(tǒng)會自動發(fā)送郵件至相關(guān)負責人,郵件內(nèi)容可包含報警詳情、影響范圍及建議處理措施,確保問題能夠被及時關(guān)注和跟進。
4.3" 企業(yè)微信通知
如果有兼顧外部網(wǎng)絡(luò)環(huán)境,可以通過企業(yè)微信進行消息推送。企業(yè)微信消息是一種便捷的實時通信方式,可以通過企業(yè)微信API實現(xiàn)報警消息的發(fā)送。
5" 結(jié)束語
本系統(tǒng)在地球物理臺網(wǎng)中應(yīng)用廣泛,特別是電磁學(xué)科、形變學(xué)科、流體學(xué)科等領(lǐng)域。通過實時數(shù)據(jù)采集和智能分析,系統(tǒng)能夠提供精準的設(shè)備狀態(tài)和數(shù)據(jù)質(zhì)量監(jiān)控。在實際應(yīng)用中,系統(tǒng)能夠自動收集和整合各類觀測數(shù)據(jù),并通過數(shù)據(jù)融合技術(shù)展示監(jiān)測結(jié)果。
對于數(shù)據(jù)的完整性和質(zhì)量,系統(tǒng)通過實時監(jiān)控、異常值檢測和質(zhì)量評估等功能,確保數(shù)據(jù)的可靠性。系統(tǒng)在發(fā)現(xiàn)異常情況時,會通過聲音報警、郵件通知和企業(yè)微信消息等方式進行警報,幫助值班人員及時響應(yīng)。此外,為了減少儀器訪問壓力,系統(tǒng)設(shè)置了每10分鐘采集一次數(shù)據(jù),優(yōu)化了數(shù)據(jù)獲取效率。
結(jié)合這些功能,本系統(tǒng)不僅提高了地球物理臺網(wǎng)的自動化和智能化水平,還為日常工作提供了定制化服務(wù),減少了人為干預(yù),增強了數(shù)據(jù)管理和分析的能力。隨著臺網(wǎng)儀器的增加,系統(tǒng)的智能分析框架將進一步擴展,為地震監(jiān)測和地球物理數(shù)據(jù)管理提供更強有力的支持。
參考文獻:
[1] 劉桂萍.我國地震預(yù)測回顧與展望[J].城市與減災(zāi),2020(6):5-9.
[2] 蔣海昆.重視預(yù)報過程反思提高地震預(yù)測水平[J].國際地震動態(tài),2005(5):151-153.
[3] 丁鑒海,劉杰,余素榮.中國地震預(yù)報探索與實踐[J].地震,2000(S1):12-17.
[4] 高東輝,孟祥龍,張守國,等.基于Nagios的網(wǎng)絡(luò)監(jiān)控系統(tǒng)在黑龍江地震監(jiān)測網(wǎng)絡(luò)中的應(yīng)用[J].防災(zāi)減災(zāi)學(xué)報,2013,29(2):67-73.
[5] 趙楠,石英杰,江沛春.區(qū)域虛擬地震臺網(wǎng)數(shù)據(jù)流監(jiān)控軟件研發(fā)[J].地震地磁觀測與研究,2015,36(4):150-153.
[6] 姜佳寧,吳利軍,徐磊,等.地震觀測儀器自動監(jiān)控軟件設(shè)計與實現(xiàn)[J].地震地磁觀測與研究,2019,40(4):167-175.
[7] 趙祖虎,吳利軍,姜佳寧,等.地球物理臺網(wǎng)儀器監(jiān)控可視化系統(tǒng)設(shè)計與實現(xiàn)[J].地震地磁觀測與研究,2022,43(2):233-241.
[8] 崔博聞,韓孔艷,費伯秀,等.北京市地球物理臺網(wǎng)數(shù)據(jù)運行監(jiān)控系統(tǒng)[J].科技創(chuàng)新與應(yīng)用,2022,12(6):39-41,45.
[9] 王軍,余丹,黃經(jīng)國,等.基于大數(shù)據(jù)架構(gòu)的地球物理觀測數(shù)據(jù)管理系統(tǒng)[J].中國地震,2024,40(1):144-159.
[10] 李蒙亞,楊碩,儲翔,等.基于地殼形變觀測網(wǎng)頁結(jié)構(gòu)的實時數(shù)據(jù)自動獲取及應(yīng)用[J].地震地磁觀測與研究,2022,43(5):208-212.
基金項目:黑龍江省地震局科研項目(202301);黑龍江省地震局創(chuàng)新團隊(無編號)
第一作者簡介:高峰(1976-),男,碩士,副高級工程師。研究方向為地震監(jiān)測、預(yù)報與地電地磁數(shù)據(jù)綜合分析應(yīng)用。