祝建平,李 博,范家銘
(1.中國(guó)國(guó)家鐵路集團(tuán)有限公司 運(yùn)輸部,北京 100844;2.中國(guó)鐵路列車(chē)運(yùn)行圖技術(shù)中心,北京 100081;3.中國(guó)鐵道科學(xué)研究院集團(tuán)有限公司 運(yùn)輸及經(jīng)濟(jì)研究所,北京 100081)
列車(chē)運(yùn)行圖是鐵路運(yùn)輸組織計(jì)劃的重要技術(shù)文件,是客貨運(yùn)、司乘、機(jī)車(chē)和動(dòng)車(chē)運(yùn)用、施工、車(chē)站作業(yè)等計(jì)劃編制的依據(jù),其編制質(zhì)量直接影響鐵路運(yùn)輸資源運(yùn)用效率和運(yùn)輸效益[1]。近年來(lái),隨著高速鐵路大規(guī)模成網(wǎng)運(yùn)行,列車(chē)開(kāi)行數(shù)量逐年增多,客運(yùn)市場(chǎng)需求動(dòng)態(tài)變化,使得列車(chē)運(yùn)行圖編制難度加大,編制頻率加快[2]。列車(chē)運(yùn)行圖編制系統(tǒng)是列車(chē)運(yùn)行圖編制工作的重要支撐[3-4],在當(dāng)前編制工作向常態(tài)化轉(zhuǎn)變的客觀需求背景條件下,編圖系統(tǒng)在系統(tǒng)架構(gòu)、數(shù)據(jù)管理和用戶(hù)體驗(yàn)等方面也面臨著新的技術(shù)挑戰(zhàn),主要表現(xiàn)在:一是信息化程度需進(jìn)一步提高。為提高編圖效率和準(zhǔn)確性,要將基礎(chǔ)設(shè)施設(shè)備、開(kāi)行方案等編圖資料完全電子化并納入到編圖系統(tǒng)中,確保資料完整性;加強(qiáng)與調(diào)度系統(tǒng)、客票系統(tǒng)等上下游生產(chǎn)系統(tǒng)的數(shù)據(jù)交流,實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)共享和統(tǒng)一編制[5]。二是數(shù)據(jù)管理水平需要提升。提高編圖數(shù)據(jù)容災(zāi)能力,構(gòu)建實(shí)時(shí)備份機(jī)制,避免發(fā)生用戶(hù)操作丟失、歷史數(shù)據(jù)丟失等問(wèn)題,消除數(shù)據(jù)泄露的安全隱患。三是系統(tǒng)性能需進(jìn)一步加強(qiáng)。需要在系統(tǒng)功能方面縮短響應(yīng)時(shí)間,提升編圖人員工作效率;同時(shí)隨著編圖工作量和難度的提升,亟需實(shí)現(xiàn)編圖自動(dòng)化和智能化[6],系統(tǒng)應(yīng)滿(mǎn)足輔助編圖功能對(duì)算力資源的龐大需求。
為進(jìn)一步提高鐵路列車(chē)運(yùn)行圖編制技術(shù)水平,支撐我國(guó)超大規(guī)模復(fù)雜路網(wǎng)條件下遠(yuǎn)程群體協(xié)同編圖需求,以中國(guó)國(guó)家鐵路集團(tuán)有限公司(以下簡(jiǎn)稱(chēng)“國(guó)鐵集團(tuán)”)主數(shù)據(jù)中心成立為契機(jī),設(shè)計(jì)開(kāi)發(fā)基于云平臺(tái)的列車(chē)運(yùn)行圖編制系統(tǒng)(以下簡(jiǎn)稱(chēng)“編圖系統(tǒng)”)。編圖系統(tǒng)采用云平臺(tái)部署、微服務(wù)架構(gòu)、分布式存儲(chǔ)與實(shí)時(shí)計(jì)算等先進(jìn)計(jì)算機(jī)技術(shù),具有完全自主知識(shí)產(chǎn)權(quán),實(shí)現(xiàn)數(shù)據(jù)安全可控和實(shí)時(shí)共享。編圖系統(tǒng)經(jīng)過(guò)業(yè)務(wù)調(diào)研、需求分析、方案評(píng)審、軟件研發(fā)、三方測(cè)試和現(xiàn)場(chǎng)試用等過(guò)程,實(shí)現(xiàn)數(shù)據(jù)管理、人工編圖、統(tǒng)計(jì)分析和數(shù)據(jù)共享等核心功能模塊,在國(guó)鐵集團(tuán)列車(chē)運(yùn)行圖編制工作中得到實(shí)際運(yùn)用,在運(yùn)算速度、可靠性、擴(kuò)展性、安全性等方面帶來(lái)質(zhì)的突破,有效提升列車(chē)運(yùn)行圖編制效率,為列車(chē)運(yùn)行圖常態(tài)化優(yōu)化調(diào)整和智能化編制奠定堅(jiān)實(shí)的基礎(chǔ)。
編圖系統(tǒng)的主要需求:一是依據(jù)國(guó)鐵集團(tuán)運(yùn)輸部提出的“加快運(yùn)輸信息化建設(shè)”的要求,實(shí)現(xiàn)列車(chē)運(yùn)行圖編制由數(shù)字化到信息化的跨越,切實(shí)提升運(yùn)輸領(lǐng)域信息化水平;二是面對(duì)市場(chǎng)多元化需求的動(dòng)態(tài)變化,為列車(chē)運(yùn)行圖智能輔助編制技術(shù)提供應(yīng)用和驗(yàn)證的平臺(tái),支撐列車(chē)運(yùn)行圖智能輔助技術(shù)創(chuàng)新應(yīng)用。
(1)編圖資料實(shí)時(shí)集成共享的信息化需求。針對(duì)我國(guó)當(dāng)前超大規(guī)模路網(wǎng),需要突破“信息孤島”式的數(shù)據(jù)模式,以滿(mǎn)足編圖資料實(shí)時(shí)集成共享的信息化需求。運(yùn)行圖編制需要路網(wǎng)設(shè)施設(shè)備、開(kāi)行方案、運(yùn)行圖技術(shù)參數(shù)等信息,而這些信息存儲(chǔ)在其他系統(tǒng)、電子文檔甚至紙質(zhì)資料中,編圖人員獲取不便,影響編圖工作效率和質(zhì)量[7]。因此,需要以主數(shù)據(jù)中心建立為契機(jī),采用“云平臺(tái)”架構(gòu)模式,通過(guò)主數(shù)據(jù)中心的集成服務(wù)平臺(tái)打通編圖系統(tǒng)與各生產(chǎn)系統(tǒng)間數(shù)據(jù)共享和實(shí)時(shí)傳輸路徑,建立編圖系統(tǒng)與客票[8]、貨運(yùn)[9]、調(diào)度[10]、編組[11]等系統(tǒng)的數(shù)據(jù)接口協(xié)議,真正實(shí)現(xiàn)無(wú)紙化、集成化和信息化,保障編圖資料完整性和準(zhǔn)確性。
(2)編圖過(guò)程自動(dòng)化和智能化需求。我國(guó)鐵路規(guī)模日趨龐大,路網(wǎng)結(jié)構(gòu)復(fù)雜,列車(chē)運(yùn)行圖編制工作量和難度與日俱增,僅依靠人工將無(wú)法滿(mǎn)足鐵路高質(zhì)量發(fā)展對(duì)編圖效率和水平的要求,必須發(fā)展運(yùn)行圖自動(dòng)化和智能化編制技術(shù)[12]。股道自動(dòng)編排、交路自動(dòng)勾畫(huà)、運(yùn)行線輔助編制等自動(dòng)化、智能化編圖功能需要依托海量數(shù)據(jù)和龐大算力,對(duì)編圖系統(tǒng)的數(shù)據(jù)處理和計(jì)算性能提出非常高的要求。而云平臺(tái)技術(shù)能夠?qū)⒋鎯?chǔ)資源和算力資源進(jìn)行統(tǒng)籌管理,通過(guò)彈性伸縮框架和分布式計(jì)算技術(shù),實(shí)現(xiàn)資源的高效充分利用,為運(yùn)行圖智能輔助編制技術(shù)提供充足的數(shù)據(jù)和算力,支撐列車(chē)運(yùn)行圖編制自動(dòng)化和智能化技術(shù)創(chuàng)新應(yīng)用。
(3)用戶(hù)功能性和非功能性需求。編圖系統(tǒng)主要包括數(shù)據(jù)管理需求、人工編圖需求、聯(lián)網(wǎng)編圖需求、指標(biāo)統(tǒng)計(jì)與分析需求、接口與數(shù)據(jù)共享需求、智能輔助編制需求等核心功能需求,可以借助云平臺(tái)架構(gòu)的高可用、集成化和資源整合能力進(jìn)行升級(jí)和賦能。除此之外,還需要滿(mǎn)足數(shù)據(jù)在存儲(chǔ)和傳輸過(guò)程中的安全性需求,云平臺(tái)編圖服務(wù)的可靠性需求以及用戶(hù)在離線、局域網(wǎng)、內(nèi)部服務(wù)網(wǎng)等環(huán)境下的多場(chǎng)景作業(yè)需求等能夠使平臺(tái)更加可靠、適用、便捷的非功能性需求。
編圖系統(tǒng)采用一級(jí)部署兩級(jí)應(yīng)用,與編組系統(tǒng)、調(diào)度系統(tǒng)、機(jī)車(chē)周轉(zhuǎn)圖系統(tǒng)等存在數(shù)據(jù)交互,支撐列車(chē)運(yùn)行圖編制業(yè)務(wù)應(yīng)用,為國(guó)鐵集團(tuán)和各級(jí)鐵路局集團(tuán)公司用戶(hù)提供應(yīng)用服務(wù)。云平臺(tái)提供一種共享資源的架構(gòu)方法,可以將各種軟硬件系統(tǒng)以資源方式提供服務(wù),實(shí)現(xiàn)資源共享[13]。編圖系統(tǒng)部署在主數(shù)據(jù)中心云端,實(shí)現(xiàn)與其他系統(tǒng)的互聯(lián)互通。
編圖系統(tǒng)總體結(jié)構(gòu)分為基礎(chǔ)設(shè)施層、資源層、數(shù)據(jù)層、計(jì)算層、服務(wù)層和應(yīng)用層。基礎(chǔ)設(shè)施層以國(guó)鐵集團(tuán)主數(shù)據(jù)設(shè)置中心VM 云和鐵信云為基礎(chǔ),形成雙云冗余結(jié)構(gòu)。設(shè)置專(zhuān)用云管理后臺(tái)對(duì)配套大規(guī)模虛擬機(jī)集群進(jìn)行資源虛擬化和負(fù)載均衡管理,形成資源層的計(jì)算資源和存儲(chǔ)資源等。資源層提供資源管理服務(wù),管理各種計(jì)算資源、存儲(chǔ)資源、通信資源等的申請(qǐng)與回收。數(shù)據(jù)層利用存儲(chǔ)資源構(gòu)建數(shù)據(jù)庫(kù)集群、半結(jié)構(gòu)化及非結(jié)構(gòu)化數(shù)據(jù)集群,負(fù)責(zé)對(duì)列車(chē)運(yùn)行圖編制業(yè)務(wù)相關(guān)的海量數(shù)據(jù)進(jìn)行存儲(chǔ)和管理,保障數(shù)據(jù)安全。計(jì)算層包括機(jī)器學(xué)習(xí)、實(shí)時(shí)計(jì)算和分布式計(jì)算等服務(wù),為需要計(jì)算的業(yè)務(wù)提供支持,機(jī)器學(xué)習(xí)服務(wù)以海量歷史數(shù)據(jù)為基礎(chǔ)訓(xùn)練模型,為智能化功能提供支撐。服務(wù)層采用微服務(wù)架構(gòu),以服務(wù)中間件為基礎(chǔ),提供編圖服務(wù)、查詢(xún)服務(wù)和統(tǒng)計(jì)服務(wù)等核心業(yè)務(wù)服務(wù),并設(shè)置調(diào)度后臺(tái)提供各種業(yè)務(wù)流程的調(diào)度服務(wù),是業(yè)務(wù)和資源管理的粘合劑。設(shè)計(jì)數(shù)據(jù)交換服務(wù)平臺(tái),對(duì)編圖系統(tǒng)與12306、95306等外部系統(tǒng)間的數(shù)據(jù)交流提供實(shí)時(shí)同步、格式轉(zhuǎn)換適配等服務(wù),并對(duì)數(shù)據(jù)傳輸過(guò)程進(jìn)行監(jiān)控。在應(yīng)用層,編圖系統(tǒng)提供離線客戶(hù)端、在線客戶(hù)端、門(mén)戶(hù)網(wǎng)站、智慧大屏和運(yùn)維后臺(tái)等多種訪問(wèn)方式,為國(guó)鐵集團(tuán)用戶(hù)、鐵路局集團(tuán)公司用戶(hù)、運(yùn)維用戶(hù)和科研人員提供各種業(yè)務(wù)服務(wù)和科研服務(wù),形成完整的業(yè)務(wù)應(yīng)用生態(tài)。編圖系統(tǒng)總體結(jié)構(gòu)如圖1所示。
圖1 編圖系統(tǒng)總體結(jié)構(gòu)Fig.1 System overall architecture
編圖系統(tǒng)使用大數(shù)據(jù)架構(gòu),采用Spring Cloud技術(shù)棧,依托分布式消息組件、分布式應(yīng)用部署、數(shù)據(jù)庫(kù)集群、分布式文件系統(tǒng)等技術(shù),為編圖系統(tǒng)的信息化、自動(dòng)化和智能化提供可靠保障。編圖系統(tǒng)由1 個(gè)平臺(tái)和5 個(gè)中心組成,編圖系統(tǒng)技術(shù)架構(gòu)如圖2所示。
(1)通用網(wǎng)關(guān)平臺(tái),由長(zhǎng)連接網(wǎng)關(guān)服務(wù)器集群和短連接網(wǎng)關(guān)服務(wù)器集群構(gòu)成,通過(guò)登陸驗(yàn)證服務(wù)器對(duì)用戶(hù)的連接請(qǐng)求進(jìn)行驗(yàn)證,用戶(hù)在通過(guò)驗(yàn)證后經(jīng)由網(wǎng)關(guān)與應(yīng)用服務(wù)器通信,保證服務(wù)的安全,提高容錯(cuò)性。
(2)編圖中心,以編圖協(xié)同服務(wù)器為核心服務(wù),結(jié)合編圖操作日志服務(wù)、編圖數(shù)據(jù)備份服務(wù)、編圖數(shù)據(jù)檢查服務(wù)、編圖日志處理服務(wù),打造高可用、高可靠、實(shí)時(shí)數(shù)據(jù)處理、實(shí)時(shí)日志處理、實(shí)時(shí)數(shù)據(jù)備份的編圖系統(tǒng),確保編圖任務(wù)能夠順利完成。
(3)資源調(diào)度中心,由資源服務(wù)器集群、調(diào)度服務(wù)器集群、Flink 集群、Yarn 集群和K8s 集群組成。資源服務(wù)器集群為計(jì)算業(yè)務(wù)提供橫向擴(kuò)展的計(jì)算資源,提高資源的服務(wù)質(zhì)量和利用率,同時(shí)避免跨應(yīng)用劃分節(jié)點(diǎn)的低效率和復(fù)雜性。
(4)分布式存儲(chǔ)中心,將數(shù)據(jù)分散地存儲(chǔ)在多臺(tái)獨(dú)立的服務(wù)器上,滿(mǎn)足大規(guī)模存儲(chǔ)應(yīng)用的需求,提高數(shù)據(jù)的可靠性、可用性以及安全性?;A(chǔ)設(shè)施服務(wù)器集群,主要包括日志、調(diào)度和監(jiān)控服務(wù)器,提供基礎(chǔ)服務(wù)并保障編圖系統(tǒng)可靠運(yùn)行。
(5)統(tǒng)計(jì)分析中心,由統(tǒng)計(jì)服務(wù)器集群和查詢(xún)服務(wù)器集群組成,以日志處理服務(wù)清洗的日志數(shù)據(jù)和數(shù)據(jù)庫(kù)中存儲(chǔ)的業(yè)務(wù)數(shù)據(jù)為基礎(chǔ),為用戶(hù)提供多維度的統(tǒng)計(jì)、查詢(xún)和分析服務(wù)。
(6)運(yùn)維客服中心,由運(yùn)維系統(tǒng)和客服系統(tǒng)構(gòu)成,運(yùn)維系統(tǒng)既可以可視化地監(jiān)控編圖系統(tǒng)運(yùn)行情況和用戶(hù)使用情況,也能通過(guò)后臺(tái)微服務(wù)執(zhí)行一鍵開(kāi)服、關(guān)服,實(shí)現(xiàn)運(yùn)維自動(dòng)化??头到y(tǒng)可以幫助用戶(hù)管理用戶(hù)權(quán)限、更新軟件版本、查詢(xún)技術(shù)幫助文檔等,真正做到以用戶(hù)為中心。
編圖系統(tǒng)的網(wǎng)絡(luò)架構(gòu)依托于國(guó)鐵集團(tuán)主數(shù)據(jù)中心進(jìn)行構(gòu)建,部署在主數(shù)據(jù)中心內(nèi)部服務(wù)網(wǎng)應(yīng)用服務(wù)區(qū),與外部互聯(lián)網(wǎng)邏輯隔離,在整個(gè)傳輸鏈路上都有傳輸加密的整體設(shè)計(jì),符合等級(jí)保護(hù)對(duì)于通信傳輸加密的安全要求。編圖系統(tǒng)網(wǎng)絡(luò)架構(gòu)如圖3 所示。編圖系統(tǒng)覆蓋國(guó)鐵集團(tuán)、鐵路局集團(tuán)公司兩級(jí),鐵路業(yè)務(wù)部門(mén)及生產(chǎn)作業(yè)人員通過(guò)鐵路局集團(tuán)公司內(nèi)部服務(wù)網(wǎng)訪問(wèn)部署于國(guó)鐵集團(tuán)主數(shù)據(jù)中心內(nèi)部服務(wù)網(wǎng)的系統(tǒng)服務(wù)器和內(nèi)部門(mén)戶(hù),鐵路局集團(tuán)公司既有業(yè)務(wù)支撐應(yīng)用通過(guò)內(nèi)網(wǎng)與編圖系統(tǒng)進(jìn)行信息交互。編圖系統(tǒng)采用雙機(jī)熱備核心交換機(jī)方法,將不同業(yè)務(wù)分配在不同的服務(wù)器中,確保多系統(tǒng)間數(shù)據(jù)高速傳輸和信息安全,降低業(yè)務(wù)之間的耦合度,提高編圖系統(tǒng)數(shù)據(jù)的安全性。所涉及的網(wǎng)絡(luò)設(shè)備均為冗余部署,保證編圖系統(tǒng)的高可靠性。
列車(chē)運(yùn)行圖的編制依賴(lài)車(chē)站作業(yè)計(jì)劃編制系統(tǒng)、交路編制系統(tǒng)等外部系統(tǒng)的數(shù)據(jù)輸入[14],同時(shí)編圖系統(tǒng)也是客運(yùn)、貨運(yùn)、調(diào)度等生產(chǎn)系統(tǒng)的數(shù)據(jù)上游,各系統(tǒng)之間數(shù)據(jù)的實(shí)時(shí)同步是保證各運(yùn)輸組織階段輸出結(jié)果準(zhǔn)確性的基礎(chǔ)。各業(yè)務(wù)系統(tǒng)間的數(shù)據(jù)同步采用離線文件手動(dòng)導(dǎo)入導(dǎo)出、定時(shí)同步等手段,溝通成本高,過(guò)程安全性差,無(wú)法確保數(shù)據(jù)的實(shí)時(shí)性和準(zhǔn)確性,不能做到上下游協(xié)同編制。此外,在列車(chē)運(yùn)行圖編制指標(biāo)統(tǒng)計(jì)分析方面,傳統(tǒng)的計(jì)算方式通常采用數(shù)據(jù)批處理計(jì)算模式,計(jì)算時(shí)間長(zhǎng)且存在延時(shí),管理人員不能對(duì)運(yùn)行圖編制質(zhì)量進(jìn)行實(shí)時(shí)把握,用戶(hù)也不能即時(shí)感知操作結(jié)果對(duì)運(yùn)行圖中觀、宏觀指標(biāo)的影響。
為解決上述數(shù)據(jù)同步和數(shù)據(jù)實(shí)時(shí)計(jì)算問(wèn)題,構(gòu)建高可用、低延時(shí)的云同步平臺(tái)和實(shí)時(shí)計(jì)算平臺(tái),統(tǒng)一匯聚編圖、客運(yùn)、貨運(yùn)、調(diào)度等運(yùn)輸生產(chǎn)系統(tǒng)的業(yè)務(wù)數(shù)據(jù)。多系統(tǒng)數(shù)據(jù)同步與實(shí)時(shí)計(jì)算技術(shù)架構(gòu)如圖4 所示。在數(shù)據(jù)實(shí)時(shí)同步方面,構(gòu)建數(shù)據(jù)庫(kù)同步、數(shù)據(jù)文件同步和日志同步等服務(wù)實(shí)現(xiàn)多源異構(gòu)數(shù)據(jù)的實(shí)時(shí)同步。在數(shù)據(jù)存儲(chǔ)方面,利用消息隊(duì)列作為中間件,將數(shù)據(jù)存儲(chǔ)到云平臺(tái)的分布式文件系統(tǒng)和結(jié)構(gòu)化數(shù)據(jù)庫(kù)中。在數(shù)據(jù)實(shí)時(shí)計(jì)算方面,構(gòu)建具有流批一體和Exactly-once特性的實(shí)時(shí)計(jì)算服務(wù),實(shí)現(xiàn)流式數(shù)據(jù)和批量數(shù)據(jù)的統(tǒng)一處理,形成實(shí)時(shí)數(shù)據(jù)倉(cāng)庫(kù),保證各系統(tǒng)數(shù)據(jù)的一致性,為實(shí)時(shí)數(shù)據(jù)報(bào)表、實(shí)時(shí)智慧大屏以及自動(dòng)化和智能化等業(yè)務(wù)功能提供支撐。該技術(shù)實(shí)現(xiàn)編圖數(shù)據(jù)的上下游多系統(tǒng)數(shù)據(jù)實(shí)時(shí)共享,使運(yùn)行圖編制業(yè)務(wù)由以往的運(yùn)行線、股道和交路的單向迭代優(yōu)化,轉(zhuǎn)變?yōu)槎鄬?zhuān)業(yè)一體化協(xié)同編制,縮短編圖周期,推動(dòng)編圖模式創(chuàng)新發(fā)展。
圖4 多系統(tǒng)數(shù)據(jù)同步與實(shí)時(shí)計(jì)算技術(shù)架構(gòu)Fig.4 Multi-system data synchronization and real-time computing technology
對(duì)于列車(chē)運(yùn)行圖編制應(yīng)用,每天產(chǎn)生大量的生產(chǎn)數(shù)據(jù)與操作日志以及其他間接產(chǎn)生的各種數(shù)據(jù)需要存儲(chǔ)在分布式存儲(chǔ)系統(tǒng)中。這些數(shù)據(jù)分散保存在多個(gè)云端存儲(chǔ)節(jié)點(diǎn)上,通過(guò)適當(dāng)?shù)娜哂鄠浞?,保障?shù)據(jù)的可靠性。在分布式存儲(chǔ)系統(tǒng)中,存儲(chǔ)節(jié)點(diǎn)經(jīng)常發(fā)生動(dòng)態(tài)變化,比如節(jié)點(diǎn)故障或者增減節(jié)點(diǎn),都需要重新在各個(gè)節(jié)點(diǎn)間遷移數(shù)據(jù),以保證在節(jié)點(diǎn)狀態(tài)變化后仍能對(duì)外提供良好的服務(wù),因而在節(jié)點(diǎn)動(dòng)態(tài)擴(kuò)展后數(shù)據(jù)遷移成為重要問(wèn)題。
為此,列車(chē)運(yùn)行圖的分布式存儲(chǔ)系統(tǒng)采用一致性哈希(hash)表算法,建立從物理存儲(chǔ)節(jié)點(diǎn)到虛擬存儲(chǔ)節(jié)點(diǎn)的映射,通過(guò)hash計(jì)算,把數(shù)據(jù)均衡地分布到多個(gè)物理節(jié)點(diǎn)。通過(guò)改進(jìn)的一致性哈希算法在節(jié)點(diǎn)發(fā)生變化時(shí),使得遷移數(shù)據(jù)最小化。改進(jìn)的算法對(duì)物理存儲(chǔ)節(jié)點(diǎn)編碼時(shí),預(yù)留若干hash空間,將現(xiàn)有物理節(jié)點(diǎn)編碼置于hash空間高N位,預(yù)留hash空間低M位,當(dāng)節(jié)點(diǎn)狀態(tài)發(fā)生變化時(shí),采用高位不變,修改低位的策略進(jìn)行編碼修改,保證原有物理節(jié)點(diǎn)編碼不變,存儲(chǔ)在原物理節(jié)點(diǎn)上的數(shù)據(jù)無(wú)需遷移,從而降低數(shù)據(jù)遷移量。已知一致性哈希算法將哈??臻g組織成虛擬圓環(huán)分布式哈希表(DHT)。將物理存儲(chǔ)節(jié)點(diǎn)按一致性哈希算法映射到DHT 的虛擬存儲(chǔ)節(jié)點(diǎn),然后將數(shù)據(jù)按一致性哈希算法映射到DHT 的虛擬空間,按照順時(shí)針?lè)较驅(qū)?shù)據(jù)存儲(chǔ)到最近的虛擬存儲(chǔ)節(jié)點(diǎn)。分布式存儲(chǔ)動(dòng)態(tài)擴(kuò)展與數(shù)據(jù)遷移技術(shù)如圖5所示。
圖5 分布式存儲(chǔ)動(dòng)態(tài)擴(kuò)展與數(shù)據(jù)遷移技術(shù)Fig.5 Distributed dynamic storage extension and data migration techniques
按照?qǐng)D5,在構(gòu)造哈??臻g時(shí)修改編碼方案?,F(xiàn)有物理存儲(chǔ)節(jié)點(diǎn)編碼放在高N位,預(yù)留空間低M位,并設(shè)置為0。物理節(jié)點(diǎn)變化時(shí),從預(yù)留空間最高位置開(kāi)始設(shè)置1。原有節(jié)點(diǎn)編碼不變,設(shè)原有編碼為C,變化后所有物理節(jié)點(diǎn)新編碼為Cn,將新編碼映射到哈希空間,得到哈希值Hn。
從上式可知,從C到Cn物理節(jié)點(diǎn)編碼容量從2的n次方擴(kuò)展到2 的n+1 次方,而原節(jié)點(diǎn)編碼沒(méi)有發(fā)生變化。對(duì)其進(jìn)行哈希運(yùn)算,得到的擴(kuò)容后的存儲(chǔ)節(jié)點(diǎn)在DHT中的映射為
原有存儲(chǔ)節(jié)點(diǎn)哈希值未發(fā)生變化,存儲(chǔ)在原有存儲(chǔ)節(jié)點(diǎn)上的數(shù)據(jù)不需要遷移。借助云平臺(tái)高性能設(shè)備資源和分布式存儲(chǔ)動(dòng)態(tài)擴(kuò)展與數(shù)據(jù)遷移技術(shù),編圖系統(tǒng)實(shí)現(xiàn)編圖數(shù)據(jù)實(shí)時(shí)云備份和分布式冗余存儲(chǔ)。傳統(tǒng)海量數(shù)據(jù)定時(shí)存儲(chǔ)方式只能回滾到半個(gè)小時(shí)前的數(shù)據(jù),會(huì)丟失期間的用戶(hù)操作,而借助實(shí)時(shí)備份和操作恢復(fù)能力,編圖系統(tǒng)能夠?qū)崿F(xiàn)秒級(jí)數(shù)據(jù)回滾,避免操作丟失和重復(fù)作業(yè)。同時(shí),通過(guò)數(shù)據(jù)分布式冗余存儲(chǔ),形成數(shù)據(jù)防損壞和防丟失機(jī)制,實(shí)現(xiàn)編圖數(shù)據(jù)存儲(chǔ)的完整性。
依托云平臺(tái)架構(gòu),編圖系統(tǒng)在數(shù)據(jù)存儲(chǔ)和傳輸方面的安全性全面加強(qiáng)。編圖系統(tǒng)內(nèi)的核心和敏感數(shù)據(jù)全部存儲(chǔ)在云平臺(tái),針對(duì)數(shù)據(jù)傳輸過(guò)程中存在異常狀態(tài)問(wèn)題,同時(shí)為確保在線編圖過(guò)程中數(shù)據(jù)傳輸?shù)臅r(shí)效性和安全性,提出一種基于多線程分塊處理與防盜鏈技術(shù)方案,以及一種基于壓縮與加密混合技術(shù)的數(shù)據(jù)傳輸方法,解決數(shù)據(jù)傳輸中的高網(wǎng)絡(luò)帶寬占用、數(shù)據(jù)安全性問(wèn)題,提高數(shù)據(jù)傳輸?shù)臅r(shí)效性,提升用戶(hù)的使用體驗(yàn)。
同時(shí),為解決用戶(hù)操作即時(shí)性與多用戶(hù)間操作沖突的問(wèn)題,提出基于群體協(xié)同技術(shù)的實(shí)時(shí)在線交互策略,在操作轉(zhuǎn)換(OT)算法[15]的基礎(chǔ)上加入改進(jìn)的向量時(shí)鐘作為時(shí)間戳,將操作行為封裝成操作事件。編輯者執(zhí)行單個(gè)操作后,將操作信息同步到各個(gè)協(xié)作端。協(xié)作端根據(jù)操作的時(shí)間戳,調(diào)整操作對(duì)象的狀態(tài),解決大規(guī)模群體協(xié)同操作過(guò)程中數(shù)據(jù)在線交互的實(shí)時(shí)性問(wèn)題,保障用戶(hù)操作的實(shí)時(shí)性和多源數(shù)據(jù)的一致性。
在離線數(shù)據(jù)文件方面,編圖系統(tǒng)全新自主設(shè)計(jì)了高效復(fù)雜的編圖全要素?cái)?shù)據(jù)結(jié)構(gòu),通過(guò)二進(jìn)制加密流式數(shù)據(jù)生成數(shù)據(jù)文件,并以數(shù)據(jù)結(jié)構(gòu)為基礎(chǔ)實(shí)現(xiàn)自定義數(shù)據(jù)編碼和解碼協(xié)議,即使數(shù)據(jù)丟失也無(wú)法被外部人員讀取,從根本上防止數(shù)據(jù)被破解,保障數(shù)據(jù)的內(nèi)容安全。
為了進(jìn)一步適應(yīng)日益擴(kuò)張的鐵路運(yùn)輸網(wǎng)絡(luò)并滿(mǎn)足靈活多變的旅客出行需求,我國(guó)已形成定期全路集中編圖與各鐵路局集團(tuán)公司分布式編圖相結(jié)合的列車(chē)運(yùn)行圖編制與調(diào)整模式。為同時(shí)滿(mǎn)足全路集中、鐵路局集團(tuán)公司協(xié)同、個(gè)人離線等各類(lèi)編圖場(chǎng)景,提出分布式對(duì)等網(wǎng)絡(luò)的節(jié)點(diǎn)聚合技術(shù),提升編圖系統(tǒng)的網(wǎng)絡(luò)擴(kuò)展性和網(wǎng)絡(luò)節(jié)點(diǎn)聚合靈活性,實(shí)現(xiàn)在線、離線服務(wù)器多種模式實(shí)時(shí)靈活切換的一體化編圖終端。
為確保編圖系統(tǒng)不過(guò)分依賴(lài)于某單個(gè)終端節(jié)點(diǎn)性能,解決網(wǎng)絡(luò)不穩(wěn)定時(shí)數(shù)據(jù)同步緩慢或設(shè)備故障時(shí)導(dǎo)致的數(shù)據(jù)丟失問(wèn)題,構(gòu)建高性能的數(shù)據(jù)廣播算法與狀態(tài)同步策略,保證多人協(xié)同編圖的交互高效性、操作實(shí)時(shí)性、多源數(shù)據(jù)一致性。為滿(mǎn)足編圖數(shù)據(jù)在通信過(guò)程中的安全及保密要求,定義一套私有化數(shù)字通信協(xié)議并設(shè)計(jì)數(shù)據(jù)區(qū)塊存取算法,確保數(shù)據(jù)在不同終端之間數(shù)據(jù)傳輸?shù)陌踩裕诒WC數(shù)據(jù)安全的同時(shí),實(shí)現(xiàn)數(shù)據(jù)區(qū)塊空間壓縮,減少網(wǎng)絡(luò)帶寬占用,提高網(wǎng)絡(luò)傳輸與解析效率。為解決用戶(hù)本地離線數(shù)據(jù)與編圖系統(tǒng)在線數(shù)據(jù)之間的同步問(wèn)題,設(shè)計(jì)主副本通信技術(shù),可以在同一臺(tái)終端上同時(shí)啟動(dòng)2 個(gè)客戶(hù)端進(jìn)程,分別裝載主本數(shù)據(jù)和副本數(shù)據(jù),客戶(hù)端之間能夠進(jìn)行雙向通信,查找數(shù)據(jù)沖突并按照數(shù)據(jù)合并策略將主副本數(shù)據(jù)進(jìn)行合并。
基于分布式對(duì)等網(wǎng)絡(luò)的新一代列車(chē)運(yùn)行圖一體化編制終端關(guān)鍵技術(shù),可以滿(mǎn)足多種實(shí)際編圖場(chǎng)景,切實(shí)保障隨時(shí)隨地任意兩終端的互聯(lián)互通,真正打造集客戶(hù)端與服務(wù)器于一體的列車(chē)運(yùn)行圖協(xié)同編制終端。
在系統(tǒng)功能方面,編圖系統(tǒng)目前主要包括數(shù)據(jù)管理子系統(tǒng)、人工編圖子系統(tǒng)、聯(lián)網(wǎng)編圖子系統(tǒng)、指標(biāo)統(tǒng)計(jì)與分析子系統(tǒng)、運(yùn)行圖繪制子系統(tǒng)、時(shí)刻表輸出子系統(tǒng)、接口與數(shù)據(jù)共享子系統(tǒng)、智能輔助編制子系統(tǒng)共8個(gè)子系統(tǒng)。
通過(guò)數(shù)據(jù)管理子系統(tǒng)獲取并維護(hù)路網(wǎng)基礎(chǔ)數(shù)據(jù)、編圖數(shù)據(jù)、列車(chē)數(shù)據(jù)、圖面數(shù)據(jù);通過(guò)接口與數(shù)據(jù)共享子系統(tǒng)與相關(guān)外部系統(tǒng)進(jìn)行數(shù)據(jù)傳輸與共享;基于以上2 個(gè)子系統(tǒng)對(duì)于數(shù)據(jù)的整合與管理,通過(guò)人工編圖子系統(tǒng)進(jìn)行運(yùn)行圖繪制與調(diào)整,并由智能輔助編制子系統(tǒng)將智能算法與人工編制子系統(tǒng)進(jìn)行數(shù)據(jù)交互;通過(guò)指標(biāo)統(tǒng)計(jì)與分析子系統(tǒng)輸出統(tǒng)計(jì)指標(biāo);通過(guò)時(shí)刻表輸出子系統(tǒng)輸出各類(lèi)時(shí)刻表;通過(guò)運(yùn)行圖繪制子系統(tǒng)打印運(yùn)行圖。編圖系統(tǒng)核心功能架構(gòu)如圖6 所示。核心子系統(tǒng)界面如圖7所示。
圖6 編圖系統(tǒng)核心功能架構(gòu)Fig.6 System core functions
數(shù)據(jù)管理子系統(tǒng)用于路網(wǎng)基礎(chǔ)數(shù)據(jù)、編圖數(shù)據(jù)、列車(chē)數(shù)據(jù)和圖面數(shù)據(jù)的管理,包括對(duì)數(shù)據(jù)的錄入、刪除、修改、查詢(xún)。借助云平臺(tái)的高帶寬并通過(guò)自主設(shè)計(jì)數(shù)據(jù)格式,使全路庫(kù)數(shù)據(jù)下載和加載時(shí)間縮短一倍;通過(guò)設(shè)計(jì)超高速哈希檢查算法,使全路編圖數(shù)據(jù)準(zhǔn)確性檢查時(shí)間從分鐘級(jí)減少到10 s以?xún)?nèi);通過(guò)大規(guī)模復(fù)雜路網(wǎng)條件下的快速?gòu)铰匪阉魉惴╗16]實(shí)現(xiàn)毫秒級(jí)的徑路搜索;增加了數(shù)據(jù)差異化對(duì)比、數(shù)據(jù)拆分合并等功能,以適應(yīng)用戶(hù)對(duì)數(shù)據(jù)管理的多樣化需求,為整個(gè)編圖系統(tǒng)提供強(qiáng)有力的數(shù)據(jù)支撐。
人工編圖與聯(lián)網(wǎng)編圖子系統(tǒng)主要用于實(shí)現(xiàn)圖面編輯和運(yùn)行線操作,根據(jù)功能不同,可以分為運(yùn)行圖顯示操作、運(yùn)行線調(diào)整操作、停站股道調(diào)整操作、交路關(guān)系調(diào)整操作、天窗調(diào)整操作等。在高并發(fā)條件下,編圖系統(tǒng)全圖顯示、圖面切換等圖面功能的響應(yīng)速度提升10 倍以上,平移運(yùn)行線、全線推線等運(yùn)行線功能平均響應(yīng)時(shí)間小于0.01 s。同時(shí)由于股道信息和交路信息通過(guò)云平臺(tái)實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)同步,得以實(shí)現(xiàn)到發(fā)線自動(dòng)立折等自動(dòng)化功能。
指標(biāo)統(tǒng)計(jì)與分析子系統(tǒng)面向全路各專(zhuān)業(yè)輸出數(shù)據(jù)指標(biāo),目前主要包括列車(chē)明細(xì)匯總、分界口列車(chē)數(shù)、區(qū)間列車(chē)數(shù)、主要客運(yùn)站對(duì)數(shù)、車(chē)站對(duì)數(shù)統(tǒng)計(jì)、車(chē)站作業(yè)時(shí)段分布6 大類(lèi)共100 余項(xiàng)統(tǒng)計(jì)指標(biāo)。依托高性能平臺(tái),可以對(duì)多對(duì)象、多維度指標(biāo)實(shí)時(shí)分析計(jì)算,數(shù)據(jù)加載速度、指標(biāo)統(tǒng)計(jì)速度提升數(shù)十倍以上,并實(shí)現(xiàn)多數(shù)據(jù)庫(kù)指標(biāo)對(duì)比等新增功能,不斷提升操作便捷性,擴(kuò)充篩選維度,聚焦關(guān)鍵問(wèn)題,結(jié)合數(shù)據(jù)可視化,顯著提升工作效率。
接口與數(shù)據(jù)共享子系統(tǒng)主要用于實(shí)現(xiàn)編圖系統(tǒng)與生產(chǎn)系統(tǒng)的數(shù)據(jù)共享與數(shù)據(jù)傳輸,目前已借助云平臺(tái)的互聯(lián)互通實(shí)現(xiàn)與鐵路客票、調(diào)度、機(jī)車(chē)交路編制等系統(tǒng)的數(shù)據(jù)24 小時(shí)實(shí)時(shí)共享,打破各鐵路業(yè)務(wù)系統(tǒng)間數(shù)據(jù)傳輸壁壘,有力支撐運(yùn)輸生產(chǎn)整體運(yùn)轉(zhuǎn)效率。
智能輔助編制子系統(tǒng)主要用于提高人工編圖的編制效率。在云平臺(tái)的加持下,動(dòng)車(chē)組交路方案輔助編制、區(qū)段運(yùn)行線輔助編制和車(chē)站股道運(yùn)用計(jì)劃輔助編制等大型智能化功能有了充足的數(shù)據(jù)和算力支撐,已完成案例初步測(cè)試[17],預(yù)計(jì)2023 年底可以交付使用,屆時(shí)在相關(guān)場(chǎng)景可以大幅縮短編圖時(shí)間,提升編圖質(zhì)量。
編圖系統(tǒng)的成功研發(fā)是基于云平臺(tái)技術(shù)的一次創(chuàng)新實(shí)踐,標(biāo)志著鐵路運(yùn)輸信息化、智能化水平的全面提升。編圖系統(tǒng)架構(gòu)更加優(yōu)化,功能根據(jù)國(guó)鐵集團(tuán)及各鐵路局集團(tuán)公司需求研發(fā)至 1256 項(xiàng),響應(yīng)時(shí)間平均縮短10 倍左右,打通了與上下游系統(tǒng)的數(shù)據(jù)壁壘,具備完全自主知識(shí)產(chǎn)權(quán),實(shí)現(xiàn)了國(guó)鐵集團(tuán)和各鐵路局集團(tuán)公司間一級(jí)部署兩級(jí)應(yīng)用策略。編圖系統(tǒng)從2022 年三季度列車(chē)運(yùn)行圖調(diào)整編制工作開(kāi)始正式應(yīng)用,在提高工作效率、降低作業(yè)人員勞動(dòng)強(qiáng)度等方面取得顯著成效,已完全具備支撐全路列車(chē)運(yùn)行圖編制工作的能力。在現(xiàn)有成果的基礎(chǔ)上,編圖系統(tǒng)將持續(xù)完善和優(yōu)化系統(tǒng)功能、創(chuàng)新智能編圖理論與技術(shù)、做好運(yùn)行圖綜合評(píng)價(jià)和調(diào)整優(yōu)化等工作,聚焦提質(zhì)增能創(chuàng)效,邁向推進(jìn)列車(chē)運(yùn)行圖編制管理與技術(shù)創(chuàng)新的新征程。