張興 公誠管理咨詢有限公司
引言:在信息技術快速發(fā)展的背景下,數(shù)據(jù)中心作為各行各業(yè)的關鍵基礎設施,為我國經濟轉型升級提供了重要支撐。
(1)我國數(shù)據(jù)中心利用率和能效水平不斷提高。東部一線城市數(shù)據(jù)中心較飽和,中西部地區(qū)利用率不斷提高。
(2)我國數(shù)據(jù)中心總體布局逐步優(yōu)化,尤其是大型、超大型數(shù)據(jù)中心逐漸向西部以及北上廣深周邊地區(qū)轉移。
(3)運維管理逐漸成為數(shù)據(jù)中心產業(yè)關注熱點。
(4)國際企業(yè)加快中國 IDC 市場布局。
《指導意見》提出科學推動數(shù)據(jù)中心的建設和布局的指導思想。堅持以市場為導向,以資源節(jié)約和提高效率為著力點,通過引導市場主體合理選址、長遠設計、按需按標建設,逐漸形成技術先進、結構合理、協(xié)調發(fā)展的數(shù)據(jù)中心新格局。
2.1.1 更高的性能和速度成為數(shù)據(jù)中心 IT 設備技術發(fā)展趨勢
GPU服務器突破了CPU服務器的效率瓶頸,計算速度大幅提升。人工智能的發(fā)展讓數(shù)據(jù)中心面臨更大的計算難題,對計算性能、能耗、吞吐和延遲等方面的提出更高要求。
2.1.2 大規(guī)模、高流量加速數(shù)據(jù)中心網絡設備與技術演進
數(shù)據(jù)中心承載業(yè)務的不斷變化,以及計算虛擬化、存儲虛擬化等技術的應用,使得數(shù)據(jù)中心東西流量高速增長,對數(shù)據(jù)中心內部網絡管理和性能提出了更高要求。而無損網絡、光模塊等技術則可以幫助更好地實現(xiàn)數(shù)據(jù)中心內部快速、高效的數(shù)據(jù)傳輸。
技術是服務于業(yè)務的,沒有業(yè)務需求的技術架構是無源之水。微服務化架構下的系統(tǒng)必將引入分裂的數(shù)據(jù)存儲,對于有些高并發(fā)大數(shù)據(jù)量的服務還會采用分庫分表的設計思想。
2.2.1 探索期
在當前主流數(shù)據(jù)倉庫產品中,數(shù)據(jù)加工速度和數(shù)據(jù)管理能力是不可兼得的,任何數(shù)據(jù)倉庫在無限量的數(shù)據(jù)量下處理速度都會出現(xiàn)瓶頸;數(shù)據(jù)存儲產品都有自己特定的應用場景,應該根據(jù)需要選擇合適的數(shù)據(jù)存儲方案;流計算在處理海量數(shù)據(jù)實時處理最佳的選擇。
(1)HBase分析
由于需要統(tǒng)一業(yè)務系統(tǒng)的設計需要,數(shù)據(jù)庫必須滿足多維度數(shù)據(jù)查詢,查詢條件分散,引入第三方索引以后部署使用成本較高。
(2)MongoDB選擇
面向文檔的存儲,可以基本滿足聚合操作需求。原生支持索引,支持自建索引,支持組合索引。對于熱點數(shù)據(jù)會緩存,數(shù)據(jù)查詢性能強,更新性能不弱,支持分片模式橫向擴展。
2.2.2 發(fā)展期
(1)消息隊列數(shù)據(jù)同步
在最初的技術架構中,采用業(yè)務消息數(shù)據(jù)同步的方式,如下圖:
圖1 :業(yè)務消息數(shù)據(jù)同步
這種架構結構簡單,但并不可靠。對業(yè)務系統(tǒng)侵入性強,業(yè)務系統(tǒng)變更,數(shù)據(jù)設計變更等因素都會影響數(shù)據(jù)一致性,而且每次業(yè)務變動都需要在各種系統(tǒng)對數(shù)據(jù)同步代碼做相應的修改,容易影響業(yè)務系統(tǒng)功能性能。
(2)BINLOG事件同步
圖 2:Zookeeper集群
數(shù)據(jù)同步與平臺業(yè)務完全解耦,對業(yè)務系統(tǒng)和消息中間件實現(xiàn)零依賴。BinLog數(shù)據(jù)是事務執(zhí)行成功后的數(shù)據(jù),可以達到數(shù)據(jù)最終一致的效果,數(shù)據(jù)模型靈活,元數(shù)據(jù)與Mysql數(shù)據(jù)1:1復制,整合數(shù)據(jù)模型靈活多樣。
(3)數(shù)據(jù)模型建立
數(shù)據(jù)模型的作用就是滿足各種運營需求。為了兼容后續(xù)需求變更,數(shù)據(jù)模型是以mysql元數(shù)據(jù)(行數(shù)據(jù))為基本單位,數(shù)據(jù)冗余比較多,但勝在兼容性強,模型組合簡單。
2.2.3 拓展期
在滿足基本業(yè)務需求的同時,MongoDB在大數(shù)據(jù)量聚合上性能并不理想,對于大數(shù)據(jù)量聚合統(tǒng)計的需求需要引入實時流計算,以下是數(shù)據(jù)流程圖:
圖3 :數(shù)據(jù)流程圖
實時流數(shù)據(jù)計算在處理大數(shù)據(jù)計算方面都有得天獨厚的優(yōu)勢??梢耘cMongoDB數(shù)據(jù)倉庫實現(xiàn)互補。
3.1.1 高密度、綠色化引發(fā)數(shù)據(jù)中心基礎設施變革
受高成本、高能耗驅動,數(shù)據(jù)中心供電架構逐步簡化。隨著產業(yè)規(guī)??焖僭鲩L,數(shù)據(jù)中心建設成本和能耗激增,可靠性高、成本低的高壓直流(HVDC),成為數(shù)據(jù)中心供電系統(tǒng)的新選擇。
3.1.2 模塊化數(shù)據(jù)中心成為數(shù)據(jù)中心建設新模式
模塊數(shù)據(jù)中心進入大批量投產應用階段,節(jié)能降支效果非常明顯,對數(shù)據(jù)中心產業(yè)模塊化、綠色化具有很強的帶動和引領作用。
3.1.3 定制化成為數(shù)據(jù)中心設施設備的發(fā)展方向
自主設計的整機柜服務器迭代創(chuàng)新支撐新技術新應用。整機柜服務器通過整體機柜、集中供電、集中散熱、統(tǒng)一管理、一體化交付、模塊化運維,可實現(xiàn) TCO(總投入成本)有效降低。
3.1.4 綠色節(jié)能仍是地方數(shù)據(jù)中心政策的主要抓手
各地積極出臺數(shù)據(jù)中心節(jié)能減排鼓勵政策,促進數(shù)據(jù)中心綠色化發(fā)展。受北上廣等一線城市政策限制,部分數(shù)據(jù)中心建設需求向周邊地區(qū)外溢。
無論數(shù)據(jù)中心的規(guī)模和類型以及交換機拓撲結構和應用如何,創(chuàng)建連接數(shù)據(jù)中心設備所需的所有鏈路的底層布線基礎設施應遵循行業(yè)標準確立的相同的基本設計原則。
(1)《數(shù)據(jù)中心設計規(guī)范》GB50174-2017是目前我國最新的數(shù)據(jù)中心的設計規(guī)范國家標準,等級分為A級(容錯)、B級(冗余)、C級(基本)。
(2)ANSI/TIA-942-B數(shù)據(jù)中心基礎設施標準——該北美標準參考TIA-568系列標準,但包含針對數(shù)據(jù)中心的附加信息。
(3)國際正常運行時間(Uptime institute)協(xié)會——該咨詢機構提供改進數(shù)據(jù)中心關鍵基礎設施性能、效率和可靠性的指導原則。建立了分級系統(tǒng)以定義數(shù)據(jù)中心的可用性,1級提供基本容量,II級提供冗余容量,III級可同時維護性,IV級為容錯能力。
針對以上三種較常見的標準進行對,情況見下表:
表1 :GB50174/TIA942B/Uptime特性類比一覽表
?
數(shù)據(jù)中心發(fā)展已進入互聯(lián)網的下半場,需我們繼續(xù)關注發(fā)展趨勢與技術演進,緊隨時代步伐,同時熟悉數(shù)據(jù)中心基礎設施的標準與差異,有利于我們根據(jù)市場業(yè)務類型,應用不同的場景與規(guī)范,最優(yōu)化滿足市場發(fā)展的根本需求。