謝偉

(江西省農(nóng)村信用社聯(lián)合社 江西南昌 330096)

1 實(shí)踐技術(shù)難點(diǎn)

為了實(shí)現(xiàn)對(duì)應(yīng)用程序透明和計(jì)算及存儲(chǔ)的分布式，分布式關(guān)系型數(shù)據(jù)庫(kù)需要通過(guò)網(wǎng)絡(luò)將物理上分散的多個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)連接起來(lái)組成一個(gè)邏輯上統(tǒng)一的整體。而由于數(shù)據(jù)分布在多個(gè)物理節(jié)點(diǎn)上，而且任何一個(gè)節(jié)點(diǎn)都不完全可靠，所以數(shù)據(jù)必然需要有冗余副本。相反，傳統(tǒng)集中式關(guān)系型數(shù)據(jù)庫(kù)數(shù)據(jù)只有唯一的一個(gè)副本，計(jì)算能力一般也是集中在一臺(tái)服務(wù)器中。很明顯，分布式關(guān)系型數(shù)據(jù)庫(kù)面臨的挑戰(zhàn)更大，實(shí)現(xiàn)的技術(shù)難度更高。

一是數(shù)據(jù)一致性。分布在多個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)的副本內(nèi)容需要嚴(yán)格保持一致，并且同時(shí)還需要減少跨節(jié)點(diǎn)甚至跨數(shù)據(jù)中心網(wǎng)絡(luò)通訊時(shí)延的影響，保證性能控制在業(yè)務(wù)可接受范圍。

二是高可用性。任意數(shù)據(jù)庫(kù)節(jié)點(diǎn)發(fā)生故障后，數(shù)據(jù)庫(kù)可用性不能受明顯影響，或者能在極短時(shí)間（例如30s）內(nèi)恢復(fù)至正常狀態(tài)。

三是分布式事務(wù)。在任意情況下，包括網(wǎng)絡(luò)通訊故障和數(shù)據(jù)庫(kù)節(jié)點(diǎn)發(fā)生故障等，數(shù)據(jù)庫(kù)事務(wù)必須正常結(jié)束，不能出現(xiàn)各節(jié)點(diǎn)間事務(wù)狀態(tài)不一致。

四是多表操作。由于數(shù)據(jù)是分散在多個(gè)物理節(jié)點(diǎn)，多表關(guān)聯(lián)查詢(xún)就必然需要若干跨節(jié)點(diǎn)的數(shù)據(jù)復(fù)制操作，增加執(zhí)行時(shí)間，耗費(fèi)網(wǎng)絡(luò)帶寬，從而降低系統(tǒng)性能。需要有良好的機(jī)制降低此類(lèi)性能影響。

2 典型產(chǎn)品分析

近年來(lái)，分布式關(guān)系型數(shù)據(jù)庫(kù)是各互聯(lián)網(wǎng)巨頭和新興數(shù)據(jù)庫(kù)廠商的關(guān)注熱點(diǎn)，各類(lèi)產(chǎn)品層出不窮，技術(shù)方案各有千秋，面向的應(yīng)用場(chǎng)景各異，但整體方案還是有不少相似之處。以下以市場(chǎng)上較為成功的OLTP數(shù)據(jù)庫(kù)OceanBase和OLAP數(shù)據(jù)庫(kù)GreenPlum為例，簡(jiǎn)要分析一下分布式關(guān)系型數(shù)據(jù)庫(kù)的技術(shù)實(shí)現(xiàn)。

2.1 OceanBase

OceanBase是一款阿里巴巴2010年開(kāi)始研發(fā)的分布式、Shared-nothing的關(guān)系型數(shù)據(jù)庫(kù)[1]，支持完整的ACID特性，高度兼容MySQL協(xié)議與語(yǔ)法，早期用于收藏夾、天貓?jiān)u價(jià)等，現(xiàn)已廣泛用于各種關(guān)鍵應(yīng)用場(chǎng)景，其中包括支付寶和網(wǎng)商銀行。2018年1月26日，網(wǎng)商銀行成功利用OceanBase實(shí)現(xiàn)了三地五中心雙活，進(jìn)一步驗(yàn)證了城市級(jí)容災(zāi)能力，為金融行業(yè)關(guān)鍵數(shù)據(jù)庫(kù)技術(shù)升級(jí)做了有益的探索。

OceanBase采用數(shù)據(jù)分布和負(fù)載均衡技術(shù)實(shí)現(xiàn)系統(tǒng)的高性能和彈性伸縮，使用兩階段提交協(xié)議實(shí)現(xiàn)跨節(jié)點(diǎn)的分布式事務(wù)。OceanBase基于Paxos的分布式算法實(shí)現(xiàn)系統(tǒng)的高可用和數(shù)據(jù)一致性[2]，集群中的每個(gè)分區(qū)都維護(hù)三個(gè)以上副本，整個(gè)系統(tǒng)中分區(qū)的多個(gè)副本之間通過(guò)Paxos協(xié)議進(jìn)行日志同步，其中一個(gè)副本為主，其他副本為備。因?yàn)镻axos協(xié)議特性，故障恢復(fù)迅速、數(shù)據(jù)同步效率高，極大降低了多副本和跨數(shù)據(jù)中心部署帶來(lái)的性能下降風(fēng)險(xiǎn)。

此外，OceanBase數(shù)據(jù)庫(kù)還充分利用了OLTP系統(tǒng)業(yè)務(wù)周期性和當(dāng)前硬件發(fā)展的特性，采用基于SSD基線數(shù)據(jù)和內(nèi)存增量數(shù)據(jù)的分布式存儲(chǔ)架構(gòu)，充分發(fā)揮了SSD存儲(chǔ)隨機(jī)讀性能優(yōu)異的技術(shù)優(yōu)勢(shì)，同時(shí)利用大量?jī)?nèi)存存儲(chǔ)增量數(shù)據(jù)規(guī)避了SSD存儲(chǔ)寫(xiě)入放大的弱點(diǎn)，盡可能提高了系統(tǒng)的日間事務(wù)處理能力。

2.2 GreenPlum

GreenPlum數(shù)據(jù)庫(kù)是一種MPP架構(gòu)的分布式關(guān)系數(shù)據(jù)庫(kù)，使用傳統(tǒng)的PostgreSQL數(shù)據(jù)庫(kù)作為基礎(chǔ)存儲(chǔ)和計(jì)算模塊，擁有良好的線性擴(kuò)展能力，支持行列表方式存儲(chǔ)數(shù)據(jù)，擅長(zhǎng)于大批量數(shù)據(jù)的低并發(fā)處理，非常適合大數(shù)據(jù)計(jì)算或分析平臺(tái)，常用于數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)。

GreenPlum具有較好的高可用性，Master只負(fù)責(zé)對(duì)客戶端進(jìn)行訪問(wèn)控制和存儲(chǔ)表分布邏輯的元數(shù)據(jù)，通過(guò)PostgreSQL的流復(fù)制同步保證數(shù)據(jù)一致，Segment為一組獨(dú)立的PostgreSQL數(shù)據(jù)庫(kù)，存儲(chǔ)用戶數(shù)據(jù)，Master通過(guò)哈希算法將表的數(shù)據(jù)分布于所有Segment中。在分布式事務(wù)方面，GreenPlum采用兩階段提交和全局事務(wù)管理機(jī)制來(lái)保證集群上分布式事務(wù)的一致性，可以像PostgreSQL一樣滿足關(guān)系型數(shù)據(jù)庫(kù)的包括ACID在內(nèi)的所有特征。

但是，由于Master負(fù)責(zé)全部查詢(xún)計(jì)劃生成和優(yōu)化、Seg ment通過(guò)文件復(fù)制實(shí)現(xiàn)數(shù)據(jù)一致性等原因，GreenPlum并發(fā)能力和響應(yīng)速度一般，并不適合在極短的時(shí)間處理大量的并發(fā)小任務(wù)，不適用于OLTP場(chǎng)景。

3 選型參考建議

經(jīng)過(guò)以上分析可以看到，經(jīng)過(guò)眾多專(zhuān)家的不懈努力，無(wú)論在OLAP還是OLTP場(chǎng)景，分布式關(guān)系型數(shù)據(jù)庫(kù)已成功實(shí)踐，另外隨著通信技術(shù)的快速發(fā)展，通信成本日益下降，分布式系統(tǒng)整體性能擴(kuò)展能力也越來(lái)越強(qiáng)。但是，分布式關(guān)系型數(shù)據(jù)庫(kù)產(chǎn)品的歷史相對(duì)較短，在實(shí)現(xiàn)相關(guān)算法過(guò)程中或多或少進(jìn)行了一些調(diào)整，用戶覆蓋面也較小，產(chǎn)品缺陷難以暴露，產(chǎn)品質(zhì)量有待檢驗(yàn)。因此，為支撐未來(lái)IT建設(shè)，銀行業(yè)引入分布式關(guān)系型數(shù)據(jù)庫(kù)需要從技術(shù)兼容性、以及新技術(shù)前瞻性?xún)蓚€(gè)維度進(jìn)行評(píng)估，其中ACID的支持與SQL兼容性是評(píng)估分布式關(guān)系型數(shù)據(jù)庫(kù)的兩大關(guān)鍵指標(biāo)。

（1）ACID。從安全性上來(lái)看，不論采用新技術(shù)或傳統(tǒng)技術(shù)，銀行作為金融機(jī)構(gòu)，滿足ACID是數(shù)據(jù)庫(kù)選型的必要條件。在分布式關(guān)系型數(shù)據(jù)庫(kù)業(yè)界中，CAP 理論已成為分布式系統(tǒng)設(shè)計(jì)與構(gòu)建的重要理論基石[3]，它又稱(chēng)之為布魯爾定理（Brewer's theorem），即一致性（Consistence）、可用性（Availability）和分區(qū)容忍性（Partition Tolerance）三者不可得兼，目前，一些針對(duì)互聯(lián)網(wǎng)技術(shù)設(shè)計(jì)的產(chǎn)品以犧牲一致性，換取分區(qū)容忍性和可用性，很難在金融業(yè)務(wù)中被廣泛使用。因此，銀行對(duì)分布式關(guān)系型數(shù)據(jù)庫(kù)選型必須首先保證數(shù)據(jù)的安全和一致性，其中分布式事務(wù)、分布式鎖、隔離級(jí)別是選型的關(guān)鍵特性。

（2）SQL兼容性。SQL兼容性指分布式關(guān)系型數(shù)據(jù)庫(kù)對(duì)傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)的SQL語(yǔ)言、協(xié)議的兼容程度。多數(shù)銀行業(yè)務(wù)系統(tǒng)仍然采用DB2、Oracle等傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)，如果將此類(lèi)應(yīng)用從傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)遷移至分布式關(guān)系型數(shù)據(jù)庫(kù)，若SQL兼容性無(wú)法保證，勢(shì)必會(huì)造成應(yīng)用改造量大、數(shù)據(jù)遷移風(fēng)險(xiǎn)等問(wèn)題，因此，對(duì)SQL完整性支持的強(qiáng)弱成為分布式關(guān)系型數(shù)據(jù)庫(kù)選型的評(píng)判關(guān)鍵標(biāo)準(zhǔn)之一。

（3）彈性伸縮能力。隨著云計(jì)算、移動(dòng)互聯(lián)的快速發(fā)展，分布式技術(shù)之所以成為發(fā)展趨勢(shì)，是因?yàn)槠淞己玫膹椥陨炜s能力，可以快速適應(yīng)流量暴增帶來(lái)的業(yè)務(wù)沖擊，因此，作為新興技術(shù)，分布式關(guān)系型數(shù)據(jù)庫(kù)必須做到彈性伸縮，才能順應(yīng)當(dāng)前趨勢(shì)發(fā)展，支撐應(yīng)用系統(tǒng)技術(shù)架構(gòu)升級(jí)。

（4）混合事務(wù)分析處理。在傳統(tǒng)銀行IT架構(gòu)中，聯(lián)機(jī)事務(wù)交易與統(tǒng)計(jì)查詢(xún)分析業(yè)務(wù)系統(tǒng)通常分別采用OLTP和OLAP數(shù)據(jù)庫(kù)，通過(guò)定期抽取、轉(zhuǎn)換、裝載過(guò)程將聯(lián)機(jī)交易數(shù)據(jù)遷移至分析系統(tǒng)中，但隨著云計(jì)算發(fā)展，分布式關(guān)系型數(shù)據(jù)庫(kù)云化之后，作為一種云服務(wù)，必須同時(shí)提供OLTP和OLAP的能力，但又要保證聯(lián)機(jī)交易和查詢(xún)分析無(wú)相互干擾，因此混合事務(wù)分析處理能力也成為銀行數(shù)據(jù)庫(kù)選型參考之一。

4 結(jié)語(yǔ)

總體來(lái)說(shuō)，分布式關(guān)系型數(shù)據(jù)庫(kù)技術(shù)的不斷發(fā)展和產(chǎn)品的不斷涌現(xiàn)和持續(xù)升級(jí)，將為銀行業(yè)進(jìn)一步實(shí)踐分布式架構(gòu)掃除最后一個(gè)障礙，為進(jìn)一步提升業(yè)務(wù)連續(xù)性提供強(qiáng)大的基礎(chǔ)支撐，為進(jìn)一步提升業(yè)務(wù)競(jìng)爭(zhēng)能力增添動(dòng)力。作為傳統(tǒng)銀行業(yè)，為適應(yīng)云計(jì)算、大數(shù)據(jù)等技術(shù)變革，分布式關(guān)系型數(shù)據(jù)庫(kù)選型應(yīng)充分考慮ACID數(shù)據(jù)安全與SQL完整性，采用典型試點(diǎn)、初步推廣的策略，積極擁抱分布式關(guān)系型數(shù)據(jù)庫(kù)。