該虛擬化項(xiàng)目,采用4臺(tái)聯(lián) 想System X3650 M5,使用vSAN架構(gòu)組成虛擬化環(huán)境,網(wǎng)絡(luò)拓?fù)淙鐖D1所示。
每臺(tái)主機(jī)配置了2個(gè)E5-2620 V4 的 CPU、256GB內(nèi)存、1個(gè)300GB的SAS磁盤(pán)(用于ESXi系統(tǒng)安裝)、2個(gè)400GB的Intel數(shù)據(jù)中心級(jí)固態(tài)硬盤(pán)S3710、10個(gè)900GB的SAS磁盤(pán),所有磁盤(pán)都是2.5英寸,HDD磁盤(pán)轉(zhuǎn)速都是10000轉(zhuǎn)/分。
每臺(tái)主機(jī)配置有1塊2端口的Intel D520萬(wàn)兆網(wǎng)卡,萬(wàn)兆網(wǎng)卡分別連接到2臺(tái)華為S6720萬(wàn)兆交換機(jī),2臺(tái)萬(wàn)兆交換機(jī)使用40GB的QSFP光纖組成動(dòng)能堆疊方式。每臺(tái)主機(jī)有4個(gè)千兆端口,分別連接到2臺(tái)華為S5720千兆虛擬機(jī),其中2個(gè)千兆端口用于管理,另2個(gè)千兆端口連接到交換機(jī)Trunk端口用于虛擬機(jī)流量。
圖2 為聯(lián)想X3650 M5安裝第2個(gè)硬盤(pán)背板
使用聯(lián)想X3650 M5服務(wù)器組建vSAN架構(gòu),可以將每塊硬盤(pán)配置為RAID-0,這是VMware官方兼容列表中提供的參數(shù)。但如果將磁盤(pán)配置為RAID-0不利于后期的管理與維護(hù)。經(jīng)過(guò)實(shí)際測(cè)試,可以將聯(lián)想X3650 M5陣列卡的緩存模塊移除,然后將每塊磁盤(pán)配置為JBOD模式即可。
本案例中2臺(tái)服務(wù)器是新采購(gòu)的,另2臺(tái)服務(wù)器去年購(gòu)買(mǎi)的服務(wù)器。300GB硬盤(pán)是原來(lái)2臺(tái)服務(wù)器上的,本次案例中為每個(gè)服務(wù)器配置1塊300GB的硬盤(pán)用于安裝ESXi的系統(tǒng)。
因?yàn)槊颗_(tái)服務(wù)器安裝了13個(gè)2.5英寸的磁盤(pán)(2個(gè) SSD、11 個(gè) HDD),但 聯(lián)想3650 M5只有前8個(gè)盤(pán)位能用,如果使用另外8個(gè)盤(pán)位,需要添加1塊2.5寸盤(pán)體8盤(pán)位的X3650 M5系列硬盤(pán)擴(kuò)展背板。
關(guān)閉服務(wù)器的電源,打開(kāi)服務(wù)器的機(jī)廂,在第2個(gè)空閑的硬盤(pán)槽位安裝硬盤(pán)擴(kuò)展背板,如圖2所示。
在圖2中,圖中線標(biāo)為01的接線原來(lái)插在BP1接口板的1口,線標(biāo)為02的接線原來(lái)接在BP1接口板的2口,01與02接到服務(wù)器機(jī)廂中的RAID卡上。
在安裝了BP2的硬盤(pán)擴(kuò)展板之后,將 BP1的 01、02線拔下,將購(gòu)買(mǎi)硬盤(pán)擴(kuò)展板時(shí)帶的2條SAS線,按照?qǐng)D2的方式連接到一起(即1接 1、2接 2),然后將 01接到BP1的右側(cè)接口上,02接到BP2的左側(cè)接口上。
在服務(wù)器的機(jī)廂背面,印有硬盤(pán)擴(kuò)展背板連線接法,如圖3所示。
因?yàn)楸景咐枰M建vSAN,需要將每塊硬盤(pán)配置為RAID-0或配置為直通模式。聯(lián)想X3650 M5支持將磁盤(pán)配置為直通模式,但只有不配備緩存陣列卡才支持JBOD/硬盤(pán)直通模式功能,如果服務(wù)器中配置了帶緩存模塊的M5210陣列卡,必須手動(dòng)移除緩存模式。
注意:下面的操作將導(dǎo)致陣列及數(shù)據(jù)丟失,強(qiáng)烈建議先清除陣列信息并恢復(fù)陣列卡出廠設(shè)置再行操作。如果操作不當(dāng),可能導(dǎo)致陣列卡鎖定安全模式,甚至損壞硬件,請(qǐng)酌情謹(jǐn)慎操作。同時(shí),由于涉及硬件插拔操作,請(qǐng)遵守操作規(guī)范。因?yàn)楸景咐械某?00GB硬盤(pán)外,其他硬盤(pán)都是新配置的,不涉及到數(shù)據(jù)的備份,所以在清除了300GB硬盤(pán)的RAID信息后,關(guān)閉服務(wù)器的電源,打開(kāi)服務(wù)器的機(jī)廂,開(kāi)始移除緩存模塊。
圖3 硬盤(pán)擴(kuò)展背板連接示意圖
1.在服務(wù)器完全斷開(kāi)之后,打開(kāi)服務(wù)器的機(jī)廂,找到RAID卡,其中陣列卡PCB板上面的小塊子板即緩存模塊,由兩側(cè)的黑色卡扣固定。
2.拔出陣列卡后取下緩存模塊,然后將陣列卡插回原位。如果不再使用緩存模塊,可以直接移除緩存模塊及線纜、電容組件。
3.將機(jī)廂蓋板蓋回,重新通電并開(kāi)機(jī)。在看到Lenovo System x Logo的時(shí)候按F1鍵,準(zhǔn)備進(jìn)入BIOS。
4.等待過(guò)程中會(huì)出現(xiàn)“Critical Message”的錯(cuò)誤窗口,告知緩存模塊丟失或者損壞。
5.先按回車(chē)鍵,并輸入D,再回車(chē),降入iMR模式。
注意:請(qǐng)勿輸入其他字符或者直接按回車(chē)鍵,錯(cuò)誤操作會(huì)導(dǎo)致陣列卡鎖定安全模式。
6.錯(cuò)誤處理完成,按ESC鍵退出。然后按Y鍵繼續(xù)退出。
7.此時(shí)進(jìn)入BIOS,無(wú)法找到陣列卡,左下角會(huì)提示需要重啟。
8.重啟后再次進(jìn)入 BIOS, 在“System Configuration and Boot Management”對(duì)話框中移動(dòng)光標(biāo)到“System Settings”處并按回車(chē)鍵。
9.在“System Settings”對(duì)話框中,移動(dòng)光標(biāo)到“Storage”并按回車(chē)鍵。
10.在“Storage”菜 單中進(jìn)入陣列卡,一般配備的是ServeRAID M5210或 者M(jìn)1215陣列卡。
11.在“Dashboard View”菜單中移動(dòng)光標(biāo)到“Main Menu”并按回車(chē)鍵。
12.在“Main Menu”菜單中移動(dòng)光標(biāo)到"Controller Management"并按回車(chē)鍵。
1 3.在“Advanced Controller Properties”菜單,查看“JBOD Mode”項(xiàng)目的狀態(tài),如果是“Enabled”狀態(tài)則表示JBOD模式已經(jīng)支持。
如 果JBOD模 式 是Disabled,請(qǐng) 將 其 改 為Enabled,保存退出后,如果再次進(jìn)入“Advanced Controller Properties”菜單,如果“JBOD Mode”仍然是Disabled,表示當(dāng)前陣列卡不支持JBOD模式,或者當(dāng)前陣列卡的緩存模塊沒(méi)有移除,請(qǐng)移除緩存模式后再次檢查。
在確認(rèn)支持JBOD模式之后,可以將每個(gè)磁盤(pán)標(biāo)記為JBOD模 式?!癠nconfigured Good”狀態(tài)和“JBOD”狀態(tài)的硬盤(pán)可以任意相互轉(zhuǎn)換,在“Drive Management”界面中選 中“Unconfigured Good”狀態(tài)的硬盤(pán),在“Operation”中選擇“Make JBOD”,如圖 4所示。
在“Main Menu”菜單中移動(dòng)光標(biāo)到“Configuration Management” 按 回 車(chē)鍵, 在“Configuration Management”菜單按鍵移動(dòng)光標(biāo)到“Make Unconfigured Good”并按回車(chē)鍵。
圖4 標(biāo)記為JBOD磁盤(pán)
圖5 選擇引導(dǎo)磁盤(pán)
圖6 配置好的vSAN群集
進(jìn) 入“Make Unconfigured Good”菜單,在此可以查看已經(jīng)設(shè)置為JBOD模式的磁盤(pán)及數(shù)據(jù),當(dāng)前已經(jīng)有13塊磁盤(pán)標(biāo)記為JBOD模式并在列表中顯示了每塊磁盤(pán)的信息,這包括磁盤(pán)的容量大小、端口位置等。
因?yàn)楸景咐忻颗_(tái)服務(wù)器有13塊磁盤(pán),要將ESXi安裝在300GB的磁盤(pán)中,需要將300GB的磁盤(pán)設(shè)置為引導(dǎo)磁盤(pán)。
1.進(jìn)入BIOS系統(tǒng)設(shè)置(System Settings) →Storage→ Main Menu→Controller Management,在Controller Management菜單中移動(dòng)光標(biāo)到“Select Boot Device”處并按回車(chē)鍵。
2.在彈出的對(duì)話框中,選擇300GB的磁盤(pán),如圖5所示。引導(dǎo)磁盤(pán)的后面會(huì)有Bootable的字符。
3.返 回Controller Management菜單,可以看到當(dāng)前引導(dǎo)磁盤(pán)已經(jīng)設(shè)置為300GB的磁盤(pán)。
最后保存設(shè)置退出。
在將服務(wù)器設(shè)置為JBOD模式并設(shè)置了每塊磁盤(pán)之后,使用ESXi 6.5.0安裝光盤(pán)啟動(dòng)服務(wù)器(或使用工具U盤(pán)),安裝VMware ESXi 6.5.0。在選擇磁盤(pán)安裝ESXi的時(shí)候,選擇容量大小為300GB的磁盤(pán)(實(shí)際識(shí)別為 279.40GB)。
關(guān)于ESXi的系統(tǒng)安裝以及vSAN群集的配置,本文不做過(guò)多介紹,圖6是搭建好vSAN群集后的截圖,當(dāng)前群集中有4臺(tái)主機(jī)(一共有64個(gè)處理器核心、1021.78GB內(nèi)存、33.77TB存儲(chǔ)空間)。