iSCSI + SAS:PS5000XV與MD3000i的別樣生活
iSCSI呼喚混搭,終獲SAS成全
二十年前,《穿Prada的女魔頭》原型Anna Wintour初掌《VOGUE》大權(quán),擔(dān)任主編的第一期雜志,就在封面上將40美元一條的牛仔褲與1萬美元的T恤衫配在一起。這種在當(dāng)時看來非常激進(jìn)的“混搭”,如今已經(jīng)極為常見,不僅是檢驗“潮人”的標(biāo)準(zhǔn),對買不起太多奢侈品牌的工薪階層也頗具實用價值。
與時尚圈的潮人相比,IT業(yè)界的某些人頭腦顯然不夠靈活。他們的思維似乎還停留在“廉價就是低端”的層次,認(rèn)為廉價的技術(shù)只能與同樣廉價的技術(shù)相配,嚴(yán)重缺乏“混搭”的概念。
舉例來說,與FC(Fibre Channel,光纖通道)相比,iSCSI是廉價的,SATA也是廉價的。于是乎,iSCSI陣列配SATA硬盤驅(qū)動器(iSCSI + SATA)簡直如同“天經(jīng)地義”一般,特別是在兩三年前,基于SCSI硬盤驅(qū)動器的iSCSI存儲系統(tǒng)屈指可數(shù)。
從技術(shù)的角度來看,iSCSI陣列不用FC-AL(Fibre Channel Arbitrated Loop,光纖通道仲裁環(huán)路)硬盤驅(qū)動器是很正常的,畢竟取代FC本是iSCSI的目標(biāo)之一。但實際上,成本或許是更為重要的因素,由于SCSI與FC硬盤驅(qū)動器有著相同的機械部件和相近的電路總成,價格都明顯高于SATA硬盤驅(qū)動器,所以也難以在iSCSI陣列中覓得蹤跡。
不過,這種思路顯然沒有考慮到iSCSI和SATA的特點。我們知道,存儲系統(tǒng)有兩種基本的工作負(fù)載——隨機訪問和順序傳輸。隨機訪問強調(diào)IOPS(I/O per second,每秒I/O數(shù)),每個I/O的數(shù)據(jù)塊都不大,通常是幾KB或十幾KB,但分散在磁盤上的不同區(qū)域,因此硬盤驅(qū)動器的隨機訪問能力是主要瓶頸所在;順序傳輸則相反,對接口帶寬有著較高的要求。
雖然萬兆以太網(wǎng)(10GbE)已是大勢所趨,但直到目前為止,千兆以太網(wǎng)(GbE)仍然是iSCSI的主要承載者。也就是說,一個物理的iSCSI端口,帶寬只有約100MB/s。反觀SATA硬盤驅(qū)動器,盡管IOPS與SCSI/FC硬盤驅(qū)動器不是一個檔次,持續(xù)傳輸率上的差距卻沒有那么明顯。如今,一個SATA硬盤驅(qū)動器的平均傳輸率已經(jīng)超過50MB/s,用不了兩個就可以把一個千兆iSCSI端口“填滿”。相比之下,具有四倍帶寬的4Gb/s FC反而更適合順序傳輸類型的負(fù)載。
千兆iSCSI的帶寬對隨機訪問倒是足夠了。15000RPM(15K RPM)的SCSI/FC硬盤驅(qū)動器能夠貢獻(xiàn)400左右的IOPS,就算每個I/O的數(shù)據(jù)塊有8KB,一個硬盤驅(qū)動器需要的帶寬也不過3MB/s出頭,應(yīng)付二三十個不成問題。7200RPM的SATA硬盤驅(qū)動器,單個的IOPS約為200,是前者的一半??傊?,要么是千兆iSCSI帶寬不足,要么是SATA硬盤驅(qū)動器IOPS欠佳,怎么看“iSCSI + SATA”都是一個以廉價為首要訴求的解決方案。
當(dāng)然,不是說廉價不可以,而是也要給那些沒有FC基礎(chǔ)設(shè)施(交換機、HBA等)但需要支持?jǐn)?shù)據(jù)庫等典型IOPS應(yīng)用的客戶以足夠的選擇。三年前,有個發(fā)生在筆者身邊的真實案例:國內(nèi)某知名IT門戶網(wǎng)站的CTO,想要把分散在多臺服務(wù)器本地硬盤的數(shù)據(jù)庫整合到一臺網(wǎng)絡(luò)存儲設(shè)備上,以他們的網(wǎng)絡(luò)狀況,他選定了iSCSI,但卻無奈地發(fā)現(xiàn),市面上的絕大多數(shù)產(chǎn)品都是基于SATA的,而且價格并不便宜,國內(nèi)廠商L采用15個SATA硬盤驅(qū)動器的iSCSI陣列報價就接近20萬元,而基于SCSI驅(qū)動器的iSCSI陣列又實在太少。
幾經(jīng)咨詢,國際知名大廠I的300系列進(jìn)入了他的視野,雙控制器的報價是3.6萬元,配上14個73GB的10000RPM(10K RPM)SCSI硬盤驅(qū)動器,總價才6萬多元。雖然筆者也曾提醒他,著名RAID廠商A就是因為向I提供300和400系列而丟掉了后者的OEM合約,說明300系列肯定有品質(zhì)問題,如此便宜很可能是退出市場之前的傾銷。但是,15萬元就能從知名大廠買到兩臺滿配的iSCSI陣列,并且還是基于SCSI硬盤驅(qū)動器的,這誘惑力實在太大,他終于沒能把持住……
某個人曾經(jīng)的噩夢,如今已經(jīng)成云煙,成云煙……
果不其然,到手之后他就后悔了——單臺300陣列的IOPS只有1000多,I廠商的人也承認(rèn),300系列性能就是很差……這打擊實在太巨大了,該IT門戶網(wǎng)站整合數(shù)據(jù)庫存儲的嘗試就此失敗,直到現(xiàn)在仍然是分散在各服務(wù)器本地的硬盤上。
筆者之前的文章提到過,2000年仍有業(yè)界領(lǐng)先廠商推出基于SCSI硬盤驅(qū)動器的高端存儲系統(tǒng),而L廠商采用SATA硬盤驅(qū)動器的iSCSI陣列也號稱有2萬多的IOPS,可見SCSI和iSCSI都沒有什么問題。300系列的悲劇顯然是個案,不幸的根源在于“iSCSI + SCSI”的組合實在是太少,讓用戶幾乎無從選擇。
好在,日漸成熟的SAS(Serial Attached SCSI,串行連接SCSI)讓我們看到了自行“混搭”的希望。與并行SCSI相比,兼容SATA驅(qū)動器是SAS的一大優(yōu)點,這意味著存儲廠商可以統(tǒng)一使用SAS技術(shù)來構(gòu)建磁盤陣列——包括SAS RAID和SAS磁盤背板,從而能夠根據(jù)不同的應(yīng)用需求靈活配置SAS或SATA硬盤驅(qū)動器,用戶選擇iSCSI存儲系統(tǒng)的余地也大為增加。#p#page_title#e#
戴爾押寶iSCSI,由低到高組合成型
戴爾(Dell)是較早接受SAS技術(shù)的主流存儲廠商之一,2006年已推出采用SAS硬盤驅(qū)動器的SAS直連存儲(DAS)系統(tǒng)PowerVault MD3000。一年之后,主機連接改用iSCSI的PowerVault MD3000i問世。
2008年1月,EMC也在替代低端AX150和CX300系統(tǒng)的CLARiiON AX4中采用了SAS技術(shù)。作為EMC的戰(zhàn)略合作伙伴,戴爾隨即宣布以Dell AX4-5的名稱轉(zhuǎn)銷這款產(chǎn)品。AX4-5支持的硬盤驅(qū)動器數(shù)量多于MD3000i,允許SAS和SATA硬盤驅(qū)動器混合配置,主機接口可選FC(AX4-5F)或iSCSI(AX4-5I),總體定位更高一些。
Dell自家田里長出來的PowerVault MD3000i、轉(zhuǎn)銷EMC的AX4-5和收購EqualLogic得到的PS5000,都支持“iSCSI + SAS”,但只有紅色方框里的才是純粹的iSCSI磁盤陣列
IDC上月初發(fā)布的2008年第三季度外部磁盤存儲系統(tǒng)市場報告指出,該季度表現(xiàn)最突出的板塊是iSCSI SAN,收入增長幅度高達(dá)96.7%。戴爾在該領(lǐng)域以31.3%的份額位列第一,超過第二三名——EMC(13.3%)與NetApp(12.5%)——的總和。這顯然不是MD3000i或AX4-5I的功勞,而應(yīng)歸于戴爾對EqualLogic的收購……
戴爾兩款主力iSCSI磁盤陣列主要參數(shù)對比
2008年2月,剛剛完成對EqualLogic價值14億美元收購的戴爾,又將EqualLogic的產(chǎn)品重新包裝之后,推出了PS5000系列。作為一款純粹的iSCSI磁盤陣列,PS5000系列具有不同于MD3000i和AX4-5的對等架構(gòu),在整個戴爾存儲產(chǎn)品線中的地位僅次于同樣來自于EMC的CX系列。
Dell PowerVault MD3000i(上)和Dell EqualLogic PS5000XV(下)
存儲時代(www.Stor-Age.com)網(wǎng)站認(rèn)為,經(jīng)過幾年的發(fā)展,iSCSI和SAS已經(jīng)趨于成熟,到了可以檢驗“iSCSI + SAS”組合效果的時候。兩款來自戴爾的“iSCSI + SAS”磁盤陣列——PowerVault MD3000i和EqualLogic PS5000XV不僅足夠成熟,還代表著不同的磁盤陣列架構(gòu)類型,具有很大的參考價值。#p#page_title#e#
硬件結(jié)構(gòu)(上):MD3000i——重在傳承
2007年9月推出的PowerVault MD3000i,主體結(jié)構(gòu)與早問世近一年的MD3000完全相同,只是主機接口由SAS換成了iSCSI。早期的SAS RAID和擴展器(Expander)把SAS硬盤驅(qū)動器放在首位,對SATA硬盤驅(qū)動器的支持有待完善,因此最初的MD3000僅支持SAS硬盤驅(qū)動器,這種狀況一直延續(xù)到MD3000i上市之后。好在,戴爾總算兌現(xiàn)了2007年第四季度為MD3000i加入SATA硬盤驅(qū)動器支持的承諾。
存儲時代評測實驗室里的Dell PowerVault MD3000i,配置了5個15000RPM的73GB SAS硬盤驅(qū)動器(希捷Cheetah 15K.5)
Dell PowerVault MD3000i是一款3U機架高度的iSCSI磁盤陣列,具有15個垂直布置的3.5英寸硬盤驅(qū)動器槽位,使用1TB的SAS或SATA硬盤驅(qū)動器容量可達(dá)15TB。通過級聯(lián)兩臺PowerVault MD1000擴展柜,一個MD3000i系統(tǒng)的總?cè)萘磕苓_(dá)到45TB。
從后面看起來,主機接口是MD3000i(上)和MD3000(下)惟一的區(qū)別所在
作為MD3000的iSCSI版本,MD3000i的主機接口由兩個SAS x4(12Gb/s)的SFF-8470外部連接器,換成了兩個1Gb/s iSCSI的RJ-45千兆以太網(wǎng)端口。其他的控制器上的管理端口、雙冗余熱插拔電源、每個電源雙風(fēng)扇等,都是一樣的。
MD3000i控制器上的端口分布,自左至右依次是2個1Gb以太網(wǎng)端口、1個用于遠(yuǎn)程管理的RJ-45 10/100Mb端口、1個用于服務(wù)的PS/2串口,以及1個用于連接MD1000 SAS磁盤擴展柜的SFF-8470外部連接器
與MD3000一樣,MD3000i也有支持雙主動(active/active)控制器的高可用性型號——本次送測的就是。由于小巧的RJ-45端口代替了SFF-8470連接器,且兩個緊鄰在一起,整個控制器后部顯得簡潔了許多。不過,右側(cè)還保留著一個SFF-8470連接器,用于連接MD1000 SAS磁盤擴展柜。
Dell PowerVault MD3000i的控制器出自LSI,主板代號SideWinder(響尾蛇的一種)
MD3000i的控制器由LSI出品。我們知道,LSI自己也有一款iSCSI磁盤陣列——Engenio 1532存儲系統(tǒng),但那是臺12盤位的2U機架產(chǎn)品。以2006-07兩年SAS技術(shù)供應(yīng)商的實力對比來看,戴爾為MD3000i選擇LSI的控制器是很正常的。每個控制器配備512MB DDR ECC內(nèi)存(雙控制器的1GB互為鏡像),并有2.5V/6.6Ah的鋰離子電池提供最長達(dá)72小時的掉電數(shù)據(jù)保護(hù)。由于雙控制器共有4個iSCSI端口,高可用性型號支持4臺主機直連,而在通過以太網(wǎng)交換機配置時可多達(dá)16臺全冗余的主機。#p#page_title#e#
硬件結(jié)構(gòu)(中):PS5000系列——對等存儲“動車組”
戴爾公司2008年1月底完成了對EqualLogic的收購,隨即將后者的PS3800XV和PS3900XV加以整合,重新命名為PS5000XV。“新瓶裝舊酒”的PS5000系列包括三款產(chǎn)品,以結(jié)尾的字母區(qū)分:E代表采用7200RPM SATA硬盤驅(qū)動器,容量最大;X代表羅馬數(shù)字10,即采用10K(10000)RPM SAS硬盤驅(qū)動器,容量和性能都適中;XV代表羅馬數(shù)字15,即采用15K(15000)RPM SAS硬盤驅(qū)動器,性能最高。這三款產(chǎn)品,分別面向不同的存儲層級需求。
戴爾送測的EqualLogic PS5000XV配滿了16個146GB的15000RPM SAS硬盤驅(qū)動器(富士通MAX3147RC)
有了上面的淵源,就不難理解我們測試的Dell EqualLogic PS5000XV上面會貼著印有“EQL-PS3800XV”的標(biāo)簽了——按照原來EqualLogic的規(guī)則,PS3800XV使用146GB的15000RPM SAS硬盤驅(qū)動器,而PS3900XV的容量為300GB。同樣是3U機架高度,得益于水平布置的方式,PS5000XV的硬盤驅(qū)動器槽位比PowerVault MD3000i多一個,是一臺擁有16個15000RPM SAS硬盤驅(qū)動器的iSCSI磁盤陣列。
PS5000XV被雙冗余電源包裹的雙控制器強烈地突出了iSCSI磁盤陣列的特征
無獨有偶,PS5000XV控制器的布置方式也與MD3000i相反——垂直且呈中心對稱,夾在兩個冗余電源之間。雙控制器和冗余電源都是免工具設(shè)計,可以輕松插拔,這點倒是與MD3000i沒有什么區(qū)別。
PS5000XV的控制器體積明顯小于MD3000i,對外也只有3個RJ-45千兆以太網(wǎng)端口和1個串口
垂直布置使PS5000XV的控制器寬度不到3U,剛剛夠放3個RJ-45千兆以太網(wǎng)端口和1個串口。第一頁已經(jīng)提過,PS5000系列采用對等架構(gòu),意味著每一個3U機架都擁有自己的控制器,獨享3Gb/s帶寬,從而使性能可以隨著容量的增長而線性提升;傳統(tǒng)的磁盤陣列則不論有多少個磁盤擴展柜,都只能共享控制器,性能提升的幅度會隨著容量的增長而漸趨平緩。戴爾大中華區(qū)存儲業(yè)務(wù)部高級經(jīng)理許良謀用“動車組”來形容PS5000系列架構(gòu)的先進(jìn)性:動車組的每個車廂都可提供動力,所以整列車才跑得更快;PS5000系列的每個磁盤柜都有控制器,所以整體的性能更好。筆者認(rèn)為,這個比喻非常的形象——包括更貴的票價(購置成本)……
PS5000XV控制器全貌,散熱片下面是AMD Opteron處理器
Dell|EqualLogic PS系列的一大特點是不采用磁盤擴展柜,需要增加容量的時候直接添加PS系列磁盤陣列就可以了,因此其性能可以隨著容量的增長而近乎線性的提升。
PS5000的磁盤驅(qū)動器配置(點擊播放,時長約3分鐘)
PS5000XV采用千兆以太網(wǎng)(GbE),而不是萬兆以太網(wǎng)(10GbE),似乎與其強調(diào)高性能的宣傳不符。不過,作為一款采用16臺15000RPM SAS硬盤驅(qū)動器的磁盤陣列,PS5000XV的高性能主要體現(xiàn)在高的IOPS,對帶寬的需求并不是很“饑渴”,1Gb/s iSCSI足以應(yīng)付,況且每個控制器上都有3個千兆以太網(wǎng)接口。
PS5000XV的控制器設(shè)計(點擊播放,時長約12分鐘)#p#page_title#e#
硬件結(jié)構(gòu)(下):SAS擴展器不足導(dǎo)致無奈
PS5000XV的控制器設(shè)計十分緊湊,在較小的空間里蘊含著比MD3000i的控制器更大的能量。PS5000XV每個控制器具有1GB DDR ECC內(nèi)存(雙控制器合計2GB),是MD3000i的兩倍,并同樣受到鋰離子電池長達(dá)72小時的掉電數(shù)據(jù)保護(hù)。更重要的是,PS5000XV的控制器采用了AMD Opteron(皓龍)處理器,運算能力明顯強于專用的IOP(I/O處理器),可以勝任自動精簡配置(thin provisioning)等復(fù)雜管理任務(wù)。
與AMD-8132 HyperTransport PCI-X 2.0 Tunnel直接相連的是其上方的Marvell 88SX6041 PCI-X 4端口SATA控制芯片,和右上方的LSISAS1068 PCI-X 8端口SAS控制芯片,后者又與右下方的LSISASx12A 12端口擴展器相連
為支持AMD Opteron處理器,PS5000XV的控制器采用了一顆AMD-8132 HyperTransport PCI-X 2.0 Tunnel芯片。AMD-8132具有兩個PCI-X 2.0橋,可以各連接一個8端口的SAS控制芯片,正好能提供16個SAS端口,滿足16個硬盤驅(qū)動器的需求。但是,實際情況卻不是這樣:可能是一個具體用途未知的4端口SATA控制芯片Marvell 88SX6041占用了一個PCI-X 2.0橋,使得AMD-8132只連接了一個8端口的SAS控制芯片LSISAS1068,再由后者連接一個12端口的SAS擴展器(Expander)LSISASx12A,湊足16個硬盤硬盤驅(qū)動器需要的SAS端口。
通過SAS擴展器(LSISASx12A)與SAS控制芯片(LSISAS1068)相連,比直接與后者相連,所能獲得的帶寬顯然要低一個量級……另外,LSISAS1068是一個PCI-X 1.0規(guī)格的芯片,總線帶寬也只有1.066GB/s,不到8個SAS端口2.4GB/s理論帶寬的一半
很顯然,LSISAS1068不能把全部的8個端口都用來連接LSISASx12A——那意味著兩者對外提供的SAS端口只有4個,除非還有一個12端口擴展器(12 × 2 + 8 = 16)。然而,在PCB的背面并沒有另一個LSISASx12A,惟一的可能就是如上圖所示,LSISAS1068拿出2個端口與LSISASx12A互連,二者之間的帶寬為6Gb/s。這樣一來,直接與LSISAS1068相連的6個硬盤驅(qū)動器,每個都可以獨享3Gb/s(300MB/s)的帶寬,而通過LSISASx12A連接的10個硬盤驅(qū)動器,卻總共才有6Gb/s(600MB/s)的帶寬,分?jǐn)偟矫總€頭上只有0.6Gb/s(60MB/s),待遇是嚴(yán)重的不平等!
PS5000系列的操作系統(tǒng)保存在一張CF卡上,節(jié)省了硬盤驅(qū)動器的使用
不平等歸不平等,關(guān)鍵在于有沒有瓶頸。表面看來,通過擴展器連接的10個硬盤驅(qū)動器,每個所能獲得的帶寬只有60MB/s,低于其持續(xù)傳輸率,也就是說,LSISASx12A與LSISAS1068之間的帶寬是瓶頸所在。但是,我們要考慮到,硬盤驅(qū)動器的數(shù)據(jù)傳輸能力最終是要為主機服務(wù)的,而PS5000XV控制器的3個1Gb/s iSCSI端口,捆綁在一起的帶寬亦不過3Gb/s,約合300MB/s,僅與一個SAS端口相當(dāng),才是真正的瓶頸所在。因此,8端口SAS控制芯片與12端口SAS擴展器聯(lián)合提供16個帶寬不均等的SAS端口,以PS5000XV的實際情況來說,是可以理解的。
小結(jié):前面已經(jīng)多次提到,使用SAS硬盤驅(qū)動器的iSCSI存儲系統(tǒng),主要面向?qū)捯蟛桓叩腎OPS型應(yīng)用,因此就PS5000XV而言,千兆以太網(wǎng)還算能夠接受。但是,即便用了SAS擴展器,也本可以不設(shè)計得這么“扭曲”——如果用24端口的擴展器,一個便能解決問題,分到每個硬盤驅(qū)動器的理論帶寬有1.5Gb/s,足夠應(yīng)付。
不過,我們也要考慮到,PS5000XV實際上是2006年第三季度推出的產(chǎn)品,從SAS技術(shù)的角度看與MD3000/MD3000i屬于同一代。那時端口數(shù)量在20個以上的高端口數(shù)擴展器還很不成熟,兼容性問題層出不窮,所以PS5000XV使用12端口擴展器應(yīng)屬無奈之舉。隨著技術(shù)的進(jìn)步和向SAS 2.0的過渡,高端口數(shù)擴展器必將且必須具備足夠的可用性,以迎接萬兆iSCSI時代的到來。#p#page_title#e#
管理功能(上):MD3000i——簡單易用
管理軟件的功能和易用性對于磁盤陣列來說是非常重要的,以簡單易用為主要賣點的iSCSI存儲系統(tǒng)當(dāng)然沒有理由忽視。PowerVault MD3000i附帶的Modular Disk Storage Manager(模塊化磁盤存儲管理器)基本達(dá)到了上述要求,而徹底的中文化更令我們時有意外之喜。
PowerVault MD3000i的Modular Disk Storage Manager可管理多臺Dell的磁盤陣列,漢化非常徹底,不過也有些小bug——譬如,明明是一切正常的最佳狀態(tài),卻顯示“陣列處于非最佳狀態(tài)”(紅色橢圓框中)
Modular Disk Storage Manager的主窗口包括摘要、配置、修改、工具、iSCSI、支持共6個標(biāo)簽頁,將全部的管理功能分門別類地歸置起來,從上面的動畫中可依次看到。用戶也可以點擊標(biāo)簽上方的“初始設(shè)置任務(wù)”,通過彈出的向?qū)Т翱趤硇惺垢黜椫饕芾砉δ堋?/p>
“初始設(shè)置任務(wù)”向?qū)Т翱谥辛谐龅墓δ芤膊簧?/font>
RAID的創(chuàng)建和管理無疑是磁盤陣列管理軟件最核心的職能之一。PowerVault MD3000i支持的RAID級別包括0, 1, 5和相對少見的3,通過Modular Disk Storage Manager的“配置”標(biāo)簽頁中點擊“創(chuàng)建虛擬磁盤”,可以選擇自動或手動的方式來創(chuàng)建RAID。在自動模式下,用戶可以選擇RAID級別、使用的硬盤驅(qū)動器數(shù)量和所形成虛擬磁盤的容量,并在從指定的三種常見I/O類型(文件系統(tǒng)、數(shù)據(jù)庫、多媒體)中點選一種之后獲得相應(yīng)的高速緩存策略及條帶化尺寸,最后映射給需要的主機。
創(chuàng)建虛擬磁盤(RAID)的全過程
當(dāng)然,經(jīng)驗豐富的用戶也可以采用“手動”模式來創(chuàng)建RAID,以更精細(xì)地控制參數(shù),包括具體選擇哪幾個硬盤驅(qū)動器,自行指定高速緩存策略及條帶化尺寸等。此外,在“配置”標(biāo)簽頁中還可以配置熱備份磁盤,同樣提供了自動和手動兩種模式。
手動設(shè)置RAID和選擇熱備份磁盤
要說Modular Disk Storage Manager最有趣的地方還是其漢化之徹底,“確認(rèn)虛擬磁盤刪除”的對話框集中體現(xiàn)了這一點:操作者需要鍵入的不是常見的“Y”,也不是“Yes”,而是一個漢字——“是”!它意味著,管理員必須要切換到中文輸入法,而且正確地挑選“是”,基本上可以完全排除誤操作的可能了。
注意紅色橢圓框中的輸入——當(dāng)必須打出一個漢字“是”的時候,還可能會誤刪除虛擬磁盤么?
為了避免用戶在更換故障硬盤驅(qū)動器時辨認(rèn)錯誤,將正常工作的硬盤驅(qū)動器拔出而導(dǎo)致RAID組崩潰,越來越多的磁盤陣列提供了“閃爍物理磁盤”的功能,讓被選中的硬盤驅(qū)動器托架閃爍LED燈,以便于用戶準(zhǔn)確識別。Modular Disk Storage Manager也提供了這一功能,包括整個磁盤組的閃爍。
閃爍物理磁盤和磁盤組
為了提高磁盤陣列的可管理性,Modular Disk Storage Manager提供了“存儲陣列配置文件”的功能,涉及的內(nèi)容十分詳細(xì),可謂面面俱到。事件日志也可以選擇只查看嚴(yán)重事件和事件的詳情。
存儲陣列配置文件可以保存下來
除了常見的磁盤陣列功能,MD3000i還支持快照虛擬磁盤和虛擬磁盤復(fù)制。如果購買軟件許可,就可以在Modular Disk Storage Manager中啟用相應(yīng)的“高級功能”。
我們測試的PowerVault MD3000i沒有開放上述選配功能
#p#page_title#e#
管理功能(下):PS5000系列——強大豐富
與PowerVault MD3000i相比,EqualLogic PS系列的軟件功能明顯強大許多,也就不可避免的復(fù)雜起來。自動負(fù)載均衡、快照與自動復(fù)制、卷克隆、卷一致性組、存儲池、自動精簡配置(Thin Provision)……完全可以單獨寫一篇文章了。因此,為了不偏離本文的主題,這里僅浮光掠影地擷取幾處PS5000XV管理體驗的片段,與大家分享。
Remote Setup Wizard的任務(wù)就三項(①):初始化PS系列陣列(②③)、配置計算機訪問PS系列SAN(④⑤)、配置計算機的多路徑I/O(MPIO)。從③可以看到,PS系列初始化完成后即可加入組,以接受訪問了
使用EqualLogic PS系列之前,要先安裝Host Integration Tools(主機集成工具),然后運行Remote Setup Wizard(遠(yuǎn)程設(shè)置向?qū)В┏跏蓟疨S系列磁盤陣列,包括選擇RAID級別(熱備盤自動分配),并將其加入一個組(Group)以供獲得授權(quán)的計算機訪問。
PS5000XV的Web管理界面,信息量很大
基本的設(shè)置完成之后,便可以通過Web瀏覽器訪問PS5000XV的IP地址,進(jìn)行管理了。這個基于Web的管理界面功能很強大,但沒有經(jīng)過漢化,可能與EqualLogic公司的規(guī)模和市場覆蓋面不夠有關(guān)。隨著戴爾的全面接手,在不遠(yuǎn)的將來,看到如MD3000i的Modular Disk Storage Manager那樣全面的漢化,完全是有可能的。
管理界面的功能分類做得不錯,但內(nèi)容實在太多——僅僅磁盤陣列信息這一項的標(biāo)簽頁,就趕上Modular Disk Storage Manager的全部了
PS5000系列的卷管理功能也很強大,兼顧了高效和安全。創(chuàng)建卷的時候,用戶可以選擇開啟自動精簡配置功能,提供超出可用物理空間的卷容量——只要真正寫入的數(shù)據(jù)量沒有把可用物理空間占滿,從而能夠提高存儲的利用率;利用iSCSI相對完善的訪問控制機制,用戶可以選擇CHAP認(rèn)證、限制IP地址和限制iSCSI發(fā)起者(initiator)名稱,阻止未經(jīng)授權(quán)的主機訪問,獲得比FC存儲更好的數(shù)據(jù)安全性。
創(chuàng)建卷時可選自動精簡配置(②的紅色橢圓框內(nèi))和三大限制訪問手段(③的紅色方框內(nèi))
PS5000XV支持3種RAID級別,即RAID 5, 10, 50,都很常見,但能夠動態(tài)遷移。遷移的方向是RAID 10→50→5,即可用容量越來越大(以我們測試的這臺系統(tǒng)為例:RAID 10不到1TB,RAID 50為1.53TB,而RAID 5是1.8TB),不能反其道而行之,否則多出來的數(shù)據(jù)放在哪里?
①顯示了測試系統(tǒng)從RAID 50(Current)到RAID 5(New)的容量變化,②則顯示了RAID 10的容量狀況
那么,萬一當(dāng)初選了RAID 5,想改到可用容量相對較小的RAID 50或者RAID 10,該怎么辦?重新初始化?為了安全起見,EqualLogic沒有賦予Remote Setup Wizard如此之大的權(quán)力。如果實在需要這么做的話,那就先把PS5000上的數(shù)據(jù)完全備份出來,然后用Telnet登錄上去,輸入從戴爾獲得的帳號和密碼,一條reset命令,將陣列恢復(fù)到出廠時的默認(rèn)狀態(tài)——上面的數(shù)據(jù)?當(dāng)然都丟了,再恢復(fù)過來吧……
通過Telnet將PS5000XV恢復(fù)到出廠時的默認(rèn)狀態(tài)
#p#page_title#e#
#
測試平臺和軟件
本次Dell EqualLogic PS5000XV和PowerVault MD3000i的對比測試依然在強氧科技為存儲時代(www.Stor-Age.com)定制的服務(wù)器平臺上進(jìn)行。這個服務(wù)器平臺的核心是基于Intel 5000P芯片組的Supermicro X7DB8主板,目前只安裝了一顆3.0GHz雙核Intel Xeon 5050處理器,以及2GB DDR2-667 ECC FB-DIMM內(nèi)存。操作系統(tǒng)采用微軟Windows Server 2003 R2簡體中文企業(yè)版,安裝在Ultra320 SCSI接口的Maxtor Atlas 10K Ⅳ硬盤上。
強氧科技定制服務(wù)器平臺配置
主板 |
Supermicro X7DB8(BIOS版本:1.3b) |
CPU |
Intel Xeon 5050(雙核3.0GHz/FSB 667MHz/4MB) |
內(nèi)存 |
2GB DDR2-667 ECC FB-DIMM(1GB × 2) |
SCSI |
板載Adaptec AIC-7902W雙通道Ultra320 |
網(wǎng)絡(luò) |
板載Intel (ESB2/Gilgal) 82563EB雙端口千兆以太網(wǎng)控制器 |
顯卡 |
板載ATI ES1000 |
主硬盤 |
Maxtor Atlas 10K Ⅳ 146GB(10000RPM/Ultra320 SCSI) |
操作系統(tǒng) |
Windows Server 2003 R2簡體中文企業(yè)版 |
主板驅(qū)動 |
Intel INF 8.3.0.1013 |
顯卡驅(qū)動 |
8.24.3.0 |
SCSI驅(qū)動 |
Adaptec Ultra320 SCSI Drivers v7.0.0.6 |
為了保證測試的平穩(wěn)進(jìn)行,強氧科技為這臺服務(wù)器配備了3個500W的ABLECOM SP502-TC熱插拔冗余電源。高大的立式機箱提供了7個3.5英寸和3個5.25英寸驅(qū)動器倉位,使其能同時勝任內(nèi)部存儲和外部存儲的測試。
強氧科技為存儲時代(www.stor-age.com)定制的服務(wù)器平臺
測試平臺安裝的iSCSI Initiator軟件驅(qū)動程序是Microsoft iSCSI Software Initiator Version 2.07,測試軟件則是IOmeter 2006.07.27穩(wěn)定版。p#page_title#e#
隨機性能:IOPS勝任愉快
5個15K SAS硬盤驅(qū)動器的PowerVault MD3000i和16個15K SAS硬盤驅(qū)動器的EqualLogic PS5000XV,顯然是一場不平等的較量——就算雙方都是滿配,MD3000i和PS5000XV也不是一個級別的。因此,我們將兩款產(chǎn)品放在一起測試,并不是為了直接對比它們的性能,而是要從不同角度考察iSCSI磁盤陣列的表現(xiàn)。
好在,一年前,我們做過10款SAS硬盤驅(qū)動器的橫向評測,此次MD3000i使用的希捷Cheetah 15K.5和PS5000XV配置的富士通MAX3147RC都在其中。由于測試平臺都是一樣的,我們調(diào)出上述兩款SAS硬盤驅(qū)動器的測試數(shù)據(jù),作為基準(zhǔn)線,然后又分別乘以5和14(=16-2,因為PS5000XV自動分配2個熱備盤),作為MD3000i和PS5000XV的參照上限(均以虛線表示)——當(dāng)然,這是正常手段難以達(dá)到的理想值,但可以幫助我們樹立更具可比性的參照系。
512字節(jié)隨機讀測試,PS5000XV的IOPS隨并發(fā)任務(wù)數(shù)增加的上升勢頭很猛,不斷迫近紅色虛線代表的理論值
512字節(jié)隨機讀:并發(fā)訪問程度很低的時候,兩款陣列與單硬盤驅(qū)動器之間的IOPS相差不大。當(dāng)并發(fā)任務(wù)數(shù)達(dá)到4的時候,兩者開始拋離基準(zhǔn)線,其中MD3000i的曲線斜率在并發(fā)任務(wù)數(shù)為16之后與5倍15K.5的參照線接近平行,而PS5000XV的曲線則令人驚喜地比14倍MAX3147RC的參照線更為陡峭,且一直保持迅猛的上升勢頭,與后者之間的距離不斷縮小,并最終在并發(fā)任務(wù)數(shù)達(dá)256時高度接近14個MAX3147RC充分發(fā)揮效力的理論值,令人眼前為之一亮。相比之下,MD3000i的表現(xiàn)就顯得較為平庸了。
從理論上說,只要RAID組中的硬盤驅(qū)動器數(shù)量一樣,且算法得當(dāng),不同RAID級別的讀IOPS性能應(yīng)該是一樣的——從RAID 0(MD3000i-R0,以此類推)、RAID 3到RAID 5,MD3000i很好地體現(xiàn)了這一點,三條曲線幾乎是完全重合。PS5000XV在這方面就稍微差些:RAID 5時的性能略高,像是受益于等效數(shù)據(jù)盤的數(shù)量較多,但RAID 10有時壓過RAID 50,則不是很好解釋。
小結(jié):5個15K RPM驅(qū)動器的MD3000i,讀IOPS在1000以上;14個15K RPM驅(qū)動器參與工作的PS5000XV,讀IOPS在4000至6000之間,表現(xiàn)都很不錯,同樣條件下的FC磁盤陣列,大致也就是這個水準(zhǔn)。
PS5000XV的隨機寫性能測試曲線比較發(fā)散,但在初始階段相當(dāng)接近參照線
512字節(jié)隨機寫:RAID 3的單校驗盤是寫入時的瓶頸,因此其隨機寫性能僅相當(dāng)于單硬盤驅(qū)動器,并不奇怪。MD3000i的RAID 0在隨機寫上的性能表現(xiàn)基本與隨機讀一樣,屬于正常水準(zhǔn),按理說RAID 5的隨機寫性能應(yīng)該有其三分之二,但居然也僅相當(dāng)于單硬盤驅(qū)動器,就很不應(yīng)該了……
PS5000XV倒是符合的很好,RAID 5的隨機寫性能在RAID 10的三分之二左右,RAID 50則略低。關(guān)鍵是RAID 10的性能表現(xiàn)很不錯,一度與14個MAX3147RC充分發(fā)揮效力的理論值不相上下,直到并發(fā)任務(wù)數(shù)達(dá)到16之后才逐漸遠(yuǎn)離參照線。
小結(jié):PS5000XV的隨機寫性能很好,IOPS始終在2000以上,RAID 10更是在3000至3500之間,如果應(yīng)用的寫操作較多,為RAID 10付出可用容量上的代價還是很值得的。同樣的場景,則最好不要用MD3000i——總不能把關(guān)鍵數(shù)據(jù)保存在RAID 0上吧?除非新的固件改進(jìn)了RAID 5的算法。
Web Server性能測試曲線與512字節(jié)隨機讀很相似,只是MD3000i分叉了
Web服務(wù)器:Web Server也是純粹隨機讀取的應(yīng)用,但數(shù)據(jù)塊尺寸較大,因此其曲線通常與512字節(jié)隨機讀相似,只不過IOPS數(shù)值要低一些。PS5000XV很忠實地體現(xiàn)了這一點,只是沒能再現(xiàn)高度迫近理論值的神奇;而MD3000i則小有不同——RAID 5時性能稍好,有點兒像PS5000XV了。
小結(jié):數(shù)據(jù)塊尺寸增加了,但MD3000i依然有1000以上的IOPS,而PS5000XV的IOPS也主要落在2000至4000之間的區(qū)域,足以勝任Web服務(wù)器應(yīng)用。
File Server性能測試曲線綜合了隨機讀寫的特點,MD3000i的RAID 3和RAID 5變得可以接受
文件服務(wù)器:IOmeter的File Server是隨機讀寫比例2:1的應(yīng)用,自然綜合了兩者的特點。占了隨機寫的大便宜,PS5000XV的RAID 10最好,但RAID 5和50相差也不多。MD3000i的RAID 3和RAID 5終于擺脫了單硬盤驅(qū)動器,大約有RAID 0的三分之二。
小結(jié):MD3000i的RAID 3和5在文件服務(wù)器測試中有800左右的IOPS,屬于可用的范疇,而RAID 0還是1000以上。PS5000XV的IOPS則在1500至3500之間,除了性能至上的用戶,沒有必要追求RAID 10。
總的來說,有了15K RPM這樣得力的SAS硬盤驅(qū)動器作為助手,iSCSI磁盤陣列完全可以滿足中低端用戶對IOPS性能的需求。#p#page_title#e#
順序訪問:萬兆?必須的!
在千兆以太網(wǎng)的環(huán)境下,不管你多么支持iSCSI,也不要對其在帶寬型應(yīng)用中的表現(xiàn)抱過高的期望。
我們?nèi)匀焕狭薈heetah 15K.5和MAX3147RC作為參照,但是……不用分別乘以5和16了——因為,MAX3147RC的持續(xù)傳輸率為89MB/s,已經(jīng)接近千兆以太網(wǎng)的帶寬,Cheetah 15K.5更是高達(dá)125MB/s。干掉千兆iSCSI,單SAS硬盤驅(qū)動器,足夠了。
MD3000i和PS5000XV的順序讀表現(xiàn)相差不多,很艱難地超過了MAX3147RC,至于Cheetah 15K.5……還是別想了
順序讀:PS5000XV和MD3000i各自的三種RAID級別,持續(xù)傳輸率曲線都很好地重合了。在大部分情況下,PS5000XV要稍好一些——
·數(shù)據(jù)塊尺寸8KB時,PS5000XV超過30MB/s,而MD3000i不到20MB/s;
·數(shù)據(jù)塊尺寸16KB時,PS5000XV超過40MB/s,而MD3000i不到30MB/s;
·數(shù)據(jù)塊尺寸32KB時,PS5000XV約為55MB/s,而MD3000i剛剛40MB/s……
數(shù)據(jù)塊尺寸達(dá)到64KB后,MD3000i逼近了PS5000XV,兩者在512KB時重合,傳輸率約90MB/s,剛好超過MAX3147RC;1MB時,接近了100MB/s,最終停留在105MB/s左右,距離Cheetah 15K.5還遠(yuǎn)得很。
MD3000i的順序?qū)懶阅艽鬄檫d色
順序?qū)?/strong>:PS5000XV在RAID 10時的順序?qū)懶阅埽脖萊AID 5和50要好,最高可以達(dá)到105MB/s左右的傳輸率,而后兩者為100MB/s。不過真正值得一說的是MD3000i的順序?qū)懶阅鼙容^令人失望,RAID 0都沒能達(dá)到60MB/s。
總結(jié):一臺至少有十幾個硬盤驅(qū)動器的磁盤陣列,卻只有一個帶寬僅相當(dāng)于單硬盤驅(qū)動器持續(xù)傳輸率的出口,無論如何不能算是很“和諧”。雖然,PS5000系列可以將3個千兆iSCSI端口捆綁,但也不過300MB/s多些,還是趕不上一個4Gb/s FC端口。視頻監(jiān)控領(lǐng)域應(yīng)用iSCSI較多,不過每個碼流并不高(如2Mb/s),主要是出于架構(gòu)和成本因素的考慮,不能算是典型的帶寬型應(yīng)用。
說來說去繞不開一句話——千兆iSCSI適合IOPS應(yīng)用,SAS硬盤驅(qū)動器不可缺少。至于帶寬型應(yīng)用,沒得說,等萬兆吧!