以太網(wǎng)發(fā)展:萬(wàn)兆已為高性能集群做好準(zhǔn)備
時(shí)間:2009-02-22 22:34:00
來(lái)源:UltraLAB圖形工作站方案網(wǎng)站
人氣:6914
作者:admin
增長(zhǎng)重要性的Metcalfe定律:網(wǎng)絡(luò)的價(jià)值將隨著用戶的增長(zhǎng)呈指數(shù)增長(zhǎng)。事實(shí)證明,他不僅在技術(shù)上是正確的,他的定律也在應(yīng)用中得到了驗(yàn)證。
如今,以太網(wǎng)的速度正在不斷提高,從開(kāi)始的10兆(10M)、百兆(100M),發(fā)展到千兆(1G)、直到今天的萬(wàn)兆(10G),而以太網(wǎng)設(shè)備的價(jià)格則隨著大規(guī)模的采用和生產(chǎn)而逐漸下調(diào)。在越來(lái)越多的服務(wù)器改用千兆以太網(wǎng)作為上聯(lián)技術(shù)后,數(shù)據(jù)中心或集群的骨干帶寬相應(yīng)增加,以千兆或千兆捆綁作為平臺(tái)已經(jīng)不夠使用,升級(jí)到萬(wàn)兆以太網(wǎng)在服務(wù)質(zhì)量及成本上都將占有相對(duì)的優(yōu)勢(shì)。
盡管HPC TOP500集群中,采用千兆以太網(wǎng)的是采用InfiniBand集群的兩倍。但事實(shí)上在絕大多數(shù)商業(yè)環(huán)境中,千兆以太網(wǎng)高性能計(jì)算集群的規(guī)模遠(yuǎn)不夠大。
目前,隨著萬(wàn)兆以太網(wǎng)逐漸走入人們的視線,如果可以做到高成本效益和高可靠性的話,高性能集群升級(jí)到萬(wàn)兆以太網(wǎng)為時(shí)不會(huì)太遠(yuǎn)。雖然到現(xiàn)在為止,一些決策者還是對(duì)以太網(wǎng)持猶豫和懷疑的態(tài)度,但隨著千兆以太網(wǎng)在高性能計(jì)算市場(chǎng)地位的確立,阻礙萬(wàn)兆以太網(wǎng)普及的壁壘已經(jīng)越來(lái)越少。技術(shù)的進(jìn)步、價(jià)格的減低,并且更多廠商進(jìn)入這一市場(chǎng),使得選擇萬(wàn)兆以太網(wǎng)做HPC集群已相當(dāng)具吸引力。
了解萬(wàn)兆以太網(wǎng):信守“Metcalfe定律”
要認(rèn)識(shí)萬(wàn)兆以太網(wǎng)先得提一提它的歷史。雖然以太網(wǎng)問(wèn)世至今已經(jīng)有三十年了,但它并未像這三十年中消逝的其他技術(shù)一樣淡出人們的視線,而是到現(xiàn)在仍然可行。因?yàn)樗S著技術(shù)的變革也一直在向前發(fā)展,以滿足不斷變化的行業(yè)需求。以太網(wǎng)大規(guī)模普及始于1983年,這一年IEEE建立了10 Mbps以太網(wǎng)標(biāo)準(zhǔn)。之后,該標(biāo)準(zhǔn)發(fā)展到快速以太網(wǎng)(100 Mbps ),千兆以太網(wǎng)( 1000 Mbps )以及今天的萬(wàn)兆以太網(wǎng),40GE和100GE標(biāo)準(zhǔn)即將推出。事實(shí)上,目前關(guān)于Tb級(jí)以太網(wǎng)(即百萬(wàn)Mbps)的討論已經(jīng)開(kāi)始了,這在幾年前是很難想象的。
盡管以太網(wǎng)取得了如此巨大的進(jìn)步,但基本的以太網(wǎng)幀格式和運(yùn)行原理本質(zhì)上仍維持不變。因此,混合速度( 10/100/1000 Mbps )網(wǎng)絡(luò)可以一致運(yùn)行,而不需要昂貴且復(fù)雜的不太容易,有些同軸管線甚至連彎曲一下都需要使用特殊的工具才行。不過(guò),隨著以太網(wǎng)的發(fā)展,它吸收了電纜和光學(xué)領(lǐng)域的先進(jìn)技術(shù),從共享介質(zhì)到交換介質(zhì);借虛擬局域網(wǎng)引進(jìn)了虛擬化的概念;并結(jié)合了Jumbo Frames等諸多先進(jìn)技術(shù)。今天的以太網(wǎng)仍在不斷發(fā)展,并且已經(jīng)發(fā)生了巨大變化,例如可以支持塊級(jí)存儲(chǔ)(光纖通道以太網(wǎng))。
2002年通過(guò)的IEEE 802.3ae 標(biāo)準(zhǔn),使得今天的萬(wàn)兆以太網(wǎng)能夠支持每秒10Gb的傳輸,傳輸距離達(dá)到了80公里。萬(wàn)兆以太網(wǎng)幾乎在所有方面都可以完全兼容以太網(wǎng)以前版本,它采用了相同的幀格式、幀大小、介質(zhì)訪問(wèn)控制( MAC )協(xié)議,以及網(wǎng)絡(luò)管理人員熟悉的管理工具和操作程序。
高性能計(jì)算采用以太網(wǎng)的優(yōu)勢(shì)
當(dāng)我們了解了以太網(wǎng)的優(yōu)勢(shì)之后,再看到超過(guò)半數(shù)的TOP 500強(qiáng)超級(jí)計(jì)算機(jī)和幾乎所有的小型集群都選擇以太網(wǎng)也就不足為奇了。目前千兆以太網(wǎng)在高性能集群中應(yīng)用已經(jīng)越來(lái)越廣泛,相信的不久的將來(lái),萬(wàn)兆也終會(huì)在高性能領(lǐng)域異軍突起。要了解萬(wàn)兆的優(yōu)勢(shì),先得知道以太網(wǎng)的優(yōu)勢(shì),筆者認(rèn)為有以下幾點(diǎn):
首先,高適應(yīng)性:作為一種廣泛使用的技術(shù),以太網(wǎng)對(duì)于全世界的IT主管、網(wǎng)絡(luò)管理員、服務(wù)器廠商以及管理服務(wù)供應(yīng)商來(lái)說(shuō)并不陌生。他們可以比較容易地具備管理和維護(hù)以太網(wǎng)的工具及知識(shí),廣泛的供應(yīng)商支持也是一個(gè)優(yōu)先條件,幾乎所有廠商都支持以太網(wǎng)。
其次,技術(shù)特色:高可用性、容錯(cuò)、管理、安全、備份網(wǎng)絡(luò),以及其他最佳實(shí)踐已經(jīng)在以太網(wǎng)上廣泛建立,并且它們的執(zhí)行也得到了普遍認(rèn)可。
第三,單一基礎(chǔ)架構(gòu):以太網(wǎng)提供給高性能計(jì)算管理員的好處是:支持四項(xiàng)重要連接的單一基礎(chǔ)架構(gòu)::用戶訪問(wèn)、服務(wù)器管理、存儲(chǔ)連接性,以及集群互連。一個(gè)單一基礎(chǔ)架構(gòu)更容易管理,而且其采購(gòu)成本、電費(fèi)及維護(hù)費(fèi)都低于采用單獨(dú)存儲(chǔ)或處理器互聯(lián)技術(shù)。 #p#page_title#e#
第四,較低的電源要求:電源是數(shù)據(jù)中心管理人員今天面臨的一項(xiàng)最大的開(kāi)支。能源需求的增加及其成本的上升正在迫使管理人員把重點(diǎn)放在綠色節(jié)能上。以太網(wǎng)是一種高效發(fā)揮電源和冷卻資源的選擇,尤其在使用降耗設(shè)計(jì)產(chǎn)品時(shí)更是如此。
第五,更低的成本:目前,已經(jīng)有內(nèi)置10G端口主板服務(wù)器的上市,而10G交換端口的售價(jià)也不到500美元,萬(wàn)兆提供了比InfiniBand技術(shù)更具競(jìng)爭(zhēng)優(yōu)勢(shì)的性價(jià)比。
第六,應(yīng)用基礎(chǔ):萬(wàn)兆以太網(wǎng)將充分利用廣泛的千兆以太網(wǎng)基礎(chǔ)。新的40GE和100GE產(chǎn)品預(yù)計(jì)不久也會(huì)上市,并會(huì)得到諸多芯片和設(shè)備供應(yīng)商的支持。
萬(wàn)兆以太網(wǎng)延遲比Infiniband低
萬(wàn)兆的實(shí)惠
了解了以太網(wǎng)的優(yōu)勢(shì)之后,我們?cè)賮?lái)進(jìn)一步看看萬(wàn)兆以太網(wǎng)會(huì)給高性能集群提供哪些實(shí)惠:
第一,更有效的電源利用率:萬(wàn)兆以太網(wǎng)每Gb的功耗比千兆以太網(wǎng)的要低,這使得用戶可獲得10倍的帶寬,而能耗需求卻遠(yuǎn)低于原來(lái)。
第二,實(shí)際性能:萬(wàn)兆以太網(wǎng)傳輸數(shù)據(jù)速度比千兆以太網(wǎng)快十倍。新一代萬(wàn)兆以太網(wǎng)網(wǎng)卡可以減少服務(wù)器之間延遲約八倍。由帶寬增加和延遲縮小獲得的更高的應(yīng)用性能比想象的還要好,而且?guī)缀跖cInfiniBand速度不相上下。更多的測(cè)試也得出了類似的結(jié)果,在常見(jiàn)的FLUENT及RADIOSS等高性能計(jì)算應(yīng)用中就是這樣。
萬(wàn)兆以太網(wǎng)的速度比Infiniband快
當(dāng)然,萬(wàn)兆的廠商們總喜歡夸大其詞,但是,萬(wàn)兆商業(yè)應(yīng)用中真正的優(yōu)勢(shì)是提高用戶的工作效率,這是用時(shí)間來(lái)衡量的。如果計(jì)算速度快了70%,用戶的生產(chǎn)力將提高70%。
如何克服目前的障礙
萬(wàn)兆以太網(wǎng)的上述優(yōu)點(diǎn),讓許多集群對(duì)升級(jí)到萬(wàn)兆以太網(wǎng)的前景非常樂(lè)觀,而且專家已預(yù)測(cè),在未來(lái)很多年內(nèi),萬(wàn)兆以太網(wǎng)集群市場(chǎng)將會(huì)快速增長(zhǎng)。但這種情況現(xiàn)在還沒(méi)有發(fā)生。
直到最近,萬(wàn)兆以太網(wǎng)還是停留在起點(diǎn),主要因?yàn)閮r(jià)格、穩(wěn)定性和標(biāo)準(zhǔn)。不過(guò)業(yè)界正在逐步克服這些問(wèn)題,據(jù)路透社市場(chǎng)數(shù)據(jù)系統(tǒng)( RMDS )基準(zhǔn)研究資料顯示,萬(wàn)兆以太網(wǎng)市場(chǎng)正在發(fā)生明顯變化,主要有以下幾點(diǎn):
網(wǎng)絡(luò)接口卡( NIC ) :有些早期采用萬(wàn)兆以太網(wǎng)的用戶受到NIC問(wèn)題的困擾,首先是它的價(jià)格。目前萬(wàn)兆網(wǎng)卡價(jià)格約為800美元,許多用戶基本為每臺(tái)服務(wù)器安裝兩個(gè)萬(wàn)兆網(wǎng)卡。現(xiàn)在,服務(wù)器廠商也開(kāi)始加入進(jìn)來(lái),他們?cè)谥靼迳咸砑右蕴W(wǎng)芯片,即LOM(LAN-on-Motherboard)技術(shù),而不是使用一個(gè)單獨(dú)的板子。這使得成本降到不到100美元,根除了萬(wàn)兆網(wǎng)卡價(jià)格過(guò)高的障礙,獨(dú)立萬(wàn)兆網(wǎng)卡的價(jià)格目前已經(jīng)跌至500美元,并將繼續(xù)下降。
另一個(gè)跟網(wǎng)卡相關(guān)的障礙是:產(chǎn)品可靠性問(wèn)題。因?yàn)槟承┚W(wǎng)卡的原因,用戶對(duì)萬(wàn)兆網(wǎng)有著不好的第一印象。不成熟的軟件與驅(qū)動(dòng)程序,導(dǎo)致性能不佳?,F(xiàn)在,一些有實(shí)力的廠商,如Chelsio 、英特爾和Broadcom公司正在提供穩(wěn)定可靠的產(chǎn)品。
交換機(jī)價(jià)格:跟網(wǎng)卡一樣,早期萬(wàn)兆以太網(wǎng)交換機(jī)的價(jià)格也抑制了萬(wàn)兆以太網(wǎng)的使用。最初萬(wàn)兆以太網(wǎng)交換機(jī)每端口價(jià)格高達(dá)20000美元,甚至超過(guò)了服務(wù)器的價(jià)格?,F(xiàn)在萬(wàn)兆以太網(wǎng)交換機(jī)公開(kāi)價(jià)為每端口不到500美元,而市場(chǎng)價(jià)格甚至?xí)?。這個(gè)價(jià)格對(duì)嵌入式刀片交換機(jī)以及機(jī)架產(chǎn)品均適用。
另一個(gè)萬(wàn)兆網(wǎng)最初不被大型集群接受的原因是:如何將所有交換機(jī)整合在一起共同創(chuàng)建集群。大多數(shù)集群比較小,所以對(duì)它們來(lái)說(shuō)這不算問(wèn)題。而現(xiàn)在對(duì)于大型集群來(lái)說(shuō),CLOS技術(shù)為以太網(wǎng)交換機(jī)分級(jí)提供了解決方案,并開(kāi)始在市場(chǎng)上站穩(wěn)腳跟。
物理層混亂:迅速發(fā)展的不同光纖收發(fā)器標(biāo)準(zhǔn)阻止了客戶的腳步。標(biāo)準(zhǔn)界定迅速?gòu)腦ENPAK 改到X2 到 XFP 再到 SFP+,每次改變都帶來(lái)更小的尺寸和更低的成本。但由于每種類型的收發(fā)器都具有不同的大小和形狀,一個(gè)交換機(jī)或網(wǎng)卡只符合其中一個(gè)選項(xiàng)。使用多種類型的設(shè)備將增加數(shù)據(jù)中心的復(fù)雜性和采購(gòu)成本,如需要保存更多的零部件。Blue-ray和 HD-DVD,VHS 和Betamax,MS-DOS 和CP/M,用戶可不愿意賭哪個(gè)會(huì)幸存下來(lái),他們會(huì)選擇等待,看看市場(chǎng)會(huì)走向哪種技術(shù)。 #p#page_title#e#
最后,這一系列標(biāo)準(zhǔn)的發(fā)展終于停在了SFP+ ,它由ANSI T11組規(guī)范,為8.5 Gbps和10 Gbps光纖通道以及萬(wàn)兆以太網(wǎng)建立了標(biāo)準(zhǔn)。SFP+ 模塊的體積非常小,在單位機(jī)架高度的交換機(jī)里可以容納48個(gè),就像用在上一代以太網(wǎng)中的RHJ-45連接器一樣。同時(shí),它還占用更少的電,從而減少每端口的功耗和成本。SFP+對(duì)萬(wàn)兆網(wǎng)行業(yè)非常有益,它允許交換機(jī)廠商以更小的體積捆綁更多端口,并通過(guò)在主機(jī)卡級(jí)更好的整合IC功能以降低系統(tǒng)成本。因此,格式之爭(zhēng)少了,整個(gè)行業(yè)迅速融合到SFP+ 。
布線:許多用戶一直在等待10GBASE-T,因?yàn)樗褂靡粋€(gè)共同的RJ45連接器,可以提供給市場(chǎng)他們所期待的:簡(jiǎn)單便宜的萬(wàn)兆以太網(wǎng)。但是,這在物理上的卻與萬(wàn)兆以太網(wǎng)不同。使用目前的技術(shù),這種芯片價(jià)格昂貴、更耗電,并需要新的布線( Cat6A或CAT 7 )。10GBase-T產(chǎn)品中,每個(gè)電纜增加2.6微秒的延遲,這可不是你在一個(gè)集群互連里希望看到的。而在我們等待10GBase-T的同時(shí),更便宜更省電的技術(shù)正在發(fā)展。10GBase - CX4提供了更高的可靠性和低延遲,是一個(gè)成熟的解決方案,已成為萬(wàn)兆以太網(wǎng)的主體技術(shù)。
SFP+銅(雙絞線)直連電纜使得這場(chǎng)等待更輕松些,它更細(xì),具SFP+終端。支持距離達(dá)10米,它們實(shí)際上是距離較近的機(jī)架或服務(wù)器和交換機(jī)之間理想的內(nèi)部配線。最初價(jià)格在40美元至50美元之間,未來(lái)其價(jià)格會(huì)更便宜,這使得雙絞線成為光纜的一個(gè)簡(jiǎn)單而廉價(jià)的替代品。伴隨著這些進(jìn)展,市場(chǎng)的混亂情況得到改善。結(jié)合用于短距離的SFP+ 直連電纜和用于遠(yuǎn)距離的光收發(fā)器,以及最低延時(shí)的10GBASE-CX4,今天的電路集群有很大的選擇空間。
在某種意義上,Metcalfe的定律與Moore定律類似。以太網(wǎng)的速度不斷提高,從開(kāi)始的10兆(10M)、百兆(100M),發(fā)展到千兆(1G)、萬(wàn)兆(10G),而以太網(wǎng)設(shè)備的價(jià)格則隨著大規(guī)模的采用和生產(chǎn)而逐漸下調(diào)。以太網(wǎng)不僅成為局域網(wǎng)網(wǎng)絡(luò)技術(shù)的主流,隨著千兆和萬(wàn)兆技術(shù)的成熟,它正逐步延伸至 來(lái)源:千家綜合布線網(wǎng)
如今,以太網(wǎng)的速度正在不斷提高,從開(kāi)始的10兆(10M)、百兆(100M),發(fā)展到千兆(1G)、直到今天的萬(wàn)兆(10G),而以太網(wǎng)設(shè)備的價(jià)格則隨著大規(guī)模的采用和生產(chǎn)而逐漸下調(diào)。在越來(lái)越多的服務(wù)器改用千兆以太網(wǎng)作為上聯(lián)技術(shù)后,數(shù)據(jù)中心或集群的骨干帶寬相應(yīng)增加,以千兆或千兆捆綁作為平臺(tái)已經(jīng)不夠使用,升級(jí)到萬(wàn)兆以太網(wǎng)在服務(wù)質(zhì)量及成本上都將占有相對(duì)的優(yōu)勢(shì)。
盡管HPC TOP500集群中,采用千兆以太網(wǎng)的是采用InfiniBand集群的兩倍。但事實(shí)上在絕大多數(shù)商業(yè)環(huán)境中,千兆以太網(wǎng)高性能計(jì)算集群的規(guī)模遠(yuǎn)不夠大。
目前,隨著萬(wàn)兆以太網(wǎng)逐漸走入人們的視線,如果可以做到高成本效益和高可靠性的話,高性能集群升級(jí)到萬(wàn)兆以太網(wǎng)為時(shí)不會(huì)太遠(yuǎn)。雖然到現(xiàn)在為止,一些決策者還是對(duì)以太網(wǎng)持猶豫和懷疑的態(tài)度,但隨著千兆以太網(wǎng)在高性能計(jì)算市場(chǎng)地位的確立,阻礙萬(wàn)兆以太網(wǎng)普及的壁壘已經(jīng)越來(lái)越少。技術(shù)的進(jìn)步、價(jià)格的減低,并且更多廠商進(jìn)入這一市場(chǎng),使得選擇萬(wàn)兆以太網(wǎng)做HPC集群已相當(dāng)具吸引力。
了解萬(wàn)兆以太網(wǎng):信守“Metcalfe定律”
要認(rèn)識(shí)萬(wàn)兆以太網(wǎng)先得提一提它的歷史。雖然以太網(wǎng)問(wèn)世至今已經(jīng)有三十年了,但它并未像這三十年中消逝的其他技術(shù)一樣淡出人們的視線,而是到現(xiàn)在仍然可行。因?yàn)樗S著技術(shù)的變革也一直在向前發(fā)展,以滿足不斷變化的行業(yè)需求。以太網(wǎng)大規(guī)模普及始于1983年,這一年IEEE建立了10 Mbps以太網(wǎng)標(biāo)準(zhǔn)。之后,該標(biāo)準(zhǔn)發(fā)展到快速以太網(wǎng)(100 Mbps ),千兆以太網(wǎng)( 1000 Mbps )以及今天的萬(wàn)兆以太網(wǎng),40GE和100GE標(biāo)準(zhǔn)即將推出。事實(shí)上,目前關(guān)于Tb級(jí)以太網(wǎng)(即百萬(wàn)Mbps)的討論已經(jīng)開(kāi)始了,這在幾年前是很難想象的。
盡管以太網(wǎng)取得了如此巨大的進(jìn)步,但基本的以太網(wǎng)幀格式和運(yùn)行原理本質(zhì)上仍維持不變。因此,混合速度( 10/100/1000 Mbps )網(wǎng)絡(luò)可以一致運(yùn)行,而不需要昂貴且復(fù)雜的不太容易,有些同軸管線甚至連彎曲一下都需要使用特殊的工具才行。不過(guò),隨著以太網(wǎng)的發(fā)展,它吸收了電纜和光學(xué)領(lǐng)域的先進(jìn)技術(shù),從共享介質(zhì)到交換介質(zhì);借虛擬局域網(wǎng)引進(jìn)了虛擬化的概念;并結(jié)合了Jumbo Frames等諸多先進(jìn)技術(shù)。今天的以太網(wǎng)仍在不斷發(fā)展,并且已經(jīng)發(fā)生了巨大變化,例如可以支持塊級(jí)存儲(chǔ)(光纖通道以太網(wǎng))。
2002年通過(guò)的IEEE 802.3ae 標(biāo)準(zhǔn),使得今天的萬(wàn)兆以太網(wǎng)能夠支持每秒10Gb的傳輸,傳輸距離達(dá)到了80公里。萬(wàn)兆以太網(wǎng)幾乎在所有方面都可以完全兼容以太網(wǎng)以前版本,它采用了相同的幀格式、幀大小、介質(zhì)訪問(wèn)控制( MAC )協(xié)議,以及網(wǎng)絡(luò)管理人員熟悉的管理工具和操作程序。
高性能計(jì)算采用以太網(wǎng)的優(yōu)勢(shì)
當(dāng)我們了解了以太網(wǎng)的優(yōu)勢(shì)之后,再看到超過(guò)半數(shù)的TOP 500強(qiáng)超級(jí)計(jì)算機(jī)和幾乎所有的小型集群都選擇以太網(wǎng)也就不足為奇了。目前千兆以太網(wǎng)在高性能集群中應(yīng)用已經(jīng)越來(lái)越廣泛,相信的不久的將來(lái),萬(wàn)兆也終會(huì)在高性能領(lǐng)域異軍突起。要了解萬(wàn)兆的優(yōu)勢(shì),先得知道以太網(wǎng)的優(yōu)勢(shì),筆者認(rèn)為有以下幾點(diǎn):
首先,高適應(yīng)性:作為一種廣泛使用的技術(shù),以太網(wǎng)對(duì)于全世界的IT主管、網(wǎng)絡(luò)管理員、服務(wù)器廠商以及管理服務(wù)供應(yīng)商來(lái)說(shuō)并不陌生。他們可以比較容易地具備管理和維護(hù)以太網(wǎng)的工具及知識(shí),廣泛的供應(yīng)商支持也是一個(gè)優(yōu)先條件,幾乎所有廠商都支持以太網(wǎng)。
其次,技術(shù)特色:高可用性、容錯(cuò)、管理、安全、備份網(wǎng)絡(luò),以及其他最佳實(shí)踐已經(jīng)在以太網(wǎng)上廣泛建立,并且它們的執(zhí)行也得到了普遍認(rèn)可。
第三,單一基礎(chǔ)架構(gòu):以太網(wǎng)提供給高性能計(jì)算管理員的好處是:支持四項(xiàng)重要連接的單一基礎(chǔ)架構(gòu)::用戶訪問(wèn)、服務(wù)器管理、存儲(chǔ)連接性,以及集群互連。一個(gè)單一基礎(chǔ)架構(gòu)更容易管理,而且其采購(gòu)成本、電費(fèi)及維護(hù)費(fèi)都低于采用單獨(dú)存儲(chǔ)或處理器互聯(lián)技術(shù)。 #p#page_title#e#
第四,較低的電源要求:電源是數(shù)據(jù)中心管理人員今天面臨的一項(xiàng)最大的開(kāi)支。能源需求的增加及其成本的上升正在迫使管理人員把重點(diǎn)放在綠色節(jié)能上。以太網(wǎng)是一種高效發(fā)揮電源和冷卻資源的選擇,尤其在使用降耗設(shè)計(jì)產(chǎn)品時(shí)更是如此。
第五,更低的成本:目前,已經(jīng)有內(nèi)置10G端口主板服務(wù)器的上市,而10G交換端口的售價(jià)也不到500美元,萬(wàn)兆提供了比InfiniBand技術(shù)更具競(jìng)爭(zhēng)優(yōu)勢(shì)的性價(jià)比。
第六,應(yīng)用基礎(chǔ):萬(wàn)兆以太網(wǎng)將充分利用廣泛的千兆以太網(wǎng)基礎(chǔ)。新的40GE和100GE產(chǎn)品預(yù)計(jì)不久也會(huì)上市,并會(huì)得到諸多芯片和設(shè)備供應(yīng)商的支持。
萬(wàn)兆以太網(wǎng)延遲比Infiniband低
萬(wàn)兆的實(shí)惠
了解了以太網(wǎng)的優(yōu)勢(shì)之后,我們?cè)賮?lái)進(jìn)一步看看萬(wàn)兆以太網(wǎng)會(huì)給高性能集群提供哪些實(shí)惠:
第一,更有效的電源利用率:萬(wàn)兆以太網(wǎng)每Gb的功耗比千兆以太網(wǎng)的要低,這使得用戶可獲得10倍的帶寬,而能耗需求卻遠(yuǎn)低于原來(lái)。
第二,實(shí)際性能:萬(wàn)兆以太網(wǎng)傳輸數(shù)據(jù)速度比千兆以太網(wǎng)快十倍。新一代萬(wàn)兆以太網(wǎng)網(wǎng)卡可以減少服務(wù)器之間延遲約八倍。由帶寬增加和延遲縮小獲得的更高的應(yīng)用性能比想象的還要好,而且?guī)缀跖cInfiniBand速度不相上下。更多的測(cè)試也得出了類似的結(jié)果,在常見(jiàn)的FLUENT及RADIOSS等高性能計(jì)算應(yīng)用中就是這樣。
萬(wàn)兆以太網(wǎng)的速度比Infiniband快
當(dāng)然,萬(wàn)兆的廠商們總喜歡夸大其詞,但是,萬(wàn)兆商業(yè)應(yīng)用中真正的優(yōu)勢(shì)是提高用戶的工作效率,這是用時(shí)間來(lái)衡量的。如果計(jì)算速度快了70%,用戶的生產(chǎn)力將提高70%。
如何克服目前的障礙
萬(wàn)兆以太網(wǎng)的上述優(yōu)點(diǎn),讓許多集群對(duì)升級(jí)到萬(wàn)兆以太網(wǎng)的前景非常樂(lè)觀,而且專家已預(yù)測(cè),在未來(lái)很多年內(nèi),萬(wàn)兆以太網(wǎng)集群市場(chǎng)將會(huì)快速增長(zhǎng)。但這種情況現(xiàn)在還沒(méi)有發(fā)生。
直到最近,萬(wàn)兆以太網(wǎng)還是停留在起點(diǎn),主要因?yàn)閮r(jià)格、穩(wěn)定性和標(biāo)準(zhǔn)。不過(guò)業(yè)界正在逐步克服這些問(wèn)題,據(jù)路透社市場(chǎng)數(shù)據(jù)系統(tǒng)( RMDS )基準(zhǔn)研究資料顯示,萬(wàn)兆以太網(wǎng)市場(chǎng)正在發(fā)生明顯變化,主要有以下幾點(diǎn):
網(wǎng)絡(luò)接口卡( NIC ) :有些早期采用萬(wàn)兆以太網(wǎng)的用戶受到NIC問(wèn)題的困擾,首先是它的價(jià)格。目前萬(wàn)兆網(wǎng)卡價(jià)格約為800美元,許多用戶基本為每臺(tái)服務(wù)器安裝兩個(gè)萬(wàn)兆網(wǎng)卡。現(xiàn)在,服務(wù)器廠商也開(kāi)始加入進(jìn)來(lái),他們?cè)谥靼迳咸砑右蕴W(wǎng)芯片,即LOM(LAN-on-Motherboard)技術(shù),而不是使用一個(gè)單獨(dú)的板子。這使得成本降到不到100美元,根除了萬(wàn)兆網(wǎng)卡價(jià)格過(guò)高的障礙,獨(dú)立萬(wàn)兆網(wǎng)卡的價(jià)格目前已經(jīng)跌至500美元,并將繼續(xù)下降。
另一個(gè)跟網(wǎng)卡相關(guān)的障礙是:產(chǎn)品可靠性問(wèn)題。因?yàn)槟承┚W(wǎng)卡的原因,用戶對(duì)萬(wàn)兆網(wǎng)有著不好的第一印象。不成熟的軟件與驅(qū)動(dòng)程序,導(dǎo)致性能不佳?,F(xiàn)在,一些有實(shí)力的廠商,如Chelsio 、英特爾和Broadcom公司正在提供穩(wěn)定可靠的產(chǎn)品。
交換機(jī)價(jià)格:跟網(wǎng)卡一樣,早期萬(wàn)兆以太網(wǎng)交換機(jī)的價(jià)格也抑制了萬(wàn)兆以太網(wǎng)的使用。最初萬(wàn)兆以太網(wǎng)交換機(jī)每端口價(jià)格高達(dá)20000美元,甚至超過(guò)了服務(wù)器的價(jià)格?,F(xiàn)在萬(wàn)兆以太網(wǎng)交換機(jī)公開(kāi)價(jià)為每端口不到500美元,而市場(chǎng)價(jià)格甚至?xí)?。這個(gè)價(jià)格對(duì)嵌入式刀片交換機(jī)以及機(jī)架產(chǎn)品均適用。
另一個(gè)萬(wàn)兆網(wǎng)最初不被大型集群接受的原因是:如何將所有交換機(jī)整合在一起共同創(chuàng)建集群。大多數(shù)集群比較小,所以對(duì)它們來(lái)說(shuō)這不算問(wèn)題。而現(xiàn)在對(duì)于大型集群來(lái)說(shuō),CLOS技術(shù)為以太網(wǎng)交換機(jī)分級(jí)提供了解決方案,并開(kāi)始在市場(chǎng)上站穩(wěn)腳跟。
物理層混亂:迅速發(fā)展的不同光纖收發(fā)器標(biāo)準(zhǔn)阻止了客戶的腳步。標(biāo)準(zhǔn)界定迅速?gòu)腦ENPAK 改到X2 到 XFP 再到 SFP+,每次改變都帶來(lái)更小的尺寸和更低的成本。但由于每種類型的收發(fā)器都具有不同的大小和形狀,一個(gè)交換機(jī)或網(wǎng)卡只符合其中一個(gè)選項(xiàng)。使用多種類型的設(shè)備將增加數(shù)據(jù)中心的復(fù)雜性和采購(gòu)成本,如需要保存更多的零部件。Blue-ray和 HD-DVD,VHS 和Betamax,MS-DOS 和CP/M,用戶可不愿意賭哪個(gè)會(huì)幸存下來(lái),他們會(huì)選擇等待,看看市場(chǎng)會(huì)走向哪種技術(shù)。 #p#page_title#e#
最后,這一系列標(biāo)準(zhǔn)的發(fā)展終于停在了SFP+ ,它由ANSI T11組規(guī)范,為8.5 Gbps和10 Gbps光纖通道以及萬(wàn)兆以太網(wǎng)建立了標(biāo)準(zhǔn)。SFP+ 模塊的體積非常小,在單位機(jī)架高度的交換機(jī)里可以容納48個(gè),就像用在上一代以太網(wǎng)中的RHJ-45連接器一樣。同時(shí),它還占用更少的電,從而減少每端口的功耗和成本。SFP+對(duì)萬(wàn)兆網(wǎng)行業(yè)非常有益,它允許交換機(jī)廠商以更小的體積捆綁更多端口,并通過(guò)在主機(jī)卡級(jí)更好的整合IC功能以降低系統(tǒng)成本。因此,格式之爭(zhēng)少了,整個(gè)行業(yè)迅速融合到SFP+ 。
布線:許多用戶一直在等待10GBASE-T,因?yàn)樗褂靡粋€(gè)共同的RJ45連接器,可以提供給市場(chǎng)他們所期待的:簡(jiǎn)單便宜的萬(wàn)兆以太網(wǎng)。但是,這在物理上的卻與萬(wàn)兆以太網(wǎng)不同。使用目前的技術(shù),這種芯片價(jià)格昂貴、更耗電,并需要新的布線( Cat6A或CAT 7 )。10GBase-T產(chǎn)品中,每個(gè)電纜增加2.6微秒的延遲,這可不是你在一個(gè)集群互連里希望看到的。而在我們等待10GBase-T的同時(shí),更便宜更省電的技術(shù)正在發(fā)展。10GBase - CX4提供了更高的可靠性和低延遲,是一個(gè)成熟的解決方案,已成為萬(wàn)兆以太網(wǎng)的主體技術(shù)。
SFP+銅(雙絞線)直連電纜使得這場(chǎng)等待更輕松些,它更細(xì),具SFP+終端。支持距離達(dá)10米,它們實(shí)際上是距離較近的機(jī)架或服務(wù)器和交換機(jī)之間理想的內(nèi)部配線。最初價(jià)格在40美元至50美元之間,未來(lái)其價(jià)格會(huì)更便宜,這使得雙絞線成為光纜的一個(gè)簡(jiǎn)單而廉價(jià)的替代品。伴隨著這些進(jìn)展,市場(chǎng)的混亂情況得到改善。結(jié)合用于短距離的SFP+ 直連電纜和用于遠(yuǎn)距離的光收發(fā)器,以及最低延時(shí)的10GBASE-CX4,今天的電路集群有很大的選擇空間。
在某種意義上,Metcalfe的定律與Moore定律類似。以太網(wǎng)的速度不斷提高,從開(kāi)始的10兆(10M)、百兆(100M),發(fā)展到千兆(1G)、萬(wàn)兆(10G),而以太網(wǎng)設(shè)備的價(jià)格則隨著大規(guī)模的采用和生產(chǎn)而逐漸下調(diào)。以太網(wǎng)不僅成為局域網(wǎng)網(wǎng)絡(luò)技術(shù)的主流,隨著千兆和萬(wàn)兆技術(shù)的成熟,它正逐步延伸至 來(lái)源:千家綜合布線網(wǎng)