微軟WCCS的高性能計(jì)算平臺(tái)側(cè)記
當(dāng)前,HPC(高性能計(jì)算)平臺(tái)正在汽車、航空、生命科學(xué)、地球科學(xué)、金融服務(wù)、學(xué)術(shù)研究、數(shù)字娛樂(lè)等眾多領(lǐng)域得到應(yīng)用,同時(shí),新興行業(yè)也不斷催生超級(jí)計(jì)算需求。然而,作為大型研究機(jī)構(gòu)、大學(xué)、大型商業(yè)組織私有的昂貴的高性能計(jì)算平臺(tái)卻不能滿足一般企業(yè)的需求,也不能促進(jìn)整個(gè)產(chǎn)業(yè)的發(fā)展。
作為浙江省軟件產(chǎn)業(yè)科技創(chuàng)新服務(wù)平臺(tái)重要建設(shè)項(xiàng)目之一的高性能集群計(jì)算平臺(tái),是國(guó)內(nèi)第一個(gè)基于微軟WCCS(Windows Compute Cluster Server)的HPC高性能計(jì)算平臺(tái),在建設(shè)過(guò)程中得到了浙江省政府的大力支持。該平臺(tái)的建立能夠助力浙江省及周邊地區(qū)的軟件經(jīng)濟(jì)發(fā)展,滿足軟件性能評(píng)測(cè)、生物醫(yī)藥分析計(jì)算、先進(jìn)制造業(yè)虛擬設(shè)計(jì)、創(chuàng)意產(chǎn)業(yè)影像渲染制作等多行業(yè)多領(lǐng)域?qū)Ω咝阅苡?jì)算的需求。此外,該平臺(tái)還將成為面向浙江省乃至全國(guó)的一個(gè)公共服務(wù)平臺(tái),使得在科技力量快速進(jìn)步的年代里,人人可以擁有高性能計(jì)算的夢(mèng)想得以實(shí)現(xiàn)。
現(xiàn)實(shí)需求與挑戰(zhàn)
杭州國(guó)家軟件產(chǎn)業(yè)基地是中國(guó)重要的國(guó)家級(jí)軟件產(chǎn)業(yè)基地,其與Intel公司的合作項(xiàng)目“浙江省軟件產(chǎn)業(yè)科技創(chuàng)新服務(wù)平臺(tái)”的建設(shè)被列為浙江省科技廳“十一五”公共科技條件平臺(tái)建設(shè)項(xiàng)目之一,也是13個(gè)省級(jí)行業(yè)創(chuàng)新平臺(tái)之一。其中,高性能集群計(jì)算平臺(tái)的建設(shè)是浙江省軟件產(chǎn)業(yè)科技創(chuàng)新服務(wù)平臺(tái)建設(shè)中的重要內(nèi)容,是中國(guó)企業(yè)強(qiáng)化自主創(chuàng)新能力的又一舉措。杭州國(guó)家軟件產(chǎn)業(yè)基地試圖將其打造成為具有國(guó)際先進(jìn)水準(zhǔn)、亞太地區(qū)第一流的高性能計(jì)算和和圖形圖像渲染平臺(tái),以推動(dòng)本地的軟件和動(dòng)漫產(chǎn)業(yè)相融合,為實(shí)現(xiàn)浙江軟件產(chǎn)業(yè)和動(dòng)漫產(chǎn)業(yè)的外包能力邁入國(guó)際先進(jìn)行列提供堅(jiān)實(shí)的技術(shù)保障和物理環(huán)境,推進(jìn)浙江省作為制造大省向先進(jìn)制造的轉(zhuǎn)變。
杭州國(guó)軟和Intel合作建立HPC平臺(tái)始于2006年6月,整個(gè)方案于2006年11月通過(guò)浙江省信息化辦公室專家顧問(wèn)組的評(píng)審并付諸實(shí)施。當(dāng)時(shí),該方案中沒(méi)有微軟的Windows HPC - WCCS及其解決方案,而是預(yù)裝了Linux為操作系統(tǒng)的運(yùn)營(yíng)平臺(tái)。
眾所周知,UNIX/Linux 是技術(shù)計(jì)算和 HPC 的實(shí)際標(biāo)準(zhǔn)。據(jù) IDC 估計(jì),在HPC 的市場(chǎng)份額中Windows 所占市場(chǎng)份額不足 5%。然而,根據(jù)杭州國(guó)軟的測(cè)試,Linux的平臺(tái)卻存在著如下問(wèn)題:
● 部署和操作集群的過(guò)程十分復(fù)雜,需要最終用戶密切配合,管理多種硬件和軟件。一旦部署完成,集群的管理和支持也會(huì)非常困難。
● 目前基于 Linux 的 HPC 集群很難集成到現(xiàn)有的 IT 基礎(chǔ)結(jié)構(gòu)中,通常需要手動(dòng)執(zhí)行復(fù)雜的配置任務(wù),如身份驗(yàn)證、安全和系統(tǒng)的安裝與管理。
● 若要開發(fā)用于 Linux 集群的應(yīng)用程序,通常需要全新的技能,同時(shí)還要使用一些非標(biāo)準(zhǔn)的公共領(lǐng)域的工具。大部分企業(yè)都想要一種集成的、受支持的開發(fā)環(huán)境。
綜上所述,這些問(wèn)題會(huì)抬高國(guó)軟HPC平臺(tái)的成本,限制其長(zhǎng)期的發(fā)展,也使得公共服務(wù)平臺(tái)的設(shè)想難以實(shí)現(xiàn)。
與微軟攜手打造HPC平臺(tái)
為將杭州國(guó)家軟件產(chǎn)業(yè)基地HPC平臺(tái)打造成為具有國(guó)際先進(jìn)水準(zhǔn)、亞太地區(qū)第一流的高性能計(jì)算平臺(tái),微軟與國(guó)軟展開了多方面的合作,并進(jìn)行了為期兩周的現(xiàn)場(chǎng)培訓(xùn),微軟提供了強(qiáng)大的戰(zhàn)略和技術(shù)支持。
2007年7月,國(guó)軟最終選擇微軟作為合作伙伴,建立了中國(guó)第一個(gè)也是目前最大的一個(gè)基于微軟WCCS的HPC 高性能計(jì)算平臺(tái)。目前,該平臺(tái)已擁有100多個(gè)節(jié)點(diǎn),建成后預(yù)計(jì)達(dá)到250個(gè),位列2007中國(guó)高性能計(jì)算機(jī)性能TOP100排行榜之中。整個(gè)網(wǎng)絡(luò)系統(tǒng)和運(yùn)算單元的管理和調(diào)度將通過(guò)微軟的WCCS來(lái)進(jìn)行,包括AD/ADS/MOM在內(nèi)的全套微軟管理方案,將成為亞太地區(qū)第一流的多功能公共服務(wù)平臺(tái)。
對(duì)于需要解決復(fù)雜計(jì)算問(wèn)題的客戶,Windows Compute Cluster Server 2003(WCCS 2003) 提供了一個(gè)易于部署、操作,且集成了現(xiàn)有基礎(chǔ)結(jié)構(gòu)和工具的高性能計(jì)算 (HPC) 平臺(tái),大大縮短了把握問(wèn)題關(guān)鍵的時(shí)間。標(biāo)準(zhǔn)的安裝過(guò)程通過(guò)遠(yuǎn)程安裝服務(wù)、節(jié)點(diǎn)配置和安全設(shè)置進(jìn)行,大大簡(jiǎn)化了網(wǎng)絡(luò)配置和遠(yuǎn)程加載節(jié)點(diǎn)的工作任務(wù)。集成的作業(yè)調(diào)度器可以通過(guò)命令行接口進(jìn)行訪問(wèn),也可以通過(guò)幾個(gè)為集群工作負(fù)載的提交和管理而提供的 API 進(jìn)行訪問(wèn)。作業(yè)控制臺(tái)使企業(yè)能夠用與目前排列和管理打印作業(yè)相同的模式來(lái)管理作業(yè)。Active Directory 集成提供了端到端的用戶和安全管理,同時(shí)微軟管理控制臺(tái)還支持可擴(kuò)展的管理單元和 Microsoft Operations Manager (MOM,微軟操作管理器)集成。 #p#page_title#e#
運(yùn)算能力大幅度提高
杭州國(guó)家軟件產(chǎn)業(yè)基地HPC平臺(tái)的建立,為社會(huì)不斷地提供了一系列開放性的計(jì)算服務(wù),能夠服務(wù)各行各業(yè)的應(yīng)用。從目前與納米科技園和中國(guó)美術(shù)學(xué)院的合作來(lái)看,運(yùn)算能力的提高基本上都是在一個(gè)數(shù)量級(jí)以上,如果沒(méi)有HPC平臺(tái),諸如蛋白質(zhì)組學(xué)的數(shù)據(jù)分析這樣的生物計(jì)算工作在過(guò)去只能夠不得不放棄或另尋服務(wù)商。
以中國(guó)美術(shù)學(xué)院為例,中國(guó)美術(shù)學(xué)院所在地杭州市已經(jīng)明確提出了杭州要打造“全國(guó)文化創(chuàng)意產(chǎn)業(yè)中心”的目標(biāo)要求,2010年的世博會(huì)也即將來(lái)臨,這對(duì)人才培養(yǎng)和產(chǎn)業(yè)環(huán)境的營(yíng)造都提出了前所未有的挑戰(zhàn)。作為新媒體藝術(shù)和影視動(dòng)畫學(xué)院主干課程的三維動(dòng)畫和影視后期的教學(xué),在過(guò)去受到教學(xué)設(shè)施的嚴(yán)重限制而制約了創(chuàng)意新生代的創(chuàng)造力,如今這種計(jì)算能力和存儲(chǔ)性能的躍升是對(duì)人的創(chuàng)造力和生產(chǎn)力的一次巨大的釋放。
另外,對(duì)于高清和影視級(jí)的動(dòng)畫制作業(yè)務(wù),渲染服務(wù)是非常重要的,如果說(shuō)有一些渲染的公共資源像國(guó)軟的高性能計(jì)算平臺(tái)能夠提供,對(duì)于中小型的影視公司不論是渲染效果還是經(jīng)濟(jì)效益來(lái)說(shuō)都具有重要的意義。
無(wú)獨(dú)有偶,浙江加州國(guó)際納米技術(shù)研究院目前承擔(dān)著兩項(xiàng)國(guó)家863科研任務(wù),分別是《基于SBS測(cè)序技術(shù)的我國(guó)高發(fā)現(xiàn)場(chǎng)胃腸癌重要基因全序列掃描》和《激素依賴性惡性腫瘤血清蛋白質(zhì)組學(xué)研究》。杭州國(guó)軟高性能計(jì)算平臺(tái)的開放,已經(jīng)能將該院的測(cè)序工作速度提高一個(gè)數(shù)量級(jí),而過(guò)去無(wú)法完成的蛋白質(zhì)組學(xué)的數(shù)據(jù)分析因此得以進(jìn)行。此外,借助于集群計(jì)算,該院還將著手開發(fā)完全擁有自主知識(shí)產(chǎn)權(quán)的蛋白質(zhì)組學(xué)分析軟件、構(gòu)建國(guó)際領(lǐng)先的蛋白質(zhì)組學(xué)分析計(jì)算中心,引入國(guó)際領(lǐng)先的虛擬藥物篩選平臺(tái),為整個(gè)浙江省、全國(guó)、甚至全球科研院校、藥物研發(fā)企業(yè)提供極其優(yōu)秀的蛋白質(zhì)組學(xué)分析、藥物虛擬篩選服務(wù),這些都大大降低了研發(fā)成本和開發(fā)時(shí)間,極大地提升整個(gè)浙江省的生命科學(xué)研究和藥物研發(fā)研究水平。
總之,國(guó)軟HPC平臺(tái)為浙江省及周邊地區(qū)的軟件性能評(píng)測(cè)、生物醫(yī)藥分析計(jì)算、先進(jìn)制造業(yè)虛擬設(shè)計(jì)、創(chuàng)意產(chǎn)業(yè)影像渲染制作等方面提供了高性能計(jì)算的服務(wù),幫助他們更快地進(jìn)行計(jì)算和設(shè)計(jì),完成過(guò)去不敢想象的工作,也為產(chǎn)業(yè)發(fā)展提供了無(wú)限可能性。