徠卡HxMap軟件并行處理環(huán)境 在大數(shù)據(jù)量、高效率處理要求下的應(yīng)用

HxMap是徠卡航空傳感器通用數(shù)據(jù)處理平臺，可提供徠卡測量多款航攝儀的數(shù)據(jù)后處理以及三維建筑單體建模功能。HxMap平臺可提供數(shù)據(jù)預(yù)處理、質(zhì)量檢查、影像調(diào)色、自動點(diǎn)匹配、空中三角測量、激光檢校、激光數(shù)據(jù)配準(zhǔn)以及數(shù)字產(chǎn)品輸出等功能，為攝影測量提供了完整的數(shù)據(jù)處理工作流程。相較于原有的FramePro以及PPS處理流程，HxMap平臺操作簡便，并改進(jìn)了單張影像的瀏覽方式，具有區(qū)域影像全局瀏覽等優(yōu)勢；同時(shí)在激光數(shù)據(jù)處理方面，相比原有的CloudPro簡化了激光檢校的流程，提供了可視化的點(diǎn)云精度檢查界面，整體操作流程簡單，易上手。目前，HxMap軟件平臺已支持徠卡DMCIII、徠卡RCD30傾斜、徠卡CityMapper、徠卡TerrainMapper以及徠卡SPL100等徠卡航測設(shè)備的數(shù)據(jù)處理，更多的設(shè)備后處理模塊將逐步整合到這個(gè)通用平臺中。

圖1. HxMap平臺概覽 

圖2. HxMap平臺調(diào)色

圖3. HxMap點(diǎn)云質(zhì)檢 

圖4. HxMap激光檢校

以徠卡DMCIII相機(jī)的影像為例，航空影像具有數(shù)據(jù)量大，壓縮比大等特征，用戶在飛行一個(gè)架次影像以后，數(shù)據(jù)量可達(dá)到1T-2T之間，在數(shù)據(jù)處理的過程中，用戶發(fā)現(xiàn)，單節(jié)點(diǎn)的計(jì)算機(jī)處理速度很難達(dá)到效率要求，對于1000多張徠卡DMCIII影像，使用高端28核處理器，僅預(yù)處理一項(xiàng)工作就長達(dá)40-50小時(shí)的時(shí)間，這很難達(dá)到用戶的處理需求,因此，如何提升處理效率，是航測用戶十分關(guān)心的問題。

對于徠卡SPL100設(shè)備的激光數(shù)據(jù)，同樣具有數(shù)據(jù)量大，運(yùn)算要求高的特征，一個(gè)架次的激光原始數(shù)據(jù)需要經(jīng)過預(yù)提取、檢校、再提取、激光配準(zhǔn)、賦色輸出等流程，其對計(jì)算機(jī)性能的要求比影像處理更高，若使用普通計(jì)算機(jī)進(jìn)行單機(jī)處理，可能會遇到內(nèi)存不足報(bào)錯、長時(shí)間運(yùn)算耗時(shí)等問題，此時(shí)Condor并行處理環(huán)境就能夠有效的解決問題、提高數(shù)據(jù)處理效率。

2. Condor并行環(huán)境簡介

Condor并行環(huán)境是用于局域網(wǎng)內(nèi)批量處理數(shù)據(jù)的計(jì)算機(jī)環(huán)境，需要若干臺機(jī)器組建局域網(wǎng)并建立域環(huán)境，將任務(wù)分配給域內(nèi)相關(guān)的計(jì)算機(jī)分別處理，以提高數(shù)據(jù)處理效率。Condor環(huán)境中，需要分配不同的計(jì)算機(jī)角色，主要的角色有：

Data Storage ：存儲角色，用于數(shù)據(jù)存儲的計(jì)算機(jī)

Central Manager ： 管理角色，用于管理Condor集群的計(jì)算機(jī)

Submitter：任務(wù)提交者，用于提交數(shù)據(jù)處理任務(wù)的計(jì)算機(jī)

Node：節(jié)點(diǎn)機(jī)，用于數(shù)據(jù)處理的計(jì)算機(jī)

在Condor并行環(huán)境中，使用一臺計(jì)算機(jī)作為域控制器，操作系統(tǒng)為Windows Server。若干臺計(jì)算機(jī)作為域成員，操作系統(tǒng)為Windows-7 64 bit。域成員計(jì)算機(jī)均為工作站，計(jì)算機(jī)硬件推薦配置：

CPU： 8核以上

內(nèi)存：24G以上

硬盤：1TB以上

圖5. Condor關(guān)系圖

如圖5所示Condor環(huán)境中，Central Manager以及Submitter機(jī)器也可以作為節(jié)點(diǎn)機(jī)進(jìn)行數(shù)據(jù)處理，以節(jié)省計(jì)算機(jī)資源。

3. Condor集群環(huán)境影像處理效率測試

在HxMap軟件中，預(yù)處理和影像輸出環(huán)節(jié)可使用單機(jī)處理，也可使用Condor環(huán)境執(zhí)行并行處理，本次使用單機(jī)和Condor環(huán)境測試了220張DMCIII影像，測試效率如表1所示。

如表1所示，使用單機(jī)28線程機(jī)器預(yù)處理徠卡DMCIII相機(jī)220張影像，原始數(shù)據(jù)量為150G，預(yù)處理后數(shù)據(jù)量為300G。預(yù)處理時(shí)間為7.6小時(shí)，平均每張影像處理需要2.1分鐘；在Condor批處理環(huán)境下使用3臺機(jī)器，線程數(shù)分別為28、12、20，處理220張影像耗時(shí)4.7小時(shí)，平均每張影像1.3分鐘，效率提高40%。在HxMap軟件標(biāo)配中有4個(gè)Ingest模塊節(jié)點(diǎn)，最多可支持4臺計(jì)算機(jī)同時(shí)處理，若每個(gè)節(jié)點(diǎn)計(jì)算機(jī)的CPU性能都較高，效率會有更大提升。

Condor集群計(jì)算機(jī)CPU使用圖

圖6 Intel（R） Xeon（R）

CPU E5-2690v4 @2.6GHZ利用率

圖7 Intel（R）Core（TM）
i7-6800K CPU @3.4GHZ 利用率

圖8 Intel（R） Xeon（R）

CPU E5-2690v4 @3.0GHZ 利用率

如圖6、圖7、圖8所示，是在Condor集群環(huán)境中每臺計(jì)算機(jī)的CPU使用情況。數(shù)據(jù)運(yùn)算時(shí)，CPU的使用率基本都在50%以上，甚至達(dá)到100%。通過 Condor集群環(huán)境的配置，在大數(shù)據(jù)量處理時(shí)，可增加若干個(gè)數(shù)據(jù)處理節(jié)點(diǎn)。

Condor集群中每臺機(jī)器分配了相應(yīng)的處理任務(wù)，并且每臺機(jī)器的使用率較高，效率有很大的提升。

4. Condor集群環(huán)境激光處理效率測試

在HxMap軟件中，徠卡SPL100數(shù)據(jù)的預(yù)處理和激光配準(zhǔn)環(huán)節(jié)推薦使用Condor環(huán)境執(zhí)行并行處理，本次使用單機(jī)和Condor環(huán)境測試了一個(gè)架次12條航線的點(diǎn)云數(shù)據(jù)，測試效率如表2所示。

如表2所示，使用單機(jī)36線程的高配置機(jī)器處理徠卡SPL100激光雷達(dá)的數(shù)據(jù)，原始數(shù)據(jù)量為1.37T，預(yù)處理環(huán)節(jié)運(yùn)行8小時(shí)后計(jì)算機(jī)內(nèi)存不足導(dǎo)致失敗，軟件報(bào)錯；在Condor并行處理環(huán)境下使用6臺機(jī)器，配置統(tǒng)一，線程數(shù)均為12，完成所有處理環(huán)節(jié)共耗時(shí)35小時(shí)，外業(yè)航飛時(shí)間和后處理的時(shí)間比例能夠達(dá)到1:5，生產(chǎn)點(diǎn)密度高達(dá)30p/m2的Las點(diǎn)云數(shù)據(jù)。

圖9. Condor并行處理環(huán)境運(yùn)行狀態(tài)

5. 結(jié)論

通過本次HxMap軟件在Condor集群環(huán)境處理測試，Condor集群環(huán)境對于徠卡DMCIII影像數(shù)據(jù)和徠卡SPL100激光點(diǎn)云數(shù)據(jù)的處理效率上有極大的提升。如果每臺計(jì)算機(jī)CPU配置都很高，使用4個(gè)或更多節(jié)點(diǎn)機(jī)器處理，數(shù)據(jù)處理效率的提升會遠(yuǎn)遠(yuǎn)超過40%。當(dāng)航攝項(xiàng)目密集，數(shù)據(jù)量非常大時(shí)，可保證項(xiàng)目數(shù)據(jù)的高效處理。

最新最快---HxMap航測影像處理臺式、便攜式、集群配置方案23v4