您現在的位置是:首頁 > 娛樂

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

由 星融元 發表于 娛樂2022-08-03
簡介網絡卡MLNX_OFED驅動程式安裝:檢查網絡卡及網絡卡驅動狀態:3.2MPI基準測試環境部署在兩臺Server伺服器上安裝HPC高效能叢集基礎環境,安裝OSU MPI Benchmarks MPI通訊效率測評工具,測試方式分為點對點通訊和

星融元資料技術蘇州怎麼樣

一位來自金融行業的客戶,他們希望可以實時地模擬和響應風險,以實現企業金融風險管理能力的提升。事實上,不管是金融行業還是其他行業,要想加快步伐滿足快速數字化世界中的客戶需求,就必須能夠比標準計算機更快地處理大量資料。

高效能計算

HPC

)解決方案,正在受到企業們的青睞。

HPC通用架構主要由計算、儲存、網路組成,而HPC之所以能夠提高計算速度,更多是採用了“並行技術”,使用多個計算機協同工作,採用十臺、百臺,甚至成千上萬臺計算機“並行工作”。各個計算機之間需要互相通訊,並對任務進行協同處理,這就需要建立一套對

時延、頻寬

等有著嚴格要求的高速網路。

高頻寬、低時延和低資源使用率的RDMA模式(主要體系架構:InfiniBand協議和乙太網協議),往往是HPC網路的最佳選擇。

而星融元CX-N 超低時延交換機(簡稱CX-N)採用了標準乙太網協議和開放軟硬體技術,支援無損乙太網技術和網路無損防擁塞技術,充分滿足使用者HPC應用下對網路頻寬、時延等的高要求。

為驗證這一事實,我們選用Mellanox的InfiniBand交換機,與其進行了相同HPC應用下的執行速度的對比測試。

我們在CX-N和Mellanox的MSB7800交換機(簡稱IB交換機)分別搭建的網路上,進行了E2E轉發測試、MPI基準測試和HPC應用測試。結果證明:CX-N 的時延和對方達到了同一個量級,執行速率較對方僅低3%左右,產品效能與對方交換機不相上下,能夠滿足絕大多數的HPC應用場景。而有必要補充一點的是,星融元更加註重產品成本的把控,星融元HPC解決方案在價效比方面有顯著的優勢。

HPC

場景測試方案全過程:

1 目標與物理網路拓撲

E2E轉發測試

測試兩款交換機在相同拓撲下E2E(End to End)的轉發時延和頻寬,本次方案測試點採用Mellanox IB發包工具進行發包,測試過程遍歷2~8388608位元組。

MPI基準測試

MPI基準測試常用於評估高效能計算效能。本次方案測試點採用OSU Micro-Benchmarks來評估CX-N和IB兩款交換機的效能。

HPC應用測試

本次測試方案在每個HPC應用中執行相同任務,並比較CX-N和IB兩款交換機的執行速度(時間更短)。

1.1 IB交換機物理拓撲

如上解決方案的IB交換機物理拓撲,如圖1所示:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

圖1:IB交換機物理網路拓撲

1.2 CX-N物理拓撲

如上解決方案的CX-N物理拓撲,如圖2所示:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

圖2:CX-N物理網路拓撲

1.3 管理網口IP規劃

部署過程中所涉及到的裝置、介面及管理網口的IP地址如下表1所示:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

表1:裝置管理口列表

2 硬體和軟體環境

部署環境中涉及到的硬體和軟體如表2和表3所示:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

表2:硬體環境

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

表3:軟體環境

3 測試環境部署

在兩臺Server伺服器上,安裝部署HPC三種測試場景所需的基礎環境。

補充說明:以“[root@server ~]#”為開頭的命令表示兩臺伺服器都要執行。

3.1

E2E轉發測試環境部署

在兩臺Server伺服器上安裝Mellanox網絡卡的MLNX_OFED驅動程式,網絡卡驅動安裝完成之後檢查網絡卡及驅動狀態,確保網絡卡可以正常使用。

網絡卡MLNX_OFED驅動程式安裝:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

檢查網絡卡及網絡卡驅動狀態:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

3.2

MPI基準測試環境部署

在兩臺Server伺服器上安裝HPC高效能叢集基礎環境,安裝OSU MPI Benchmarks MPI通訊效率測評工具,測試方式分為點對點通訊和組網通訊兩種方式,透過執行各種不同模式的MPI,來測試頻寬和時延。

HPC

叢集高效能基礎環境:

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

OSU MPI Benchamarks工具安裝

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

3.3

HPC

應用測試環境部署

在兩臺Server伺服器上安裝HPC測試應用。本次方案部署WRF開源氣象模擬軟體和LAMMPS原子分子並行模擬器來進行資料測試。

WRF安裝部署:

WRF全稱Weather Research and Forecasting Model, 是一個天氣研究與預報模型的軟體。

修改Docker網路配置

本方案兩臺Server伺服器WRF部署採用Docker容器部署,需要修改Docker配置檔案,將虛擬網橋繫結到Mellanox網絡卡上,透過直接路由方式實現跨主機Docker容器通訊。

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

WRF應用部署

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

LAMMPS安裝部署:

LAMMPS即Large-scale Atomic/Molecular MassivelyParallel Simulator,大規模原子分子並行模擬器,主要用於分子動力學相關的一些計算和模擬工作。

安裝GCC-7.3

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

安裝OpenMPI

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

安裝FFTW

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

安裝LAMMPS

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

更多詳細內容:

搜尋關注(VX星融元Asterfusion,傳送關鍵詞“

HPC

”,獲取

HPC

高效能計算

測試方案》白皮書完整內容。

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

比肩一線大廠!這是一份星融元HPC高效能計算測試方案

隨著雲計算技術的成熟,HPC正在從應用於大規模科學計算場景,轉變為適用各種科學和商業計算場景。《星融元HPC解決方案》將重磅釋出,敬請期待!

推薦文章