Magnum IO 是資料中心的 IO 子系統，提供加速 IO 與支援多租戶資料中心通訊所需的增強功能，又稱為支援雲端原生超級運算的 Magnum IO。
NVIDIA Magnum IO
適用現代 GPU 加速資料中心的 IO 子系統
將資料中心儲存空間和網路 IO 效能發揮到極致
資料中心是全新的運算中心，而其核心則是 NVIDIA GPU 和 NVIDIA 網路。加速運算需要加速輸入/輸出 (IO) 以將效能發揮到極致。現代資料中心的 IO 子系統 NVIDIA® Magnum IO™ 是適用於平行、非同步和智慧資料中心 IO 的架構，可將多 GPU、多節點加速的儲存空間和網路 IO 效能發揮到極致。
Magnum IO 最新消息
支援雲端原生超級運算架構的 Magnum IO
由 Magnum IO 與 Verizon 5G 支援的立體影片
採用 InfiniBand 網路的 Magnum IO GPUDirect 協助 Verizon 在發佈立體影片架構上取得突破。透過將技術置入位於全美各地運動中心與 Verizon 設施內的多重存取邊緣運算 (MEC) 中心，在媒體上提供 3D 體驗，以及觀賞運動賽事的全新方式。
Magnum IO 主要優點
最佳化 IO 效能
繞過 CPU，在 GPU 記憶體、網路和儲存空間啟用直接 IO，將頻寬提升 10 倍。
系統平衡與使用率
可減緩 CPU 爭用問題來建立更平衡的 GPU 加速系統，提供最高 IO 頻寬，因此可讓 CPU 核心的數量少 10 倍，並讓 CPU 使用率降低 30 倍。
無阻礙的整合
無論資料傳輸是縝密又延遲敏感、粗疏又頻寬敏感或集體，都能為目前和未來的平台提供最佳化實作。
Magnum IO 最佳化堆疊
Magnum IO 運用儲存空間 IO、網路 IO、網路內運算和 IO 管理，簡化並加速多 GPU、多節點系統的資料活動、存取和管理。Magnum IO 支援 NVIDIA CUDA-X™ 函式庫，並充分運用一系列的 NVIDIA GPU 和 NVIDIA 網路硬體拓撲，可達到最佳輸送量和低延遲度。
儲存空間 IO
在多節點、多 GPU 系統、緩慢的 CPU 中，單一執行緒效能位於本機或遠端儲存裝置的資料存取關鍵路徑。GPU 藉由儲存空間 IO 加速，可繞過 CPU 和系統記憶體，並透過 8 個每秒 200 GB 的 NIC 存取遠端儲存空間，進而達到最高每秒 1.6 兆位元的原始儲存空間頻寬。
採用技術:
網路 IO
NVIDIA NVLink® 網狀架構與 RDMA 網路 IO 加速可降低 IO 額外負荷、繞過 CPU，並以線路速率啟用 GPU 之間的直接資料傳輸。
採用技術:
網路內運算
網路內運算可在網路內進行處理，進而消除傳輸至端點時導致的延遲，以及過程中的躍點。資料處理器 (DPU) 可導入軟體定義的網路硬體加速運算，包括預先設定的資料處理引擎和可程控引擎。
採用技術:
IO 管理
若要實現運算、網路和儲存空間的 IO 最佳化，使用者需要先進遙測技術和深度疑難排解技術。Magnum IO 管理平台讓研究和產業資料中心運算子能夠有效率地佈建、監控、管理和預防性維護現代資料中心的網狀架構。
採用技術
加速跨應用程式的 IO
採用 NVIDIA CUDA-X 高效能運算 (HPC) 與人工智慧 (AI) 函式庫的 Magnum IO 介面，可加速從人工智慧到科學視覺化等多種使用案例的 IO。
- 資料分析
- 高效能運算功能
- 深度學習
資料分析
資料科學與機器學習 (ML) 現在已成為全球最大的運算領域。適度改善預測機器學習模型的準確度可帶來數十億美元的利潤。為了提升精確度，RAPIDS™ 加速器函式庫搭載以可設定的 UCX 為基礎的內建加速 Apache Spark 隨機功能，進而運用 GPU 到 GPU 通訊和 RDMA 功能。NVIDIA 資料中心平台具有獨特定位，可與 NVIDIA 網路、Magnum IO 軟體、GPU 加速的 Spark 3.0 和 NVIDIA RAPIDS™ 搭配使用，進而以前所未有的效能和效率水準加速這些龐大工作負載。
高效能運算
為了促進新一代的發現，科學家仰賴模擬來進一步瞭解藥物開發的複雜分子、透過物理來尋找新能源，以及瞭解大氣資料以更準確預測天氣規律。Magnum IO 展現硬體級的加速引擎和智慧卸載技術，如 RDMA、GPUDirect 以及 NVIDIA 可擴充的分層彙總和精簡通訊協定 (SHARP) 功能，同時支援每秒 400GB 的高頻寬和超低延遲 NVIDIA Quantum 2 InfiniBand 網路。
有了多租戶技術，使用者應用程式可能不會注意到鄰近應用程式流量的無差別干擾。在最新 NVIDIA Quantum 2 InfiniBand 平台上的 Magnum IO 提供經過改善的新功能，可以降低對使用者效能的負面影響。這可展現最佳結果，並在任何規模發揮最有效率的高效能運算 (HPC) 與機器學習部署成果。
深度學習
人工智慧模型的複雜度，隨著處理難度更高的挑戰將持續增長，如對話式人工智慧和深度推薦系統等。像 NVIDIA Megatron-BERT 這樣的對話式人工智慧模型，與 ResNet-50 等影像分類模型相比，需要耗費多 3000 倍的運算效能來訓練。為了讓研究人員能夠繼續挑戰人工智慧的能力極限，會需要強大的效能和巨大的擴充能力。每秒 200 GB 的 HDR InfiniBand 網路與 Magnum IO 軟體堆疊的結合，可在單一叢集中提供數千個 GPU 的高效率擴充能力。
訂閱已獲得最新消息