適用于新型 AI 的超大規(guī)模內(nèi)存超級計算
全新的 AI 超級計算機將 256 個 NVIDIA Grace Hopper? 超級芯片完全連接到一個單一的 GPU 中,從而在 AI 時代開啟了巨大的潛力。NVIDIA DGX? GH200旨在處理用于大規(guī)模推薦系統(tǒng)、生成式 AI 和圖形分析的 TB 級模型,提供 144TB 的共享內(nèi)存,為巨型 AI 模型提供線性擴展能力。。
NVIDIA DGX GH200 是唯一一款在 256 個 NVIDIA Grace Hopper 超級芯片 GPU 上提供 144TB 超大共享內(nèi)存空間的 AI 超級計算機,為開發(fā)者提供了近 500 倍的內(nèi)存以構(gòu)建巨型模型
Grace Hopper 超級芯片將 NVIDIA Grace? CPU 與 NVIDIA Hopper? GPU 結(jié)合在同一封裝上,從而消除了對傳統(tǒng) PCIe CPU 至 GPU 連接的需求,可將帶寬提高 7 倍,并將互聯(lián)功耗降低 5 倍以上。
深入了解是什么讓 DGX GH200 成為開發(fā)大型 AI 模型的理想之選
DGX GH200 通過在每個采用 NVLink Switch 系統(tǒng)的 Grace Hopper 超級芯片之間擴展 NVIDIA? NVLink?,從而擴展到 256 個 GPU。
DGX GH200 通過在每個采用 NVLink Switch 系統(tǒng)的 Grace Hopper 超級芯片之間擴展 NVIDIA? NVLink?,從而擴展到 256 個 GPU。
NVIDIA DGX 平臺專為企業(yè) AI 從零開始構(gòu)建,將出色的 NVIDIA 軟件、基礎(chǔ)架構(gòu)和專業(yè)知識融入到現(xiàn)代統(tǒng)一的 AI 開發(fā)和訓練解決方案中。
