包含2080億個電晶體,採用台積電 4NP 製程製造
實現4位元浮點 (FP4) AI,效能加倍
1.8 TB/s GPU-GPU 互連頻寬
100% 系統內自我檢測
高效能加密與TEE
800 GB/s
技嘉與產業領導廠商密切合作,快速推出新一代產品,全面因應快速成長的運算需求。技嘉洞悉產業趨勢與用戶需求,憑藉對企業級產品領域的豐富經驗,透過模組化設計降低成本;簡化設計流程並實現彈性客製的可能性,旨在讓用戶即時採用最新一代的技術與效能優勢。
為滿足用戶對運算需求與日俱增的基礎建設升級需求,技嘉伺服器產品配備充足擴充插槽,強化節點間連結效能;特別在GPU應用方面,確保巨量資料能在GPU之間實現高效傳輸。
作為 Blackwell 架構系列的旗艦產品,NVIDIA GB200 NVL72 連接 36 個基於ARM架構的 Grace CPU 和 72 個 Blackwell GPU 並採用全液冷設計。這一機架級配置透過最新的 NVLink 技術將所有節點相互串聯,實現「一個大 GPU」的效能。
此 NVIDIA GB200 NVL72單一機架的百萬兆級電腦,在大型語言模型推論效能上超越上一代 HGX H100 GPU 30 倍,在訓練效能上提升 4 倍,同時實現了降低25 倍能源消耗。憑藉無與倫比的互聯速度和能源效率,GB200 NVL72 成為 AI 和 HPC 工作負載的新基準。
在高效能運算 (HPC) 應用中,需依賴數值分析、模擬和運算來解決複雜問題以獲取洞見。雖然傳統上對加速器的依賴較少,但通用圖形處理器 (GPGPU) 的強大平行運算能力在近年來大幅加速了高效能運算的發展,使得混合配置成為現代超級計算機的一大趨勢。
隨著AI的快速普及,從一般應用到快速演進的深度學習,通用圖形處理器 (GPGPU) 已成為改變產業遊戲規則的重要技術。GPGPU 的平行處理能力使其能夠處理大量數據集和複雜演算法,這對訓練和部署AI模型至關重要。因此,人工智慧 (AI) 已成為使各產業領域於生產、營利、工作效率更快、更“智慧”的關鍵,並且以最有效的方式實現目標。
科學研究領域的涵蓋範圍極為廣泛,從物理、化學、地理,至生物科學等多元學科研究。透過 GPU 加速運算叢集的加持,AI 模型借助 GPU 的高效平行處理能力,有效處理仿真模擬與建模等開創性的科研任務。