包含2080億個電晶體,採用台積電 4NP 製程製造
實現4位元浮點 (FP4) AI,效能加倍
1.8 TB/s GPU-GPU 互連頻寬
100% 系統內自我檢測
高效能加密與TEE
800 GB/s
技嘉與產業領導廠商密切合作,快速推出新一代產品,全面因應快速成長的運算需求。技嘉洞悉產業趨勢與用戶需求,憑藉對企業級產品領域的豐富經驗,透過模組化設計降低成本;簡化設計流程並實現彈性客製的可能性,旨在讓用戶即時採用最新一代的技術與效能優勢。
為滿足用戶對運算需求與日俱增的基礎建設升級需求,技嘉伺服器產品配備充足擴充插槽,強化節點間連結效能;特別在GPU應用方面,確保巨量資料能在GPU之間實現高效傳輸。
作為 Blackwell 架構系列的旗艦產品,NVIDIA GB200 NVL72 連接 36 個基於ARM架構的 Grace CPU 和 72 個 Blackwell GPU 並採用全液冷設計。這一機架級配置透過最新的 NVLink 技術將所有節點相互串聯,實現「一個大 GPU」的效能。
此 NVIDIA GB200 NVL72單一機架的百萬兆級電腦,在大型語言模型推論效能上超越上一代 HGX H100 GPU 30 倍,在訓練效能上提升 4 倍,同時實現了降低25 倍能源消耗。憑藉無與倫比的互聯速度和能源效率,GB200 NVL72 成為 AI 和 HPC 工作負載的新基準。
在高效能運算 (HPC) 應用中,關鍵在於透過數值分析、模擬和運算來解決複雜問題以獲取洞見。雖然傳統上對加速器的依賴性低,但近年通用圖形處理器 (GPGPU) 的強大平行運算能力在近年來大幅推動了高效能運算的發展,混合配置亦成為現代超級計算機的重要趨勢。
隨著人工智慧(AI)技術的迅速發展,從一般應用到不斷演進的深度學習,通用圖形處理器 (GPGPU) 已成為改變產業遊戲規則的關鍵技術。GPGPU 的平行處理能力能高效處理龐大數據集和複雜演算法,這對 AI 模型的訓練與部署至關重要。AI技術幫助各行各業在生產、營收與工作效率上實現更快速且更智慧的目標,成為產業升級的核心動力。
科學研究涵蓋從物理、化學到地理、生物科學等多元學科,對算力的需求極為廣泛。借助GPU加速運算叢集,仿真模擬和建模工作在平行處理能力的支援下實現飛躍發展。更快速的運算與精確的結果,使研究人員能有效分析大量數據,進行深入實驗,推動科學領域的創新與突破。