革新資料中心效能，NVIDIA Grace™ CPU 超級晶片和 GH200 Grace Hopper 超級晶片

為現代資料中心帶來全新層級的效能與效率

為因應現代資料中心迅速增長的高效能和低功耗需求，基於Arm架構的NVIDIA Grace™ CPU在強調大規模資料處理能力的工作負載中異軍突起。從非凡的每瓦效能、封裝密度到記憶體頻寬皆為業界樹立了新標準。 NVIDIA Grace CPU 超級晶片從傳統的雙處理器概念全面升級。透過將兩個CPU連接在單個模組上，使用NVIDIA^® NVLink^®-Chip-to-Chip（NVLink-C2C）技術，以每秒高達900GB驚人速度傳輸資料。此外更將高達960GB LPDDR5X記憶體打包到模組中，讓超級晶片足以高效處理各種記憶體密集的工作負載。

NVIDIA Grace CPU 超級晶片

144個 Arm Neoverse V2 核心

採用Armv9.0-A架構，提高平台相容性，且更易於執行其他基於Arm架構的二進位檔案。

最多 960GB CPU LPDDR5X ECC 記憶體

透過業界第一個資料中心級別的LPDDR技術運用，達成頻寬、能源效率、容量和成本的完美平衡。

最多 8條 PCIe 5.0 x16 通道

提供多個PCIe Gen5訊號，用於靈活的擴充卡配置和系統通訊。

NVLink-C2C 技術

領先業界的900GB/s晶片連接技術，緩解運算瓶頸，互連設計實現記憶體一致性。

NVIDIA Scalable Coherency Fabric (SCF)

NVIDIA設計的網狀布局和分散式快取架構，大大提升整體頻寬和可擴展性。

InfiniBand 網路系統

具備最大擴展能力，透過InfiniBand交換器、BlueField-3 DPU和ConnectX-7高速網卡，每個超級晶片間頻寬高達每秒100GB。

NVIDIA CUDA 平台

著名的NVIDIA CUDA平台為全新Arm架構CPU進行了最佳化，整合超級晶片、擴充卡和網路系統的加速運算。

邁入人工智慧和GPU加速的全新高效能運算時代

NVIDIA GH200 Grace Hopper超級晶片是基於NVIDIA Grace™ CPU和NVIDIA H100 Tensor Core GPU結合而成，適用於超大規模的人工智慧和高效能運算。利用相同的NVIDIA NVLink-C2C技術，在單一超級晶片上集結了運算的核心零件，形成最強大的運算模組。記憶體一致性的設計更有效利用了模組上的高速HBM3或HBM3e GPU記憶體和大容量LPDDR5X CPU記憶體。此外，超級晶片同樣採用BlueField^®-3 DPU或高速網卡，承襲了使用InfiniBand網路拓展的效率，連接速度可達每秒100GB，專為機器學習與高效能運算工作負載而設。最新的GH200 NVL32則更進一步強化了深度學習和高效能運算能力，透過NVLink Switch系統連接多達32個超級晶片。藉由多個NVLink 交換器以實現高達每秒900GB的GPU-GPU頻寬和多個GPU的記憶體整合，充分發揮強大的運算晶片效能及高度的可擴展性。

NVIDIA GH200 Grace Hopper 超級晶片

72個 Arm Neoverse V2 核心

採用Armv9.0-A架構，提高平台相容性，且更易於執行其他基於Arm架構的二進位檔案。

最多 480GB CPU LPDDR5X ECC 記憶體

透過業界第一個資料中心級別的LPDDR技術運用，達成頻寬、能源效率、容量和成本的完美平衡。

96GB HBM3 或 144GB HBM3e GPU 記憶體

採用高頻寬記憶體，改善記憶體密集型工作負載的效能表現。

最多 4條 PCIe 5.0 x16 通道

提供多個PCIe Gen5訊號，用於靈活的擴充卡配置和系統通訊。

NVLink-C2C 技術

領先業界的900GB/s晶片連接技術，緩解運算瓶頸，互連設計實現記憶體一致性。

InfiniBand 網路系統

具備最大擴展能力，透過InfiniBand交換器、BlueField-3 DPU和ConnectX-7高速網卡，每個超級晶片間頻寬高達每秒100GB。

程式設計友善的異質運算平台

將常用程式語言引入CUDA平台，充分運用硬體加速記憶體一致性技術，適應新平台更加便利與容易。

NVIDIA CUDA 平台

著名的NVIDIA CUDA平台為全新Arm架構CPU進行了最佳化，整合超級晶片、擴充卡和網路系統的加速運算。

最大化技嘉伺服器的配置靈活性

借鑒技嘉多元化的產品線經驗，提供多種支援NVIDIA Grace™ CPU 和 GH200 Grace Hopper 超級晶片的選擇，極富彈性的配置設計以因應各種應用需求。為了實現最高的運算密度，技嘉設計了H263和H223系列高密度伺服器，以在單個機架中實現最大的運算效能，同時兼顧了2U 2節點或2U 4節點配置搭配氣體冷卻和直接液體冷卻的多種解決方案。

對於尋找完整NVIDIA解決方案的客戶，技嘉還提供了一系列基於NVIDIA MGX™平台的X系列伺服器。這些伺服器具有模組化設計且支援多種擴充卡，確保了不同機架標準之間的彈性、靈活的叢集配置，以及與各種NVIDIA定義配置及NVIDIA軟體的兼容性。

針對資料中心的總體解決方案，技嘉提供GIGA POD整合式解決方案，強調最高的效能和可擴展性。在單一機架中可容納多個MGX、高密度或GPU伺服器，並透過InfiniBand交換器連結多個機架中的所有節點，全雙向頻寬高達每秒100GB，且能透過更多層的網路設計再擴充整體規模。相較於傳統方案，此解決方案擁有各種優勢，包括了靈活的配置、易於部署、未來的擴展能力，以及軟體和硬體的最佳化。GIGA POD展示了技嘉對於極大型規模運算的未來規劃，從一開始的設計到最終階段測試都包含在整個方案之中，同時證明了新技術的導入能有效以簡單、節省成本及時間的方式發生。