引領 AI 新時代:技嘉 NVIDIA Blackwell 架構解決方案

探索技嘉針對 NVIDIA Blackwell 架構優化的解決方案,提供無與倫比的擴展性、靈活性與效能,專為加速 AI、高效能運算 (HPC) 以及 GPU 驅動的工作負載而設計,打破加速運算和生成式人工智慧面臨的阻礙,為生成式人工智慧開創全新篇章。

GPU加速時代

專用圖形元件的發展歷程始於 1970 年代,並最終催生了GPU 這一顛覆性的創新。經過半個世紀的演進,GPU 已從簡單的電路發展為獨立的板卡,進一步演化為嵌入於高密度計算基礎架構中的模組。隨著生成式人工智慧和大型訓練模型的應用日益普及,GPU強大的算力在各產業中扮演著不可或缺的角色,也進一步推動了AI工廠的廣泛部署與運營。

如今,加速器引領各式產業與人們工作、日常生活革新:從修復影片至提升解析度,到氣候地理模擬預測,再到驅動 ChatGPT 生成式 AI 模型的大規模使用。隨著對 GPU 計算資源需求的指數級增長,技嘉與產業領導者攜手合作,實現超越摩爾定律的效能提升。作為 GPU創新領導者,NVIDIA 一直致力於突破極限,現在更推出新世代 Blackwell 架構,推動產業革新進入全面生產階段。
突破加速運算與生成式 AI 的界限
在 NVIDIA Hopper 架構取得巨大成功的基礎上,Blackwell 架構更進一步,為因應AI 模型日益成長的複雜度和參數量而設計。採用台積電 4 奈米製程技術 (4NP),Blackwell GPU 集成了數十億個晶體管,並導入了更快速、更高頻寬的 NVIDIA® NVLink™ 和第二代 Transformer Engine 等創新技術。提供了比起前一代倍數等級的效能提升,讓 Blackwell 為生成式人工智慧開創全新篇章。

NVIDIA Blackwell ArchitectureBlackwell 架構 GPU

包含2080億個電晶體,採用台積電 4NP 製程製造

第二代 Transformer Engine

實現4位元浮點 (FP4) AI,效能加倍

第五代 NVLink 和 NVLink Switch

1.8 TB/s GPU-GPU 互連頻寬

可靠性、可用性、可維護性 (RAS) 引擎

100% 系統內自我檢測

安全的人工智慧

高效能加密與TEE

解壓縮引擎

800 GB/s

技嘉致力於提供靈活且可擴展的解決方案

Short TTM短上市週期以實現敏捷部署

技嘉與產業領導廠商密切合作,快速推出新一代產品,全面因應快速成長的運算需求。技嘉洞悉產業趨勢與用戶需求,憑藉對企業級產品領域的豐富經驗,透過模組化設計降低成本;簡化設計流程並實現彈性客製的可能性,旨在讓用戶即時採用最新一代的技術與效能優勢。

Flexible Scalability靈活擴充,適應多元場景

為滿足用戶對運算需求與日俱增的基礎建設升級需求,技嘉伺服器產品配備充足擴充插槽,強化節點間連結效能;特別在GPU應用方面,確保巨量資料能在GPU之間實現高效傳輸。

完整的一站式服務
隨著計算架構規模擴展,且應用日益朝向專業領域發展,最佳的系統配置對於實現高效能與高效率至關重要。技嘉提供完整的一站式服務協助用戶打造AI工廠並協助快速啟動維運,服務範圍涵蓋專業諮詢、量身訂製的環境架構規劃、資料中心佈署到認證驗收以及後續服務。透過技嘉擁有的 Know-How,確保用戶獲得完全符合其營運要求和績效目標的端到端解決方案。

欲了解更多技嘉的一站式解決方案:GIGAPOD – AI 資料中心解決方案
NVIDIA GB200 NVL72:機架級設計的巔峰之作
NVIDIA GB200 NVL7

作為 Blackwell 架構系列的旗艦產品,NVIDIA GB200 NVL72 連接 36 個基於ARM架構的 Grace CPU 和 72 個 Blackwell GPU 並採用全液冷設計。這一機架級配置透過最新的 NVLink 技術將所有節點相互串聯,實現「一個大 GPU」的效能。

此 NVIDIA GB200 NVL72單一機架的百萬兆級電腦,在大型語言模型推論效能上超越上一代 HGX H100 GPU 30 倍,在訓練效能上提升 4 倍,同時實現了降低25 倍能源消耗。憑藉無與倫比的互聯速度和能源效率,GB200 NVL72 成為 AI 和 HPC 工作負載的新基準。

XN14-CB0-LA01 運算節點

  • 2 x GB200 Grace Blackwell 超級晶片
  • 2 x 384 GB HBM3e GPU 記憶體與 16TB/s 頻寬
  • 2 x 480 GB LPDDR5X CPU 記憶體與 152GB/s 頻寬
  • 8 x E1.S Gen5 NVMe 硬碟
NVIDIA HGX™ B200:全球頂尖的人工智慧運算平台
NVIDIA HGX™ B200 採用先進的 Blackwell 架構。透過模組化的 NVIDIA NVSwitch™ 設計,與上一代相比,它在運算效能和能源效率上實現了超過10倍的提升。

為應對前所未有的效能提升與熱功耗所衍生的散熱問題,技嘉推出兩種形式的伺服器選擇,包括 8U – 空氣冷卻和 4U – 液冷選項,確保相容於現有基礎架構。技嘉的高效能運算伺服器旨在提升效能與提供高可用性,包括:
  1. 全面支援全高擴展卡,能容納多組 DPU 和 SuperNIC。
  2. 後抽式 PCIe 擴充槽固定架與前抽式主機板 / GPU 托盤設計,簡化維護流程。
  3. 可熱插拔、完全冗餘的電源供應器,並提供多種電源連接埠選項,增加靈活性。

其他功能,如支援 RDMA 的 PCIe 交換器設計,可實現 GPU 與 GPU 間的直接資料傳輸,確保技嘉伺服器在進行大規模加速運算負載時,擁有高度可靠的效能與效率。
Flexible Scalability

NVIDIA HGX™ B200 8-GPU

  • 8 x NVIDIA Blackwell GPUs
  • 1,440GB of GPU 記憶體
  • 72 petaFLOPS 訓練效能
  • 144 petaFLOPS 推論效能
  • 1,800GB/s GPU-to-GPU 頻寬與 NVIDIA® NVLink™ 及 NVSwitch™
Flexible Scalability

G893 8U HPC/AI 伺服器

  • NVIDIA HGX™ B200 8-GPU
  • 雙 5th/4th Gen Intel® Xeon® 可擴展或 雙 AMD EPYC™ 9005/9004 系列處理器
  • 2 x 10Gb/s LAN
  • 8 x 2.5" Gen5 NVMe 熱插拔硬碟槽
  • 12 x 全高半長 PCIe Gen5 x16 插槽
  • 12 x 3000W 80 PLUS 鈦金冗餘電源供應器
Flexible Scalability

G4L3 4U HPC/AI 伺服器

  • 液冷 NVIDIA HGX™ B200 8-GPU
  • 雙 5th/4th Gen Intel® Xeon® 可擴展或 雙 AMD EPYC™ 9005/9004 系列處理器
  • 2 x 10Gb/s LAN
  • 8 x 2.5" Gen5 NVMe 熱插拔硬碟槽
  • 12 x 全高半長 PCIe Gen5 x16 插槽
  • 8 x 3000W 80 PLUS 鈦金冗餘電源供應器

技嘉AI伺服器