GIGABYTE veröffentlicht Server zur Beschleunigung von KI und LLMs mit AMD EPYC™ 9005 Prozessoren und AMD Instinct™ MI325X GPUs
GIGABYTE auf der Advancing AI 2024, um Rechenlösungen vorzustellen
Oct 11, 2024

10. Oktober , 2024 – Giga Computing, eine Tochtergesellschaft von GIGABYTE und führend in der Branche für generative KI-Server und fortschrittliche Kühltechnologien, kündigte heute die Unterstützung für AMD EPYC™ 9005-Prozessoren mit der Veröffentlichung neuer GIGABYTE-Server sowie BIOS-Updates für einige bestehende GIGABYTE-Server mit der SP5-Plattform an. Diese erste Welle von Updates unterstützt über 60 Server und Motherboards, aus denen Kunden wählen können und die eine außergewöhnliche Leistung für die 5. Generation der AMD EPYC-Prozessoren bieten. Darüber hinaus wurde mit der Einführung des AMD Instinct™ MI325X Beschleunigers ein neu gestalteter GIGABYTE-Server entwickelt, der auf der SC24 (19.-21. November) in Atlanta vorgestellt wird.

Neue GIGABYTE-Server und Updates
Um alle möglichen Arbeitslast-Szenarien abzudecken, von modularen Design-Servern über Edge-Server bis hin zu Enterprise-Motherboards, werden diese neuen Lösungen bereits mit Unterstützung der AMD EPYC™ 9005-Serie ausgeliefert. Der XV23-ZX0 ist eine der vielen neuen Lösungen und zeichnet sich durch sein modulares Serverdesign aus, das zwei AMD EPYC™ 9005 Prozessoren nutzt und bis zu vier GPUs sowie drei zusätzliche FHFL-Steckplätze unterstützt. Er verfügt außerdem über 2+2 redundante Netzteile an der Vorderseite für einen einfachen Zugang.

Um die enorme Anzahl der auf AMD EPYC™ 9004 basierenden Server und Motherboards im GIGABYTE-Portfolio zu unterstützen, werden in zwei Wellen Updates für AMD EPYC™ 9005 CPUs veröffentlicht, die die meisten Modelle abdecken. Auf den Produktseiten von GIGABYTE wird angegeben, ob ein bestehender Server die 5. Generation der AMD EPYC-CPUs unterstützt. Falls ja, steht ein BIOS-Update zum Herunterladen bereit. Falls nicht, wird nur die EPYC 9004-Serie in der Beschreibung aufgeführt. Aufgrund der Unterschiede in den Speichergeschwindigkeiten zwischen den Generationen bei Konfigurationen mit einem DIMM pro Kanal müssen Kunden die Produktseite überprüfen, um festzustellen, ob 6000 MT/s unterstützt wird.

Technologische Fortschritte mit AMD
Die AMD EPYC™ 9005 Serie-Prozessoren sind die neuesten in der EPYC-Familie und basieren auf der „Zen5“-Architektur. Sie bieten eine breite Palette an Kernzahlen (bis zu 192 Kerne und 384 Threads), Taktraten (bis zu 5 GHz), Cache-Kapazitäten und mehr. Diese Prozessoren sind für KI-fähige Rechenzentren konzipiert und bieten führende Leistung, Effizienz und Kompatibilität mit x86-Software. Sie unterstützen Anwendungen von unternehmensweiten KI-Initiativen bis hin zu großflächigen Cloud-Infrastrukturen und dem Hosten geschäftskritischer Anwendungen, wodurch die Energieeffizienz verbessert und der Platzbedarf von Rechenzentren verringert wird. Server, die auf AMD EPYC™ 9005 Prozessoren basieren, bieten Unternehmen einen nahtlosen Weg, um bei Rechen- und KI-Lösungen führend zu sein.

Die AMD Instinct™ MI325X-Beschleuniger setzen neue Maßstäbe bei der KI-Leistung mit der AMD CDNA™ 3-Architektur und liefern unglaubliche Leistung und Effizienz für Training und Inferenz. Mit branchenführendem Speicher und 6 TB/s Bandbreite optimieren sie die Leistung und tragen zur Senkung der System-TCO bei. Integriert in die AMD ROCm™ Software unterstützen die neuen AMD-Beschleuniger wichtige KI-Frameworks und vereinfachen die Implementierung. Die AMD Instinct™ MI325X-Beschleuniger bieten außerdem eine nahtlose Integration in die GIGABYTE-Infrastruktur und bieten starken Day-0-Support für Ökosystempartner wie OpenAI, PyTorch, Hugging Face, Databricks, Lamini und viele mehr, um Unternehmen eine effiziente Skalierung zu ermöglichen.

„Dass der gleiche Sockel mehrere Generationen von AMD EPYC™ Prozessoren unterstützt, ist ziemlich beeindruckend, insbesondere angesichts des Leistungszuwachses, den wir bei den EPYC™ 9005 CPUs gesehen haben“, sagte Vincent Wang, VP Sales bei Giga Computing. „Da technologische Fortschritte wie der AMD Instinct™ MI325X weiterhin die Grenzen der Rechenleistung in der KI und darüber hinaus verschieben, schätzen wir die Partnerschaft mit AMD, die es uns ermöglicht, unsere Updates zeitgleich mit der Ankündigung von AMD zu veröffentlichen.“

„AMD ist der bevorzugte Anbieter von Rechenzentrumslösungen für führende Organisationen, sei es zur Unterstützung von Unternehmens-KI-Initiativen, beim Aufbau großflächiger Cloud-Bereitstellungen oder beim Hosten anspruchsvoller Geschäftsanwendungen vor Ort“, sagte Ravi Kuppuswamy, Senior Vice President, Server Business Unit, AMD. „Unsere neuesten 5. Generation AMD EPYC™ CPUs bieten die Leistung, Flexibilität und Zuverlässigkeit – bei Kompatibilität im gesamten Rechenzentrum-Ökosystem –, um maßgeschneiderte Lösungen zu liefern, die den einzigartigen Anforderungen des modernen Rechenzentrums gerecht werden.“

„AMD führt die KI-Revolution an und setzt neue Maßstäbe in der Leistung und den Fähigkeiten generativer KI mit unseren Instinct-Beschleunigern“, sagte Travis Karr, Corporate Vice President, Business Development, AMD. „Unsere neuesten Instinct MI325X-Beschleuniger, basierend auf der CDNA3-Architektur und ausgestattet mit branchenführenden 256 GB HBM3E-Speicher, ermöglichen es Organisationen, ihre komplexesten KI-Arbeitslasten effizient zu skalieren und beispiellose Fortschritte in der Verarbeitung natürlicher Sprache, Computer Vision und darüber hinaus zu erzielen.“

Heute präsentiert GIGABYTE auf der Advancing AI 2024 seinen neu veröffentlichten und bislang einzigen bekannten Server mit 48 DIMMs auf einem einzigen Knoten, den R283-ZK0 „Zig-Zag“-Server. Zudem wird das neue 8U-Serverdesignkonzept vorgestellt, eine überarbeitete 8-GPU-Baseboard-Serverlösung für die AMD Instinct™ MI325X GPU, die eine notwendige Lösung für große Sprachmodelle und KI-Inferenz darstellt.

Für Anfragen oder weitere Informationen wenden Sie sich bitte an den Vertrieb.
Bleiben Sie mit unseren neuesten Nachrichten und Ankündigungen auf dem Laufenden, indem Sie Giga Computing folgen:
X: https://x.com/GigaComputing
LinkedIn: https://linkedin.com/company/giga-computing
Facebook: https://facebook.com/gigabyteserver

Über Giga Computing
Giga Computing Technology ist ein Innovationsführer und Vorreiter auf dem Markt für Unternehmensrechner. Nach der Ausgliederung von GIGABYTE behalten wir unsere Hardware-Expertise in der Fertigung und Produktentwicklung bei, während wir als eigenständiges Unternehmen agieren, um mehr Investitionen in unsere Kernkompetenzen zu lenken. Wir bieten ein komplettes GIGABYTE-Produktportfolio an, das alle Arbeitslasten vom Rechenzentrum bis zur Edge abdeckt, einschließlich traditioneller und aufkommender Arbeitslasten in HPC und KI sowie Datenanalyse, 5G/Edge, Cloud Computing und mehr. Unsere langjährigen Partnerschaften mit führenden Technologieunternehmen gewährleisten, dass unsere neuen Produkte zu den fortschrittlichsten gehören und mit den neuesten Partnerplattformen auf den Markt kommen. Unsere Systeme stehen für Leistung, Sicherheit, Skalierbarkeit und Nachhaltigkeit. Weitere Informationen finden Sie unter https://www.gigacomputing.com/ und abonnieren Sie unseren newsletter.

* AMD, das AMD-Pfeillogo, AMD Instinct, EPYC und deren Kombinationen sind Marken von Advanced Micro Devices, Inc. Andere Namen dienen nur zu Informationszwecken und können Marken der jeweiligen Eigentümer sein.

{{AsideSubscribeInfo.buttonText}}