NVIDIA HGX H100

NVIDIA HGX H200

NVIDIA® NVLink

From design, production, to deployment, GIGABYTE can manage it all with GIGAPOD because of its flexible and scalable architecture. It is designed to accommodate the explosive growth in AI training models, providing a one-stop solution for transforming traditional data centers into large-scale AI cloud service providers. Leveraging GIGABYTE’s expertise in hardware and strong partnerships with leading upstream GPU manufacturers not only ensures a smooth AI supercomputer deployment, but also provides users with reliable AI productivity.

Challenges in Modern Computing Architectures
In the early days of GPU applications and AI development, when the computing requirements were relatively low and the interconnect technology was not yet mature, GPU computing primarily ran on a simple single-server architecture. However, as the scale of training models increased, the importance of multi-GPU and multi-node architectures became more apparent, especially for training LLMs with hundreds of billions of parameters. The GPU is important, but the cluster computing interconnect cannot be overlooked as it can significantly reduce AI training times and has become a vital component for large-scale computing centers.

When advanced enterprises build ideal AI application solutions, they typically face three primary requirements during the initial hardware deployment:

1. Powerful Computing: GPU nodes can compute in tandem, enabling them to efficiently perform parallel processing tasks such as matrix operations during AI training and simulations.
2. Systematic Hardware Deployment: Data center deployment requires meticulous planning for key aspects such as data center power, floor layout, rack configuration, and thermal management, ensuring complete system hardware integration.
3. Uninterrupted High-Speed Network Architecture: A high-speed network topology provides high bandwidth, low-latency network interconnections to speed up data transfer and enhance system performance.

While discussions about data center construction often focus on the number of GPUs and computing power, without a well-established power supply and cooling system, the GPUs in the server room cannot realize their potential. Additionally, a high-speed networking architecture is a must as it plays a crucial role in ensuring that each computing node can communicate in real time, enabling fast GPU-to-GPU communication to handle the exponential growth in data.

To overcome the challenges faced by modern data centers, the following sections will detail why GIGAPOD is the best solution for building AI data centers today.

Optimized Hardware Configuration
A basic GIGAPOD configuration consists of 32x GPU servers, each equipped with 8x GPUs, providing a total of 256x interconnected GPUs. Additionally, a dedicated rack is required to house network switches and storage servers.

GIGAPOD configuration/specification with the GIGABYTE G593 series server:

• CPU: Dual 4th/5th Generation Intel^® Xeon^® Scalable Processors or
  AMD EPYC 9005/9004 Series Processors
• GPU: NVIDIA HGX H100 / H200 Tensor Core GPU
• Memory: 24x DIMMs (AMD EPYC) or 32x DIMMs (Intel Xeon)
• Storage: 8x 2.5” Gen5 NVMe/SATA/SAS-4 hot-swap drives
• PCIe slots: 4x FHHL and 8x low-profile PCIe Gen5 x16 slots
• Power: 4+2 3000W 80 PLUS Titanium redundant power supplies

All server models in the G593 series support 8-GPU baseboards and dual CPUs. In parallel computing workloads, the server primarily relies on the GPU, while complex linear processing tasks are handled by the CPU. This workload distribution is ideal for AI training applications, and users can choose their preferred CPU platform from either AMD or Intel.

Unique Advantages of the GIGABYTE G593 Series:

• Industry-leading high-density design: The G593 series offers the highest density 8-GPU air-cooled server on the market. Compared to the larger, industry-standard 7U/8U designs, GIGABYTE achieves the same compute performance in a more compact 5U chassis.
• Front-mounted GPU tray: The removable front GPU tray allows for easier maintenance and access of the GPU modules.
• Advanced cooling technology: Supports Direct Liquid Cooling (DLC) for CPU, GPU, and NVSwitch to reduce energy consumption and achieve a lower PUE (Power Usage Effectiveness).
• 1-to-1 balanced design: Each PCIe switch connects to the same number of GPUs, storage devices, and PCIe slots, making it ideal for GPU RDMA and direct data access from NVMe drives.
• Six CRPS redundant power supplies: Features a redundant power design, with a 3600W PSU option to achieve N+N redundancy.

When building a performance-optimized AI computing solution, avoiding bandwidth bottlenecks is crucial. In high-performance AI systems or clusters, the ideal scenario is for all data transfer to use the GPU’s high-bandwidth memory, avoiding data transfers through the processor’s PCIe lanes. To solve the bandwidth performance bottleneck, GIGABYTE integrates four Broadcom PCIe switches on the system board to allow GPUs to access data through Remote Direct Memory Access (RDMA) without routing through the CPU. For accelerated networking, each GPU connects to NVIDIA^® ConnectX^®-7, which uses InfiniBand or Ethernet networking at up to 400Gb/s.

Additionally, PCIe switches help with signal expansion, allowing for greater I/O connectivity by efficiently sharing PCIe lanes beyond those devoted to the GPU modules. GIGABYTE’s design includes four additional PCIe x16 slots, often used with NVIDIA BlueField^®-3 DPUs for networking, security, and data processing in high-performance clusters.

GIGABYTE’s AI data center supercomputing solution, GIGAPOD, not only excels in reliability, availability, and maintainability but also offers unparalleled flexibility. Whether it’s the choice of GPU, rack size, cooling solutions, or custom planning, GIGABYTE adapts to diverse IT infrastructure, hardware requirements, and data center sizes. With services ranging from L6 to L12, covering everything from power and cooling infrastructure design to hardware deployment, system optimization, and after-sales support, we ensure that our customers receive an end-to-end solution that fully meets their operational requirements and performance goals.

For queries or more information, please contact sales
Stay updated with our latest news and announcements by following Giga Computing:
X: https://x.com/GigaComputing
LinkedIn: https://linkedin.com/company/giga-computing
Facebook: https://facebook.com/gigabyteserver

NVIDIA HGX H200

G593-ZD1-LAX3: AMD EPYC 9004 processors
G593-SD1-LAX3: 5th Gen Intel^® Xeon^® processors

G593 Series – Tailored Cooling
The GPU-centric G593 series is custom engineered to house an 8-GPU baseboard, and its design has foresight for both air and liquid cooling. The compact 5U chassis leads the industry with its readily scalable nature, fitting up to 64 GPUs in a single rack and supporting 100kW of IT hardware. This helps to consolidate the IT hardware, and in turn, decrease the data center footprint. The G593 series servers for DLC were developed in response to the rising customer demand for greater energy efficiency. Liquids have a higher thermal conductivity than air, so they can rapidly and effectively remove heat from hot components to maintain lower operating temperatures. By relying on water and heat exchangers, the overall energy consumption of the data center is reduced.

“We offer a great AI scaling GIGABYTE solution using the NVIDIA HGX H200 system,” said Vincent Wang, VP of Sales at Giga Computing. “Due to the complexity of enterprise data centers, there is a need to ensure the infrastructure can handle the computational demand and complexity of AI, ML, and data science models. This increasing complexity necessitates greater optimization. We can develop and invest in scalable AI infrastructure. And we can cover all aspects of AI data center infrastructure services from deployment to software stack using the NVIDIA AI Enterprise software platform.”

“Powered by NVIDIA technologies, the GIGABYTE G593 series servers integrate direct liquid-cooling systems to improve energy efficiency and performance scalability, helping set a new standard for performance for complex AI applications,” said Kaustubh Sanghani, vice president of GPU product management at NVIDIA.

GIGABYTE has now released both air-cooled and DLC versions of its G593 series for both the NVIDIA HGX H200 and NVIDIA HGX H100 platforms. For rack-scale deployment of all these mentioned NVIDIA HGX platforms, GIGABYTE has already introduced GIGAPOD to enable a complete supercluster with 256x NVIDIA H100 Tensor Core GPUs. For DLC servers, this solution is composed of five racks with four of them populated with eight G593 servers each. For air cooling, a nine-rack solution can house the same 32 G593 servers. Excellent interconnectivity is achieved using NVIDIA^® NVLink^® and NVIDIA^® NVSwitch, and systems are also paired with NVIDIA Quantum-2 InfiniBand networking to interconnect between nodes in the cluster. This solution includes NVIDIA AI Enterprise, an end-to-end cloud-native platform that accelerates the development and deployment of generative AI applications. A complete cluster can be used to tackle large-scale model training, scientific simulations, and more.

Discover all the G593 servers for NVIDIA HGX architecture.

For queries or more information, please contact sales
Stay updated with our latest news and announcements by following Giga Computing:
X: https://x.com/GigaComputing
LinkedIn: https://linkedin.com/company/giga-computing
Facebook: https://facebook.com/gigabyteserver

NVIDIA HGX H200

G593-Baureihe für hochskaliertes KI/HPC-Computing
Mit ihrem dedizieren Platz zur Kühlung von GPUs erreicht die G593-Baureihe auch in ihrem kompakten 5U-Gehäuse dank starkem Luftstrom stabile, hohe Leistung durch eine unglaubliche Rechendichte.

Weil die Energieanforderungen dieselben sind wie bei NVIDIA HGX H100-basierten Systemen, ist die NVIDIA H200 Tensor Core-GPU für das Zusammenspiel mit der praxisbewährten GIGABYTE-Serverbaureihe G593 optimiert, die speziell für 8-GPU-Baseboards entwickelt wurde. Um die Anforderungen an die Speicherbandbreite zu erfüllen, die bei KI-Anwendungen wie bei KI-Inferenzen anfallen, bietet die NVIDIA H200-GPU im Vergleich zu der NVIDIA H100 Tensor Core-GPU erheblich verbesserte Speicherkapazität und -bandbreite. Die H200-GPU unterstützt 141 GB HBM3e-Speicher und eine Speicherbandbreite von 4,8 TB/s, was eine Verbesserung der Speicherkapazität um einen Faktor von 1,7 und des Durchsatzes um einen Faktor von 1,4 bedeutet.

Neue GIGABYTE-GPU-Server
G593-SD1-AAX3: Unterstützt skalierbare 5. Gen-Intell^® Xeonl^®-Prozessoren
G593-ZD1-AAX3: Unterstützt AMD-Prozessoren der EPYC 9004-Baureihe mit bis zu 96 CPU-Cores

Die neuen GIGABYTE-Server teilen sich jedoch nicht nur die CPU-Plattform, sondern auch das gesamte Layout und die Spezifikationen sind bei allen gleich, speziell konzipiert für alle Accelerated Computing-Anwendungen unserer Kunden. Die Server sind mit ausgewählten GIGABYTE-Servern der G593-Baureihe in den NVIDIA Qualified System Catalog aufgenommen, darunter vier Server der G593-Baureihe, die hinsichtlich funktionaler und Leistungsaspekte geprüft und als NVIDIA-Certified Systems klassifiziert wurden.

Die Baureihe G593 ist für einen hohen Grad an Netzwerk- und Speicherauslastung konzipiert. Die Baureihe unterstützt bis zu acht U.2 Gen5 NVMe-SSDs und kann Daten unter Verwendung von NVIDIA GPUDirect^® Storage, einer der NVIDIA Magnum IO, die eine direkte Verbindung zwischen dem GPU-Speicher zum Serverspeicher bietet und so die Bandbreite verbessert und die Latenzen verringert, schnell verarbeiten. Für die Einbindung weiterer Server in ein bestehendes Cluster und für Server für Datenübertragungen außerhalb des Datacenters stehen zwölf Erweiterungssteckplätze für NVIDIA InfiniBand oder für eine Ethernet-Netzwerkanbindung über eine Netzwerkkarte oder eine DPU zur Verfügung. Um stets genügend Energie zu liefern und einen unterbrechungsfreien Betrieb zu gewährleisten, ist eine redundante 4+2-3000 W-Konfiguration zur Stromversorgung erhältlich.

Skalierte Racklösung durch Integration in GIGAPOD
Die Bedeutung eines optimal konzipierten Computingclusters darf nicht unterschätzt werden. Dies gilt insbesondere, da in der KI stetig neue Fortschritte erzielt werden und Unternehmen und Forschungseinrichtungen dringend an neuen Erkenntnissen interessiert sind. GIGABYTE hat im letzten Jahr eine skalierte Racklösung auf den Markt gebracht, die bei den Bereitstellungen von NVIDIA HGX-Systemen äußerst erfolgreich waren. Diese Systeme basieren alle auf dem Server der G593-Baureihe, der die Integration von NVIDIA HGX H100 unterstützt. Mit der zusätzlichen Unterstützung für die NVIDIA HGX H200-GPU wurde GIGAPOD zu dem Zweck entwickelt, noch mehr Leistung freizusetzen und Accelerated Computing-Workflows noch effizienter zu machen.

Anfrage senden: Vertrieb kontaktieren
Pressekontakte: news@gigacomputing.com
Giga Computing auf LinkedIn folgen: https://linkedin.com/company/giga-computing
Giga Computing auf X folgen: https://x.com/GigaComputing
Giga Computing auf Facebook folgen: https://facebook.com/gigabyteserver

Unlock your potential through Generative AI
Join experts from our executive team and industry partners as they discuss the future of AI. Learn about its rapid growth and the influence of data center infrastructure. Gain a greater understanding of the importance of sustainability and how secure and responsible innovation can still be groundbreaking.

Join us for this full day of engaging presentations and a dynamic panel discussion led by top industry leaders. The event will conclude with an exclusive dinner and a remarkable after-party offering a unique opportunity to network and exchange ideas.

Date: 31st October 2024
Start time: 2pm
Dress code: Business casual

JUNGHOF PLAZA
Junghofstraße 16
60311 Frankfurt – Germany

Do you want to be part of this exclusive AI adventure, register HERE for a FREE ticket. 

To submit a query: Contact Sales
Follow GIGABYTE-Giga Computing on Twitter: http://twitter.com/GIGABYTEServer
Follow GIGABYTE-Giga Computing on Facebook: https ://www.facebook.com/gigabyteserver
Follow GIGABYTE-Giga Computing on LinkedIn: https://www.linkedin.com/company/giga-computing/

Durch die Teilnahme können Sie hochmoderne Serversysteme wie das leistungsstarke Modell Intel® Xeon® 6 System H274-S61-AAW1 erkunden. Es ist die perfekte Plattform, um Ihre Anwendungen auszuführen und sich einen ersten Eindruck von der Leistung zu verschaffen:

• Servermodell: H274-S61-AAW1
• CPU: 8 Intel Xeon 6780E Prozessoren
• U.2: 8x Samsung PM1743 1,92 TB
• M.2: 4x LITE-ON KW960 960 GB
• RAM: 64x Samsung DDR5 6400 MT/s 32 GB
• Betriebssystem: Ubuntu 2

So nehmen Sie teil:

Anmelden:
Bewerben Sie sich über ein einfaches Formular, und wir werden uns innerhalb von 3 Werktagen bei Ihnen melden, um die Projektdetails zu bestätigen.

Qualifikation:
Bewerbungen von Vertriebspartnern sind ausgeschlossen. Nach der Genehmigung loggen Sie sich innerhalb von 3 Tagen nach Erhalt des Zuganglinks ein, um Ihre Testumgebung zu starten.

Zugriff und Testen:
Sie erhalten eine Woche lang Zugang zum Server, mit der Möglichkeit einer Verlängerung auf bis zu zwei Wochen, je nach Verfügbarkeit und Projektanforderungen.

So funktioniert es:
Nach der Genehmigung konfigurieren wir eine grundlegende Arbeitsumgebung, die es Ihnen ermöglicht, eine Produktvalidierung auf unseren Hochleistungsservern durchzuführen.
Sie haben spezielle Anforderungen oder benötigen ein anderes Modell? Kontaktieren Sie uns, und wir werden unser Bestes tun, um Ihre Anfrage zu erfüllen!

Machen Sie den ersten Schritt zur Einführung modernster Servertechnologie mit Zuversicht.

Für weitere Informationen zum Giga Computing Launchpad besuchen Sie: https://launchpad.gigacomputing.com.

Anfrage senden: Vertrieb kontaktieren
Pressekontakte: news@gigacomputing.com
Bitte verfolgen Sie Giga Computing auf LinkedIn: https://linkedin.com/company/giga-computing Bitte verfolgen Sie Giga Computing auf Twitter: https://twitter.com/GigaComputing
Bitte verfolgen Sie Giga Computing auf Facebook: https://facebook.com/gigabyteserver

By participating, you can explore cutting-edge server systems like the powerful Intel® Xeon® 6 System H274-S61-AAW1 model. It’s the perfect platform to run your applications and get a first-hand experience with the performance of:

• Server model: H274-S61-AAW1
• CPU: 8 Intel Xeon 6780E processors
• 2: 8x Samsung PM1743 1.92TB
• 2: 4x LITE-ON KW960 960GB
• RAM: 64x Samsung DDR5 6400 MT/s 32GB
• OS: Ubuntu 2

Here’s how to join:

Sign Up:
Apply through a simple form, and we will contact you within 3 business days to confirm your project details.

Get Qualified:
Distributor applications are not included. Once approved, log in within 3 days of receiving your access link to start your testing environment.

Access and Test:
You’ll get access to the server for one week, with the possibility of extending up to two weeks based on availability and project requirements.

How It Works:

• Once approved, we configure a basic operating environment, allowing you to conduct product validation on our high-performance servers.
• Have special requirements or need a different model? Reach out to us, and we’ll do our best to accommodate your request!

Take the first step towards adopting cutting-edge server technology with confidence.

For more information on Giga Computing Launchpad, visit: https://launchpad.gigacomputing.com.

For queries or more information, please contact sales

Stay updated with our latest news and announcements by following Giga Computing:
X: http://twitter.com/GigaComputing
LinkedIn: https://www.linkedin.com/company/giga-computing/
Facebook: https://www.facebook.com/gigabyteserver

Alle neuen GIGABYTE Server unterstützen Intel^® Xeon^® Prozessoren der 6900 Serie mit P-Cores mit bis zu 128 Kernen und bis zu 96 PCIe Gen5 Lanes. Zusätzlich bietet die 6900-Serie bis zu 12 Speicherkanäle und bis zu 64 CXL 2.0 Lanes für mehr Leistung bei speicherintensiven Workloads. Insgesamt hat diese modulare SOC Architektur ein großes Potenzial mit der Fähigkeit, eine gemeinsame Plattform zu nutzen, um eine für Leistung und Effizienz optimierte Architektur zu implementieren.

Allzweckserver (Single-Socket)
R164 Serie: Kompaktes 1U Design, das einen einzelnen Intel Xeon 6 Prozessor und eine Dual-Slot GPU unterstützt. Die Servervarianten unterscheiden sich hauptsächlich in der Speicherlösung mit Optionen von 12x 2,5" Einschüben oder 4x 3,5"/2,5" Einschüben für NVMe/SATA/SAS Laufwerke.

R264 Serie: Als Erweiterung eines 2U Gehäuses unterstützt diese Serie ebenfalls einen einzelnen Prozessor, jedoch mit der Möglichkeit bis zu 4x Dual-Slot Gen5 GPUs zu unterstützen.

Allzweckserver (Dual-Socket)
R184 Serie: Ähnliche Speichermöglichkeiten wie die R164 Serie; allerdings bietet die R184 Serie eine größere Rechendichte über zwei CPU Sockel verteilt. Um dies unterzubringen, liegt der Fokus weniger auf Erweiterungssteckplätze und die Dual-Slot GPU Unterstützung ist nicht vorhanden.

R284 Serie: In einem 2U Gehäuse ermöglicht die größere Serverhöhe sowohl Dual-CPU Sockel als auch Dual-Slot GPU Unterstützung. Die Modelle der R284 Serie enthalten Optionen für bis zu 24x 2,5" Gen5 Laufwerke oder 12x 3,5"/2,5" gemischten Speicher.

Edge Server
E264 Serie: Für Kunden, die eine geringe Gehäusetiefe benötigen, bietet diese Serie einen 2U Formfaktor, der einen einzelnen Prozessor und bis zu vier Dual-Slot GPUs unterstützt. Die Servertiefe wurde im Vergleich zu den Allzweckservern um fast 200 mm reduziert. Die Gesamtrechenleistung kann jedoch mit einem Kompromiss in Bezug auf weniger Steckplätze beibehalten werden.

E284 Serie: Mit Schwerpunkt auf CPU Computing ist diese Serie eine Dual-CPU Sockel Konfiguration mit 6x FHHL Erweiterungssteckplätzen und 2x OCP NIC 3.0 Steckplätzen für eine Vielzahl von E/A-Optionen.

NVIDIA MGX Modulare Server
XV24 Serie: Als NVIDIA OVX optimierte Serverplattform unterstützt diese neue Dual-Socket Serie bis zu vier NVIDIA L40S GPUs und verfügt über zusätzliche FHFL Steckplätze für NICs und DPUs.

Multi-Node Server mit hoher Dichte
H374 Serie: Für die ultimative Dichte in der CPU Rechenleistung unterstützt diese Serie bis zu acht CPU Sockel, die auf vier Nodes verteilt sind. Jeder Node verfügt außerdem über vier Low-Profile Erweiterungssteckplätze und entweder zwei oder sechs 2,5" Einschübe.

Server-Motherboards
MA34 Serie: Das hochwertige MA34-CP0 Server-Mainboard mit E/A-Optionen verfügt über MCIO 8i und SlimSAS Anschlüsse sowie vier Gen5 Erweiterungssteckplätze und einen OCP NIC 3.0 Steckplatz.

GIGABYTE verschiebt weiterhin die Grenzen der Serverinnovation und liefert Lösungen, die den sich entwickelnden Anforderungen des modernen Computings gerecht werden. Die neuen Server, die auf Intel^® Xeon^® Prozessoren der 6900 Serie basieren, wurden entwickelt, um Unternehmen in verschiedenen Branchen zu stärken und bieten unübertroffene Leistung, Flexibilität und Effizienz. Da die Industrie zunehmend auf KI, Cloud-Computing und Edge Technologien setzt, bringt GIGABYTE seine Serverdesigns mit den neuesten Fortschritten in der Prozessortechnologie in Einklang, damit unsere Kunden für die Herausforderungen von morgen gut gerüstet sind. Durch die Nutzung der Möglichkeiten der Intel Xeon 6 Plattform wird GIGABYTE Systeme für alle Workloads und vertikalen Märkte anbieten. Zudem wird GIGABYTE in den kommenden Monaten einen neuen GIGABYTE Server ankündigen, der Intel^® Gaudi^® 3 GPUs integriert. Diese skalierbare und kostengünstige Lösung wird KI Workloads adressieren, einschließlich generativer KI Inferenz Workloads. Kunden können sich darauf freuen, sie auf der SC24 in Atlanta zu sehen.

Entdecken Sie GIGABYTE Lösungen auf https://www.gigabyte.com/Industry-Solutions/intel-xeon-6

Bitte verfolgen Sie Giga Computing auf LinkedIn: https://linkedin.com/company/giga-computing Bitte verfolgen Sie Giga Computing auf X:https://x.com/gigacomputing
Bitte verfolgen Sie Giga Computing auf Facebook: https://facebook.com/gigabyteserver

All new GIGABYTE servers support Intel^® Xeon^® 6900-series processors with P-cores that have up to 128 cores and up to 96 PCIe Gen5 lanes. Additionally, for greater performance in memory intensive workloads, the 6900-series expands to 12 channel memory, and makes available up to 64 lanes CXL 2.0. Overall, this modular SOC architecture has great potential with the ability to leverage a shared platform for running both performance and efficiency optimized architecture.

General Purpose (Single-Socket) Servers
R164 Series: Compact 1U design that supports a single Intel Xeon 6 processor and a dual-slot GPU. Server variation within is mostly focused on the storage solution with choices of either 12x 2.5” bays or 4x 3.5”/2.5” bays for NVMe/SATA/SAS drives.

R264 Series: Expanding to a 2U chassis, this series also supports a single processor, but with the ability to support up to 4x dual-slot Gen5 GPUs.

General Purpose (Dual-Socket) Servers
R184 Series: Similar storage choices are possible like the R164 series; however, with the R184 comes greater compute density spread across two CPU sockets, and to accommodate for this there is less of a focus on the expansion slots and removed dual-slot GPU support.

R284 Series: Moving to a 2U chassis, the greater server height affords the ability to have both dual CPU sockets and support for dual-slot GPUs. The models within the R284 series include options of up to 24x 2.5” Gen5 drives or 12x 3.5”/2.5” mixed storage.

Edge Servers
E264 Series: For those in need of short chassis depth, this series retains the ability to have a 2U form factor in support of a single processor and up to four dual-slot GPUs. The server depth has decreased by nearly 200mm compared to general-purpose servers, yet the overall compute performance can be maintained with a tradeoff in less storage bays.

E284 Series: With an emphasis on CPU compute, this series is a dual CPU socket configuration with 6x FHHL expansion slots and 2x OCP NIC 3.0 slots for a wealth of I/O options.

NVIDIA MGX Modularized Servers
XV24 Series: An NVIDIA OVX optimized server platform, this new dual socket series supports up to four NVIDIA L40S GPUs and has additional FHFL slots for NICs and DPUs.

High-density, Multi-node Servers
H374 Series: For the ultimate in dense CPU compute performance, this series supports up to eight CPU sockets spread across four nodes. Each node also has four low-profile expansions slots and either two or six 2.5” bays.

Server-grade Motherboards
MA34 Series: High-quality server board packed with I/O options, the MA34-CP0 is a board rich in both MCIO 8i and SlimSAS connectors, yet it has four Gen5 expansion slots and an OCP NIC 3.0 slot.

GIGABYTE continues to push the boundaries of server innovation, delivering solutions that meet the evolving demands of modern computing. The new servers built on Intel^® Xeon^® 6900-series processors are designed to empower businesses across various sectors, providing unmatched performance, flexibility, and efficiency. As industries increasingly rely on AI, cloud computing, and edge technologies, GIGABYTE’s commitment to aligning its server designs with the latest advancements in processor technology ensures that our customers are well-equipped to handle the challenges of tomorrow. As more is unpacked with the possibilities in the Intel Xeon 6 platform, GIGABYTE will ready systems to match all workloads as well as vertical markets. Additionally, in the coming months, GIGABYTE will announce a new GIGABYTE server that integrates Intel^® Gaudi^® 3 GPUs. This scalable and cost-effective solution will target AI workloads, including generative AI inference workloads. And customers can expect to see it at SC24 in Atlanta.

Discover GIGABYTE solutions, visit https://www.gigabyte.com/Industry-Solutions/intel-xeon-6

For queries or more information, please contact sales

Stay updated with our latest news and announcements by following Giga Computing:
X: http://twitter.com/GigaComputing
LinkedIn: https://www.linkedin.com/company/giga-computing/
Facebook: https://www.facebook.com/gigabyteserver

GIGABYTE’s enterprise portfolio for the Intel^® Xeon^® 6 processor spans GPU servers, direct liquid cooling (DLC) servers, multi-node servers, general purpose motherboards and servers, and edge servers. By releasing a wide range of servers, data centers can quickly integrate it to achieve dynamic goals such as in GIGA POD, a rack-scale supercomputing AI infrastructure by GIGABYTE. The new Xeon based servers by GIGABYTE are also highly compatible with cloud-native software stacks for portability and consistency in containerized applications in distributed systems.

G-series Servers for PCIe GPUs
Cloud-scale workflows depend on efficient AI performance, built-in acceleration, and an ecosystem to accelerate AI. GIGABYTE has crafted two of its GPU series servers, G494 and G294, for this new Intel platform. The G494 series is the most powerful server for accelerated computing using PCIe based accelerators. This series supports up to ten accelerators in a 4U chassis and has additional PCIe slots for NICs and more. To fulfill the need for greater GPU compute density, the G294 series uses a 2U form factor for accelerators including one server that can accommodate up to sixteen inference cards.

High-density H-series Servers with Liquid Cooling Options
The new H274 series for the new Intel^® Xeon^® platform is the most cross-functional line of high-density servers due to its optimal thermal engineering to be used for air, liquid, and immersion cooling models. GIGABYTE’s latest release for the 2U 4-node H274 series rolls out both air and liquid cooling options. Multi-node servers are great for cloud and microservices by enabling scalability, high availability, load balancing, and more. With the H274 series, one server can have up to 1,152 E-cores. And to achieve the best cooling efficiency, options for direct liquid cooling (DLC) kits are available, and GIGABYTE has partnered with CoolIT Systems for the H274 series.

Flexible and Cost-effective Servers and Boards
Being able to handle a wide range of workloads and applications for building and operating cloud infrastructure, new general purpose server series (R164, R264, R184, and R284) and motherboards (MS74, MS04, and MS34) have a high degree of flexibility. There are single and dual-socket options, multiple PCIe expansion slots, and storage options such as U.2/U.3 or E1.S/E3.S drives. To accommodate edge applications, the E-series servers (E164 and E264) have a much shorter depth of only 520mm. These products complement and enhance what is possible in data centers.

This first wave of products for Intel^® Xeon^® 6 is just a sign of what is to come. GIGABYTE’s products will support upcoming Intel^® Xeon^® processors that are socket compatible as well.

To submit a query: Contact Sales
Media Contact: news@gigacomputing.com
Follow Giga Computing on LinkedIn: https://linkedin.com/company/giga-computing
Follow Giga Computing on Facebook: https://facebook.com/gigabyteserver
Follow Giga Computing on X: https://x.com/GigaComputing