Supermicro -Systeme mit der NVIDIA B200 übertreffen die vorherige Generation von Systemen mit 3x die Token -Erzeugung pro Sekunde

San Jose, Kalifornien, 3. April 2025/PRNewswire/ - Super Micro Computer, Inc. (SMCI), ein IT -Lösungsanbieter für AI/ML, HPC, Cloud, Speicher und 5G/Kante

SAN JOSE, Calif., April 3, 2025 /PRNewswire/ -- Super Micro Computer, Inc. (NASDAQ: SMCI), a leading provider of advanced technology enterprise computing, storage, networking solutions, and a Total IT Solution Provider for Artificial Intelligence (AI) and Machine Learning (ML), today announced first-to-market industry leading performance on several MLPerf Inference v5.0 benchmarks, using the NVIDIA HGX B200 8-GPU. The 4U liquid-cooled and 10U air-cooled systems achieved the best performance in select benchmarks. Supermicro demonstrated more than 3 times the tokens per second (Token/s) generation for Llama2-70B and Llama3.1-405B benchmarks compared to H200 8-GPU systems.

San Jose, Kalifornien, 3. April 2025 / PRNewswire /-Super Micro Computer, Inc. (NASDAQ: SMCI), ein führender Anbieter fortschrittlicher Technologieunternehmen, Speicher, Networking-Lösungen und ein Total IT-Lösungsanbieter für künstliche Intelligenz (AI) und Machine Learning (ML). NVIDIA HGX B200 8-GPU. Die luftgekühlten 4U-Flüssigkeiten und 10U-Systeme erzielten die beste Leistung in ausgewählten Benchmarks. Supermicro zeigte mehr als das Dreifache der Token pro Sekunde (Token/s) Generation für LLAMA2-70B und LAMA3.1-405B Benchmarks im Vergleich zu H200 8-GPU-Systemen.

"Supermicro remains a leader in the AI industry, as evidenced by the first new benchmarks released by MLCommons in 2025," said Charles Liang, president and CEO, Supermicro. "Our building block architecture enables us to be first-to-market with a diverse range of systems optimized for various workloads. We continue to closely collaborate with NVIDIA to fine-tune our systems and secure a leadership position in AI workloads."

"Supermicro ist nach wie vor führend in der KI -Branche, wie die ersten neuen Benchmarks von MLCommons im Jahr 2025 belegen", sagte Charles Liang, Präsident und CEO von Supermicro. "Unsere Bausteinarchitektur ermöglicht es uns, erstmals mit einer Vielzahl von Systemen für verschiedene Arbeitsbelastungen optimiert zu sein. Wir arbeiten weiterhin eng mit NVIDIA zusammen, um unsere Systeme zu fein und eine Führungsposition in KI-Arbeitsbelastungen zu sichern."

Learn more about the new MLPerf v5.0 Inference benchmarks at: https://mlcommons.org/benchmarks/inference-datacenter/

Erfahren Sie mehr über die neuen MLPERF V5.0-Inferenz-Benchmarks unter: https://mlcommons.org/benchmarks/inference-datacenter/

Supermicro is the only system vendor publishing record MLPerf inference performance (on select benchmarks) for both the air-cooled and liquid-cooled NVIDIA HGX B200 8-GPU systems. Both air-cooled and liquid-cooled systems were operational before the MLCommons benchmark start date. Supermicro engineers optimized the systems and software to showcase the impressive performance. Within the operating margin, the Supermicro air-cooled B200 system exhibited the same level of performance as the liquid-cooled B200 system. Supermicro has been delivering these systems to customers while we conducted the benchmarks.

Supermicro ist die einzige Systemanbieter-Veröffentlichung von MLPERF-Inferenzleistung (für ausgewählte Benchmarks) für die luftgekühlten und flüssiggekühlten NVIDIA HGX B200 8-GPU-Systeme. Sowohl luftgekühlte als auch flüssiggekühlte Systeme waren vor dem Startdatum von MlCommons Benchmark in Betrieb. Supermicro -Ingenieure optimierten die Systeme und die Software, um die beeindruckende Leistung zu präsentieren. Innerhalb des operativen Randes zeigte das luftgekühlte Supermicro-B200-System das gleiche Leistungsniveau wie das flüssiggekühlte B200-System. Supermicro hat diese Systeme an Kunden geliefert, während wir die Benchmarks durchgeführt haben.

MLCommons emphasizes that all results be reproducible, that the products are available and that the results can be audited by other MLCommons members. Supermicro engineers optimized the systems and software, as allowed by the MLCommons rules.

MLCommons betont, dass alle Ergebnisse reproduzierbar sind, dass die Produkte verfügbar sind und dass die Ergebnisse von anderen MLCommons -Mitgliedern geprüft werden können. Supermicro -Ingenieure optimierten die Systeme und die Software, wie die MLCommons -Regeln zulässig.

The SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) and SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) showed performance leadership running the Mixtral 8x7B Inference, Mixture of Experts benchmarks with 129,000 tokens/second. The Supermicro air-cooled and liquid-cooled NVIDIA B200 based system delivered over 1,000 tokens/second inference for the large Llama3.1-405b model, whereas the previous generations of GPU systems have much smaller results. For smaller inferencing tasks, using the LLAMA2-70b benchmark, a Supermicro system with the NVIDIA B200 SXM-180GB installed shows the highest performance from a Tier 1 system supplier.

Der SYS-421GE-NBRT-LCC (8X NVIDIA B200-SXM-180GB) und SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180 GB) zeigte Leistung, die die Leistung der MIMTRAL 8x7B, die Mischung von Experten mit 129.000 bis zu den Mixtral 8x7b-Mischung aus Experten mit 129.000 bis zu den Keks/Seconds/Sekunde leitete. Das luftgekühlte und flüssiggekühlte NVIDIA B200-System lieferte über 1.000 Token/zweite Inferenz für das große Lama3.1-405b-Modell, während die vorherigen Generationen von GPU-Systemen viel kleinere Ergebnisse haben. Bei kleineren Ausführungsaufgaben zeigt ein Supermicro-System mit dem NVIDIA B200 SXM-180 GB ein Supermicro-System mit der installierten NVIDIA B200 SXM-180 GB die höchste Leistung eines Tier-1-Systemlieferanten.

Specifically:

Speziell:

* The Supermicro liquid-cooled system SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) achieved the best performance in select benchmarks.

* Das SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180 GB) des Supermicro-Flüssigkeits-Systems erreichte die beste Leistung in ausgewählten Benchmarks.

* The Supermicro air-cooled system SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) also achieved the best performance in select benchmarks.

* Das SYS-A21GE-NBRT (8-fache NVIDIA B200-SXM-180 GB) hat ebenfalls die beste Leistung in ausgewählten Benchmarks erreicht.

* Both systems achieved the best performance in the Mixtral 8x7B Inference, Mixture of Experts benchmarks with 129,000 tokens/second.

* Beide Systeme erzielten die beste Leistung in der Mixtral 8x7b -Inferenz, Mischung von Experten -Benchmarks mit 129.000 Token/Sekunden.

* The Supermicro air-cooled and liquid-cooled NVIDIA B200 based system delivered over 1,000 tokens/second inference for the large Llama3.1-405b model.

* Das luftgekühlte und flüssiggekühlte NVIDIA B200-System lieferte über 1.000 Token/zweite Inferenz für das große Modell der großen LLAMA3.1-405B.

* For smaller inferencing tasks, using the LLAMA2-70b benchmark, a Supermicro system with the NVIDIA B200 SXM-180GB installed shows the highest performance from a Tier 1 system supplier.

* Für kleinere Inferenzaufgaben zeigt ein Supermikro-System mit dem installierten NVIDIA B200 SXM-180 GB ein Supermicro-System mit dem NVIDIA B200 SXM-180 GB die höchste Leistung eines Tier-1-Systemlieferanten.

"We at MLCommons are pleased to see results from members demonstrating significant performance gains compared to earlier generations of systems,” said David Kanter, Head of MLPerf at MLCommons. “Customers will be pleased by the performance improvements achieved which are validated by the neutral, representative and reproducible MLPerf results. We encourage members to continue pushing the boundaries of deep learning technology and we look forward to seeing the results of future generations of hardware and software.”

"Wir bei MLCommons freuen sich, Ergebnisse von Mitgliedern zu sehen, die im Vergleich zu früheren Systemen von Systemen signifikante Leistungsgewinne zeigen", sagte David Kanter, Leiter von MLPerf bei MLCommons. „Die Kunden werden sich über die erzielten Leistungsverbesserungen freuen, die durch die neutralen, repräsentativen und reproduzierbaren MLPerf -Ergebnisse validiert werden. Wir ermutigen die Mitglieder, die Grenzen der Deep -Lern -Technologie weiter zu überschreiten, und freuen uns darauf, die Ergebnisse zukünftiger Generationen von Hardware und Software zu sehen.“

Supermicro offers a comprehensive AI portfolio with over 100 GPU-optimized systems, both air-cooled and liquid-cooled options, with a choice of CPUs, ranging from single-socket optimized systems to 8-way multiprocessor systems. Supermicro rack-scale systems include computing

Supermicro bietet ein umfassendes KI-Portfolio mit über 100 GPU-optimierten Systemen, sowohl mit luftgekühlten als auch flüssigen Optionen, mit einer Auswahl an CPUs, die von einsocketoptimierten Systemen bis zu 8-Wege-Multiprozessor-Systemen reichen. Supermicro-Rack-Scale-Systeme umfassen das Computer