Leistungsfähiger Cluster zum Betreiben von generativen KI-Umgebungen
Supermicro erweitert sein Produktportfolio um Produkte zum Beschleunigen von generativer Künstlicher Intelligenz (KI). Die “SuperCluster”-Lösungen des Herstellers umfassen grundlegende Bausteine, die jetzt und in Zukunft eine Infrastruktur zum Betreiben von Large Language Models (LLMs), also großer Sprachmodelle, schaffen. Konkret bietet Supermicro sowohl luftgekühlte Systeme mit acht Höheneinheiten, als auch flüssigkeitsgekühlte Systeme mit vier Höheneinheiten an. Dazu kommt ein luftgekühlter NVIDIA-MGX-SuperCluster mit einer Höheneinheit, der für Cloud-Scale-Interferenz-Workloads optimiert wurde.
Die drei leistungsstarken Supermicro SuperCluster sind jetzt für generative KI-Workloads verfügbar. Die Produkte wurden speziell für leistungshungrige LLM-Trainingsleistungen sowie für große Batchgrößen und LLM-Inferenzen mit hohem Volumen ausgelegt.
Supermicro 4HE NVIDIA HGX H100/H200 8-GPU Systeme verdoppeln die Dichte der 8HE luftgekühlten Systeme durch den Einsatz von Flüssigkeitskühlung, reduzieren den Energieverbrauch und senken die TCO des Rechenzentrums. Diese Systeme sind für die nächste Generation der auf der NVIDIA Blackwell-Architektur basierenden Grafikprozessoren ausgelegt. Die Supermicro Cooling Distribution Unit (CDU) und Manifold (CDM) sind die Hauptadern für die Verteilung der gekühlten Flüssigkeit an die kundenspezifischen Direct-to-Chip (D2C) Cold Plates von Supermicro, die die GPUs und CPUs auf bestmöglicher Temperatur halten, was zu einer maximalen Leistung führt. Diese Kühltechnologie ermöglicht eine Senkung der Stromkosten für das gesamte Rechenzentrum um bis zu 40 Prozent und spart Platz in den Räumlichkeiten des Rechenzentrums.
Weitere Informationen: https://www.supermicro.com/datasheet/datasheet_SuperCluster_4U.pdf, https://www.supermicro.com/de/products/system/gpu/4u/sys-421ge-tnhr2-lcc, https://www.supermicro.com/datasheet/datasheet_SuperCluster_8U.pdf, https://www.supermicro.com/de/products/system/gpu/8u/sys-821ge-tnhr, https://www.supermicro.com/datasheet/datasheet_SuperCluster_MGX.pdf und https://www.supermicro.com/de/products/system/gpu/1u/ars-111gl-nhr
