{"id":26429,"date":"2024-04-09T10:45:02","date_gmt":"2024-04-09T08:45:02","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=26429"},"modified":"2024-04-02T10:55:47","modified_gmt":"2024-04-02T08:55:47","slug":"leistungsfaehiger-cluster-zum-betreiben-von-generativen-ki-umgebungen","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=26429","title":{"rendered":"Leistungsf\u00e4higer Cluster zum Betreiben von generativen KI-Umgebungen"},"content":{"rendered":"\n

Supermicro erweitert sein Produktportfolio um Produkte zum Beschleunigen von generativer K\u00fcnstlicher Intelligenz (KI). Die „SuperCluster“-L\u00f6sungen des Herstellers umfassen grundlegende Bausteine, die jetzt und in Zukunft eine Infrastruktur zum Betreiben von Large Language Models (LLMs), also gro\u00dfer Sprachmodelle, schaffen. Konkret bietet Supermicro sowohl luftgek\u00fchlte Systeme mit acht H\u00f6heneinheiten, als auch fl\u00fcssigkeitsgek\u00fchlte Systeme mit vier H\u00f6heneinheiten an. Dazu kommt ein luftgek\u00fchlter NVIDIA-MGX-SuperCluster mit einer H\u00f6heneinheit, der f\u00fcr Cloud-Scale-Interferenz-Workloads optimiert wurde.<\/p>\n\n\n\n

\"\"
Quelle: Supermicro<\/figcaption><\/figure>\n\n\n\n\n\n\n\n

Die drei leistungsstarken Supermicro SuperCluster\u00a0sind jetzt f\u00fcr generative KI-Workloads verf\u00fcgbar. Die Produkte wurden speziell f\u00fcr leistungshungrige LLM-Trainingsleistungen sowie f\u00fcr gro\u00dfe Batchgr\u00f6\u00dfen und LLM-Inferenzen mit hohem Volumen ausgelegt.<\/p>\n\n\n\n

Supermicro 4HE NVIDIA HGX H100\/H200 8-GPU Systeme verdoppeln die Dichte der 8HE luftgek\u00fchlten Systeme durch den Einsatz von Fl\u00fcssigkeitsk\u00fchlung, reduzieren den Energieverbrauch und senken die TCO des Rechenzentrums. Diese Systeme sind f\u00fcr die n\u00e4chste Generation der auf der NVIDIA Blackwell-Architektur basierenden Grafikprozessoren ausgelegt. Die Supermicro Cooling Distribution Unit (CDU) und Manifold (CDM) sind die Hauptadern f\u00fcr die Verteilung der gek\u00fchlten Fl\u00fcssigkeit an die kundenspezifischen Direct-to-Chip (D2C) Cold Plates von Supermicro, die die GPUs und CPUs auf bestm\u00f6glicher Temperatur halten, was zu einer maximalen Leistung f\u00fchrt. Diese K\u00fchltechnologie erm\u00f6glicht eine Senkung der Stromkosten f\u00fcr das gesamte Rechenzentrum um bis zu 40 Prozent und spart Platz in den R\u00e4umlichkeiten des Rechenzentrums.<\/p>\n\n\n\n

Weitere Informationen: https:\/\/www.supermicro.com\/datasheet\/datasheet_SuperCluster_4U.pdf<\/a>, https:\/\/www.supermicro.com\/de\/products\/system\/gpu\/4u\/sys-421ge-tnhr2-lcc<\/a>, https:\/\/www.supermicro.com\/datasheet\/datasheet_SuperCluster_8U.pdf<\/a>, https:\/\/www.supermicro.com\/de\/products\/system\/gpu\/8u\/sys-821ge-tnhr<\/a>, https:\/\/www.supermicro.com\/datasheet\/datasheet_SuperCluster_MGX.pdf<\/a> und https:\/\/www.supermicro.com\/de\/products\/system\/gpu\/1u\/ars-111gl-nhr<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Supermicro erweitert sein Produktportfolio um Produkte zum Beschleunigen von generativer K\u00fcnstlicher Intelligenz (KI). Die „SuperCluster“-L\u00f6sungen des Herstellers umfassen grundlegende Bausteine, die jetzt und in Zukunft eine Infrastruktur zum Betreiben von Large Language Models (LLMs), also gro\u00dfer Sprachmodelle, schaffen. Konkret bietet Supermicro sowohl luftgek\u00fchlte Systeme mit acht H\u00f6heneinheiten, als auch fl\u00fcssigkeitsgek\u00fchlte Systeme mit vier H\u00f6heneinheiten an. Dazu kommt ein luftgek\u00fchlter NVIDIA-MGX-SuperCluster mit einer H\u00f6heneinheit, der f\u00fcr Cloud-Scale-Interferenz-Workloads optimiert wurde.<\/p>\n","protected":false},"author":81,"featured_media":26431,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[10036,4],"tags":[18040,17345,1190,18039,6735],"class_list":["post-26429","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","category-news","tag-cloud-scale-interferenz-workload","tag-llm","tag-nvidia","tag-supercluster","tag-supermicro"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/26429","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/users\/81"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=26429"}],"version-history":[{"count":1,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/26429\/revisions"}],"predecessor-version":[{"id":26432,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/26429\/revisions\/26432"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/media\/26431"}],"wp:attachment":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=26429"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=26429"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=26429"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}