{"id":27648,"date":"2024-10-16T12:14:38","date_gmt":"2024-10-16T10:14:38","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=27648"},"modified":"2024-10-16T12:14:43","modified_gmt":"2024-10-16T10:14:43","slug":"zuwachs-fuer-die-dell-ai-factory","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=27648","title":{"rendered":"Zuwachs f\u00fcr die Dell AI Factory"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Dell informiert \u00fcber mehrere neue L\u00f6sungen f\u00fcr seine Dell AI Factory. Diese helfen dabei, optimal zu skalieren und eine besonders hohe Leistungsbereitstellung f\u00fcr KI-Workloads zu bieten. Das bietet unter anderem das Dell Integrated Rack 7000. Au\u00dferdem wurden weitere KI-Plattformen f\u00fcr das neue Rack entwickelt. Diese sorgen f\u00fcr eine bessere Auffindbarkeit von Daten, eine h\u00f6here Speicherdichte als auch f\u00fcr eine bessere KI-Performance. Fortschrittliche K\u00fchlung ist ein weiteres wichtiges Feature der Systeme.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"576\" src=\"https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/10\/Dell-Integrated-Rack-7000-und-PowerEdge-M7725-Quelle-Dell-Technologies-1024x576.webp\" alt=\"\" class=\"wp-image-27650\" srcset=\"https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/10\/Dell-Integrated-Rack-7000-und-PowerEdge-M7725-Quelle-Dell-Technologies-1024x576.webp 1024w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/10\/Dell-Integrated-Rack-7000-und-PowerEdge-M7725-Quelle-Dell-Technologies-300x169.webp 300w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/10\/Dell-Integrated-Rack-7000-und-PowerEdge-M7725-Quelle-Dell-Technologies-768x432.webp 768w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/10\/Dell-Integrated-Rack-7000-und-PowerEdge-M7725-Quelle-Dell-Technologies.webp 1200w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Dell Integrated Rack 7000 und PowerEdge M7725 &#8211; Quelle: Dell Technologies<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Das <strong>Dell Integrated Rack 7000 (IR7000)<\/strong> erf\u00fcllt mit einer hohen Leistungsdichte, einem nachhaltigen Energiemanagement und fortschrittlichen K\u00fchltechnologien schnell wachsende Leistungsanforderungen. Es basiert auf Standards des Open Compute Project (OCP) und erm\u00f6glicht den Aufbau sehr gro\u00dfer IT-Infrastrukturen. Mit seinem zukunftssicheren Design eignet es sich auch f\u00fcr Umgebungen mit heterogenen Technologien und solchen aus unterschiedlichen Technologie-Generationen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die wichtigsten Features sind:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Hohe Leistungsdichte:<\/strong> Das 21-Zoll-Rack ist so konzipiert, dass es die branchenweit h\u00f6chsten CPU- und GPU-Dichten unterst\u00fctzt.<\/li>\n\n\n\n<li><strong>Zukunftssicherheit und Effizienz:<\/strong> Das Rack bietet breitere und h\u00f6here Einsch\u00fcbe, um neuere, gr\u00f6\u00dfere CPU- und GPU-Architekturen aufnehmen zu k\u00f6nnen. Es wurde speziell f\u00fcr die Fl\u00fcssigk\u00fchlung von Prozessoren entwickelt und ist in der Lage, k\u00fcnftige Installationen mit bis zu 480 kW zuverl\u00e4ssig zu k\u00fchlen und nahezu 100 Prozent der entstehenden W\u00e4rme abzuleiten.<\/li>\n\n\n\n<li><strong>Wahlfreiheit und Flexibilit\u00e4t:<\/strong> Das integrierte Rack unterst\u00fctzt sowohl Netzwerkl\u00f6sungen von Dell Technologies als auch anderer Anbieter.<\/li>\n\n\n\n<li><strong>Einfache und energieeffiziente Bereitstellung:<\/strong> Dell Integrated Rack Scalable Systems (IRSS) erm\u00f6glichen den Aufbau skalierbarer, innovativer Rack-Infrastrukturen, die f\u00fcr KI-Workloads optimiert sind. Der Setup-Prozess gestaltet sich dank vollst\u00e4ndig integriertem Plug and Play nahtlos und effizient.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Neben dem Dell IR7000 stellt Dell Technologies auch Plattformen f\u00fcr KI vor, die f\u00fcr das neue Rack entwickelt wurden:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Der <strong>Dell PowerEdge XE9712<\/strong> bietet h\u00f6chste Performance f\u00fcr das Training von LLMs und Echtzeit-Inferencing in gro\u00dfen KI-Implementierungen. Er ist Teil der Dell AI Factory with NVIDIA und erreicht mit dem NVIDIA GB200 NVL72 eine der branchenweit h\u00f6chsten GPU-Dichten. Die Plattform verbindet bis zu 36 NVIDIA-Grace-CPUs mit 72 NVIDIA-Blackwell-GPUs in einem System, wobei die 72 Grafikprozessoren in einer NVLink-Dom\u00e4ne wie ein einzelner Grafikprozessor funktionieren und ein 30-mal schnelleres Echtzeit-Inferencing f\u00fcr LLMs mit Billionen Parametern erm\u00f6glichen. Der fl\u00fcssiggek\u00fchlte NVIDIA GB200 NVL72 ist bis zu 25-mal so effizient wie luftgek\u00fchlte Systeme mit NVIDIA H100.<\/li>\n\n\n\n<li>Der <strong>Dell PowerEdge M7725<\/strong> bietet h\u00f6chste Leistung unter anderem f\u00fcr Anwendungen in der Forschung, bei Beh\u00f6rden, bei Fintechs und im Hochschulbereich. Er ist mit AMDs EPYC-CPUs der f\u00fcnften Generation best\u00fcckt und skaliert zwischen 24k und 27k Cores (64 oder 72 Dual-Nodes), sodass er erheblich mehr Rechenkraft bietet als fr\u00fchere Modelle. Dar\u00fcber hinaus wurde die Wartungsfreundlichkeit verbessert. IO-Slots an der Ger\u00e4tefront erm\u00f6glichen Highspeed-Verbindungen und nahtlose Konnektivit\u00e4t f\u00fcr anspruchsvolle Anwendungen. Der energieeffiziente Formfaktor des Servers sorgt zudem f\u00fcr nachhaltige Implementierungen \u2013 wahlweise mit Direct Liquid Cooling (DLC) oder mit Luftk\u00fchlung via Quick Connect zum Dell Integrated Rack.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Storage- und Datenmanagement f\u00fcr das KI-Zeitalter<\/strong><strong><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Innovationen im Dell-Portfolio f\u00fcr die Speicherung unstrukturierter Daten erh\u00f6hen die Leistung von KI-Anwendungen und sorgen f\u00fcr ein vereinfachtes globales Datenmanagement.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Updates f\u00fcr Dell PowerScale, den ersten Ethernet-Storage, der f\u00fcr NVIDIA DGX SuperPOD zertifiziert wurde, verbessern Datenmanagement, die Workload-Performance und die Unterst\u00fctzung von KI-Workloads<sup>1<\/sup>:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Verbesserte Auffindbarkeit von Daten:<\/strong> PowerScale-Metadaten und Dell Data Lakehouse erlauben es, schneller Einblick in Daten zu gewinnen und eine smarte Entscheidungsfindung zu beschleunigen. Mit einem in K\u00fcrze verf\u00fcgbaren Document Loader f\u00fcr NVIDIA NeMo und RAG-Frameworks (Retrieval Augmented Generation), den Dell Technologies als Open Source bereitstellen wird, k\u00f6nnen Unternehmen zudem die sogenannte Data Ingestion \u2013 den Import von Daten aus verschiedenen Quellen in einen zentralen Speicher \u2013 beschleunigen und CPU- sowie GPU-Kosten senken.<\/li>\n\n\n\n<li><strong>H\u00f6here Speicherdichte:<\/strong> Mit neuen 61-TB-Laufwerken k\u00f6nnen Unternehmen ihre KI-Modelle mit gr\u00f6\u00dferen Datens\u00e4tzen trainieren und dadurch das Fine-Tuning verbessern. Die Laufwerke erh\u00f6hen die Speicherkapazit\u00e4t und Effizienz der Systeme, w\u00e4hrend sie den Storage-Platzbedarf im Rechenzentrum halbieren<sup>2<\/sup>.<\/li>\n\n\n\n<li><strong>H\u00f6here KI-Performance:<\/strong> Die Performance von KI-Workloads wird durch NVIDIA InfiniBand am Frontend und die Unterst\u00fctzung von Ethernet-Adaptern mit 200 GbE verbessert. 200 GbE sorgt f\u00fcr einen bis zu 63 Prozent h\u00f6heren Durchsatz<sup>3<\/sup>.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Die Datenmanagement-Plattform Dell Data Lakehouse bringt neue Funktionen mit, die den Betrieb verbessern und Unternehmen wertvolle Zeit sparen. Dazu z\u00e4hlen Desaster Recovery, automatische Schema-Erkennung, umfassende Management-APIs sowie Full-Stack-Upgrades im Self-Service.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Neue <strong>Optimierungsservices f\u00fcr die Katalogisierung von Daten<\/strong> und <strong>Implementierungsservices f\u00fcr Daten-Pipelines<\/strong> helfen Unternehmen dabei, datengetrieben zu werden und KI- und Business-Anwendungsf\u00e4lle schneller zu skalieren. Die Services verbessern den Zugang zu hochwertigen Daten durch Data Discovery, Organisations-, Automatisierungs- und Integrationsfunktionen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Moderne Arbeitsabl\u00e4ufe mit Dell Generative AI Solutions with Intel<\/strong><strong><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Als Teil der Dell AI Factory bieten die <strong>Dell Generative AI Solutions with Intel<\/strong> gemeinsam entwickelte, getestete und validierte Plattformen f\u00fcr eine nahtlose KI-Bereitstellung. Die vorkonfigurierten L\u00f6sungen setzen auf den Dell PowerEdge XE9680 und Intels KI-Beschleuniger Gaudi 3. Hinzu kommen Storage- und Netzwerk-L\u00f6sungen und Services von Dell Technologies sowie ein Open-Source-Software-Stack. Damit unterst\u00fctzen die Dell Generative AI Solutions with Intel eine breite Palette von GenAI-Anwendungsf\u00e4llen, etwa in den Bereichen Content-Erstellung, digitale Assistenten, Design- und Datengenerierung sowie Code-Erzeugung.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u201eHeutige Rechenzentren k\u00f6nnen mit den hohen Anforderungen von KI nicht mithalten. Ben\u00f6tigt werden innovative L\u00f6sungen mit modularen, flexiblen und effizienten Designs, die f\u00fcr hohe Leistungsdichte und Fl\u00fcssigk\u00fchlung ausgelegt sind\u201c, betont Arthur Lewis, President, Infrastructure Solutions Group, Dell Technologies. \u201eUnsere neuen Systeme liefern die Leistung, die Unternehmen ben\u00f6tigen, um in der sich schnell entwickelnden KI-Welt wettbewerbsf\u00e4hig zu bleiben.\u201c<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Verf\u00fcgbarkeiten<\/strong><strong><\/strong><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Das Dell IR7000 wird weltweit im ersten Quartal 2025 verf\u00fcgbar sein.<\/li>\n\n\n\n<li>Testmuster des Dell PowerEdge XE9712 sind bereits f\u00fcr ausgew\u00e4hlte Kunden verf\u00fcgbar.<\/li>\n\n\n\n<li>Der Dell PowerEdge M7725 wird weltweit im ersten Quartal 2025 verf\u00fcgbar sein.<\/li>\n\n\n\n<li>Updates f\u00fcr Dell PowerScale werden im Laufe des vierten Quartals 2024 verf\u00fcgbar sein.<\/li>\n\n\n\n<li>Updates f\u00fcr Dell Data Lakehouse werden im ersten Halbjahr 2025 verf\u00fcgbar sein.<\/li>\n\n\n\n<li>Dell Generative AI Solutions with Intel werden im Laufe des vierten Quartals 2024 verf\u00fcgbar sein.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Weitere Informationen<\/strong><strong><\/strong><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Blog: <a href=\"https:\/\/www.dell.com\/en-us\/blog\/unstructured-storage-innovations-for-ai-and-data-management\/\">Unstructured Storage Innovations for AI and Data Management<\/a>\u200b<\/li>\n\n\n\n<li>Event: <a href=\"https:\/\/www.thecube.net\/events\/dell\/making-ai-real-with-data\">Making AI Real with Data<\/a>\u200b<\/li>\n\n\n\n<li><a href=\"http:\/\/www.dell.com\/AI\">Dell AI Factory<\/a>\u200b<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><sup>1<\/sup> Basierend auf internen Analysen von Dell Technologies. M\u00e4rz 2024.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><sup>2<\/sup> Basierend auf der Verf\u00fcgbarkeit von 61-TB-SSDs im Vergleich zu bisher verf\u00fcgbaren SSDs mit maximal 30 TB. Oktober 2024.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><sup>3<\/sup> Basierend auf 200 GbE im Vergleich zum bisher verf\u00fcgbare 100 GbE. Oktober 2024.<br><br><strong>Dell-Blog:\u00a0<\/strong><a href=\"https:\/\/www.delltechnologies.com\/de-de\/blog\/\">https:\/\/www.delltechnologies.com\/de-de\/blog\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Dell informiert \u00fcber mehrere neue L\u00f6sungen f\u00fcr seine Dell AI Factory. Diese helfen dabei, optimal zu skalieren und eine besonders hohe Leistungsbereitstellung f\u00fcr KI-Workloads zu bieten. Das bietet unter anderem das Dell Integrated Rack 7000. Au\u00dferdem wurden weitere KI-Plattformen f\u00fcr das neue Rack entwickelt. Diese sorgen f\u00fcr eine bessere Auffindbarkeit von Daten, eine h\u00f6here Speicherdichte als auch f\u00fcr eine bessere KI-Performance. Fortschrittliche K\u00fchlung ist ein weiteres wichtiges Feature der Systeme.<\/p>\n","protected":false},"author":81,"featured_media":27650,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[274,10036,4],"tags":[183,19339,19340],"class_list":["post-27648","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-infrastructure","category-kuenstliche-intelligenz","category-news","tag-dell","tag-dell-ai-factory","tag-dell-integrated-rack-7000"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27648","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/users\/81"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=27648"}],"version-history":[{"count":1,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27648\/revisions"}],"predecessor-version":[{"id":27651,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27648\/revisions\/27651"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/media\/27650"}],"wp:attachment":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=27648"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=27648"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=27648"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}