Zuwachs für die Dell AI Factory

Dell informiert über mehrere neue Lösungen für seine Dell AI Factory. Diese helfen dabei, optimal zu skalieren und eine besonders hohe Leistungsbereitstellung für KI-Workloads zu bieten. Das bietet unter anderem das Dell Integrated Rack 7000. Außerdem wurden weitere KI-Plattformen für das neue Rack entwickelt. Diese sorgen für eine bessere Auffindbarkeit von Daten, eine höhere Speicherdichte als auch für eine bessere KI-Performance. Fortschrittliche Kühlung ist ein weiteres wichtiges Feature der Systeme.

Das Dell Integrated Rack 7000 (IR7000) erfüllt mit einer hohen Leistungsdichte, einem nachhaltigen Energiemanagement und fortschrittlichen Kühltechnologien schnell wachsende Leistungsanforderungen. Es basiert auf Standards des Open Compute Project (OCP) und ermöglicht den Aufbau sehr großer IT-Infrastrukturen. Mit seinem zukunftssicheren Design eignet es sich auch für Umgebungen mit heterogenen Technologien und solchen aus unterschiedlichen Technologie-Generationen.

Die wichtigsten Features sind:

• Hohe Leistungsdichte: Das 21-Zoll-Rack ist so konzipiert, dass es die branchenweit höchsten CPU- und GPU-Dichten unterstützt.
• Zukunftssicherheit und Effizienz: Das Rack bietet breitere und höhere Einschübe, um neuere, größere CPU- und GPU-Architekturen aufnehmen zu können. Es wurde speziell für die Flüssigkühlung von Prozessoren entwickelt und ist in der Lage, künftige Installationen mit bis zu 480 kW zuverlässig zu kühlen und nahezu 100 Prozent der entstehenden Wärme abzuleiten.
• Wahlfreiheit und Flexibilität: Das integrierte Rack unterstützt sowohl Netzwerklösungen von Dell Technologies als auch anderer Anbieter.
• Einfache und energieeffiziente Bereitstellung: Dell Integrated Rack Scalable Systems (IRSS) ermöglichen den Aufbau skalierbarer, innovativer Rack-Infrastrukturen, die für KI-Workloads optimiert sind. Der Setup-Prozess gestaltet sich dank vollständig integriertem Plug and Play nahtlos und effizient.

Neben dem Dell IR7000 stellt Dell Technologies auch Plattformen für KI vor, die für das neue Rack entwickelt wurden:

• Der Dell PowerEdge XE9712 bietet höchste Performance für das Training von LLMs und Echtzeit-Inferencing in großen KI-Implementierungen. Er ist Teil der Dell AI Factory with NVIDIA und erreicht mit dem NVIDIA GB200 NVL72 eine der branchenweit höchsten GPU-Dichten. Die Plattform verbindet bis zu 36 NVIDIA-Grace-CPUs mit 72 NVIDIA-Blackwell-GPUs in einem System, wobei die 72 Grafikprozessoren in einer NVLink-Domäne wie ein einzelner Grafikprozessor funktionieren und ein 30-mal schnelleres Echtzeit-Inferencing für LLMs mit Billionen Parametern ermöglichen. Der flüssiggekühlte NVIDIA GB200 NVL72 ist bis zu 25-mal so effizient wie luftgekühlte Systeme mit NVIDIA H100.
• Der Dell PowerEdge M7725 bietet höchste Leistung unter anderem für Anwendungen in der Forschung, bei Behörden, bei Fintechs und im Hochschulbereich. Er ist mit AMDs EPYC-CPUs der fünften Generation bestückt und skaliert zwischen 24k und 27k Cores (64 oder 72 Dual-Nodes), sodass er erheblich mehr Rechenkraft bietet als frühere Modelle. Darüber hinaus wurde die Wartungsfreundlichkeit verbessert. IO-Slots an der Gerätefront ermöglichen Highspeed-Verbindungen und nahtlose Konnektivität für anspruchsvolle Anwendungen. Der energieeffiziente Formfaktor des Servers sorgt zudem für nachhaltige Implementierungen – wahlweise mit Direct Liquid Cooling (DLC) oder mit Luftkühlung via Quick Connect zum Dell Integrated Rack.

Storage- und Datenmanagement für das KI-Zeitalter

Innovationen im Dell-Portfolio für die Speicherung unstrukturierter Daten erhöhen die Leistung von KI-Anwendungen und sorgen für ein vereinfachtes globales Datenmanagement.

Updates für Dell PowerScale, den ersten Ethernet-Storage, der für NVIDIA DGX SuperPOD zertifiziert wurde, verbessern Datenmanagement, die Workload-Performance und die Unterstützung von KI-Workloads¹:

• Verbesserte Auffindbarkeit von Daten: PowerScale-Metadaten und Dell Data Lakehouse erlauben es, schneller Einblick in Daten zu gewinnen und eine smarte Entscheidungsfindung zu beschleunigen. Mit einem in Kürze verfügbaren Document Loader für NVIDIA NeMo und RAG-Frameworks (Retrieval Augmented Generation), den Dell Technologies als Open Source bereitstellen wird, können Unternehmen zudem die sogenannte Data Ingestion – den Import von Daten aus verschiedenen Quellen in einen zentralen Speicher – beschleunigen und CPU- sowie GPU-Kosten senken.
• Höhere Speicherdichte: Mit neuen 61-TB-Laufwerken können Unternehmen ihre KI-Modelle mit größeren Datensätzen trainieren und dadurch das Fine-Tuning verbessern. Die Laufwerke erhöhen die Speicherkapazität und Effizienz der Systeme, während sie den Storage-Platzbedarf im Rechenzentrum halbieren².
• Höhere KI-Performance: Die Performance von KI-Workloads wird durch NVIDIA InfiniBand am Frontend und die Unterstützung von Ethernet-Adaptern mit 200 GbE verbessert. 200 GbE sorgt für einen bis zu 63 Prozent höheren Durchsatz³.

Die Datenmanagement-Plattform Dell Data Lakehouse bringt neue Funktionen mit, die den Betrieb verbessern und Unternehmen wertvolle Zeit sparen. Dazu zählen Desaster Recovery, automatische Schema-Erkennung, umfassende Management-APIs sowie Full-Stack-Upgrades im Self-Service.

Neue Optimierungsservices für die Katalogisierung von Daten und Implementierungsservices für Daten-Pipelines helfen Unternehmen dabei, datengetrieben zu werden und KI- und Business-Anwendungsfälle schneller zu skalieren. Die Services verbessern den Zugang zu hochwertigen Daten durch Data Discovery, Organisations-, Automatisierungs- und Integrationsfunktionen.

Moderne Arbeitsabläufe mit Dell Generative AI Solutions with Intel

Als Teil der Dell AI Factory bieten die Dell Generative AI Solutions with Intel gemeinsam entwickelte, getestete und validierte Plattformen für eine nahtlose KI-Bereitstellung. Die vorkonfigurierten Lösungen setzen auf den Dell PowerEdge XE9680 und Intels KI-Beschleuniger Gaudi 3. Hinzu kommen Storage- und Netzwerk-Lösungen und Services von Dell Technologies sowie ein Open-Source-Software-Stack. Damit unterstützen die Dell Generative AI Solutions with Intel eine breite Palette von GenAI-Anwendungsfällen, etwa in den Bereichen Content-Erstellung, digitale Assistenten, Design- und Datengenerierung sowie Code-Erzeugung.

„Heutige Rechenzentren können mit den hohen Anforderungen von KI nicht mithalten. Benötigt werden innovative Lösungen mit modularen, flexiblen und effizienten Designs, die für hohe Leistungsdichte und Flüssigkühlung ausgelegt sind“, betont Arthur Lewis, President, Infrastructure Solutions Group, Dell Technologies. „Unsere neuen Systeme liefern die Leistung, die Unternehmen benötigen, um in der sich schnell entwickelnden KI-Welt wettbewerbsfähig zu bleiben.“

Verfügbarkeiten

• Das Dell IR7000 wird weltweit im ersten Quartal 2025 verfügbar sein.
• Testmuster des Dell PowerEdge XE9712 sind bereits für ausgewählte Kunden verfügbar.
• Der Dell PowerEdge M7725 wird weltweit im ersten Quartal 2025 verfügbar sein.
• Updates für Dell PowerScale werden im Laufe des vierten Quartals 2024 verfügbar sein.
• Updates für Dell Data Lakehouse werden im ersten Halbjahr 2025 verfügbar sein.
• Dell Generative AI Solutions with Intel werden im Laufe des vierten Quartals 2024 verfügbar sein.

Weitere Informationen

• Blog: Unstructured Storage Innovations for AI and Data Management​
• Event: Making AI Real with Data​
• Dell AI Factory​

¹ Basierend auf internen Analysen von Dell Technologies. März 2024.

² Basierend auf der Verfügbarkeit von 61-TB-SSDs im Vergleich zu bisher verfügbaren SSDs mit maximal 30 TB. Oktober 2024.

³ Basierend auf 200 GbE im Vergleich zum bisher verfügbare 100 GbE. Oktober 2024.

Dell-Blog: https://www.delltechnologies.com/de-de/blog/