ICO bietet konfigurierbaren 4HE-Server für KI-Anwendungen
Die ICO Innovative Computer GmbH erweitert ihr Serverangebot um einen speziell für KI-Anwendungen ausgelegten 4HE-Rackserver. Der TensorMaster K45A lässt sich im Online-Konfigurator an unterschiedliche Anforderungen und Workloads anpassen. Dabei können unter anderem Prozessor, Arbeitsspeicher, GPU, Speicher und Netzwerkanbindung ausgewählt werden. Als GPU steht unter anderem die NVIDIA RTX PRO 6000 Blackwell Server Edition mit 96 GB GDDR7 ECC-Speicher zur Verfügung. Der Server richtet sich an Unternehmen, Forschungseinrichtungen und Entwicklungsteams, die KI-Anwendungen innerhalb der eigenen IT-Infrastruktur betreiben möchten.
Hardware für unterschiedliche KI-Workloads
Der TensorMaster K45A 4HE basiert auf einer Serverplattform von MSI und kann mit AMD-EPYC-Prozessoren der Serien 4004 oder 4005 sowie verschiedenen NVIDIA-GPUs ausgestattet werden. Die Prozessoren bieten bis zu 16 Kerne und 32 Threads, während der Arbeitsspeicher auf bis zu 128 GB DDR5-5600 ECC erweitert werden kann.
Bei der GPU-Konfiguration reicht das Angebot bis zur NVIDIA RTX PRO 6000 Blackwell Server Edition mit 96 GB GDDR7 ECC-Speicher. NVIDIA gibt für die GPU eine theoretische FP32-Spitzenleistung von 120 TFLOPS an; bei Tensor-Berechnungen sind abhängig vom verwendeten Zahlenformat bis zu 4 PFLOPS bei FP4 möglich. Daneben lassen sich weitere NVIDIA GeForce RTX und RTX PRO GPUs auswählen.
Als mögliche Einsatzbereiche nennt ICO unter anderem lokale Sprachmodelle, generative KI, Retrieval-Augmented Generation (RAG), Machine Learning, Bildanalyse und Objekterkennung. Auch visuelle Qualitätskontrolle sowie die Verarbeitung von Video-, Audio-, Maschinen- und Sensordaten sind vorgesehen.
Speicher und Netzwerk konfigurierbar
Für Betriebssystem, Anwendungen und KI-Modelle stehen zwei M.2-NVMe-Schnittstellen mit PCIe 4.0 x4 zur Verfügung. Zusätzlich kann der Server mit bis zu vier HDDs oder SSDs ausgestattet werden. Optionale RAID-Controller ermöglichen die Konfiguration entsprechender Laufwerksverbünde.
Zur Netzwerkausstattung gehören zwei Gigabit-LAN-Anschlüsse und ein separater IPMI-Port für die Fernverwaltung. Für höhere Datenübertragungsraten können Netzwerkkarten mit bis zu 50 Gigabit Ethernet ergänzt werden. Bei der Stromversorgung stehen Netzteile mit bis zu 1.600 Watt sowie eine redundante Netzteiloption zur Verfügung.
Nach der Konfiguration wird der Server bei ICO gefertigt, assembliert und getestet. Die Fertigungs- und Prüfprozesse erfolgen nach Angaben des Unternehmens im Rahmen eines Qualitätsmanagementsystems gemäß DIN EN ISO 9001:2015.
