HTEC und Modular bringen KI-Software-Stack in wenigen Monaten auf Google-TPUs
Die Unternehmen HTEC und Modular demonstrieren, dass sich das Hardware-Enablement für KI-Workloads deutlich beschleunigen lässt. In einem gemeinsamen Projekt passten die beiden Unternehmen den KI-Software-Stack von Modular an die Tensor Processing Units (TPUs) von Google an. Für eine Aufgabe, die sonst Jahre in Anspruch nehmen kann, benötigten HTEC und Modular nach eigenen Angaben lediglich einige Monate. Statt den Software-Stack für die neue Hardware komplett neu zu entwickeln, erweiterten die Unternehmen die bestehende Basis aus Modular Max und Modular Mojo. Vorgestellt wurde das Projekt im August auf der ModCon 2026 in San Francisco.
Portabler Software-Layer als Basis
Grundlage der Arbeit ist laut HTEC und Modular ein portabler Software-Layer in Kombination mit spezialisiertem Compiler- und Runtime-Engineering, der neue Compute-Architekturen schneller nutzbar machen soll. Diese Erkenntnis gilt als relevant, weil der Bedarf an Compute-Ressourcen für KI-Workloads weiter wächst. Viele Unternehmen wollen sich dabei nicht an ein einziges Hardware-Ökosystem binden, um Performance und Skalierbarkeit zu verbessern sowie das Risiko von Kostensteigerungen, Kapazitätsengpässen und Lieferschwierigkeiten zu verringern.
Bislang lag die größte Hürde für einen solchen Wechsel meist in der Software: Jeder neue Beschleuniger kann umfangreiche Anpassungen an Compilern, Laufzeitumgebungen und Inferenzsystemen erfordern, bevor KI-Workloads die Hardware tatsächlich effektiv nutzen können. Das Projekt von HTEC und Modular zeigt nach Angaben der Unternehmen, dass sich dieser Prozess durch gezieltes Engineering erheblich verkürzen lässt.
Bedeutung für künftige Hardware-Initiativen
Über die reine Bereitstellung von Max und Mojo auf Google-TPUs hinaus soll das Projekt laut den beteiligten Unternehmen auch die langfristigen Investitionen von HTEC in das Enablement von KI-Hardware sowie den Ansatz von Modular für hardwareunabhängige KI-Software unterstreichen. Zugleich stärke das Projekt die Fähigkeiten von HTEC, künftige Halbleiter- und KI-Initiativen in der Branche zu unterstützen.
