Supermicro präsentiert flüssigkeitsgekühltes NVIDIA Vera CPU-Rack mit 256 CPUs für Agentic AI

(Auszug aus der Pressemitteilung)

Super Micro Computer, Inc. (NASDAQ: SMCI), Total-IT-Solution-Anbieter für KI, Enterprise, Storage und 5G/Edge mit Data Center Building Block Solutions® (DCBBS), hat heute das NVIDIA Vera CPU-Rack als jüngste Ergänzung seines DCBBS-Portfolios vorgestellt. Das NVIDIA Vera CPU-Rack bietet hochdichte CPU-Kapazität für Agentic AI, Reinforcement-Learning-Workloads (RL) und Datenverarbeitung und unterstützt 22.500 Sandboxes im Maßstab flüssigkeitsgekühlter KI-Fabriken. Als Ergänzung zum bereits lieferbaren Supermicro NVIDIA Vera Rubin NVL72 lässt sich das zu 100 % flüssigkeitsgekühlte CPU-Rack eigenständig oder zusammen mit dem NVIDIA Vera Rubin NVL72 in KI-Fabriken einsetzen. Es stellt Clustern hochdichte CPU-Rechenleistung bereit und ist auf die rasant steigenden Anforderungen von Agentic AI ausgelegt.

„Da Agentic AI die Anforderungen an Rechenzentren verändert, erweitert Supermicro sein DCBBS-Portfolio um vollständig integrierte Infrastruktur“, sagt Charles Liang, President und CEO von Supermicro. „Für Kunden, die luftgekühlte Lösungen suchen, umfasst das NVIDIA Vera-CPU-Portfolio von Supermicro neben flüssigkeitsgekühlten Rack-Scale-Optionen auch luftgekühlte 1U- und 2U-Systeme. Gemeinsam mit NVIDIA tragen wir dazu bei, die Bereitstellung zu beschleunigen – mit einer gemeinsamen, speziell entwickelten Architektur für sichere und skalierbare Agentic AI.“

„Wenn Unternehmen Agentic AI und Reinforcement Learning skalieren, erfordert die Unterstützung Tausender gleichzeitiger Agenten-Workflows eine neue Klasse hochdichter CPU-Infrastruktur“, sagt Chris Marriott, Vice President Enterprise Platforms bei NVIDIA. „NVIDIA Vera-CPUs und BlueField-4-DPUs, integriert in die flüssigkeitsgekühlte DCBBS-Architektur von Supermicro, bieten Kunden die dedizierte Rechenleistung und hardwarebasierte Sicherheit, um die Ausführung von Agentic-AI-Workloads in ihren KI-Fabriken zu skalieren.“

Für die Ära der Agentic AI entwickelt

Agentic-AI- und RL-Workloads markieren den Übergang von linearen Inferenzketten zu verzweigten, oft in Schleifen ablaufenden Prozessen mit deutlich mehr Zwischenschritten, die von der Verfügbarkeit und Leistung der CPU abhängen. GPUs bleiben die primäre Engine für die Generierung von Tokens, Code und Abfragen, während CPU-basierte Sandbox-Umgebungen Aktionen ausführen, Ergebnisse auswerten, Tools aufrufen und Workflows orchestrieren. In modernen KI-Fabriken mit Hunderten oder Tausenden GPUs wird dedizierte CPU-Rechenleistung benötigt, um Tausende oder Millionen paralleler Ausführungsumgebungen für Agenten zu hosten.

Das NVIDIA Vera CPU-Rack von Supermicro integriert 256 NVIDIA Vera-CPUs mit 22.528 Kernen und 45.056 Threads und unterstützt bis zu 22.500 gleichzeitig laufende Agent-Sandboxes pro Rack. NVIDIA BlueField-4-DPUs liefern leistungsstarkes Networking und Sicherheit direkt auf Chip-Ebene. Der DLC-2-Stack für direkte Flüssigkeitskühlung von Supermicro ermöglicht ein zu 100 % flüssigkeitsgekühltes Rack, das speziell für diese Workloads ausgelegt ist.

Gemeinsame Infrastruktur mit MGX-Racks der dritten Generation und Batterie-Backup-Einheiten

Das Vera CPU-Rack basiert auf dem NVIDIA MGX-Design der dritten Generation, das Teil des DLC-2-Stacks ist, und bildet mit Vera Rubin NVL72 eine gemeinsame Infrastrukturarchitektur für eine standardisierte Bereitstellung. NVIDIA MGX ist eine modulare Referenzarchitektur für beschleunigtes Rechnen, mit der Systemhersteller zukunftssichere Systeme schneller entwickeln, Kosten senken, die Markteinführung beschleunigen und den ROI verbessern können. Für die Stromversorgung der Compute-Racks können Kunden zwischen einer herkömmlichen Wechselstromeinspeisung und einem 800-VDC-Sidecar-Power-Rack wählen. Letzteres ermöglicht den Einsatz von Batterie-Backup-Einheiten (BBU) anstelle einer herkömmlichen USV zum Schutz vor Stromausfällen. Dieser Ansatz schafft Fläche im Rechenzentrum, kann den Wirkungsgrad der Stromumwandlung über die gesamte Kette verbessern und senkt Investitions- und Betriebskosten (CapEx und OpEx).

Sichere Agentic AI mit der OpenShell-Referenzarchitektur

Das NVIDIA Vera CPU-Rack von Supermicro unterstützt nativ die NVIDIA OpenShell-Referenzarchitektur, mit der sich das Verhalten von Agenten kontinuierlich überwachen und steuern lässt. Damit erweitert Supermicro seine Unterstützung für sichere KI-Agenten. NVIDIA OpenShell läuft auf NVIDIA Vera-CPUs und wendet zur Laufzeit richtlinienbasierte Kontrollen nach dem Least-Privilege-Prinzip auf Agenten an. NVIDIA Sentry läuft auf NVIDIA BlueField-4-DPUs als Out-of-Band-Monitor: Es setzt Richtlinien durch, liefert attestierte Telemetriedaten und kann einen Agenten, der seine zulässigen Grenzen überschreitet, innerhalb von Millisekunden unter Quarantäne stellen. Gemeinsam helfen diese Softwarelösungen Unternehmen, Beobachtbarkeit und Nachvollziehbarkeit in produktiven Agentic-AI-Systemen zu gewährleisten, ohne CPU-Ressourcen des Hosts zu beanspruchen.

Optionale Ergänzung zu Vera Rubin NVL72

Das Vera CPU-Rack ist für den Einsatz zusammen mit Vera Rubin NVL72 konzipiert, eignet sich aber ebenso für den eigenständigen Betrieb. Für Kunden, die auf den Supermicro DCBBS-Blueprints für NVIDIA Vera Rubin NVL72 aufbauen, bietet Supermicro ein optionales Design, das Vera Rubin NVL72-Racks mit Vera CPU-Racks kombiniert. Es umfasst eine definierte Netzwerktopologie auf Basis von NVIDIA Spectrum-X™ Ethernet, Layouts mit Warmgang-Einhausung (Hot Aisle Containment) sowie redundante In-Row-Kühlmittelverteilungseinheiten (CDUs) und Rücktür-Wärmetauscher (Rear Door Heat Exchanger) aus dem DLC-2-Stack. Ein einziges Supermicro-Team betreut Standortanalyse, Planung, Integration und Tests auf L11- und L12-Ebene, Installation vor Ort sowie den laufenden Support – unabhängig davon, ob das Vera CPU-Rack zusammen mit Vera Rubin NVL72 oder eigenständig eingesetzt wird.

Flexibler Einsatz über NVIDIA Vera Rubin NVL72 hinaus

Das Vera CPU-Rack lässt sich auch als eigenständige CPU-Plattform betreiben. Im Standalone-Betrieb kann es Agent-Orchestrierung und Sandboxing, Datenbankoperationen, Cluster-Management, Scheduler wie Slurm und Kubernetes, Datenanalysen sowie groß angelegte Software-Build-Pipelines beschleunigen.

Verfügbarkeit

Das Supermicro NVIDIA Vera CPU-Rack ist ab sofort auf Anfrage erhältlich.