Dell Technologies und NVIDIA zünden Turbo für KI-Einführung

(Auszug aus der Pressemitteilung)

Dell Technologies baut das Angebot der „Dell AI Factory with NVIDIA“ weiter aus: Eine ganze Reihe neuer Server-, Edge- und Workstation-Lösungen sowie neuer Services ermöglichen es Unternehmen, die Einführung von Künstlicher Intelligenz zu beschleunigen.

Die Dell AI Factory with NVIDIA kombiniert das führende KI-Portfolio von Dell Technologies mit NVIDIAs Software-Plattform NVIDIA AI Enterprise, die auf NVIDIA Tensor Core GPUs, dem NVIDIA Spectrum-X Ethernet Networking Fabric und NVIDIA Bluefield DPUs beruht. Unternehmen erhalten dadurch integrierte Funktionalitäten, die auf ihre individuellen Anforderungen zugeschnitten sind, sowie validierte Full-Stack-Lösungen. Sie ermöglichen ihnen einen schnellen Einstieg in anspruchsvolle KI-Anwendungsfälle wie Retrieval Augmented Generation (RAG) oder das Training und den Einsatz von KI-Modellen.

Fortschrittliche Rechenleistung für großangelegte KI-Implementierungen​

Mit dem neuen Dell PowerEdge XE9680L Server können Unternehmen fortschrittliche Rechenleistung für großangelegte KI-Implementierungen nutzen. Der Server unterstützt acht NVIDIA GPUs mit Blackwell-Architektur in einem kompakten 4-Höheneinheiten-Formfaktor. Der Server bietet die höchstmögliche Rack-Scale-Dichte für NVIDIA Blackwell GPUs in einem Industriestandard-x86-Rack und bietet 33 % mehr GPU-Dichte pro Node (1). Außerdem bringt die Plattform 20 % mehr PCIe-Gen5-Steckplätze mit und verdoppelt die Nord-Süd-Kapazität des Netzwerks (2).

Mit Direct Liquid Cooling für CPUs und GPUs verbessert der Server die Gesamteffizienz. Er ist für eine einfache Wartung konzipiert und wird vollständig konfiguriert und vorintegriert für Rack-Scale-Implementierungen und Vor-Ort-Installationen verfügbar sein.

Mit dem Dell PowerEdge XE9680L bietet Dell Technologies extrem dichte und energieeffiziente schlüsselfertige Rack-Lösungen an. Damit können Unternehmen die Zeit bis zur Wertschöpfung großer GPU-beschleunigter Implementierungen deutlich verkürzen. Dafür werden ihnen mehrere Varianten zur Verfügung stehen, darunter eine luftgekühlte Lösung, die 64 GPUs in einem einzigen Rack unterstützt, und eine flüssigkeitsgekühlte GB200-NVL72-Racklösung mit 72 NVIDIA Blackwell GPUs in einem einzigen Rack.

KI-Anwendungen schneller am Edge bereitstellen​

Erweiterungen von Dell NativeEdge ermöglichen es Unternehmen, KI-Anwendungen am Netzwerkrand schneller zu implementieren. Als erste Edge-Orchestrierungs-Plattform (3) automatisiert Dell NativeEdge die Bereitstellung von NVIDIA AI Enterprise Software. Organisationen aller Art, von Fertigungsunternehmen bis zu Einzelhändlern, stehen dazu neue Dell NativeEdge Deployment Blueprints zur Verfügung. Sie decken die Videoanalysefunktionen von NVIDIA Metropolis, die Sprach- und Übersetzungsfunktionen von NVIDIA Riva sowie die Inferencing-Microservices von NVIDIA NIM ab.

Entwicklung und Bereitstellung von KI-Anwendungen beschleunigen​

Die neue Dell Generative AI Solution for Digital Assistants beschleunigt die Implementierung von digitalen Assistenten auf einer Full-Stack-Lösung von Dell Technologies und NVIDIA. Die ebenfalls neuen Implementation Services for Digital Assistants helfen Unternehmen darüber hinaus beim Design, der Planung, der Implementierung, dem Test und der Skalierung der Lösung.

Mit neuen automatisierten Bereitstellungsfunktionen der Dell AI Factory with NVIDIA können Unternehmen KI-Umgebungen für zahlreiche Anwendungsfälle schnell einrichten. Die gemeinsam mit NVIDIA entwickelte vollständige Stack-Automatisierung verkürzt die Zeit bis zur Wertschöpfung im Vergleich zu einer manuellen Bereitstellung um bis zu 86 % (4). In Kombination mit NVIDIA Inferencing Microservices (NIM) lässt sich die Gesamtzeit von der Bereitstellung bis zur Ausführung von Inferencing-Aufgaben sogar noch weiter reduzieren. Die NIM bieten Entwicklern einsatzbereite und optimierte Inferencing-Engines für gängige KI-Modelle, die von NVIDIA und seinen Partnern angeboten werden.

Mit den neuen Dell Accelerator Services for RAG on Precision AI Workstations können Unternehmen die Entwicklungszyklen von KI-Anwendungen verkürzen. Auf einer Dell Precision Workstation mit dem NVIDIA AI Workbench Toolkit können sie leistungsfähige KI-Anwendungen anhand eines maßgeschneiderten großen Sprachmodells mit RAG in einer sicheren Umgebung schnell entwickeln.

„Die nächste technologische Revolution mutig angehen“​

„Unternehmen möchten die Chancen von KI schnell nutzen. Deshalb ist unsere Zusammenarbeit mit NVIDIA so wichtig“, erklärt Michael Dell, Gründer und CEO von Dell Technologies. „Mit den Neuerungen der Dell AI Factory with NVIDIA setzen wir unsere gemeinsame Mission fort und machen es Unternehmen leicht, KI zu implementieren und die nächste technologische Revolution mutig anzugehen.“

„Generative KI erfordert eine neue Art von Rechen-Infrastruktur: eine KI-Fabrik, die Intelligenz produziert“, ergänzt Jensen Huang, Gründer und CEO von NVIDIA. „NVIDIA und Dell Technologies stellen gemeinsam allen Branchen weltweit ein Full-Stack-Angebot einschließlich Computing, Netzwerk und Software für die Copilots, Coding-Assistenten, virtuellen Kunden-Service-Agenten und Digital Twins eines digitalen Unternehmens zur Verfügung.“

Verfügbarkeiten​

• Der Dell PowerEdge XE9680L wird in der zweiten Jahreshälfte 2024 weltweit verfügbar sein.
• Die Dell NativeEdge Deployment Blueprints für NVIDIA werden ab der zweiten Jahreshälfte 2024 weltweit verfügbar sein.
• Die Verfügbarkeit der Dell Generative AI Solution for Digital Assistants und der Implementation Services for Digital Assistants wird zu einem späteren Zeitpunkt bekannt gegeben.
• Die automatisierten Bereitstellungsfunktionen der Dell AI Factory with NVIDIA werden in der zweiten Jahreshälfte 2024 verfügbar sein.
• Die Verfügbarkeit der Dell Accelerator Services for RAG on Precision AI Workstations wird zu einem späteren Zeitpunkt bekannt gegeben.

(1) 4U Dell PowerEdge XE8680L versus 6U PowerEdge XE9680.

(4) Schätzung auf Grundlage einer internen Analyse von Dell Technologies im Mai 2024. Dabei wurde die Einrichtung eines Kubernetes-Clusters für ein Allzweck-LLM mithilfe automatisierter Skripts mit der manuellen Bereitstellung eines gängigen Designs verglichen.