Dells neue PowerEdge-Server mit AMD: KI-Investitionen sollen sich schneller auszahlen

Dell Technologies hat sich mit AMD zusammengetan, um eine neue Reihe von PowerEdge-Servern zu entwickeln, die in Benchmark-Tests Weltrekorde aufstellen und den Kunden mehr Kerne und eine bessere Leistung bieten sollen.

"Eines der Dinge, auf die wir uns bei Dell konzentriert haben, ist die Verkürzung der Time-to-Value", sagte Varun Chhabra, Senior Vice President of Product Marketing bei Dell Technologies, in einem Pre-Briefing für die Medien, in dem die neuen Server angekündigt wurden. "Unsere Kunden wollen in der Lage sein, KI schneller zu implementieren und einen schnelleren Nutzen daraus zu ziehen. In den letzten zwei Jahren haben wir immer wieder gehört, dass es viel Mühe kostet, KI-Lösungen tatsächlich einzusetzen und zum Laufen zu bringen", sagte der Manager.

Der 4U PowerEdge XE7745, der PowerEdge R6725 und R7725 mit zwei Sockeln sowie der PowerEdge R6715 und R7715 mit einem Sockel sind die neuesten Ergänzungen der Serverpalette von Dell und versprechen mehr Rechenleistung bei geringerem Stromverbrauch.

Laut Dell erreicht einer der neuen AMD EPYC-gestützten Server die gleiche Rechenleistung wie sieben seiner Server von vor fünf Jahren und verbraucht dabei 65 Prozent weniger Strom. Der Stromverbrauch von KI-Rechenzentren ist zehnmal so hoch wie der von herkömmlichen Rechenzentren, was dazu führt, dass die Anbieter um Kapazitäten ringen und nach Wegen suchen, um Strom zu sparen.

"Sie suchen nach Möglichkeiten zur Konsolidierung, um ihre Rechenzentren, ihre Ökosysteme für KI zu vereinfachen und zu rationalisieren, damit sie schneller und flexibler arbeiten können", so Chhabra.

Jeder der neuen PowerEdge-Server läuft mit dem AMD EPYC-Prozessor und unterstützt bis zu 50 Prozent mehr Kerne mit bis zu 37 Prozent mehr Leistung pro Kern, was zu mehr Leistung, Effizienz und verbesserten TCO führt, sagt Arunkumar Narayanan, Senior Vice President für Server- und Netzwerkprodukte bei Dell.

"Was wir hier getan haben, ist ein brandneues Gehäuse mit DC-MHS-Designs, das unsere Luftkühlung verbessern wird. Wir können 192 Kerne pro CPU und 500-Watt-CPUs für unübertroffene Leistung und Effizienz erreichen", sagte Narayanan. "Wir werden branchenführend in der Fähigkeit sein, Luftkühlung in einem 2U-Gehäuse mit 500 Watt zu betreiben. Darüber hinaus werden wir umfangreichere Speicherkonfigurationen anbieten. Viele der dichteoptimierten Speicheroptionen werden wir in diesem Server ermöglichen", so der Dell-Manager. "Mit dieser Servereinführung werden wir eine Reihe von Weltrekorden aufstellen", ist sich Narayanan sicher.

Die neuen Server belegen den ersten Platz im VMMArk4, der die Leistung und Skalierbarkeit virtueller Umgebungen misst, sowie im TCPx-AI-Benchmark, der die Leistung einer End-to-End-Plattform für maschinelles Lernen oder Data Science analysiert.

Dell PowerEdge XE7745

Der für KI-Workloads in Unternehmen konzipierte XE7745 kann bis zu acht GPUs mit doppelter Breite oder 16 PCIe-GPUs mit einfacher Breite aufnehmen und unterstützt leistungshungrige 600-Watt-GPUs in einem luftgekühlten 4U-Gehäuse. Im Vergleich dazu ist der XE9680 laut Narayanan das erfolgreichste Produkt des Unternehmens, das allein einen Umsatz von 10 Mrd. US-Dollar erzielt hat.

Er sagte, dass der XE7745 speziell für KI-Inferencing, Modell-Feinabstimmung und Hochleistungsberechnungen entwickelt wurde. Die internen GPU-Steckplätze sind mit acht zusätzlichen Gen 5.0 PCIe-Steckplätzen für die Netzwerkkonnektivität gepaart, wodurch dichte, flexible Konfigurationen mit einer 2-fachen DW-PCIe-GPU-Kapazität entstehen.

"Wir erwarten, dass dies die Mainstream-Plattform für Enterprise-Inferencing-Lösungen sein wird, wenn wir die nächste Generation der KI-Einführung in Unternehmen erreichen", so Narayanan.

Der Dell PowerEdge XE7745-Server wird ab Januar 2025 weltweit erhältlich sein.

PowerEdge R6725 und R7725

Die Zwei-Sockel-Server sind auf Skalierbarkeit ausgelegt und verfügen über leistungsstarke AMD EPYC-Prozessoren der 5. Generation. Das neue DC-MHS-Gehäusedesign bietet eine verbesserte Luftkühlung und zwei 500-W-CPUs. Laut Narayanan gehört Dell zu den ersten Unternehmen, die so viel Rechenleistung in einem luftgekühlten 2U-Gehäuse unterbringen.

Er sagte, dass der R6725 und der R7725 rigorose Datenanalyse- und KI-Workloads unterstützen, wobei die Konfigurationen für Skalierbarkeit optimiert sind. Der R7725 bietet bis zu 66 Prozent mehr Leistung und bis zu 33 Prozent mehr Effizienz.

Die Server werden ab November 2024 weltweit verfügbar sein.

PowerEdge R6715 und R7715

Dell rundete seine Server-Ankündigungen mit den 1U-Servern PowerEdge R6715 und R7715 ab, die mit AMD EPYC-Prozessoren der 5. Generation ausgestattet sind. Das Design bietet bis zu 37 Prozent mehr Festplattenkapazität, was zu einer höheren Speicherdichte führt.

Laut Dell ist es in verschiedenen Konfigurationsoptionen erhältlich. Die Single-Socket-Server unterstützen mit 24 DIMMs (2DPC) den doppelten Arbeitsspeicher und erfüllen unterschiedliche Workload-Anforderungen und maximieren die Leistung in kompakten 1U- und 2U-Gehäusen.

Die Server sind ab November 2024 weltweit verfügbar.

Dell AI Factory-Verbesserungen zur Beschleunigung von GenAI-Implementierungen

Die Dell AI Factory, die Anfang des Jahres auf den Markt kam, bietet ein umfassendes Angebot an Produkten und Dienstleistungen, die für den Einsatz von KI in Unternehmen erforderlich sind, und ist jetzt auch in einer AMD-Version erhältlich. Für die Software-Ebene arbeitet Dell mit Hugging Face zusammen.

Für GenAI vor Ort kann der Dell PowerEdge XE9680-Server mit AMD Instinct MI300X-Beschleunigern Inferencing, Retrieval Augmented Generation (RAG) und Anpassungen liefern. Laut Dell verbessert die tiefe Integration von AMD in das Produkt die Sicherheit und Leistung, reduziert die Zeit bis zur Wertschöpfung um bis zu 86 Prozent und hilft Unternehmen, ihre KI-Investitionen zu optimieren.

Innerhalb der Factory bietet der Dell Enterprise Hub auf Hugging Face benutzerdefinierte Container und Skripte für den einfachen und sicheren Einsatz von KI-Modellen wie Llama und Mixtral. Diese containerisierten Modelle sind in einzigartiger Weise optimiert, um die Inferenzleistung je nach Modell und Server zu steigern und das Hugging Face Text Generation Inference Backend zu nutzen.

Professionelle Dienstleistungen für GenAI

Die Professional Services von Dell für GenAI wachsen und unterstützen jetzt auch AMD-Umgebungen. Dell sagt, dass seine Implementierungsservices für die GenAI-Plattform mit AMD den Kunden eine maßgeschneiderte Betriebsplattform bieten, einschließlich Kubernetes-Konfiguration, Bereitstellung von fortschrittlichen KI-Frameworks und Best Practices.