Dateneinblicke aus der Cloud und bis zum Edge

Da die Anforderungen von Cloud-Anbietern für Unternehmen auf leistungsstarke Verarbeitung, Speicherung und Konnektivität angewiesen sind, werden speziell entwickelte Hardware-Server die Art und Weise verändern, wie herkömmliche Scale-Out-Architekturen auf enorme Datenmengen zugreifen, diese übertragen und speichern. Neue Hardware-Architekturen benötigen modernste Technologien, um den aktuellen Anforderungen im Rechenzentrum und am Netzwerkrand gerecht zu werden. Herkömmliche Rackmount-Server-Designs werden rasant weiterentwickelt, um eine schnellere und effizientere Verarbeitung von Echtzeitdaten zu ermöglichen, die für eine neue Generation von künstlicher Intelligenz genutzt werden.

DPU-beschleunigte Server bringen die neuesten Technologien in Rechenzentrumsarchitekturen zusammen und ermöglichen so neue Leistungsmaßstäbe für unglaubliche Rechenleistung, Effizienz und Skalierbarkeit vom Rechenzentrumsnetzwerk bis zum Netzwerkrand.

Datenverarbeitung. Leistungsbeschleunigung ist entscheidend.

Performance Increase

Hochleistungsrechnen (HPC)

Symbolset für Industrie 4.0 und intelligente Produktion: Intelligente industrielle Revolution, Automatisierung, Roboterassistenten, Cloud und Innovation. Stockillustration [Konvertiert]

Maschinelles Lernen

Premio_Icon_Produktbeschreibung

Deep Learning

Premio_Icon_Produktbeschreibung

Datenanalyse Web 2.0

Premio_Icon_Produktbeschreibung

Cloud-Management

Premio_Icon_Produktbeschreibung

Massiver Datenspeicher

FlacheStreams DPU-beschleunigter Server

Der FlacheStreams DPU-beschleunigte Rackmount-Server ist auf höchste Leistung ausgelegt und ermöglicht neue Architekturen dank modernster CPU-, GPU- und DPU-Technologien. Dieser speziell entwickelte Server bewältigt selbst komplexeste Rechenzentrums-Workloads in modernen Infrastrukturen für öffentliche, private und hybride Cloud-Modelle, die eine optimale Balance zwischen herausragender Hardwarebeschleunigung erfordern.

Körperlich:

  • 2U Rackmontagegehäuse
  • 12 einzigartige, im laufenden Betrieb austauschbare Träger für DPU-Karten
  • Einzelner AMD EPYC- oder Dual-AMD-EPYC- oder Intel Scalable-Prozessor

Konnektivität:

  • Bis zu 36 Netzwerkbeschleunigungsanschlüsse mit 25 Gbit/s
  • 2x 96-Lane PCIe-Switchkarte für Peer-to-Peer-Kommunikation
  • 2x GbE RJ45 LAN-Anschlüsse, 1x IPMI-Management-RJ45-Anschluss

Skalierbarkeit:

  • Skalierbar auf bis zu 18 DPUs oder 14 DPUs + 2 GPGPUs in voller Höhe und doppelter Breite mit 350 W Leistung
  • Unterstützt NVMe-SSD-Speicher mit bis zu 300 TB+.
  • CPU-Kerne: Von 8 bis 128 Kernen
  • Bis zu 18x 8 Armv8 A72 Kerne (64-Bit) DPU-Beschleuniger

Hardwarebeschleunigungen:

  • Kompressions- und Dekompressionsbeschleunigung
  • NVMe-oF™-Beschleunigung
  • SR-IOV
  • TCP/IP-Transportauslagerungen

Produktkollektion:

FlacheSAN2N12C-DM 2U 12 Dual AMD EPYC DPU Server

  • 2x AMD EPYC Milan CPUs mit bis zu 128 Kernen
  • 4 TB RDIMM 3200 MHz
  • 16 PCIe-Erweiterungskartensteckplätze
Siehe Produkt

FlacheSAN2N12C-UM 2U 12 Single AMD EPYC DPU Server

  • 1x AMD EPYC Milan CPUs mit bis zu 64 Kernen
  • 4 TB RDIMM 3200 MHz
  • 16 PCIe-Erweiterungskartensteckplätze
Siehe Produkt

FlacheSAN2N12C-D5 2U 12 Dual Intel Scalable Processors DPU Server

  • 2x skalierbare Intel-CPUs
  • 16 DIMMs RDIMM 2933 MHz
  • 16 PCIe-Erweiterungskartensteckplätze
Siehe Produkt

Wie kann ein DPU-beschleunigter Server konfiguriert werden?

Netzwerkanwendung:

Unterstützt SmartNIC/FPGA/Beschleuniger, um die CPU zu entlasten und den Netzwerkdurchsatz zu erhöhen sowie die Latenz zu verringern.

Speicheranwendung:

12 PCIe 3.0 x8 Erweiterungskartensteckplätze für NVMe SSD-Geräte und Speicherung von bis zu 300 TB Daten.

Computeranwendung:

128 AMD EPYC-Kerne (2x 64 Kerne), 2 GPUs mit doppelter Breite und bis zu 18 DPUs Computation SSDs ermöglichen es dem Kunden, die rechenintensivsten Anwendungen auszuführen.

HPC-Anwendung:

Mit zwei Switch-Karten mit je 96 Lanes, die auf 12 PCIe x8- und 4 PCIe x16-Erweiterungskarten verteilt sind, ermöglicht das System die Kommunikation zwischen SmartNICs und SSDs über Peer-to-Peer-DMA. Dadurch werden unnötige Datenbewegungen vermieden, die Latenz verringert und die Rechenleistung erhöht.

Hardwarebeschleunigung im Rechenzentrum

Rechenzentren basieren heute noch überwiegend auf x86-Prozessoren. Da sich das Mooresche Gesetz jedoch zunehmend als Herausforderung für Innovationen in der Halbleiterindustrie erweist, benötigen Rechenzentrumsinfrastrukturen neuere Technologien und Methoden, um die Leistung der vorhandenen Hardware zu optimieren. Moderne Rechenzentrumslösungen setzen daher auf verschiedene Leistungsbeschleunigungstechnologien, die den Rechenbedarf für schnellere Verarbeitung, Speicherung, Netzwerk und Sicherheit in KI-gestützten Anwendungen decken.

  • X86-Server erzielten im vierten Quartal 2020 einen Umsatz von 20,93 Milliarden US-Dollar – das entspricht 92,8 Prozent aller Serverumsätze (IDC).
  • Moderne Rechenzentrumsinfrastrukturen nutzen Hardwaretechnologien wie CPUs, GPUs, DPUs und FPGAs für eine leistungsorientierte Scale-Out-Architektur.

Zunächst wurden GPUs zur Beschleunigung von KI-Workloads eingesetzt. Mittlerweile finden Rechenspeicher und Datenverarbeitungseinheiten (DPUs) ihren Weg in Rechenzentren, um die Ressourcennutzung über verschiedene Hardwarearchitekturen hinweg zu optimieren. CPUs, GPUs und nun auch DPUs beschleunigen Workloads und reduzieren den Overhead herkömmlicher Prozessoren, wodurch wertvolle CPU-Ressourcen für andere kritische Anwendungen frei werden. Gängige Leistungsbeschleuniger in Rechenzentren umfassen heute Mehrkernprozessoren, GPUs (Grafikprozessoren), Rechenspeicher und DPUs (Datenverarbeitungseinheiten), die alle zusammenarbeiten, um die Leistung zu steigern und unnötige Engpässe zu beseitigen.

Mehr erfahren

Universell einsetzbare Kraftpakete: X86-Mehrkernprozessoren

Mehrkernprozessoren sind in Rechenzentren äußerst beliebt, da eine Server-CPU mit mehr Kernen mehr Programmbefehle pro Taktzyklus ausführen kann. Daher sind die meisten Server in Rechenzentren mit Mehrkern-CPUs ausgestattet, was die Serverleistung durch höhere Rechenleistung für Unternehmensanwendungen beschleunigt.

Deep Learning und maschinelle Intelligenz: GPUs (Grafikprozessoren)

GPUs sind in Rechenzentren als Leistungsbeschleuniger beliebt, da sie sich hervorragend für KI-Workloads wie maschinelles Lernen und Deep-Learning-Training eignen. Dies liegt an ihren Tausenden von Kernen, die es ihnen ermöglichen, viele Berechnungen parallel durchzuführen und so die Bearbeitungszeit komplexer Workloads deutlich zu verkürzen.

Rechenleistung für NAND-Flash-Speicher: Blitzschnelles NVMe

Hochleistungsserver lassen sich mit Computational-Storage-Geräten (CSDs) ausstatten, um Speicherfunktionen zu beschleunigen. Dies geschieht durch die Auslagerung der Datenverarbeitung von der Server-CPU auf das Speichermedium, ohne dabei auf die CPU-Ressourcen des Hosts zurückzugreifen. Möglich wird dies durch in das Speichermedium integrierte Verarbeitungs- und Speichertechnologien, die es Servern erlauben, Daten in Echtzeit mit extrem niedriger Latenz zu verarbeiten.

SmarterNIC: DPUs (Datenverarbeitungseinheit)

Datenverarbeitungseinheiten (DPUs) finden zunehmend Anwendung in Rechenzentrumsservern, da sie Speicher-, Netzwerk- und Sicherheitsfunktionen von der CPU des Host-Servers auf die DPU auslagern können, wodurch CPU-Zyklen für die Ausführung von Unternehmensanwendungen und des Betriebssystems frei werden.

Antriebstrends, die neue Lösungen erfordern

Das Problem:Im Rechenzentrum werden CPU-Ressourcen verschwendet, um andere kritische Datenverarbeitungs- und Speicherprozesse zu bewältigen.

Lösungen:SmartNICs, FPGAs, GPUs und jetzt DPUs prägen neue Hardwarearchitekturen für unglaubliche Leistung und extrem niedrige Latenz.

Das rasante Datenwachstum durch 5G und PCIe Gen 4 macht Edge Computing unerlässlich, um diese Datenmengen zu verarbeiten. Spezielle Zusatzkarten, sogenannte SmartNIC-FPGAs und DPUs, entlasten die CPU, indem sie Netzwerkaufgaben übernehmen und so die CPU-Auslastung für allgemeinere Aufgaben erhöhen. Hören Sie in den „Rugged Edge Survival“-Podcast von Premio rein, um mehr über die Vorteile von DPUs zu erfahren.

Mehr erfahren

Diese [DPUs] werden künftig eine der drei Säulen des Computings darstellen. Die CPU dient der allgemeinen Datenverarbeitung, die GPU der beschleunigten Datenverarbeitung und die DPU, die Daten im Rechenzentrum bewegt, der Datenverarbeitung.

NVIDIA-CEO Jensen Huang

Was sind DPU-basierte (Data Processing Units) SmartNICs?

DPUs (Data Processing Units) sind eine neue Klasse programmierbarer Prozessoren, die häufig mit einer leistungsstarken Netzwerkschnittstelle kombiniert werden. Indem die Verarbeitung der Netzwerkdaten vom Host-Server-Prozessor direkt an die DPU ausgelagert wird, werden wertvolle CPU-Ressourcen für andere geschäftskritische Anwendungen im Rechenzentrum freigesetzt. DPUs sind beispielsweise optimiert, um Netzwerk-, Speicher- und Sicherheitsmanagementfunktionen direkt auf der Netzwerkkarte zu beschleunigen.

DPUs können die Auslastung der Host-CPU um 30 bis 50 % erhöhen.

DPUs fungieren als SmartNICs für eine effiziente Steuerung von Datenmanagement und Workloads.

DPUs können die CPU umgehen und Daten entschlüsseln, die für die GPU-Beschleunigung in Deep-Learning-Anwendungen erforderlich sind.

PCIe Gen 4-Unterstützung

DPUs unterstützen PCIe 4.0 Peripheral Component Interconnect Express (PCIe), eine Standardschnittstelle, die High-End-Beschleuniger mit Ihrem Server verbindet.

Mehr erfahren

  • DPUs bestehen aus wenigen Hauptkomponenten, darunter:

  • Ein leistungsstarker, softwareprogrammierbarer Multi-Core-ARM-Prozessor, der eng mit anderen SoC-Komponenten gekoppelt ist.

  • Eine leistungsstarke Netzwerkschnittstelle, die es der DPU ermöglicht, Daten zu analysieren, zu verarbeiten und effizient durch ein Netzwerk zu übertragen.

  • Ein umfangreiches Set flexibler, programmierbarer Beschleunigungsmodule, die Netzwerk-, Speicher-, Sicherheits- und KI-Workloads von der Server-CPU auf die DPU auslagern.

DPU-Funktionen

Datensicherheit

Hochgeschwindigkeits-Netzwerkverbindungen von 100GbE bis 200GbE

Hochgeschwindigkeits-Paketverarbeitung ohne CPU

Leistungsstarker Mehrkernprozessor

Leistungsbeschleuniger

Daten- und lokale Speicherverwaltung

Mehr erfahren

Warum sind DPUs wichtig für Rechenzentren und Edge-Computing-Infrastrukturen?

DPUs sind für Rechenzentren und Edge-Netzwerke wichtig, da sie wertvolle Server-CPU-Ressourcen für andere allgemeine Verarbeitungsaufgaben freisetzen. DPU-SmartNICs beheben zudem spezifische Netzwerkengpässe, indem sie Datenpakete verwalten, ohne mit den Server-CPUs zu interagieren. Viele neue Edge-Computing-Anwendungen benötigen außerdem eine leistungsstarke Hardwarebeschleunigung eingehender Daten für Echtzeit-Maschinenlernen und das Training von Deep-Learning-Algorithmen.

Netzwerkvirtualisierung

Unterstützt Netzwerkvirtualisierung effizienter als x86-CPUs. Entlastet die CPU von Netzwerklasten wie SRIOV, vFirewall, OVS und der Kapselung von Overlay-Netzwerkverkehr.

Paket-Pacing

Ermöglicht eine reibungslosere Inhaltsbereitstellung durch Begrenzung ausgehender Pakete, um einen stabileren Netzwerkverkehr bei gleichbleibendem Durchsatz und gleichbleibender Qualität zu gewährleisten.

Verbesserung der 5G-Verkehrsrouting-Leistung

Unterstützt vRAN, Front-Haul-IO und Vorwärtsfehlerkorrektur, präzise Zeitstempelung, eCPRI-Fensterung und Hardwarebeschleunigung für Echtzeitübertragung

Mehr erfahren

Vertrauenswürdige SmartNIC-, FPGA- und DPU-Partner

NVIDIA bietet die NVIDIA Mellanox BlueField 2 Datenverarbeitungseinheit (DPU) an, die den branchenführenden ConnectX Netzwerkadapter, einen leistungsstarken Mehrkernprozessor und eine Reihe weiterer Leistungsbeschleuniger in einem einzigen, reprogrammierbaren Gehäuse vereint, sodass Unternehmen das Gerät für die Ausführung der neuesten Algorithmen umprogrammieren können.

Mehr erfahren

Xilinx bietet die Alveo-Serie von SmartNIC-Karten auf FPGA-Basis an, die Hardwarebeschleunigung ermöglichen und unnötige Datenbewegungen vermeiden. Die Xilinx Alveo beschleunigt rechenintensive Anwendungen wie Machine-Learning-Inferenz, Datenanalyse, Videotranskodierung und viele weitere Workloads.

Mehr erfahren

Mehr erfahren

Warum Sie sich für Premio-DPU-Beschleunigungsserver entscheiden sollten

Expertise in Design, Entwicklung und Fertigung (ODM) von Serverhardware für wichtige Unternehmensmärkte

  • Serverprodukte, die speziell für Workloads in den Bereichen Hochleistungsrechnen, Scale-Out-Datenspeicherung, maschinelles und Deep Learning sowie öffentliches und privates Cloud-Management entwickelt wurden.
  • Über 30 Jahre umfassende Designexpertise in Server- und Speicherarchitektur für Leistung, Speicherung und Hochgeschwindigkeitsverbindungen
  • Globale, schlüsselfertige Fertigungs- und Supportinfrastruktur in den USA zur Beschleunigung skalierbarer Massenimplementierungen von Server- und Speicherlösungen
  • Tiefes Verständnis von IoT- und Rechenzentrumstechnologien in den Bereichen Rechenleistung, Speicherung und Konnektivität, ausgelegt für leistungsstarke Workloads.
  • Optionen für regulatorische Prüfungen und Konformitätsbewertung von Server- und Speicherlösungen auf den nordamerikanischen Märkten
Mehr erfahren

Häufig gestellte Fragen

So wie GPUs dazu verwendet wurden, rechenintensive Aufgaben von der CPU auf die GPU auszulagern, werden DPUs (Datenverarbeitungseinheiten) dazu verwendet, Netzwerk- und Speicherfunktionen von der CPU auf die DPU auszulagern, wodurch wertvolle CPU-Ressourcen von der Bearbeitung alltäglicher Netzwerk- und Speicherfunktionen freigesetzt werden.

Die CPU kann man sich als das Gehirn des Computers vorstellen, zuständig für allgemeine Rechenaufgaben. GPUs spielen in Rechenzentren eine wichtige Rolle, da sie bestimmte Arbeitslasten beschleunigen können, beispielsweise Deep Learning für künstliche Intelligenz dank der von ihnen ermöglichten Parallelverarbeitung. DPUs finden nun ebenfalls Einzug in Rechenzentren, da sie geschäftskritische Daten verarbeiten und analysieren können, ohne die CPU-Ressourcen des Hostsystems zu beanspruchen. Dies spart Zeit und reduziert Latenzzeiten.

Nicht alle Server sind mit DPUs ausgestattet. Tatsächlich werden DPU-Beschleunigungsserver aufgrund der steigenden Anforderungen an die Beschleunigung von Netzwerk- und Speicherfunktionen zunehmend in Rechenzentren eingeführt. Je nach Arbeitslast und Anwendung können DPUs einen erheblichen Vorteil für moderne Rechenzentrumsinfrastrukturen bieten.

Der Hauptvorteil von Servern, die mit DPUs ausgestattet sind, besteht darin, dass sie die Datenanalyse, Datenverarbeitung und Datenübertragung von der CPU des Host-Servers auf die GPU auslagern können, wodurch die CPU für eine Vielzahl von Unternehmensanwendungen frei wird.

DPUs sind mit leistungsstarken Mehrkernprozessoren und Beschleunigungsmodulen ausgestattet, die sich hervorragend für KI, maschinelles Lernen, Sicherheit, Telekommunikation, Speicherung und viele andere moderne Rechenzentrumsanwendungen eignen.