エンタープライズクラウドプロバイダーからの要求が、高性能な処理、ストレージ、接続性を求めるにつれ、専用設計のハードウェアサーバーは、従来のスケールアウトアーキテクチャが膨大な量のデータにアクセス、転送、保存する方法を変革するでしょう。新しいハードウェアアーキテクチャは、データセンターからエッジに至るまで、現代の要求を満たすために最新のテクノロジーを必要とします。従来のラックマウントサーバー設計は、新たな波の機械知能で使用されるリアルタイムデータの、より高速で効率的な処理を可能にするために、急速に変化しています。
DPUアクセラレーションサーバーは、データセンターアーキテクチャにおける最新技術の融合をもたらし、データセンターネットワークからエッジに至るまで、驚異的なコンピューティング能力、効率性、拡張性に関する新たなパフォーマンスベンチマークを実現します。
高性能コンピューティング（HPC）
機械学習
ディープラーニング
データ分析 Web 2.0
クラウド管理
大容量データストレージ
FlashStreamsのDPUアクセラレーション対応ラックマウントサーバーは、CPU、GPU、DPUといった最新技術を活用した新しいアーキテクチャを実現する高性能サーバーです。この専用設計サーバーは、パブリッククラウド、プライベートクラウド、ハイブリッドクラウドといった現代のインフラストラクチャにおいて、驚異的なハードウェアアクセラレーションのバランスを必要とする、最も複雑なデータセンターワークロードに対応します。
物理的な：
接続性:
拡張性：
ハードウェアアクセラレーション：
FlacheSAN2N12C-DM 2U 12 デュアル AMD EPYC DPU サーバー
FlacheSAN2N12C-UM 2U 12 シングル AMD EPYC DPU サーバー
FlacheSAN2N12C-D5 2U 12デュアルIntelスケーラブルプロセッサーDPUサーバー
ネットワークアプリケーション:
SmartNIC/FPGA/アクセラレータをサポートし、CPUの負荷を軽減してネットワークスループットを向上させ、レイテンシを低減します。
ストレージアプリケーション:
NVMe SSDデバイス用のPCIe 3.0 x8アドオンカードスロットを12個搭載し、最大300TBのデータを保存できます。
計算機アプリケーション：
128個のAMD EPYCコア（64コア×2）、2つのダブル幅GPU、および最大18個のDPUコンピューティングSSDにより、顧客は最も計算負荷の高いアプリケーションを実行できます。
HPCアプリケーション：
96レーンのスイッチボードを2枚搭載し、それぞれ12枚のPCIe x8アドオンカードと4枚のPCIe x16アドオンカードに分岐させることで、SmartNICとSSDがピアツーピアDMAを介して相互に通信できるシステムを実現しています。これにより、不要なデータ移動を排除し、レイテンシを低減して処理能力を向上させています。
現在もデータセンターは主にx86 CPUベースのコンピューティングによって支えられています。しかし、ムーアの法則が半導体技術革新にとって大きな課題となっているため、データセンターのインフラストラクチャは、既存のハードウェアから性能を引き出すための新しい技術と手法を必要としています。今日のデータセンターソリューションは、AI駆動型アプリケーションにおける高速処理、ストレージ、ネットワーク、セキュリティといった計算能力の要求に対応するため、さまざまなパフォーマンス加速技術に依存しています。
当初、GPUはAIワークロードの高速化に利用されていました。現在では、計算ストレージデバイスとデータ処理ユニットがデータセンターに導入され、ハードウェアアーキテクチャ全体でリソースの利用効率が向上しています。CPU、GPU、そしてDPUはワークロードを高速化し、従来のプロセッサのオーバーヘッドを軽減することで、貴重なCPUリソースを他の重要なアプリケーションに解放します。今日、データセンターで広く利用されているパフォーマンスアクセラレータには、マルチコアプロセッサ、GPU（グラフィックス処理ユニット）、計算ストレージデバイス、DPU（データ処理ユニット）などがあり、これらが連携してパフォーマンスを向上させ、不要なボトルネックを解消します。
汎用性の高い高性能プロセッサ：X86マルチコアプロセッサ
マルチコアプロセッサはデータセンターで非常に人気があります。データセンターサーバーのCPUが持つコア数が多いほど、1サイクルあたりに実行できるプログラム命令の数が増えるからです。そのため、ほとんどのデータセンターサーバーにはマルチコアCPUが搭載されており、エンタープライズアプリケーションにより多くのCPU処理能力を提供することで、サーバーのパフォーマンスを向上させています。
ディープラーニングと機械知能：GPU（グラフィックス処理ユニット）
GPUは、機械学習や深層学習のトレーニングといったAIワークロードの実行に非常に優れているため、データセンターにおいてパフォーマンスアクセラレータとして広く利用されています。これは、GPUが数千個のコアを搭載しており、多数の計算を並列処理できるため、複雑なワークロードの完了にかかる時間を大幅に短縮できるからです。
計算NANDフラッシュストレージ：超高速NVMe
高性能サーバーは、コンピュテーショナルストレージデバイスを搭載することで、サーバーのCPUからストレージデバイスへデータ処理をオフロードし、ホストCPUのリソースに頼ることなくストレージ機能を高速化できます。これは、ストレージレベルに組み込まれた処理およびメモリ技術によって実現され、サーバーは超低遅延でリアルタイムにデータを処理できます。
よりスマートなNIC：DPU（データ処理ユニット）
データ処理ユニット（DPU）は、ストレージ、ネットワーク、セキュリティといった機能をホストサーバーのCPUからDPUにオフロードできるため、データセンターサーバーに導入されつつあります。これにより、CPUの処理能力が解放され、エンタープライズアプリケーションやオペレーティングシステムの実行に利用できるようになります。
問題点:データセンターにおける他の重要なデータ処理およびストレージの管理にCPUリソースが浪費され、ボトルネックが発生している。
ソリューション:スマートNIC、FPGA、GPU、そしてDPUが、驚異的なパフォーマンスと超低遅延を実現する新しいハードウェアアーキテクチャを形成しています。
5GとPCIe Gen 4によって生成されるデータ量の急速な増加に伴い、膨大なデータを処理するにはエッジコンピューティングが不可欠となっています。SmartNIC FPGAやDPUと呼ばれる専用のアドオンカードは、ネットワークタスクの処理に特化することでワークロードを軽減し、CPUをより汎用的なワークロードに効率的に活用できるようにします。DPUのメリットについて詳しく知りたい方は、PremioのRugged Edge Survival Podcastをご覧ください。
これらのDPUは、今後のコンピューティングにおける3つの主要な柱の1つとなるでしょう。CPUは汎用コンピューティング用、GPUは高速コンピューティング用、そしてDPUはデータセンター内でデータを移動させ、データ処理を行う役割を担います。
NVIDIAのCEO、ジェンセン・フアン
DPU（データ処理ユニット）は、高性能ネットワークインターフェースと組み合わせて使用されることが多い、新しいタイプのプログラマブルプロセッサです。ホストサーバーのCPUがネットワークデータを処理する処理をDPUに直接オフロードすることで、貴重なCPUリソースを解放し、データセンター内の他のミッションクリティカルなアプリケーションの管理に活用できます。例えば、DPUはネットワークインターフェースカード上で、ネットワーク、ストレージ、セキュリティ管理機能を直接高速化するように最適化されています。
DPUはホストCPUの利用率を30%から50%削減できる。
DPUは、データ管理とワークロードを効率的に制御するためのスマートNICとして機能します。
DPUはCPUを迂回し、ディープラーニングアプリケーションにおけるGPUアクセラレーションに必要なデータを解読することができる。
PCIe Gen 4対応
DPUは、高性能アクセラレータをサーバーに接続するための標準インターフェースであるPCIe 4.0 Peripheral Component Interconnect Express（PCIe）をサポートしています。
高性能でソフトウェアプログラマブルなマルチコアARMプロセッサが、他のSoCコンポーネントと密接に連携している。
DPUがネットワークを介してデータを解析、処理、効率的に転送できるようにする高性能ネットワークインターフェース
ネットワーク、ストレージ、セキュリティ、AIワークロードをサーバーのCPUからDPUにオフロードする、柔軟でプログラム可能なアクセラレーションエンジンの豊富なセット。
データセキュリティ
100GbEから200GbEまでの高速ネットワーク接続
CPU不要の高速パケット処理
高性能マルチコアプロセッサ
パフォーマンスアクセラレーター
データおよびローカルストレージの管理
DPUは、貴重なサーバーCPUリソースを他の汎用処理に解放できるため、データセンターやエッジネットワークにとって重要です。DPUスマートNICは、サーバーホストCPUと一切やり取りすることなくデータパケットを管理することで、特定のネットワークボトルネックの負荷を軽減します。また、多くの新しいエッジコンピューティングアプリケーションでは、リアルタイムの機械学習や深層学習アルゴリズムのトレーニングのために、受信データの強力なハードウェアアクセラレーションが求められています。
ネットワーク仮想化
x86 CPUと比較して、ネットワーク仮想化をより効率的にサポートします。SRIOV、vFirewall、OVS、オーバーレイネットワークトラフィックのカプセル化など、CPUからネットワークワークロードをオフロードします。
パケットペーシング
送信パケットを制限することで、より安定したネットワークトラフィックを確保しつつ、同じスループットと品質を維持し、コンテンツのスムーズな配信を実現します。
5Gトラフィックルーティング性能の向上
vRAN、フロントホールI/O、前方誤り訂正、高精度タイムスタンプ、eCPRIウィンドウ処理、リアルタイム伝送ハードウェアアクセラレーションをサポートします。
NVIDIAは、業界をリードするConnectXネットワークアダプタ、強力なマルチコアプロセッサ、およびその他多数のパフォーマンスアクセラレータを単一のパッケージに統合した、再プログラム可能なNVIDIA Mellanox BlueField 2データ処理ユニット（DPU）を提供しています。これにより、組織はデバイスを再プログラムして最新のアルゴリズムを実行できます。
ザイリンクスは、FPGAをベースとしたAlveoシリーズのSmartNICカードを提供しており、ハードウェアアクセラレーションを実現し、不要なデータ転送を回避します。ザイリンクスAlveoは、機械学習推論、データ分析、ビデオトランスコーディングなど、計算負荷の高いアプリケーションの高速化に対応しています。
主要エンタープライズ市場向けサーバーハードウェアの設計、エンジニアリング、製造（ODM）における専門知識
GPUがCPUからGPUへ数学的に負荷の高いタスクをオフロードするために使用されたのと同様に、DPU（データ処理ユニット）はCPUからDPUへネットワーク機能とストレージ機能をオフロードするために使用され、CPUの貴重なリソースを日常的なネットワーク機能やストレージ機能の処理から解放します。
CPUはコンピュータの頭脳であり、汎用コンピューティングを処理する役割を担っています。GPUは、並列処理能力によって人工知能のための深層学習などの特定のワークロードを高速化できるため、データセンターで重要な役割を果たしています。DPUは、ホストCPUのリソースを使用せずにミッションクリティカルなデータを処理・解読できるため、時間とレイテンシを節約できることから、データセンターへの導入が進んでいます。
すべてのサーバーにDPUが搭載されているわけではありません。実際、サーバーが実行するネットワーク機能やストレージ機能の高速化に対する需要の高まりを受けて、DPUアクセラレーションサーバーがデータセンターに導入され始めています。ワークロードやアプリケーションによっては、DPUは最新のデータセンターインフラストラクチャに大きなメリットをもたらす可能性があります。
DPUを搭載したサーバーの主な利点は、データ解析、データ処理、データ転送といった処理をホストサーバーのCPUからGPUにオフロードできるため、CPUを様々なエンタープライズアプリケーションに解放できる点にある。
DPUは、強力なマルチコアプロセッサとアクセラレーションエンジンを搭載しており、AI、機械学習、セキュリティ、通信、ストレージ、その他多くの現代のデータセンターアプリケーションに最適です。
