LLMシリーズ エッジサーバー

オンプレミスAI推論向けショートデプス・ラックマウントサーバー

LLMシリーズは、プライベートAIおよびフィジカルAIの導入に向けたショートデプス・ラックマウント型エッジコンピューティングを提供します。スケーラブルなx86コンピューティング、NVIDIA RTX™ PRO GPUアクセラレーション、柔軟なネットワーク接続性を備え、従来のデータセンターサーバーのような大規模構成や複雑さを伴うことなく、ローカル推論、マルチモーダルAI、インテリジェントなエッジアプリケーション向けの専用オンプレミスAIインフラストラクチャを実現します。

スケーラブルなx86処理

産業用GPUアクセラレーション

ショートデプス 19インチ ラックマウント

産業グレードの長寿命設計

ハードウェアレベルのデータセキュリティ

製品:

スケーラブルなx86処理

AIワークロードに合わせて、Intel® Core™ または AMD Ryzen™ & EPYC™ プラットフォームをお選びいただけます。

Intel® Core™ プロセッサ

LLM-1U-RPL
  • 第14 / 13 / 12世代 Intel® Core™
  • 最大24コア / 32スレッド
  • 高性能コア(Pコア)と高効率コア(Eコア)のハイブリッド構成
  • Intel® Thread Director によるワークロード最適化

AMD Ryzen™ & EPYC™ プロセッサ

LLM-2U-AM5 · LLM-3U-AM5
  • AMD EPYC™ 4005
  • AMD Ryzen™ 9000 シリーズ
  • 最大16コア / 32スレッド
  • PCIe Gen 5およびDDR5による高い拡張性

LLMシリーズ モデル比較

項目 LLM-1U-RPL LLM-2U-AM5 LLM-3U-AM5
フォームファクター 1U 19インチ ショートデプス・ラックマウント 2U 19インチ ショートデプス・ラックマウント 3U 19インチ ショートデプス・ラックマウント
プロセッサ 第14 / 13 / 12世代 Intel® Core™ i9/i7/i5/i3、最大65W AMD Ryzen™ 9000 & EPYC™ 4005、最大170W AMD Ryzen™ 9000 & EPYC™ 4005、最大170W
メモリ 最大64GB DDR4-3200 最大192GB DDR5-5600 最大192GB DDR5-5600
PCIe拡張 1x PCIe Gen4 x16 または 2x Gen4 x8 2x PCIe Gen5 x16
1x PCIe x4(x1、オープンエンド)
1x PCIe x4(x4、オープンエンド、M.2と共有)
2x PCIe Gen5 x16
1x PCIe x4(x1、オープンエンド)
1x PCIe x4(x4、オープンエンド、M.2と共有)
GPUポジショニング コンパクトからプロフェッショナル向けまでのGPUアクセラレーション シングルGPU、バランスの取れたAIパフォーマンス シングルGPU、より高い物理拡張性
ネットワーク 3x 2.5GbE 2x 10GbE SFP+、2x GbE 2x 10GbE SFP+、2x GbE
NVMeストレージ 1x M.2 M-Key 2x M.2 M-Key 2x M.2 M-Key
SATAストレージ 2x 2.5インチ ホットスワップSATA、RAID 0/1 4x 2.5インチ SATA SSDドライブベイ(RAID 0/1/5/10対応) 4x 2.5インチ または 1x 3.5インチ SATA SSDドライブベイ(RAID 0/1/5/10対応)
OOB管理 — 1x RJ45 EBIO-OOB-I(オプション) 1x RJ45 EBIO-OOB-I(オプション)
電源 2x 600W、1+1冗長電源 1x 850W 1x 850W
産業用ファン 3x ホットスワップ対応デュアルスマートファン + CPUファン 4x システムファン + CPUファン 3x システムファン + CPUファン
動作温度 0°C~35°C* 0°C~35°C* 0°C~35°C*
最適な用途 コンパクトなエッジAI推論 バランスの取れたプライベートAI、LLM、RAG 高性能AIおよび拡張性を重視した導入

クラウドからエッジへ:AIインフラストラクチャの新たな階層

AIがエッジへと近づく中、企業には必ずしも高密度なエンタープライズサーバーインフラが必要とは限りません。LLMシリーズは、プライベートAI、RAG、およびオンプレミス推論向けに構築された、ショートデプス・シングルノードのGPUアクセラレーション対応ラックマウントシステムにより、GPUワークステーションとエンタープライズサーバーの間にあるギャップを埋めます。

LLMシリーズ ラックマウント型エッジサーバーのメリット

総所有コスト(TCO)の最適化

過剰なエンタープライズサーバーインフラのコストや複雑さを伴うことなく、専用のAIコンピューティング環境を導入できます。

省スペース環境での設置面積を最適化

ショートデプス・ラックマウント設計により、スペースに制約のある環境へGPUアクセラレーション対応AIを導入可能

AIをデータのすぐそばに配置

プライベートAIと推論をローカルで実行することで、データ管理性の向上、クラウド接続への依存度の低減、および運用データへの高速アクセスを実現します。

導入事例

次世代ロボットピッキングを実現:産業エッジにおけるリアルタイム触覚&ビジョンAI

大手倉庫ロボティクスプロバイダーは、PremioのLLMシリーズ エッジAIサーバーを導入し、リアルタイムのコンピュータビジョン、触覚フォースフィードバック、および把持計画(グラスププランニング)をロボットワークセルで直接実行することで、クラウドの遅延を排除し、複雑に重なり合った対象物の確実なピッキングを実現しました。

ショートデプス 19インチ ラックマウント設計

コンパクトな1U、2U、および3Uラックマウント設計により、スペースに制約のあるエッジやオンプレミス環境へ専用のAIコンピューティングを導入できます。ショートデプス仕様により、従来のフルデプスサーバーと比較して設置スペースを大幅に削減します。

生成AIワークロード向けのGPUアクセラレーション

コンパクトなSFFカードからフルハイト・フルレングス(FHFL)GPUまで、多様なAIパフォーマンス要件に対応するスケーラブルなNVIDIA RTX PRO™ 産業グレードGPUラインナップをサポートします。

産業用GPUコンピュータを見る

LLMシリーズ 対応GPU一覧

検証済みNVIDIAプロフェッショナルGPU

  • LLM-1U-RPL対応
  • LLM-2U-AM5対応
  • LLM-3U-AM5対応

柔軟なローカルストレージ

RAID 0/1対応のNVMeおよびSATAストレージオプションにより、モデルファイル、ベクトルデータベース、アプリケーションデータ、およびエッジ近傍でのローカルAI処理に柔軟な容量とデータ冗長性を提供します。

産業用ネットワーク接続性

LLMシリーズは、1U、2U、3Uの各構成でRJ45 LAN接続をサポートするほか、一部モデルではデュアル10GbE SFP+を搭載し、スケーラブルなオンプレミスAI導入に対応します。

高速メモリ

大規模なモデルの重み(ウェイト)を保持し、ロングコンテキスト向けの動的KVキャッシュを管理する大容量メモリと広帯域幅を備えています。現代の生成AIワークロードは計算負荷よりもメモリ帯域幅に大きく依存する(メモリバウンドである)ため、メモリ性能がシステムのレイテンシ、同時実行性、およびリアルタイム生成速度を直接左右します。

世界水準の安全認証

LLMシリーズサーバーは、電気的安全性および電磁両立性(EMC)に関するUL、CE、FCC規格の試験をクリアしており、各国の規制承認を簡素化してグローバルな導入を加速します。ハードウェアレベルのセキュリティと産業グレードのコンポーネントを組み合わせることで、オンプレミスAI環境における長期的な信頼性を実現しています。

24時間365日のサーバー運用を支えるリモート管理

Premioのリモート管理ソリューションは、LLM-2U-AM5およびLLM-3U-AM5システムに対する一元的なアクセスとハードウェアレベルの制御を提供し、サーバーの可用性維持、障害復旧の迅速化、および現地保守対応の削減を支援します。

インバンド & アウトオブバンド(OOB)管理

迅速なトラブルシューティングと復旧

ダウンタイムの短縮