LLMシリーズ エッジサーバー
オンプレミスAI推論向けショートデプス・ラックマウントサーバー
LLMシリーズは、プライベートAIおよびフィジカルAIの導入に向けたショートデプス・ラックマウント型エッジコンピューティングを提供します。スケーラブルなx86コンピューティング、NVIDIA RTX™ PRO GPUアクセラレーション、柔軟なネットワーク接続性を備え、従来のデータセンターサーバーのような大規模構成や複雑さを伴うことなく、ローカル推論、マルチモーダルAI、インテリジェントなエッジアプリケーション向けの専用オンプレミスAIインフラストラクチャを実現します。
製品:
スケーラブルなx86処理
AIワークロードに合わせて、Intel® Core™ または AMD Ryzen™ & EPYC™ プラットフォームをお選びいただけます。
Intel® Core™ プロセッサ
LLM-1U-RPL- 第14 / 13 / 12世代 Intel® Core™
- 最大24コア / 32スレッド
- 高性能コア(Pコア)と高効率コア(Eコア)のハイブリッド構成
- Intel® Thread Director によるワークロード最適化
AMD Ryzen™ & EPYC™ プロセッサ
LLM-2U-AM5 · LLM-3U-AM5- AMD EPYC™ 4005
- AMD Ryzen™ 9000 シリーズ
- 最大16コア / 32スレッド
- PCIe Gen 5およびDDR5による高い拡張性
LLMシリーズ モデル比較
| 項目 | LLM-1U-RPL | LLM-2U-AM5 | LLM-3U-AM5 |
|---|---|---|---|
| フォームファクター | 1U 19インチ ショートデプス・ラックマウント | 2U 19インチ ショートデプス・ラックマウント | 3U 19インチ ショートデプス・ラックマウント |
| プロセッサ | 第14 / 13 / 12世代 Intel® Core™ i9/i7/i5/i3、最大65W | AMD Ryzen™ 9000 & EPYC™ 4005、最大170W | AMD Ryzen™ 9000 & EPYC™ 4005、最大170W |
| メモリ | 最大64GB DDR4-3200 | 最大192GB DDR5-5600 | 最大192GB DDR5-5600 |
| PCIe拡張 | 1x PCIe Gen4 x16 または 2x Gen4 x8 | 2x PCIe Gen5 x16 1x PCIe x4(x1、オープンエンド) 1x PCIe x4(x4、オープンエンド、M.2と共有) |
2x PCIe Gen5 x16 1x PCIe x4(x1、オープンエンド) 1x PCIe x4(x4、オープンエンド、M.2と共有) |
| GPUポジショニング | コンパクトからプロフェッショナル向けまでのGPUアクセラレーション | シングルGPU、バランスの取れたAIパフォーマンス | シングルGPU、より高い物理拡張性 |
| ネットワーク | 3x 2.5GbE | 2x 10GbE SFP+、2x GbE | 2x 10GbE SFP+、2x GbE |
| NVMeストレージ | 1x M.2 M-Key | 2x M.2 M-Key | 2x M.2 M-Key |
| SATAストレージ | 2x 2.5インチ ホットスワップSATA、RAID 0/1 | 4x 2.5インチ SATA SSDドライブベイ(RAID 0/1/5/10対応) | 4x 2.5インチ または 1x 3.5インチ SATA SSDドライブベイ(RAID 0/1/5/10対応) |
| OOB管理 | — | 1x RJ45 EBIO-OOB-I(オプション) | 1x RJ45 EBIO-OOB-I(オプション) |
| 電源 | 2x 600W、1+1冗長電源 | 1x 850W | 1x 850W |
| 産業用ファン | 3x ホットスワップ対応デュアルスマートファン + CPUファン | 4x システムファン + CPUファン | 3x システムファン + CPUファン |
| 動作温度 | 0°C~35°C* | 0°C~35°C* | 0°C~35°C* |
| 最適な用途 | コンパクトなエッジAI推論 | バランスの取れたプライベートAI、LLM、RAG | 高性能AIおよび拡張性を重視した導入 |
クラウドからエッジへ:AIインフラストラクチャの新たな階層
AIがエッジへと近づく中、企業には必ずしも高密度なエンタープライズサーバーインフラが必要とは限りません。LLMシリーズは、プライベートAI、RAG、およびオンプレミス推論向けに構築された、ショートデプス・シングルノードのGPUアクセラレーション対応ラックマウントシステムにより、GPUワークステーションとエンタープライズサーバーの間にあるギャップを埋めます。
LLMシリーズ ラックマウント型エッジサーバーのメリット
総所有コスト(TCO)の最適化
過剰なエンタープライズサーバーインフラのコストや複雑さを伴うことなく、専用のAIコンピューティング環境を導入できます。
省スペース環境での設置面積を最適化
ショートデプス・ラックマウント設計により、スペースに制約のある環境へGPUアクセラレーション対応AIを導入可能
AIをデータのすぐそばに配置
プライベートAIと推論をローカルで実行することで、データ管理性の向上、クラウド接続への依存度の低減、および運用データへの高速アクセスを実現します。
導入事例
次世代ロボットピッキングを実現:産業エッジにおけるリアルタイム触覚&ビジョンAI
大手倉庫ロボティクスプロバイダーは、PremioのLLMシリーズ エッジAIサーバーを導入し、リアルタイムのコンピュータビジョン、触覚フォースフィードバック、および把持計画(グラスププランニング)をロボットワークセルで直接実行することで、クラウドの遅延を排除し、複雑に重なり合った対象物の確実なピッキングを実現しました。
ショートデプス 19インチ ラックマウント設計
コンパクトな1U、2U、および3Uラックマウント設計により、スペースに制約のあるエッジやオンプレミス環境へ専用のAIコンピューティングを導入できます。ショートデプス仕様により、従来のフルデプスサーバーと比較して設置スペースを大幅に削減します。
生成AIワークロード向けのGPUアクセラレーション
コンパクトなSFFカードからフルハイト・フルレングス(FHFL)GPUまで、多様なAIパフォーマンス要件に対応するスケーラブルなNVIDIA RTX PRO™ 産業グレードGPUラインナップをサポートします。
産業用GPUコンピュータを見る
LLMシリーズ 対応GPU一覧
検証済みNVIDIAプロフェッショナルGPU
- LLM-1U-RPL対応
- LLM-2U-AM5対応
- LLM-3U-AM5対応
柔軟なローカルストレージ
RAID 0/1対応のNVMeおよびSATAストレージオプションにより、モデルファイル、ベクトルデータベース、アプリケーションデータ、およびエッジ近傍でのローカルAI処理に柔軟な容量とデータ冗長性を提供します。
産業用ネットワーク接続性
LLMシリーズは、1U、2U、3Uの各構成でRJ45 LAN接続をサポートするほか、一部モデルではデュアル10GbE SFP+を搭載し、スケーラブルなオンプレミスAI導入に対応します。
高速メモリ
大規模なモデルの重み(ウェイト)を保持し、ロングコンテキスト向けの動的KVキャッシュを管理する大容量メモリと広帯域幅を備えています。現代の生成AIワークロードは計算負荷よりもメモリ帯域幅に大きく依存する(メモリバウンドである)ため、メモリ性能がシステムのレイテンシ、同時実行性、およびリアルタイム生成速度を直接左右します。
世界水準の安全認証
LLMシリーズサーバーは、電気的安全性および電磁両立性(EMC)に関するUL、CE、FCC規格の試験をクリアしており、各国の規制承認を簡素化してグローバルな導入を加速します。ハードウェアレベルのセキュリティと産業グレードのコンポーネントを組み合わせることで、オンプレミスAI環境における長期的な信頼性を実現しています。
24時間365日のサーバー運用を支えるリモート管理
Premioのリモート管理ソリューションは、LLM-2U-AM5およびLLM-3U-AM5システムに対する一元的なアクセスとハードウェアレベルの制御を提供し、サーバーの可用性維持、障害復旧の迅速化、および現地保守対応の削減を支援します。