LLM-1U-RPL系列
適用於本地 LLM 工作負載的 1U 邊緣 AI 伺服器
使用 LLM-1U-RPL 系列在本地運行生成式 AI——這是一款專為實時大型語言模型 (LLM) 推理而設計的 1U 邊緣 AI 伺服器。它由先進的 GPU 提供支持，支援高達 400 億參數的模型，可實現低延遲、安全且無需雲端依賴的本地 AI 處理。可部署在工業場所、現場或企業資料中心，讓 AI 更貼近您的資料。 查看產品簡介...
- 短深度 1U 外形尺寸
- 第 13 代英特爾® 酷睿™ 處理器（最高 65W TDP）
- 支援最高 NVIDIA® RTX™ PRO 4500 Blackwell 和 RTX™ 5000 Ada GPU，用於 AI 加速
- 用於邊緣連接和擴展的全面 I/O
- 具備硬體級防護的網路安全就緒型
- 世界級認證：UL、CE、FCC
產品：
產品介紹深度解析
在本網路研討會中，您將學習如何順利完成從雲端 LLM 部署到本地部署的轉變，並了解 Premio 的本地部署 LLM 系列產品如何專為支援這項轉型而打造。 了解更多 ...
專為本地資料中心邊緣設計
LLM-1U-RPL 專為部署在本地邊緣而設計，作為感測器資料發送到雲端之前的最後一個運算層。 LLM-1U 位於此關鍵節點，可提供本地 AI 推理、資料主權、隱私和可靠性方面的優勢。 了解更多
緊湊型伺服器機架就緒設計
LLM-1U 系列採用 1U 短深度外形設計，可完美適用於空間受限的部署環境，例如微型資料中心、控制室和移動機櫃。
邊緣即時效能
LLM-1U-RPL 利用英特爾的效能混合架構，簡化密集型工業工作負載，同時最大限度地減少延遲並最大限度地提高效率。
第13代英特爾® 酷睿™ E 處理器
最高
24 個核心和 32 個執行緒
高效能混合架構，最多可配備
8 個 P 核心和 16 個 E 核心
雙通道 DDR4
最高可達 64GB
GPU對Gen AI加速的支持
LLM-1U-RPL 系列支援工作站級 GPU，可為本地 LLM 和 genAI 提供高效能推理，同時確保散熱管理和外形尺寸的效率。
- 最高選配 NVIDIA® RTX™ PRO 4500 Blackwell 和 RTX™ 5000 Ada
- 最高可達 250 瓦
- 工作站級GPU
面向人工智慧工作負載的高速 PCIe 4.0 擴展
除了支援 GPU 之外，PCIe 4.0 擴充功能還為採用高吞吐量網路和其他工業附加擴充卡的高規格部署提供了所需的靈活性。
• 1 個 PCIe 4.0 x16 插槽
適用於全頻寬加速器
• 2 個 PCIe 4.0 x8 插槽
適用於多個附加擴充卡
全面的工業物聯網連接
LLM-1U 系列可整合各種高容量感測器數據，為與工業物聯網 (IIoT) 相機、感測器和設備無縫整合提供必要的連接。
- 6 個 USB 3.2 Gen2 (10Gbps) 端口
- 3 個 RJ45 (2.5GbE) 接口
- 2x COM
可擴充儲存和高速 NVMe
對於效能關鍵型工作負載，LLM-1U-RPL 支援高速 NVMe，並配備可更換的 SATA 硬碟位，方便維護和資料存取。
- 1 個 M.2 M-Key 插槽，用於 NVMe SSD
- 2 個可熱插拔的 2.5 吋 SATA 硬碟位
全天候運行，配備冗餘電源和冷卻系統
LLM-1U 系列採用冗餘電源和智慧冷卻風扇，以確保關鍵邊緣 AI 部署中不間斷的運作和簡化維護。
支援熱插拔的 600W 電源（1+1）
熱插拔風扇
邊緣人工智慧的硬體級網路安全
LLM-1U 系列具有多重硬體級保護，可確保實體安全、防篡改和資料完整性，特別適用於邊緣部署。
安全邊框
機殼入侵偵測開關
TPM 2.0
世界一流的安全認證
經過嚴格的測試和驗證，LLM-1U系列產品符合UL安全標準和IEC 62443-4-1網路安全認證。 LLM-1U系列產品值得信賴，可為關鍵任務環境的部署提供安心保障。
- IEC 62443-4-1
- UL
- CE、FCC
