使用 LLM-1U-RPL 系列在本地運行生成式 AI——這是一款專為實時大型語言模型 (LLM) 推理而設計的 1U 邊緣 AI 伺服器。它由先進的 GPU 提供支持，支援高達 400 億參數的模型，可實現低延遲、安全且無需雲端依賴的本地 AI 處理。可部署在工業場所、現場或企業資料中心，讓 AI 更貼近您的資料。 查看產品簡介...
在本網路研討會中，您將學習如何順利完成從雲端 LLM 部署到本地部署的轉變，並了解 Premio 的本地部署 LLM 系列產品如何專為支援這項轉型而打造。 了解更多 ...
LLM-1U-RPL 專為部署在本地邊緣而設計，作為感測器資料發送到雲端之前的最後一個運算層。 LLM-1U 位於此關鍵節點，可提供本地 AI 推理、資料主權、隱私和可靠性方面的優勢。 了解更多
LLM-1U 系列採用 1U 短深度外形設計，可完美適用於空間受限的部署環境，例如微型資料中心、控制室和移動機櫃。
LLM-1U-RPL 利用英特爾的效能混合架構，簡化密集型工業工作負載，同時最大限度地減少延遲並最大限度地提高效率。
第13代英特爾® 酷睿™ E 處理器
最高
24 個核心和 32 個執行緒
高效能混合架構，最多可配備
8 個 P 核心和 16 個 E 核心
雙通道 DDR4
最高可達 64GB
LLM-1U-RPL 系列支援工作站級 GPU，可為本地 LLM 和 genAI 提供高效能推理，同時確保散熱管理和外形尺寸的效率。
除了支援 GPU 之外，PCIe 4.0 擴充功能還為採用高吞吐量網路和其他工業附加擴充卡的高規格部署提供了所需的靈活性。
• 1 個 PCIe 4.0 x16 插槽
適用於全頻寬加速器
• 2 個 PCIe 4.0 x8 插槽
適用於多個附加擴充卡
LLM-1U 系列可整合各種高容量感測器數據，為與工業物聯網 (IIoT) 相機、感測器和設備無縫整合提供必要的連接。
對於效能關鍵型工作負載，LLM-1U-RPL 支援高速 NVMe，並配備可更換的 SATA 硬碟位，方便維護和資料存取。
LLM-1U 系列採用冗餘電源和智慧冷卻風扇，以確保關鍵邊緣 AI 部署中不間斷的運作和簡化維護。
支援熱插拔的 600W 電源（1+1）
熱插拔風扇
LLM-1U 系列具有多重硬體級保護，可確保實體安全、防篡改和資料完整性，特別適用於邊緣部署。
安全邊框
機殼入侵偵測開關
TPM 2.0
經過嚴格的測試和驗證，LLM-1U系列產品符合UL安全標準和IEC 62443-4-1網路安全認證。 LLM-1U系列產品值得信賴，可為關鍵任務環境的部署提供安心保障。
