LLM 系列邊緣伺服器
適用於本地端 AI 推論的短深度機架式伺服器
LLM 系列提供適用於私有 AI(Private AI)與實體 AI(Physical AI)部署的短深度機架式邊緣運算。結合可擴展的 x86 運算、NVIDIA RTX™ PRO GPU 加速及彈性的網路連接能力,無需傳統資料中心伺服器的龐大規模與複雜架構,即可建構專用的本地端 AI 基礎設施,支援本地推論、多模態 AI 與智慧邊緣應用。
產品:
可擴展的 x86 運算處理
選擇 Intel® Core™ 或 AMD Ryzen™ & EPYC™ 平台,以符合您的 AI 工作負載需求。
Intel® Core™ 處理器
LLM-1U-RPL- 第 14 / 13 / 12 代 Intel® Core™
- 最高支援 24 核心 / 32 執行緒
- 混合效能核心(P-core)與效率核心(E-core)架構
- Intel® Thread Director 工作負載最佳化
AMD Ryzen™ & EPYC™ 處理器
LLM-2U-AM5 · LLM-3U-AM5- AMD EPYC™ 4005
- AMD Ryzen™ 9000 系列
- 最高支援 16 核心 / 32 執行緒
- PCIe Gen 5 與 DDR5 擴充能力
LLM 系列機型比較
| 規格項目 | LLM-1U-RPL | LLM-2U-AM5 | LLM-3U-AM5 |
|---|---|---|---|
| 外型規格 | 1U 19 吋短深度機架式 | 2U 19 吋短深度機架式 | 3U 19 吋短深度機架式 |
| 處理器 | 第 14 / 13 / 12 代 Intel® Core™ i9/i7/i5/i3,最高 65W | AMD Ryzen™ 9000 & EPYC™ 4005,最高 170W | AMD Ryzen™ 9000 & EPYC™ 4005,最高 170W |
| 記憶體 | 最高支援 64GB DDR4-3200 | 最高支援 192GB DDR5-5600 | 最高支援 192GB DDR5-5600 |
| PCIe 擴充 | 1x PCIe Gen4 x16 或 2x Gen4 x8 | 2x PCIe Gen5 x16 1x PCIe x4(x1,開放式插槽) 1x PCIe x4(x4,開放式插槽,與 M.2 共用) |
2x PCIe Gen5 x16 1x PCIe x4(x1,開放式插槽) 1x PCIe x4(x4,開放式插槽,與 M.2 共用) |
| GPU 定位 | 緊湊型至專業級 GPU 加速 | 單一 GPU,均衡的 AI 效能 | 單一 GPU,具備更大實體擴充空間 |
| 網路連接 | 3x 2.5GbE | 2x 10GbE SFP+、2x GbE | 2x 10GbE SFP+、2x GbE |
| NVMe 儲存 | 1x M.2 M-Key | 2x M.2 M-Key | 2x M.2 M-Key |
| SATA 儲存 | 2x 2.5 吋熱插拔 SATA,RAID 0/1 | 4x 2.5 吋 SATA SSD 硬碟槽(支援 RAID 0/1/5/10) | 4x 2.5 吋或 1x 3.5 吋 SATA SSD 硬碟槽(支援 RAID 0/1/5/10) |
| OOB 頻外管理 | — | 1x RJ45 EBIO-OOB-I(選配) | 1x RJ45 EBIO-OOB-I(選配) |
| 電源供應器 | 2x 600W,1+1 冗餘電源 | 1x 850W | 1x 850W |
| 工業風扇 | 3x 熱插拔雙智慧風扇 + CPU 風扇 | 4x 系統風扇 + CPU 風扇 | 3x 系統風扇 + CPU 風扇 |
| 工作溫度 | 0°C 至 35°C* | 0°C 至 35°C* | 0°C 至 35°C* |
| 最佳適用場景 | 緊湊型邊緣 AI 推論 | 均衡的私有 AI、LLM 與 RAG | 高效能 AI 與高擴充需求部署 |
從雲端到邊緣:AI 基礎設施的新層級
隨著 AI 逐漸走向邊緣端,企業並不總是需要高密度的企業級伺服器基礎設施。LLM 系列填補了 GPU 工作站與企業級伺服器之間的空缺,提供專為私有 AI、RAG 與本地端推論打造的短深度、單節點、GPU 加速機架式系統。
LLM 系列機架式邊緣伺服器的優勢
優化總擁有成本(TCO)
部署專用的 AI 運算資源,免除龐大企業級伺服器基礎設施的高昂成本與複雜度。
最佳化受限的安裝空間
短深度機架設計將 GPU 加速的 AI 帶入空間受限的環境
讓 AI 更貼近您的資料
在本地端運行私有 AI 與推論,以強化資料掌控權、降低對雲端連線的依賴,並加速存取營運資料。
成功案例
驅動次世代機器人揀貨:工業邊緣的即時觸覺與視覺 AI
一家領先的倉儲機器人供應商部署了 Premio 的 LLM 系列邊緣 AI 伺服器,直接在機器人工作站執行即時電腦視覺、觸覺力回饋與抓取規劃,消除雲端延遲,可靠地揀選複雜且重疊的物品。
短深度 19 吋機架式設計
緊湊的 1U、2U 與 3U 機架式設計將專用 AI 運算帶入空間受限的邊緣與本地端環境,其短深度設計相較於傳統全深度伺服器可大幅節省安裝空間。
生成式 AI 工作負載的 GPU 加速
支援可擴展的 NVIDIA RTX PRO™ 工業級 GPU 陣容,從緊湊型 SFF 卡到全高全長(FHFL)GPU,滿足各種 AI 效能需求。
探索工業級 GPU 電腦
LLM 系列支援的 GPU
經過驗證的 NVIDIA 專業級 GPU
- 支援 LLM-1U-RPL
- 支援 LLM-2U-AM5
- 支援 LLM-3U-AM5
彈性本地端儲存
支援 RAID 0/1 的 NVMe 與 SATA 儲存選項,為模型檔案、向量資料庫、應用程式資料及邊緣本地端 AI 處理提供彈性容量與資料冗餘保護。
工業級網路連接能力
LLM 系列在 1U、2U 及 3U 配置中均支援 RJ45 LAN 連接,特定機型更配備雙 10GbE SFP+,滿足可擴展的本地端 AI 部署需求。
高速記憶體
具備龐大的記憶體容量與頻寬,可載入大型模型權重並管理長文本脈絡(Long Context)的動態 KV 快取。由於現代生成式 AI 工作負載主要受限於記憶體頻寬而非運算能力,記憶體效能直接決定了系統延遲、並行處理能力與即時生成速度。
世界級安全認證
LLM 系列伺服器通過 UL、CE 及 FCC 電氣安全與電磁相容性標準測試,可簡化法規認證流程並加速全球部署。結合硬體層級安全性與工業級元件,專為本地端 AI 環境的長期穩定運作而打造。
支援 24/7 全天候伺服器運作的遠端管理
Premio 遠端管理解決方案為 LLM-2U-AM5 與 LLM-3U-AM5 系統提供集中化存取與硬體層級控制,協助維持伺服器高可用性、加速故障復原並減少現場維修需求。