LLM 系列邊緣伺服器

適用於本地端 AI 推論的短深度機架式伺服器

LLM 系列提供適用於私有 AI(Private AI)與實體 AI(Physical AI)部署的短深度機架式邊緣運算。結合可擴展的 x86 運算、NVIDIA RTX™ PRO GPU 加速及彈性的網路連接能力,無需傳統資料中心伺服器的龐大規模與複雜架構,即可建構專用的本地端 AI 基礎設施,支援本地推論、多模態 AI 與智慧邊緣應用。

可擴展的 x86 運算處理

工業級 GPU 加速

短深度 19 吋機架式設計

工業級長效使用壽命

硬體層級資料安全

產品:

可擴展的 x86 運算處理

選擇 Intel® Core™ 或 AMD Ryzen™ & EPYC™ 平台,以符合您的 AI 工作負載需求。

Intel® Core™ 處理器

LLM-1U-RPL
  • 第 14 / 13 / 12 代 Intel® Core™
  • 最高支援 24 核心 / 32 執行緒
  • 混合效能核心(P-core)與效率核心(E-core)架構
  • Intel® Thread Director 工作負載最佳化

AMD Ryzen™ & EPYC™ 處理器

LLM-2U-AM5 · LLM-3U-AM5
  • AMD EPYC™ 4005
  • AMD Ryzen™ 9000 系列
  • 最高支援 16 核心 / 32 執行緒
  • PCIe Gen 5 與 DDR5 擴充能力

LLM 系列機型比較

規格項目 LLM-1U-RPL LLM-2U-AM5 LLM-3U-AM5
外型規格 1U 19 吋短深度機架式 2U 19 吋短深度機架式 3U 19 吋短深度機架式
處理器 第 14 / 13 / 12 代 Intel® Core™ i9/i7/i5/i3,最高 65W AMD Ryzen™ 9000 & EPYC™ 4005,最高 170W AMD Ryzen™ 9000 & EPYC™ 4005,最高 170W
記憶體 最高支援 64GB DDR4-3200 最高支援 192GB DDR5-5600 最高支援 192GB DDR5-5600
PCIe 擴充 1x PCIe Gen4 x16 或 2x Gen4 x8 2x PCIe Gen5 x16
1x PCIe x4(x1,開放式插槽)
1x PCIe x4(x4,開放式插槽,與 M.2 共用)
2x PCIe Gen5 x16
1x PCIe x4(x1,開放式插槽)
1x PCIe x4(x4,開放式插槽,與 M.2 共用)
GPU 定位 緊湊型至專業級 GPU 加速 單一 GPU,均衡的 AI 效能 單一 GPU,具備更大實體擴充空間
網路連接 3x 2.5GbE 2x 10GbE SFP+、2x GbE 2x 10GbE SFP+、2x GbE
NVMe 儲存 1x M.2 M-Key 2x M.2 M-Key 2x M.2 M-Key
SATA 儲存 2x 2.5 吋熱插拔 SATA,RAID 0/1 4x 2.5 吋 SATA SSD 硬碟槽(支援 RAID 0/1/5/10) 4x 2.5 吋或 1x 3.5 吋 SATA SSD 硬碟槽(支援 RAID 0/1/5/10)
OOB 頻外管理 — 1x RJ45 EBIO-OOB-I(選配) 1x RJ45 EBIO-OOB-I(選配)
電源供應器 2x 600W,1+1 冗餘電源 1x 850W 1x 850W
工業風扇 3x 熱插拔雙智慧風扇 + CPU 風扇 4x 系統風扇 + CPU 風扇 3x 系統風扇 + CPU 風扇
工作溫度 0°C 至 35°C* 0°C 至 35°C* 0°C 至 35°C*
最佳適用場景 緊湊型邊緣 AI 推論 均衡的私有 AI、LLM 與 RAG 高效能 AI 與高擴充需求部署

從雲端到邊緣:AI 基礎設施的新層級

隨著 AI 逐漸走向邊緣端,企業並不總是需要高密度的企業級伺服器基礎設施。LLM 系列填補了 GPU 工作站與企業級伺服器之間的空缺,提供專為私有 AI、RAG 與本地端推論打造的短深度、單節點、GPU 加速機架式系統。

LLM 系列機架式邊緣伺服器的優勢

優化總擁有成本(TCO)

部署專用的 AI 運算資源,免除龐大企業級伺服器基礎設施的高昂成本與複雜度。

最佳化受限的安裝空間

短深度機架設計將 GPU 加速的 AI 帶入空間受限的環境

讓 AI 更貼近您的資料

在本地端運行私有 AI 與推論,以強化資料掌控權、降低對雲端連線的依賴,並加速存取營運資料。

成功案例

驅動次世代機器人揀貨:工業邊緣的即時觸覺與視覺 AI

一家領先的倉儲機器人供應商部署了 Premio 的 LLM 系列邊緣 AI 伺服器,直接在機器人工作站執行即時電腦視覺、觸覺力回饋與抓取規劃,消除雲端延遲,可靠地揀選複雜且重疊的物品。

短深度 19 吋機架式設計

緊湊的 1U、2U 與 3U 機架式設計將專用 AI 運算帶入空間受限的邊緣與本地端環境,其短深度設計相較於傳統全深度伺服器可大幅節省安裝空間。

生成式 AI 工作負載的 GPU 加速

支援可擴展的 NVIDIA RTX PRO™ 工業級 GPU 陣容,從緊湊型 SFF 卡到全高全長(FHFL)GPU,滿足各種 AI 效能需求。

探索工業級 GPU 電腦

LLM 系列支援的 GPU

經過驗證的 NVIDIA 專業級 GPU

  • 支援 LLM-1U-RPL
  • 支援 LLM-2U-AM5
  • 支援 LLM-3U-AM5

彈性本地端儲存

支援 RAID 0/1 的 NVMe 與 SATA 儲存選項,為模型檔案、向量資料庫、應用程式資料及邊緣本地端 AI 處理提供彈性容量與資料冗餘保護。

工業級網路連接能力

LLM 系列在 1U、2U 及 3U 配置中均支援 RJ45 LAN 連接,特定機型更配備雙 10GbE SFP+,滿足可擴展的本地端 AI 部署需求。

高速記憶體

具備龐大的記憶體容量與頻寬,可載入大型模型權重並管理長文本脈絡(Long Context)的動態 KV 快取。由於現代生成式 AI 工作負載主要受限於記憶體頻寬而非運算能力,記憶體效能直接決定了系統延遲、並行處理能力與即時生成速度。

世界級安全認證

LLM 系列伺服器通過 UL、CE 及 FCC 電氣安全與電磁相容性標準測試,可簡化法規認證流程並加速全球部署。結合硬體層級安全性與工業級元件,專為本地端 AI 環境的長期穩定運作而打造。

支援 24/7 全天候伺服器運作的遠端管理

Premio 遠端管理解決方案為 LLM-2U-AM5 與 LLM-3U-AM5 系統提供集中化存取與硬體層級控制,協助維持伺服器高可用性、加速故障復原並減少現場維修需求。

頻內(In-Band)與頻外(Out-of-Band)管理

更快速的故障排除與系統復原

減少停機時間