Premio 推出 LLM-1U-RPL 邊緣伺服器系列，擴展了用於內部 LLM 推理的產品組合

LLM-1U-RPL 主要特色： 

LLM-1U-RPL 旨在將低延遲推斷直接帶到邊緣，在邊緣必須即時做出時間敏感的決策。這款邊緣伺服器搭載第 13 代 Intel® Core™ 處理器（最高 i9，65W TDP），利用高效能混合架構，P 核心用於低延遲推斷，例如 LLM 提示回應和代幣生成，E 核心用於通用背景應用。它還支援高達 64GB 的雙通道 DDR4 3200MT/s SODIMM 記憶體，以簡化多模態資料流，避免效能瓶頸。 

儲存選項包括透過 M.2 M-Key 插槽的高速 NVMe，以及前端可存取的雙熱插拔 2.5 吋 SATA 磁碟槽。本地儲存功能減少了對雲端資源的依賴，降低了最後一哩回傳頻寬的使用，並加快了回應時間，同時也增強了資料隱私和主權。  

在設計時考慮了效能彈性，伺服器還支援 PCIe Gen 4 擴充插槽，可安裝高吞吐量網路介面卡 (NIC) 或專用 AI GPU 加速器。憑藉對最高 NVIDIA RTX™ 5000 Ada 的相容性，該系統可為私有、地端 LLM 部署提供高效能推斷，例如數位雙生和生成式 AI 推斷，以最大限度地減少雲端依賴並維護資料主權。  

除了效能，LLM-1U-RPL 還設計用於在緊湊型短深度 1U 外形中實現長期可靠和安全操作。冗餘電源和熱插拔風扇可實現 24/7 連續運行並簡化維護。防篡改前面板、機箱入侵檢測和 TPM 2.0 等安全功能有助於在受監管或私人環境中保護敏感資料。 

LLM-1U-RPL 適用於需要本地 AI 處理的一系列關鍵市場和工業 4.0 應用，從製造自動化和機器人技術到智慧基礎設施和安全。它能夠將生成式 AI 工作負載更接近資料來源，有助於減少雲端暴露並確保符合不斷變化的資料治理標準。總體而言，LLM-1U-RPL 作為一個可擴展的地端邊緣運算節點，將即時 AI 處理與工業 4.0、行動性和智慧基礎設施部署中的現場設備連接起來。   

如欲了解更多關於 Premio 邊緣 AI 伺服器 LLM-1U-RPL 系列的資訊，請聯絡我們的嵌入式和邊緣運算專家：sales@premioinc.com 或造訪 premioinc.com。