資料中心機架伺服器
現代IT架構的支柱
專為高效能而打造，可擴展至企業級規模。
利用企業級伺服器加速現代 IT 策略和數位轉型，這些伺服器經過最佳化，可在所有部署層級提供高效能、無縫可擴展性和 AI 創新。
利用伺服器解決方案賦能人工智慧部署
邊緣AI伺服器運作在本地安全的微型資料中心中，與安裝在機械和車輛內部的智慧型裝置不同，用於處理高級AI工作負載。它作為最後一層，在資料傳輸到雲端伺服器之前，實現即時效能、本地隱私保護並加強控制。
儲存伺服器提供近乎無限的資料儲存容量，並具備進階冗餘和故障轉移保護功能。由於其龐大的運作規模和對受控部署環境的要求，這些伺服器部署在雲端資料中心。
將效能從雲端轉移到邊緣 LLM
隨著人工智慧最新趨勢對即時效能的需求日益增長，企業正在將先進的生命週期管理 (LLM) 解決方案擴展到其站點，以提高整體生產力。邊緣人工智慧伺服器旨在透過在更靠近資料生成來源的位置提供處理能力和加速，將這些 LLM 部署在企業內部，從而實現即時智慧決策。
邊緣AI伺服器的優勢
本地部署LLM效能
透過專為邊緣和嵌入式應用量身定制的硬體組件，為即時 LLM 工作負載提供必要的處理能力和 AI 加速。
- 邊緣最佳化 CPU 選擇
- 工作站級GPU驗證列表
物聯網連接
透過支援高速 I/O 和工業協議，整合即時感測器數據，實現與各種邊緣設備的無縫整合。
- 高吞吐量 LAN 和 USB
- PCIe擴充
本地儲存
實現高速、大容量存儲，以實現快速推理、本地數據記錄，並支援大型 LLM 和聯邦學習工作負載。
- NVMe M.2 SSD
- 支援熱插拔的固態硬碟托架
強大的安全性
透過硬體和韌體層級的保護，確保本地 AI 部署的安全，保障資料完整性、存取控制和系統彈性。
- 實體鎖定面板和入侵偵測開關
- TPM 2.0
- IEC 624423-4-1
已驗證可用於 GenAI 加速
工作站級GPU是實現邊緣多模態AI和LLM工作負載的基礎。邊緣AI伺服器經過專門設計，可支援這些高效能GPU，從而在嚴苛的本地環境中為即時推理提供可擴展的加速。
張量核心優化
透過對海量資料集執行平行運算，實現高吞吐量，從而加速基於Transformer的架構。
高效節能性能
經過散熱設計，可在不超出功耗預算的情況下保持最佳 GPU 效能。
運行可靠性
專為工業環境中的連續運作而設計，確保在關鍵任務應用中性能穩定、經久耐用。
邊緣網路安全
邊緣 AI 伺服器採用嵌入式安全功能設計，並依照 IEC 62443-4-1 標準開發。
- 保護並保障關鍵任務數據
- 加強系統完整性
- 保護工業基礎設施
部署具有邊緣AI伺服器的本地LLM的行業
邊緣人工智慧伺服器能夠為眾多產業帶來更高水準的自動化、智慧化和決策能力。這些垂直產業受益於在本地直接部署生命週期管理（LLM）和生成式人工智慧，從而實現更快、更安全、更具情境感知能力的營運。
工廠自動化
AGV 和 AMR
安全與監控
智慧城市