使用 EdgeBoost 節點讓 AI 邊緣推論電腦設計變得 (相對) 簡單
推論是指計算系統根據經過訓練的機器學習演算法進行預測。雖然推論的概念並不新穎，但能夠在邊緣執行這些進階操作是相對較新的技術。 邊緣推論引擎背後的技術是嵌入式電腦。但很明顯，它不僅僅如此，它還具有增強的運算能力、大量的儲存空間和必要的 I/O，可即時處理大量數據。目標是盡可能地在數據生成的位置附近執行操作，以最短的時間實現最準確的結果。該位置通常非常靠近感測器，外部數據會輸入到系統中。一旦做出決策，通常會將其傳回邊緣執行，從而在邊緣實現即時決策。 邊緣推論引擎的一個主要考量是其部署的環境。例如，它是否必須設計成能承受衝擊和振動？它是否會遇到極高或極低的溫度？它是否能提供效能加速的適當平衡？對這些問題的每個答案都可能導致不同的設計，或者至少是不同的設計方法。 有些供應商擁有全套用於環境問題的內部測試設備。這將包括熱調節模擬，當然還有衝擊和振動。在大多數應用中，專為「堅固耐用和散熱應用」設計的系統意味著它可以在 -40°C 至 +70°C 的溫度範圍內運作，並且可以承受高達 20 G 的衝擊和 3 Grms 的振動。 為 AI 加速 通用嵌入式電腦和專為處理推論演算法而設計的電腦之間存在明顯區別。首先，推論引擎需要極致的運算效能。任何設計師都可以從貨架上取下高階 X86 處理器並將其整合到系統中，即使是包含資料中心平台功能的系統。然而，要設計一個能達到最大輸送量的系統，需要人工智慧系統方面（包括硬體和軟體）的深厚專業知識和經驗。Premio 的專家憑藉其強大的硬體工程和工業級電腦平台的設計能力，完美符合這一要求。 產品導覽：AI 邊緣推論電腦 (RCO-6000-CFL) – 堅固的邊緣媒體集線器 Premio 推出了一種名為 Edge Boost Nodes 的模組化技術，可最大限度地提高邊緣的系統效能。硬體節點物理連接到平台的下部，為需要即時洞察數據採集的邊緣級工作負載提供硬體加速。這種兩件式模組化設計有助於保持平台的堅固性，同時透過創新的罐式磚塊中的非揮發性記憶體 (NVMe) 固態硬碟 (SSD) 和用於並行運算效能的 GPU 提供效能加速。每個 Edge Boost Node 都使用高轉速主動冷卻，以確保這些元件的可靠性。 （圖片來源：Premio Inc.） 設計 AI 推論電腦的來龍去脈 —...
