惡劣的環境正在利用即時處理,提升機器學習和人工智慧的水平。
深度即時數據是人工智慧的基礎,因此工業環境必須充分利用智慧互聯設備產生的海量數據。然而,在許多情況下,這些惡劣且不穩定的環境並未完全受益於高效能運算,因為其在實現可靠機器學習性能方面存在障礙。這就是邊緣與強固邊緣之間的區別,在強固邊緣,要求更高的即時工業運算有能力改變工業企業的營運和競爭方式。強固邊緣是一個獨特的地方,重工業依賴於將最新高效能技術融合在一起的運算系統,以加速由各種感測器輸入數據所提供的數據處理。
為了在這些嚴苛的環境中取得突破,強固、高可靠性的系統必須高效地將數據傳輸回核心,利用降低的延遲、加速的處理以及在需要時增加的數據儲存容量。這是運算、儲存、連接和強固性等最新物聯網技術的融合,在惡劣、移動和遠端環境中實現了新水平的可靠性。
有哪些設計原則能讓系統在強固邊緣環境中生存和蓬勃發展?透過仔細觀察一些正在興起的物聯網應用,例如遠端資訊處理和自動駕駛車隊路線規劃,這些應用中硬體支援車載電腦的推論分析和機器學習,可以最好地證明這些原則。
許多設計原則能讓系統在嚴苛的邊緣環境中生存和發展,透過仔細觀察一些正在興起的物聯網應用可以得到證明,例如遠端資訊處理和自動車隊路線規劃,其中硬體支援車載電腦的推論分析和機器學習。
推論運算實例
成功的自動車隊路線規劃仰賴各種感測器提供的豐富數據,這些數據能即時指示正在發生的情況。除了提高車輛效率和安全性之外,這些數據來源對於車輛追蹤、路線規劃、報告甚至監控車輛維修需求都至關重要。它們還同時處理有關天氣和交通狀況的數據,以優化燃油消耗。
概念驗證證明了挑戰,以下是卡車車隊製造商為開發自動路線應用程式所建立的需求清單:
• 商用現成 (COTS) 工業級電腦,可快速客製化和部署
• 高可靠性,透過驗證可在小巧系統中承受重度衝擊和振動
• 無風扇運算設計,能夠承受寬廣的操作溫度和車輛電池輸入電壓
• 嵌入式架構,專為匯總和監控高價值數據並將其傳回即時神經網路而建構
• PCIe GPU 支援即時分析和運算處理,用於即時偵測
• 儲存容量高達 32 TB,可記錄大量可用數據
• 緊湊型物聯網閘道器,配備多種 I/O 和連接選項,可最方便地與各種車輛整合,用於即時處理和數據遙測
在根據這些參數開發的系統中,自動駕駛卡車透過車輛中部署的一系列感測器,例如攝影機、光達、雷達和 CAN 匯流排,捕捉其從 A 點到 B 點路線上的數據。關鍵數據,例如車輛遠端資訊處理、GPS 和速度,會持續傳輸,同時也會同步接收排程資訊和安全數據,包括路況或障礙物。數據經過收集、聚合,然後從系統中卸載以進行進一步分析。智慧演算法利用這些數據訓練汽車變得更智慧、更安全,利用強固邊緣系統本身作為數據聚合設備,以實現車輛的神經網路訓練。
在這種類型的推論運算應用中,系統透過依靠邊緣附近強大的處理能力,透過硬體加速和機器智慧,即時告知關鍵決策,識別出一個四足物體正在過馬路,很可能是一隻狗。除了專門的硬體來有效處理和執行演算法外,該應用還需要被動散熱設計,經過驗證可在極端溫度下運行,具有抗衝擊和振動能力,並支援車輛電池的寬電壓電源保護。硬體必須明確設計,以滿足任務關鍵型移動運算的嚴苛要求,具有強大的多核 CPU/GPU 處理能力、更高的頻寬、低延遲和無縫連接,這些原則將在以下部分中概述。
自動駕駛卡車是強固邊緣系統的一個例子。它透過車輛中的各種感測器捕捉其路線上的數據,並經常透過 CAN 匯流排傳輸這些數據。關鍵數據,例如車輛遠端資訊處理、GPS 和速度,會持續傳輸,同時也會同步接收排程資訊和安全數據,包括路況或障礙物。
融合性能加速器以實現邊緣即時處理
邊緣電腦僅收集物聯網設備資訊的時代早已過去。邊緣運算硬體的進步使邊緣的效能運算成為可能。需要仔細考量處理器配置,以確定系統可以處理的工作負載數量以及完成任務的速度。執行數據遙測和車輛遠端監控等任務的系統可能能夠利用低功耗但高效的處理器。相反,執行複雜且要求嚴苛的工作負載,例如推論分析和人工智慧邊緣運算,可能需要更強大且更強固的選項,例如 Intel Core i3、i5 和 i7 處理器。當需要低功耗時,請考慮 SoC(系統單晶片)選項,它將電腦的所有組件(例如 CPU 核心、整合式圖形 GPU 和記憶體儲存)組合在單一晶片上。這確保了功耗和性能的平衡。
對於需要更多功耗的複雜工業工作負載,插槽式 CPU 系統可能是最佳選擇。插槽式 CPU 系統通常比 SoC 提供更高的性能——具有更多的核心、更高的時脈核心和更高的 TDP,它們在比 SoC PC 高得多的溫度下運行。然而,插槽式 PC 由主機板和機械安裝到插槽中的 CPU 組成。使用插槽式 CPU 的工業級邊緣電腦也可以設計成無風扇設計,使用被動散熱,在最惡劣的環境中提供更好的可靠性。這些類型的運算解決方案在多核心性能和強固設計中的堅固可靠性之間取得了堅實的平衡。其他組件,例如 GPU 和記憶體,也必須透過主機板上的其他插槽手動插入系統。
請注意,對於人工智慧和機器學習應用,增加用於硬體加速的 GPU 可能是理想的選擇,這使邊緣電腦能夠儲存、處理和分析大量數據,而無需將數據傳輸到雲端——這些 GPU 可利用豐富的核心進行平行處理,而非依賴循序 CPU,以實現即時推論。因此,它們的部署可以節省大量的金錢和網路頻寬,特別是當採用計量數據方案時。
邊緣運算硬體必須足夠堅固,才能在不穩定的環境中承受衝擊、振動、灰塵、碎屑甚至極端溫度。通常首選無風扇設計。無風扇或通風孔的設計可防止灰塵和碎屑進入系統並損壞敏感的內部組件。
解決實際運算環境的現實挑戰
邊緣運算硬體必須足夠堅固,才能承受不穩定的環境,在這種環境中,系統會頻繁受到衝擊、震動、灰塵、碎屑,甚至是極端溫度的影響。無風扇設計是此類部署的標誌性特徵。無需風扇或通風孔,可防止灰塵和碎屑進入系統並損壞敏感的內部元件。消除風扇本身增加了可靠性,並消除了空冷系統中常見的故障點。
系統也應採用無電纜設計,以確保最佳的抗震和抗振動能力。無電纜系統不會受到電纜鬆脫導致系統無法運作的可能性影響。鋁製和鋼製外殼完善了環境保護策略,使電腦外部清潔變得容易,同時防止系統在接觸水和污垢時腐蝕和劣化。保護等級各不相同,因此請評估對防護等級保護的需求,作為一項設計功能,可增加系統效能的可靠性和壽命。
增加記憶體以提高響應速度,固態硬碟以提高可靠性
邊緣PC通常會收集、處理和分析從機械、設備和工業物聯網設備收集的大量數據——充足的儲存空間和快速的數據存取是關鍵功能。系統增加的記憶體越多,其對可存取工作負載的響應速度就越快,以實現即時數據快取。
對於長期儲存,小型堅固型PC可以配備硬碟(HDD)和/或固態硬碟(SSD)。一個企業級固態硬碟可能擁有數TB的數據,並且比硬碟的數據傳輸速度更快。此外,堅固型PC可以配置NVMe固態硬碟,這是一種極快的儲存設備,讀取速度可達3,500 MB/s,寫入速度可達2,500 MB/s。在配置超堅固小型PC時,設計人員應選擇固態硬碟,因為它們將數據儲存在矽晶片上,這比依賴旋轉金屬盤片儲存數據的硬碟提供更高的可靠性。固態硬碟的成本通常在單位容量價格方面令人望而卻步,但在系統儲存方面,如果可能遇到衝擊和震動,延遲可靠性和堅固性可能會是短視的。話雖如此,對於需要大量數據儲存的組織,可以添加硬碟以增加容量。例如,大容量儲存非常適合長途駕駛數據,包括10 GbE連接以雙向移動數據——有效儲存和存取數據,以持續訓練機器學習演算法以實現持續改進。
多種電源選項保護關鍵任務效能
配備寬電壓輸入的堅固型小型電腦,可讓堅固型電腦系統在9到50 VDC的電源範圍內運作,增加了與不同電源輸入情境的相容性。堅固型小型電腦還必須配備過壓保護、電湧保護和反向極性保護。當系統感應到電壓超過預定水平時,過壓保護會切斷系統電源,以保護敏感的內部元件。電湧保護是保護電腦系統免受電湧影響所必需的。每當系統偵測到電湧時,它會將電流導向地面,以避免損壞設備上敏感的電子元件。最後,反向極性保護可確保如果電源極性反轉,系統不會損壞。當此類系統偵測到極性反轉時,系統電源會被切斷,以防止敏感元件遭受損壞。這些功能是工業級運算解決方案中獨特的要求,旨在確保關鍵任務企業部署中的可靠性和效能。
豐富的I/O埠,確保與新舊設備整合的靈活性
堅固的邊緣PC必須提供多樣的I/O埠和彈性的PCIe擴充,因為它們通常需要連接新的和舊的工廠機械、設備。堅固的邊緣PC還必須提供模組化子卡的整合,以適應需要額外I/O的配置。這項關鍵設計功能允許物聯網整合商透過隨插即用選項來滿足I/O需求,而這在固定I/O配置中通常不可用。常見的I/O選項包括資料傳輸速度高達10Gbs的USB 3.1 Gen 2埠、用於舊設備的COM埠、用於LAN/PoE+設備的RJ45/M12乙太網路埠,以及用於編程自動化開關觸發的通用I/O埠 (GPIO)。GPIO埠可以容納沒有通用介面(例如USB埠或舊式串列埠)的周邊設備、感測器和設備。最終,GPIO埠允許邊緣運算硬體連接到任何年齡的數位設備;如果設備(或其感測器)功能正常,它就可以連接到邊緣運算解決方案。
物聯網整合商可以透過隨插即用選項最佳地解決I/O需求。常見的I/O選項包括資料傳輸速度高達10Gbs的USB 3.1 Gen 2埠、用於舊設備的COM埠、用於LAN/PoE+設備的RJ45/M12乙太網路埠,以及用於編程自動化開關觸發的通用I/O埠 (GPIO)。
了解堅固的邊緣運算
就像工廠設備不斷學習識別生產線上的物體一樣,自動駕駛車輛中的遠端資訊處理解決方案透過機器學習實現操作和響應能力的提升。這些系統平行運算以處理路況、危險、駕駛員操作和車輛控制系統的數據——延遲極低。自動駕駛路線解決方案需要處理大量的即時數據,因此必須足夠堅固,才能承受可能導致電子設備可靠性問題的溫度範圍、衝擊和震動。車輛GPS定位的精確度以及將所有數據精確推送到中央資料庫以使遠端資訊處理管理員能夠即時監控正在發生的事情的能力也至關重要。
這些挑戰代表了許多新興的物聯網應用,例如在工廠現場實現的資料中心效能、使用模組化設計進行智慧工作負載整合的智慧販賣系統、部署推理運算以提高產出和安全性的加工廠等等。了解堅固的邊緣運算——它需要什麼以及它能實現什麼——將有助於設計師在最惡劣的遠端和行動環境中,利用各種新的、令人興奮的推理運算應用達到目標。
有線、無線,或兩者兼有
自動駕駛路線解決方案必須能夠容納各種有線、無線和蜂巢式連線選項,以實現從基地台到整個車隊網路的無縫連線。優化的系統應配備兩個RJ45 LAN埠,用於非常快的有線數據傳輸,範圍從1 GbE到甚至10GbE,並支援WOL(喚醒局域網)和PXE。如果最終應用需要額外的RJ45 LAN埠或能夠透過單一電纜提供數據和電源的M12 LAN埠(PoE+ (IEEE 802.3at)),則可以部署易於安裝的擴充子卡。
在沒有有線連線的情況下,邊緣電腦仍應能透過Wi-Fi6 (IEEE 802.11ax) 選項連接到網際網路,該選項用於透過高速無線LAN連線實現超可靠、低延遲的通訊。Wi-Fi6 還為範圍和功耗提供了配置彈性,並且在延遲和頻寬方面提供了最接近有線LAN的效能。在沒有Wi-Fi的情況下,邊緣運算解決方案應能透過蜂巢式4G、LTE和5G連線卸載關鍵資料。還應整合多個SIM模組插槽,允許組織增加多達兩個數據營運商以實現冗餘。4G 的理論速度最高為100 Mbps,而5G 的理論速度最高為10 Gbps——這種快速的蜂巢式連線對於不一定有穩定網際網路連線的遠端部署極為重要。藍牙連線是一種額外的選項,作為一種輕量級技術,它為低功耗設備提供了快速簡便的連線。儘管藍牙無法提供Wi-Fi提供的速度和範圍,但它確實提供了可靠的一對一和多對多連線。