什麼是 NVIDIA Holoscan?
NVIDIA Holoscan是一個 AI 感測器處理平台,用於在邊緣或雲端即時處理串流資料。實際上,「Holoscan 攝影機」這個詞是攝影機(或攝影機加擷取/橋接硬體)的簡稱,可將視訊饋送到 Holoscan 管線中。
NVIDIA Holoscan 平台一覽:
- Holoscan SDK:用於建置感測器和視訊工作負載的即時串流管線(運算元/圖表)的軟體框架。
- Holoscan 感測器橋接:一種乙太網感測器擷取層,適用於需要高速、確定性串流到 GPU 處理的架構。
-
部署:生產階段 — 在實際環境中(超越原型設計)將 Holoscan 應用程式封裝並運行在邊緣硬體上。

來源:NVIDIA® Holoscan
大多數部署採用兩種擷取模式之一:本機擷取,其中攝影機(或擷取裝置)顯示為標準 Linux 視訊來源;或網路擷取/乙太網感測器,其中攝影機或感測器模組透過乙太網串流,系統設計用於高吞吐量、低延遲傳輸。感測器橋接器通常用於第二種模式,特別是當管線圍繞分散式或網路感測器建置時。
Holoscan 針對邊緣 AI 的優勢
Holoscan 非常適合邊緣 AI,因為它旨在將即時 AI 應用於產生資料的串流感測器資料。實際上,它有助於團隊將連續攝影機/感測器串流轉化為設備上的推論和決策,而無需依賴持續的雲端連接。
- 更快的 AI 決策:在靠近感測器的地方執行推論,以實現更低的端到端延遲和更緊密的控制迴圈。
- 更低的頻寬 + 成本:將原始視訊保留在邊緣,僅傳輸 AI 輸出(偵測、事件、中繼資料)。
- 現場更可靠的 AI:即使連線受限或間歇性,也能保持推論。
- 擴展到多感測器邊緣 AI:支援連續、並行串流(多攝影機/多感測器),饋入統一的管線。
- 彈性的 AI 擷取路徑:根據系統設計,支援本機擷取工作流程和網路/乙太網感測器架構。
哪些平台可以支援 Holoscan?
NVIDIA 將 Holoscan SDK 定位為與多種硬體平台相容,特別提及了 x86_64 工作站和 aarch64 (ARM) 開發套件(例如 Jetson AGX/IGX)。對於生產部署,NVIDIA 還記錄了一種獨立的部署堆疊方法(與開發堆疊不同),旨在將 Holoscan 應用程式部署到生產環境中的 NVIDIA 開發套件上。

來源:NVIDIA® Holoscan
Jetson Thor 與 NVIDIA Holoscan
NVIDIA 還將 Jetson AGX Thor 納入支援的運算平台,可與 Holoscan 感測器橋接連接,並與 IGX 和 Jetson AGX Orin 並列。在此架構中,Jetson Thor 運行 Holoscan 應用程式管線,而感測器橋接器提供乙太網感測器擷取層,將高速攝影機和感測器資料串流至系統。這使得分散式感測器透過網路傳輸資料,而 Jetson Thor 在本地執行 GPU 加速處理以進行推論、視覺化或控制的即時工作流程成為可能。
使用 NVIDIA Holoscan 的主要市場
Holoscan 風格的攝影機和感測器管線最常出現在需要邊緣即時處理串流資料的行業中。
醫療設備和臨床影像
用於需要低延遲處理即時影像串流的工作流程 — 通常與手術視訊和其他臨床影像管線相關。
機器人與自動化機器
適用於邊緣機器人,其中攝影機和感測器將連續串流輸入到設備上運算,以進行感知、導航和即時決策。
工業自動化與即時檢測
常見於機器視覺和檢測場景,其中吞吐量和確定性處理至關重要(例如,生產線上的連續監控和缺陷檢測)。
Premio JCO-6000-ORN 系列(NVIDIA Jetson AGX Orin)用於 Holoscan 部署
Holoscan 通常透過「實驗室到現場」的進程進行評估 — 在支援的平台上原型設計,然後部署在能夠在實際操作條件下維持運行的邊緣硬體上。Premio 的 JCO-6000-ORN 系列 定位於該部署階段:它是一個基於 NVIDIA Jetson AGX Orin (32GB/64GB) 的邊緣 AI 電腦系列,旨在作為一款堅固的系統,適用於耐用性、散熱設計和可靠 I/O 與 GPU 效能同樣重要的工業/現場環境。
對於 Holoscan 攝影機管線,部署就緒性取決於系統能否在安裝環境中不變得脆弱的情況下,維持您的連續串流工作負載(擷取 → 處理 → 輸出)。這包括選擇正確的擷取架構(本機擷取 vs 網路串流),並確保平台的連接性與設計相符。

JCO-6000-ORN 系列包含一個板載 10GbE 乙太網埠,並支援一個 EDGEBoost I/O 模組,該模組增加了雙 RJ45 10GbE 乙太網,實現高達 3x 10GbE 連接(1 個板載 + 2 個透過 EDGEBoost)。在基於 Holoscan 感測器橋接的架構中,這些高頻寬乙太網鏈路提供了邊緣系統與感測器橋接設備板之間的傳輸路徑,感測器橋接設備板連接攝影機或其他感測器,允許資料串流到 Jetson AGX Orin 進行即時 Holoscan 處理。
常見問題
NVIDIA Holoscan 是什麼?
NVIDIA Holoscan 是一個即時感測器處理平台和 SDK,專為建置串流管線而設計,該管線可擷取攝影機和多模態感測器資料,透過 GPU 加速處理,並在邊緣提供低延遲輸出。
NVIDIA Holoscan 是攝影機還是硬體產品?
不。Holoscan 是一個平台,包括軟體(Holoscan SDK)和相關元件,用於建置即時串流感測器應用程式;攝影機是該管線的輸入來源。
Holoscan SDK 和 Holoscan 感測器橋接器有什麼區別?
Holoscan SDK 是用於建置處理管線(運算元/圖形)的軟體框架。當您的架構需要高速、確定性串流到 GPU 處理時,Holoscan 感測器橋接器用於乙太網感測器擷取。
我可以使用 USB 攝影機與 Holoscan 嗎?
通常可以 — 如果攝影機或擷取裝置可以作為標準 Linux 視訊來源公開(一種常見的本機擷取整合方法)。
我何時需要感測器橋接器而不是本機擷取?
當您的設計基於乙太網感測器串流(例如,分散式/網路感測器),並且您需要高吞吐量傳輸和可預測的時序進入處理管線時,通常會考慮使用感測器橋接器。
Holoscan 只能在 Jetson 上運行嗎?
不。Holoscan 在多種類型的平台上使用(包括 x86_64 系統和基於 ARM 的開發套件風格平台),正確的目標取決於效能、I/O 和部署要求。
選擇「Holoscan 攝影機」之前我應該檢查什麼?
從擷取架構(本機擷取 vs 乙太網感測器)開始,然後確認您可以在負載下維持所需的解析度/FPS/格式端到端,包括傳輸、緩衝和 GPU 處理。
