NVIDIA 宣布為 Jetson 邊緣開發者帶來振奮人心的升級：透過最新的 JetPack 6.2 版本，Jetson Orin Nano 和 Jetson Orin NX 生產模組現已正式支援「超級模式」（Super Mode）。
這項功能最初隨 Orin Nano 開發套件推出，其效能提升高達 1.7 倍，讓小型邊緣裝置能以前所未有的速度運行生成式 AI 模型。現在，有了完整的生產支援，超級模式為商業部署帶來更大的效能優勢，將 AI 工作負載的加速效能提升高達 2 倍。
什麼是超級模式（Super Mode）？
超級模式是 NVIDIA Jetson Orin Nano 和 Orin NX 模組上提供的高效能運作組態。透過將 Orin Nano 的模組功耗預算提高到 25W，Orin NX 提高到 40W，超級模式讓 CPU 和 GPU 能以更高的頻率運作，顯著提升 AI 推論效能。
這種強化模式旨在加速要求嚴苛的工作負載，例如電腦視覺、機器人技術和生成式 AI，在這些領域中，低延遲和即時處理至關重要。隨著 JetPack 6.2 的最新發布，超級模式現在已正式支援生產部署，相較於標準電源組態，在流行的 AI 模型上提供高達 2 倍的效能提升。
對於 Jetson Orin Nano 開發套件的現有使用者，此效能升級可透過簡單的軟體更新實現，讓進階生成式 AI 功能的解鎖比以往任何時候都更容易，無需更改硬體設定。
Jetson Orin Nano Super 和 NX Super 的電源模式有哪些？
圖片來源：NVIDIA
隨著 JetPack 6.2 的發布，NVIDIA 為 Jetson Orin Nano 和 Jetson Orin NX 模組推出了新的高效能電源模式。其中包括 Orin Nano 的 25W 模式和 MAXN SUPER，以及 Orin NX 的 40W 模式和 MAXN SUPER。
MAXN SUPER 模式可解鎖 CPU、GPU、DLA 和 SOC 引擎的最高可用時脈頻率。它能提供峰值效能，但如果功耗超出模組的 TDP，可能會觸發熱節流。
圖片來源：NVIDIA
超級模式為 AI 運算能力帶來了實質性的飛躍，比原始電源模式提供高出 50% 至 70% 的效能。對於開發者和整合商而言，這意味著相同的硬體平台現在可以處理更高解析度的視訊串流，實現更快的推論，或支援更複雜的 AI 模型，只需更新到 JetPack 6.2 並啟用超級模式即可。
超級模式 vs. 非超級模式：生成式 AI 模型中的效能提升
隨著 JetPack 6.2 引入超級模式，Jetson Orin Nano 和 Orin NX 模組的推論效能相較於先前的配置，可提升高達 2 倍，根據 NVIDIA 的基準測試結果。這種效能提升顯著擴展了邊緣運算的可能性，實現了更多運算密集型 AI 應用程式，而無需硬體更改。
根據 NVIDIA 的基準測試，超級模式可以加速廣泛的模型，包括大型語言模型 (LLM)、視覺語言模型 (VLM) 和視覺轉換器 (ViT)，所有這些在工業 AI、機器人技術和電腦視覺系統中都變得越來越重要。
大型語言模型
- Jetson Orin Nano 4GB 和 8GB 展現出最顯著的增益，在 Gemma 2B 和 SmolLM2 等模型上，速度提升高達 1.64 倍。
- Orin NX 8GB 也全面受益，提升了 1.4 至 1.5 倍。
- 即使是已經高效能的 Orin NX 16GB，也能根據模型複雜度，看到 1.1 至 1.26 倍的一致性效能提升。
*DNR (Did Not Run) 意指模組沒有足夠的記憶體來運行特定的模型。此外，當達到電源或熱限制時，節流行為會影響模型效能。
圖 1. 使用超級模式的 LLM 效能提升 圖片來源：NVIDIA
視覺語言模型
- Jetson Orin Nano 8GB 和 Orin NX 8GB 展現出最顯著的優勢，在 CLIP (ViT-B/16) 和 SAM2 base 等模型上，速度提升高達 2.01 倍，證明了超級模式加速複雜 VLM 工作負載的能力。
- Jetson Orin Nano 4GB 也顯示出強勁的改善（高達 1.78 倍），儘管由於有限的記憶體容量，它在某些模型（例如 Grounding DINO 和 ViT-B/32）上遇到 DNR（未運行）結果。
- Jetson Orin NX 16GB 雖然已具備高效能，但其效能提升相對較小（通常約 1.1 倍至 1.25 倍），因為即使在標準模式下，它可能已接近其散熱或記憶體傳輸量的限制。
圖 2. 使用 Super Mode 執行時 VLM 的效能改進
圖片來源：NVIDIA
視覺轉換器
- Jetson Orin Nano 8GB 和 Orin NX 8GB 展現出最顯著的優勢，在 CLIP (ViT-B/16) 和 SAM2 基本型號上，速度提升高達 2.01 倍，證明了 Super Mode 能夠加速複雜的 VLM 工作負載。
- Jetson Orin Nano 4GB 也展現了顯著的改進（高達 1.78 倍），但由於記憶體容量限制，在某些型號上遇到了 DNR（未運行）結果，例如 Grounding DINO 和 ViT-B/32。
- Jetson Orin NX 16GB 雖然已經是高效能，但其改進幅度較小（通常約 1.1 倍至 1.25 倍），因為即使在標準模式下，它可能已經接近其熱或記憶體吞吐量限制。
圖 3. 使用 Super Mode 執行時 ViT 的效能改進
圖片來源：NVIDIA
JCO 系列：支援 Super Mode 的 Jetson Orin 模組
我們的 基於 Jetson Orin 的 AI 電腦現已支援 Super Mode，透過提高 Orin Nano 的 25W 和 Orin NX 的 40W 功耗模式來實現更高的 AI 效能。我們的 JCO 系列採用堅固的散熱工程、寬廣的溫度耐受性和工業級可靠性，可部署 Super Mode，在嚴苛的環境中為即時 AI 工作負載提供穩定的效能。
JCO-1000-ORN
無風扇迷你AI 邊緣電腦，支援 Jetson Orin Nano Super 和 Jetson Orin NX Super 模組。它專為對空間敏感的部署而設計，例如 AMR、視覺感測器和嵌入式 AI 系統，在這些應用中，散熱管理和尺寸至關重要。
|
規格 |
Jetson Orin Nano Super |
Jetson Orin NX Super |
|
最大功耗模式 |
25W |
40W |
|
AI 效能 |
20-67 TOPS |
70-157 TOPS |
|
操作溫度 |
15W：-20°C 至 60°C 25W：-20°C 至 55°C 40W：-20°C 至 40°C |
|
|
作業系統 |
搭載 JetPack 6.2 SDK 的 Linux Ubuntu 22.04 |
|
JCO-1000-ORN 的可用電源模式
- Jetson Orin Nano 4GB：10W、25W、MAXN SUPER
- Jetson Orin Nano：8GB、10W、25W、MAXN SUPER
- Jetson Orin NX 8GB：10W、15W、20W、40W、MAXN SUPER
- Jetson Orin NX 16GB：10W、15W、25W、40W、 MAXN SUPER
JCO-3000-ORN
一款支援 Jetson Orin Nano Super 和標準 Jetson Orin NX 模組的小尺寸、堅固耐用邊緣 AI 電腦。配備擴展 I/O和工業級耐用性，非常適合機器人、機器視覺和即時 AI 工作負載。
|
規格 |
Jetson Orin Nano Super |
Jetson Orin NX |
|
最大功率模式 |
25W |
25W |
|
AI 效能 |
20-67 TOPS |
70-100TOPS |
|
工作溫度 |
15W：-20°C 至 60°C 25W：-20°C 至 50°C |
|
|
作業系統 |
搭載 JetPack 6.2 SDK 的 Linux Ubuntu 22.04 |
|
JCO-3000-ORN 可用功率模式
- Jetson Orin Nano 4GB：10W、25W、MAXN SUPER
- Jeson Orin Nano：8GB、10W、25W、MAXN SUPER
- Jetson Orin NX 8GB：10W、15W、20W
- Jetson Orin NX 16GB：10W、15W、25W