NVIDIA Jetpack 6.2 SDK 的發布，標誌著為建構人工智慧邊緣解決方案的開發人員和企業，再次向前邁進一大步。身為 NVIDIA Jetson 平台的產業標準，Jetpack 6.2 導入了關鍵的升級，包括突破性的「超級」效能模式，能夠即時進行人工智慧推論、電腦視覺和機器人技術，進而釋放新的潛力。
Premio 已將我們的 JCO 系列 NVIDIA Jetson AI 邊緣電腦全面升級到 Jetpack 6.2，為工業自動化、自主機器和智慧城市應用提供最尖端的效能。
什麼是 Jetpack SDK？
Jetpack 是 NVIDIA 為 Jetson 模組提供的全面軟體開發套件 (SDK)：NVIDIA：
Jetson Linux
這是 Jetson 的電路板支援套件，包括引導載入程式、Linux 核心、Ubuntu 桌面環境、NVIDIA 驅動程式、工具鏈等。它還包括安全性和無線 (OTA) 功能。
Jetson AI Stack
CUDA 加速 AI 堆疊，包括用於加速 GPU 運算、多媒體、圖形和電腦視覺的全套程式庫。它支援應用程式框架，例如用於視覺 AI 應用程式的 Metropolis、用於機器人應用程式的 Isaac，以及用於高效能運算應用程式 (HPC) 的 Holoscan，具備從邊緣到雲端的即時洞察和感測器處理功能。
Jetson 平台服務
一系列即用型服務，可加速 Jetson 上的 AI 應用程式開發，提供超過 15 種服務，包括生成式 AI 服務、基礎服務等。
Premio 採用 NVIDIA Jetson Orin 硬體和最新 Jetpack 6.2 SDK 的 Jetson 軟體堆疊。
Jetson 軟體堆疊影像來源：NVIDIA
JetPack 6.2 是在邊緣部署 AI 的關鍵，為工業、汽車、醫療和商業 AI 邊緣運算提供完整的生產就緒環境。
什麼是 Jetpack 6？
JetPack 6 讓任何 Linux 核心都能彈性運作，並提供來自 Jetson 生態系統合作夥伴的更多 Linux 發行版選項。它還提供彈性，讓您無需更新 Jetson Linux BSP 即可更新 Jetson AI Stack。
什麼是 Jetpack 6.2，以及有什麼新功能？
JetPack 6.2 是 JetPack 6 NVIDIA 的最新量產版。此版本包含 Jetson Linux 36.4.3，特色是 Linux Kernel 5.15 和以 Ubuntu 22.04 為基礎的根檔案系統。JetPack 6.2 隨附的 Jetson AI 堆疊包括 CUDA 12.6、TensorRT 10.3、cuDNN 9.3、VPI 3.2、DLA 3.1 和 DLFW 24.0。此外，JetPack 6.2 支援用於 NVIDIA Jetson Orin Nano 和 Jetson Orin NX 生產模組的全新高功率超級模式 (Super Mode)，在 Jetson Orin 模組上提供高達 2 倍的生成式 AI 推論效能。
JetPack 6.2 中的新增功能
「超級」效能模式：突破性進展
Jetpack 6.2 首次推出 NVIDIA Jetson Orin Nano 和 Jetson Orin NX 模組專用的高效能模式 (「超級」)，可動態優化：
- CPU/GPU 時脈速度，以實現持續的峰值輸送量。
- AI 推論：隨著 JetPack 6.2 中引入超級模式，Jetson Orin Nano 和 Jetson Orin NX 模組在 LLM、VLM 和視覺轉換器上的推論效能提升高達 2 倍。
最新 Linux 作業系統和軟體彈性
JetPack 6.2 包含 Jetson Linux 36.4.3，這是最新的 Linux 作業系統
包含 Linux Kernel 5.15 和以 Ubuntu 22.04 為基礎的根檔案系統，確保與電腦視覺、機器人技術和 AI 推論等各種應用程式中的最新軟體和安全更新相容。
擴展的 Linux 發行版選項
為 Jetson 裝置上的 Linux 發行版提供更多選擇，包括執行任何大於 5.14 的上游 Linux 核心的能力。
增強型函式庫、API 和開發人員工具
- TensorRT 10.3：更好的模型優化 (支援較新的 PyTorch/TF 圖表)，採用深度學習推論優化器和執行階段，提供低延遲和高輸送量。
- CUDA 12.6 和 cuDNN 9.3：變壓器模型的加速數學運算。
- VPI 3.2：改進電腦視覺的立體深度感知。
- 多媒體 API：應用程式部署就緒 API，例如用於攝影機和感應器整合的攝影機應用程式 API 和感應器驅動程式 API。
安全和攝影機更新
- 安全性：支援 T234 平台上的韌體型可信任平台模組 (fTPM)；已知安全性漏洞的修復。
- 攝影機：增強了 Argus 函式庫，將 CPU 使用率降低了多達 40%。
NVIDIA Jetpack 路線圖 | 資料來源：NVIDIA
Jetpack 6.2 與 6.1：主要改進
|
類別 |
JetPack 6.1 |
JetPack 6.2 |
影響 |
|
電源效率 |
Orin Nano：高達 15W |
Orin Nano Super：高達 25W 和 MAXN |
- 優化功耗評估工具； - 提供從低功耗到最大計算吞吐量的選項。 |
|
記憶體頻寬* |
-Orin Nano 4GB：34 GB/s -Orin Nano 8GB：68 GB/s -Orin NX 8GB/16GB：102 GB/S |
-Orin Nano 4GB Super：51 GB/s -Orin Nano 8GB Super：102 GB/s（+50%頻寬） -Orin NX 8GB/16GB Super：102 GB/s |
- Orin Nano 的頻寬提高 50% - 更快的多模態 AI（視覺 + 語言）。 |
|
生成式 AI |
推出 AI 運算堆疊及其他功能的改進 |
為 Jetson Orin Nano 和 Orin NX 模組推出「超級模式」 |
- 生成式 AI 推論速度提高多達 2 倍 |
記憶體頻寬規格來源：NVIDIA 的 JetPack 6.2 版公告。
超級模式：Jetpack 6.2 釋放頂尖效能
JetPack 6.2 版推出 NVIDIA Jetson Orin Nano 和 Jetson Orin NX 生產模組支援新的高功率超級模式，可提供：
- Jetson Orin NX 系列的 AI TOPS 提高多達 70%，記憶體頻寬增加 50%，並達到可比擬的 AI TOPS 改進。
- Jetson Orin NX 和 Nano 模組在最受歡迎的大型語言模型 (LLM)、視覺語言模型 (VLM) 和視覺變壓器 (ViT) 上，生成式 AI 推論效能提高多達 2 倍。
支援新的電源模式和 AI 效能：
|
模組 |
現有模式功率 |
超級模式功率（JetPack 6.2） |
現有模式 AI TOPS |
超級模式 AI TOPS |
|
Orin Nano 4GB |
7W、10W |
7W、25W、MAXN 超級 |
20 TOPS |
34 TOPS |
|
Orin Nano 8GB |
7W、15W |
15W、25W、MAXN 超級 |
40 TOPS |
67 TOPS |
|
Orin NX 8GB |
10W、15W、20W、MAXN |
10W、15W、20W、40W、MAXN 超級
|
70 TOPS |
117 TOPS |
|
Orin NX 16GB |
10W、15W、25W、MAXN |
10W、15W、25W、40W、MAXN 超級 |
100 TOPS |
157 TOPS |
註：MAXN SUPER 移除了功率上限，但可能會受到熱限制而節流。建議使用自訂電源模式以達到最佳平衡。
Premio 的 JCO 系列已準備好在其 JCO-3000-ORN 和 JCO-1000-ORN 系列上部署超級模式，在嚴苛的環境中為即時 AI 工作負載提供穩定的性能。
Premio 產品搭配 Jetpack 6.2
JCO-6000-ORN 高性能 AI 邊緣運算電腦
搭載 NVIDIA Jetson Orin AGX 模組（275 TOPS）的強大邊緣 AI 電腦，適用於機器人、工業自動化、安全監控和醫學影像等即時 AI 推理應用程式。
JCO-3000-ORN 中階 AI 邊緣運算電腦
搭載 NVIDIA Jetson Orin NX 和 Orin Nano 超級模組（高達 100 TOPS）的節能邊緣 AI 電腦。 配備擴充 I/O、模組化擴充和工業級耐用性，非常適用於機器人、機器視覺和即時 AI 工作負載。
JCO-1000-ORN 無風扇迷你 AI 邊緣運算電腦
搭載 NVIDIA Jetson Orin NX 超級和 Orin Nano 超級模組（高達 157 TOPS 的 AI 性能）的輕量高效能邊緣 AI 電腦。 它專為空間敏感的部署而設計，例如 AMR、視覺感測器和嵌入式 AI 系統，這些應用程式重視熱管理和尺寸。