NVIDIA JetPack 7.2 的新功能有哪些?

JetPack 7.2 的新功能


隨著 JetPack 7.2 SDK 的發布,NVIDIA 在 Jetson Thor 之外擴展了 JetPack 7 軟體堆疊,新增對 Jetson Orin 系列的支援。這讓 Orin 與 Thor 都能在基於 Ubuntu 24.04、Linux Kernel 6.8 與 CUDA 13 的共同軟體基礎上運行。

JetPack 7.2 也推出多項新功能,包括:

  • 官方 Yocto 支援
  • AGX Orin 32GB Super Mode
  • NVIDIA 代理程式技能
  • NemoClaw 整合
  • Jetson Thor 上的多實例 GPU (MIG) 支援

本文將介紹與耐用邊緣 AI 系統最相關的 JetPack 7.2 更新,以及開發者如何將其應用於生產環境部署。

資料來源:NVIDIA


JetPack 6.2 與 JetPack 7.2:有何變化?

在深入了解細節之前,以下為 Jetson 開發者從 JetPack 6.2 到 JetPack 7.2 的主要更新概覽。

 功能 JetPack 6.2 JetPack 7.2
Ubuntu Ubuntu 22.04 Ubuntu 24.04
Linux Kernel 5.15 6.8
CUDA CUDA 12.6 CUDA 13
Jetson 平台 Jetson Orin Jetson Orin、Jetson Thor
Super Mode Orin Nano 與 Orin NX 新增 AGX Orin 32GB Super Mode,效能最高可達 241 TOPS
Yocto 支援 - 官方 Yocto 支援
NVIDIA 代理程式技能 - 已支援
NemoClaw - 支援單一指令部署
多實例 GPU (MIG) - Jetson Thor 支援

對於現有的 Jetson Orin 使用者,JetPack 7.2 將該平台納入與 Jetson Thor 相同的 JetPack 7 軟體基礎,同時提供更新的 AI 函式庫、開發工具與功能,以處理日益複雜的邊緣 AI 工作負載。


1. Jetson 官方 Yocto 支援 

JetPack 7.2 最重要的更新之一是新增對Yocto Project的官方支援,讓開發者能更輕鬆地為 Jetson 系統建置自訂 Linux 發行版。

對許多開發者而言,基於 Ubuntu 的 JetPack 映像檔是開始 Jetson 開發最快速的方式。然而,隨著應用程式變得日益專業化,通用型 Linux 發行版可能會包含目標工作負載不需要的軟體套件、服務與相依性。

Yocto 則採用不同方式,讓開發者能從零開始建置 Linux 映像檔,僅選擇應用程式所需的組件。

什麼是 Yocto?

Yocto Project是一個開源框架,可用於為嵌入式系統建立自訂 Linux 發行版。

開發者無需部署完整的 Ubuntu 映像檔,而是可以建置精簡的作業系統,僅包含應用程式所需的套件與服務。

例如,電腦視覺裝置可能只需要 Linux 核心、CUDA、TensorRT、DeepStream 與應用程式軟體,並排除桌面環境、藍牙服務、列印服務及其他未使用組件。

使用自訂 Linux 映像檔有以下幾項優點:

  • 更小的軟體佔用空間
  • 更低的記憶體使用量
  • 更小的攻擊面
  • 更快的開機速度
  • 更可預測的系統行為
  • 對軟體更新的更大控制權


2. AGX Orin 32GB Super Mode

隨著 JetPack 7.2 擴展支援至 Jetson Orin 系列,NVIDIA 也為Jetson AGX Orin 32GB推出Super Mode,將 AI 效能從200 TOPS 提升至 241 TOPS。

Jetson AGX Orin 32GB Super Mode


這讓開發者在 AGX Orin 32GB 平台上獲得額外的效能餘裕,無需改用成本較高的 AGX Orin 64GB 模組。對於運算受限的工作負載,Super Mode 可協助提升推論吞吐量,或支援更具挑戰性的模型流水線,同時讓系統仍可採用成本較低的 Orin 配置。

有何變化?

啟用 Super Mode 後,Jetson AGX Orin 32GB 可以更高的效能設定運行。根據 NVIDIA 的說法,GPU 頻率從930 MHz 提升至 1.3 GHz,功耗範圍則提升至 60W。

Jetson AGX Orin 32GB Super Mode 模組比較

資料來源:NVIDIA | Jetson AGX Orin 模組比較

Super Mode 為開發者提供 AGX Orin 32GB 標準運行與 AGX Orin 64GB 之間的折衷方案。如果工作負載符合 32GB 記憶體的容量,但需要更高的運算效能,Super Mode 可提供額外的吞吐量,而無需改用 64GB 模組。


3. Jetson Thor 上的多實例 GPU (MIG) 支援

JetPack 7.2 為 Jetson Thor 新增多實例 GPU (MIG) 支援,可將單一 GPU 劃分為多個實例,並將其分配給不同工作負載。

資料來源:NVIDIA | 多實例 GPU 的運作原理

Jetson Thor 支援兩種 MIG 劃分:

劃分 資源  預定工作負載
AI 與圖形劃分 12 個 SM、1,536 個 CUDA 核心 AI 推論、渲染、視覺化、一般 CUDA 工作負載
獨立運算劃分 8 個 SM、1,024 個 CUDA 核心 機器人、控制、感知、安全關鍵工作負載

這有助於減少多個應用程式在同一系統上運行時的資源爭用。

透過將專屬 GPU 資源分配給感知、感測器融合、運動規劃與安全監控等對延遲敏感的功能,開發者可以在獨立劃分中運行 AI 推論或生成式 AI 工作負載,且不會影響關鍵工作負載。

此功能特別適合需要將多個工作負載整合至單一邊緣平台,同時維持可預測效能的機器人、交通、智慧基礎設施與工業自動化應用。


4. Jetson 的 NVIDIA 代理程式技能

JetPack 7.2 為 Jetson 推出 NVIDIA 代理程式技能,這是一套旨在簡化常見開發與優化任務的 AI 輔助工作流程。

其中包括兩種類型的技能:

  • Jetson 裝置技能:直接在 Jetson 上運行,支援系統診斷、記憶體優化、模型基準測試、推論調整與部署設定。這些技能可協助開發者分析系統資源,並針對目標 Jetson 平台優化 AI 工作負載。
  • Jetson BSP 技能:從主機系統運行,以簡化 BSP 自訂與開發板啟動,包括裝置樹、I/O 設定、電源設定檔及其他 Jetson Linux 設定。這可簡化從開發套件轉移至自訂或生產用載板時的硬體啟用流程。

這些 NVIDIA 代理程式技能可處理 Jetson Linux 自訂、記憶體優化與模型基準測試等關鍵工作流程,協助開發者減少手動設定,並加速系統啟動、效能調整、驗證與生產部署。

在 Premio 的 JCO-1000-ORN 系列(搭載 Jetson Orin NX 8GB)上查看實際運作:


Wistia 影片



5. NemoClaw 整合於代理型 AI

JetPack 7.2 新增對 Jetson 單一指令部署 NemoClaw 的支援,讓開發者能更輕鬆地在邊緣端建置與部署 AI 代理程式。

NemoClaw 是 NVIDIA 用於協調多個 AI 組件的開源框架,包括視覺模型、語言模型、本地資料來源與工具執行。

資料來源:NVIDIA GTC 2026 主題演講

例如,邊緣系統可使用視覺模型偵測問題,從本地資料庫檢索相關資訊,並根據結果產生警示或報告。

NemoClaw 特別適合需要 AI 系統在本地執行多步驟推理與動作,而非僅依賴單一模型推論的應用。

要在運行 JetPack 7.2 的 Jetson 裝置上安裝 NemoClaw,請執行以下單一指令:

curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash


結論

雖然 JetPack 7.2 帶來了廣泛的新功能,但許多更新都指向同一個目標:在 Jetson 平台上支援更複雜的 AI 工作負載。

NemoClaw、NVIDIA 代理程式技能與記憶體優化工作流程等功能,顯示出對代理型 AI 與實體 AI 應用日益重視,在這些應用中,多個模型、工具與服務可能需要同時在單一邊緣裝置上運行。同時,Yocto 支援、AGX Orin 32GB Super Mode 與 Jetson Thor 上的 MIG 等功能,有助於提供支援這些日益複雜的工作負載所需的重要靈活性、效能與部署選項。

隨著 AI 應用持續發展,不再侷限於單一模型推論,JetPack 7.2 為建置與部署下一代邊緣 AI 系統提供了更強大的軟體基礎。


本文內容改編自 NVIDIA 技術部落格:在 NVIDIA JetPack 7.2 中以記憶體高效方式部署具代理能力的 AI。


Wistia 影片

Premio 的 NVIDIA Jetson 解決方案搭載 JetPack 7.2

Premio 旗下聯絡我們。


本文原於 2026 年 6 月 24 日發布,現已更新以反映最新的產品與認證資訊。