NVIDIAは、Jetsonエッジ開発者向けにエキサイティングなアップグレードを発表しました。最新のJetPack 6.2リリースを通じて、Jetson Orin NanoおよびJetson Orin NXの生産モジュールでSuper Modeが正式にサポートされるようになりました。
この機能強化は、Orin Nano Developer Kitで最初に導入され、最大1.7倍のパフォーマンス向上を実現し、小型エッジデバイスがこれまで以上に高速に生成AIモデルを実行できるようにしました。現在、Super Modeは完全な本番環境サポートが利用可能になり、AIワークロードを最大2倍高速化することで、商用展開にさらに大きなパフォーマンス上のメリットをもたらします。
Super Modeとは？
Super Modeは、NVIDIA Jetson Orin NanoおよびOrin NXモジュールで利用可能な高性能動作構成です。Orin Nanoでは最大25W、Orin NXでは最大40Wまでモジュールの電力バジェットを増加させることで、Super ModeはCPUとGPUをより高い周波数で動作させ、AI推論性能を大幅に向上させます。
この強化モードは、低遅延とリアルタイム処理が重要なコンピュータービジョン、ロボティクス、生成AIなどの要求の厳しいワークロードを高速化するように設計されています。JetPack 6.2のリリースにより、Super Modeは本番環境のデプロイで正式にサポートされるようになり、標準の電力構成と比較して人気のあるAIモデルで最大2倍の高性能を実現します。
Jetson Orin Nano Developer Kitの既存ユーザーの場合、このパフォーマンスアップグレードは簡単なソフトウェアアップデートで利用できるため、ハードウェア設定を変更することなく、高度な生成AI機能をこれまで以上に簡単に利用できます。
Jetson Orin Nano SuperおよびNX Superの電源モードとは？
画像出典：NVIDIA
JetPack 6.2のリリースにより、NVIDIAはJetson Orin NanoおよびJetson Orin NXモジュール向けの新しい高性能電源モードを導入しました。これには、Orin Nano向けの25WモードとMAXN SUPER、Orin NX向けの40WモードとMAXN SUPERが含まれます。
MAXN SUPERモードは、CPU、GPU、DLA、SOCエンジン全体で利用可能な最高のクロック周波数をアンロックします。これによりピーク性能が得られますが、電力消費がモジュールのTDPを超えると、熱によるスロットリングが発生する可能性があります。
画像出典：NVIDIA
Super Modeは、AIコンピューティング能力を大幅に向上させ、元の電源モードよりも50〜70%高いパフォーマンスを提供します。開発者やインテグレーターにとって、これは、JetPack 6.2にアップデートしてSuper Modeを有効にするだけで、同じハードウェアプラットフォームで高解像度のビデオストリームを処理し、より高速な推論を実現し、より複雑なAIモデルをサポートできることを意味します。
Super Mode対非Super Mode：生成AIモデルにおけるパフォーマンス向上
NVIDIAのベンチマークによると、JetPack 6.2でのSuper Modeの導入により、Jetson Orin NanoおよびOrin NXモジュールは、以前の構成と比較して最大2倍の推論性能を達成できます。この性能向上により、ハードウェア変更を必要とせずに、エッジでより計算集約的なAIアプリケーションが可能になり、その可能性が大幅に拡大します。
NVIDIAのベンチマークに基づくと、Super Modeは、大規模言語モデル（LLM）、ビジョン言語モデル（VLM）、ビジョントランスフォーマー（ViT）など、幅広いモデルを高速化できます。これらはすべて、産業用AI、ロボティクス、コンピュータービジョンシステムでますます重要になっています。
大規模言語モデル
- Jetson Orin Nano 4GBおよび8GBは、Gemma 2BやSmolLM2のようなモデルで最大1.64倍の高速化を示し、最も顕著な性能向上を達成しています。
- Orin NX 8GBも全体で1.4〜1.5倍の改善から恩恵を受けています。
- すでに高性能なモジュールであるOrin NX 16GBでさえ、モデルの複雑さにもよりますが、常に1.1〜1.26倍の性能向上を達成しています。
*DNR（Did Not Run）は、特定のモデルを実行するのにモジュールのメモリが不十分であったことを意味します。また、電力または熱の制限に達すると、スロットリング動作がモデルのパフォーマンスに影響を与える可能性があります。
図1：Super Modeを使用したLLMのパフォーマンス向上 画像出典：NVIDIA
ビジョン言語モデル
- Jetson Orin Nano 8GBおよびOrin NX 8GBは、CLIP（ViT-B/16）やSAM2ベースなどのモデルで最大2.01倍の高速化を達成し、Super Modeが複雑なVLMワークロードを高速化する能力を実証しています。
- Jetson Orin Nano 4GBも大幅な改善（最大1.78倍）が見られますが、Grounding DINOやViT-B/32など、メモリ容量の制限により、特定のモデルではDNR（Did Not Run）の結果が発生します。
- Jetson Orin NX 16GBは、すでに高性能ですが、標準モードでも熱やメモリ帯域幅の限界に近い可能性があるため、より控えめな改善（通常1.1倍から1.25倍程度）にとどまります。
図2. Super Mode実行時のVLMの性能向上
画像出典：NVIDIA
ビジョントランスフォーマー
- Jetson Orin Nano 8GBとOrin NX 8GBは、CLIP (ViT-B/16)やSAM2 baseなどのモデルで最大2.01倍の高速化を実現し、最も顕著なメリットを示しています。これは、Super Modeが複雑なVLMワークロードを加速する能力を実証しています。
- Jetson Orin Nano 4GBも大幅な改善（最大1.78倍）を見せていますが、Grounding DINOやViT-B/32などの一部のモデルでは、メモリ容量の制限によりDNR（実行不可）となることがあります。
- Jetson Orin NX 16GBは、標準モードでも熱的またはメモリのスループットの限界に近づいているため、より控えめな改善（通常1.1倍から1.25倍程度）に留まっています。
図3. Super Mode実行時のViTの性能向上
画像出典：NVIDIA
JCOシリーズ：Super Mode対応Jetson Orinモジュール
当社の Jetson OrinベースのAIコンピューターは、Orin Nanoで25W、Orin NXで最大40Wという高電力モードによるAI性能向上を可能にするSuper Mode対応で提供されています。堅牢な熱設計、広い温度許容範囲、産業グレードの信頼性で構築された当社のJCOシリーズは、Super Modeを展開する準備ができており、要求の厳しい環境でリアルタイムAIワークロードの安定した性能を提供します。
JCO-1000-ORN
Jetson Orin Nano SuperとJetson Orin NX Superモジュールの両方をサポートするファンレスミニAIエッジコンピューターです。AMR、ビジョンセンサー、組み込みAIシステムなど、熱管理とサイズが重要な省スペース環境向けに設計されています。
|
仕様 |
Jetson Orin Nano Super |
Jetson Orin NX Super |
|
最大電力モード |
25W |
40W |
|
AI性能 |
20～67TOPS |
70～157TOPS |
|
動作温度 |
15W: -20°C～60°C 25W: -20°C～55°C 40W: -20°C～40°C |
|
|
OS |
Linux Ubuntu 22.04 with JetPack 6.2 SDK |
|
JCO-1000-ORNの利用可能な電力モード
- Jetson Orin Nano 4GB: 10W、25W、 MAXN SUPER
- Jetson Orin Nano: 8GB、10W、25W、MAXN SUPER
- Jetson Orin NX 8GB: 10W、15W、20W、40W、 MAXN SUPER
- Jetson Orin NX 16GB: 10W, 15W, 25W, 40W, MAXN SUPER
JCO-3000-ORN
Jetson Orin Nano Superおよび標準のJetson Orin NXモジュールをサポートする、小型で堅牢なエッジAIコンピューターです。拡張されたI/Oと産業グレードの耐久性を備え、ロボット工学、マシンビジョン、リアルタイムAIワークロードに最適です。
|
仕様 |
Jetson Orin Nano Super |
Jetson Orin NX |
|
最大電力モード |
25W |
25W |
|
AI性能 |
20-67 TOPS |
70-100 TOPS |
|
動作温度 |
15W：-20°C～60°C 25W：-20°C～50°C |
|
|
OS |
Linux Ubuntu 22.04 with JetPack 6.2 SDK |
|
JCO-3000-ORNの利用可能な電力モード
- Jetson Orin Nano 4GB：10W、25W、MAXN SUPER
- Jeson Orin Nano：8GB、10W、25W、MAXN SUPER
- Jetson Orin NX 8GB：10W、15W、20W
- Jetson Orin NX 16GB：10W、15W、25W