過酷な環境下におけるAI推論：
M.2アクセラレータでエッジAIのパフォーマンスを実現
ホワイトペーパーをダウンロードする理由とは？
課題：エッジAIのボトルネック
今日、多くのビジネス分野がエッジAIの導入によって恩恵を受けています。エッジAIは、幅広いアプリケーションや業界において、多くのエンドユーザーの現実世界の課題解決に貢献しています。しかし、過酷な環境下でパフォーマンスを最大限に引き出すことは、容易ではなく、高度な技術が求められます。厳しい環境は電力効率を低下させ、リソースを制限し、従来のコンピューティングソリューションがデータ量の多いワークロードを処理する上で大きな障壁となります。エッジAIとIoTおよびIIoTデバイスの数が増加するにつれ、エッジAIのパフォーマンスを最適化できる専用ハードウェアへの需要がますます高まっています。
解決：
ムーアの法則は減速しつつありますが、低消費電力とエネルギー効率を維持する能力は衰えていません。エッジにおいては、電力予算、機械的性能、熱性能に限界が生じています。エッジにおける電力制約を緩和するために、専用ハードウェアアクセラレーションに対する新たな需要が高まっています。本稿では、総所有コストを超えずに、エッジにおける非常に特殊で要求の厳しい深層学習および推論ワークロードに対応するように設計された、ドメイン固有アーキテクチャ、特にM.2フォームファクタを採用したアーキテクチャの利点について考察します。
エッジAIの力
エッジAIはインダストリー4.0アプリケーションの新たな可能性を切り開き、2025年までに飛躍的に成長すると予測されています。IoTデバイス、人工知能、エッジコンピューティングの進歩により、世界中でエッジアプリケーションにAIを活用する幅広い導入事例が生まれています。AIと機械学習がより多くのIoTデバイスを利用するようになるにつれ、エッジソリューションはデータ集約型のワークロードにおいて限界に近づき始めています。シリコンの進化だけでは、AIアルゴリズムと、それらが要求する桁違いに高い処理性能を支えることはできません。性能、コスト、エネルギーの必要なバランスを実現するには、より専門的でドメイン固有のアーキテクチャを特徴とする新しいアプローチが求められています。
ガートナーは、2025年までに企業データの75%が従来の中央集中型データセンター以外で処理されるようになると予測している。
M.2とドメイン固有アーキテクチャとは何ですか？
M.2とは何ですか？
M.2は次世代フォームファクターとして位置づけられており、最高のパフォーマンスと柔軟性を実現するためにインテルによって開発されました。mSATAとmPCIeの後継規格であるM.2インターフェースは、PCI Expressレーンをフル活用できるため、非常に高速かつ汎用性に優れています。
- 超小型モジュール – 最小のM.2デバイスは、最小のmPCIeデバイスと比較して18%小型化されています。
- 柔軟な寸法対応 – マザーボード上の一部のM.2ポートは、複数の長さのM.2カードに対応しています。
- 電力効率に優れています – M.2の消費電力は7ワット（W）に制限されています。
- M.2デバイスはSATAデバイスよりもはるかに高速で、約50%から650%高速です。
- 驚異的な高速性能：NVMeプロトコルとPCIe 4.0（最大x4レーン、各レーン16Gb/s）
システムアーキテクトの間では現在、性能・エネルギー・コストのバランスを大幅に改善するための唯一の道は、M.2のパフォーマンス高速化を統合するドメイン固有のアプローチであると広く考えられている。
ドメイン固有アーキテクチャ
DSA（ドメイン固有アーキテクチャ）とは、特定のAIワークロードに対応するために設計された、パフォーマンスを高速化するハードウェアです。DSAの特長は、その処理能力が非常に高く、特定のワークロードに合わせてカスタマイズされている点にあります。従来のCPUやGPUシステムは高い処理能力を提供できますが、エッジコンピューティングに必要な要件を満たしていません。DSAは、過酷で不安定な環境において、コンパクトで電力効率の高いソリューションを効率的に提供できます。
サンプル推論ベンチマーク
ワークロード向けの人気の推論アクセラレータ
CPU
- マルチコア
- 低遅延
- シリアル処理
- 一度に複数の操作
- 大容量メモリ
- より柔軟なプログラム
TPUおよびM.2モジュール
- マトリックス処理ハードウェア
- 高遅延（CPUと比較して）
- 極めて高い並列処理能力（非常に高いスループット）
- 大量処理に最適化
- 畳み込みニューラルネットワーク（CNN）
- AIに特化したプログラム
GPU
- 数千個のコア
- 高スループット
- 並列処理
- 一度に数千件のオペレーション
- メモリ容量が少ない
- 柔軟性の低いプログラム
堅牢なエッジコンピューティング
DSA（データソースアーキテクチャ）は、エッジAIの性能を最大限に引き出すのに役立ちます。コンピューティング能力をローカルに集約することで、カメラやセンサーなどのスマートIoTデバイスは、データを発生源で効率的に取得・処理できます。エッジコンピューティングは、堅牢なアーキテクチャでDSAの処理能力を活用し、リアルタイムのデータ分析、AIの実現、そしてエッジにおける高い信頼性を提供します。
堅牢なエッジコンピューティングが求められる主な導入分野は、産業オートメーション、ADAS（先進運転支援システム）および自動運転車、監視およびセキュリティ、スマートキオスクなどです。
工場自動化
マシンビジョン
軍事・防衛
スマートキオスク
デジタル監視
あなたはRugged Edgeの準備はできていますか？
貴社のアプリケーションは、堅牢なエッジ環境に対応していますか？堅牢なエッジ環境では、リアルタイムでデータを取得・分析するために必要な電力性能を実現する適切なハードウェアが不可欠です。さらに、堅牢なエッジコンピュータは、粉塵、破片、衝撃、振動が頻繁に発生する過酷な環境下でも、故障なく動作する必要があります。エッジAIアプリケーションの準備に役立つ幅広いトピックを網羅した、当社の堅牢エッジメディアハブをご覧ください。
堅牢なエッジAI推論ソリューションを探る
AIエッジアプリケーション向けにリアルタイムでデータを取得、処理、分析するための重要な演算能力を提供するには、専用のハードウェアが必要です。Premioの専用設計の堅牢なエッジコンピュータが、データ処理、NVMeデータストレージ、5G接続といった次世代技術を統合し、機械知能をエッジにもたらす様子を、ぜひ動画でご覧ください。
AIエッジ推論コンピュータ
Premioの専用設計の堅牢なエッジコンピュータは、過酷な環境下でもエッジAIに必要な計算能力を発揮できるよう設計されています。当社のエッジAI推論および堅牢なエッジコンピュータは、次世代の計算能力を提供し、高度なAIアルゴリズムの実行に必要な帯域幅を実現します。最新のデータストレージ、処理、接続技術を用いて構築された当社のシステムは、産業界で見られるあらゆる過酷な環境に耐えられるよう認証されています。
AIエッジ推論コンピュータ
機械学習を導入し、実績のある推論検出を実行します。堅牢なコンピューティングソリューションは、処理（CPUとGPU）、NVMeストレージ、高度な接続性において最高のパフォーマンスを発揮するように設計されています。
ファンレスミニIoTゲートウェイ
堅牢で耐久性の高いIoTゲートウェイを使用して、ミッションクリティカルなIoTセンサーデータを集約し、複数のエンドポイントからクラウドへのデータテレメトリを可能にすることで、ダッシュボード分析の強化を実現します。
産業用組み込みコンピュータ
産業グレードのコンピューティングソリューションでインダストリー4.0の自動化を効率化し、予測分析と生産性向上のためのより高度なデータ分析を必要とする、最も過酷な製造環境に対応します。
小型フォームファクターコンピュータ
データ生成源のできるだけ近くで分散処理を必要とする、過酷な環境、モバイル環境、およびリモート環境における最も厳しい要求を満たすために特別に設計されたコンピューティングハードウェア。
HMIパネルPCおよび産業用モニター
IP規格準拠のオールインワンタッチスクリーンディスプレイを統合することで、最も過酷なIoTデータ処理アプリケーションにおけるインライン生産設備の自動化と効率化を支援します。
マイクロエッジデータセンター向けHPCストレージサーバー
数千台のIoTセンサー、ゲートウェイ、産業用コンピュータからのデータは、最大限のアクセス性を実現するためにマイクロエッジデータセンターに保存および管理できます。高性能かつ高密度のストレージサーバーにより、最も重要な時にミッションクリティカルなデータへのアクセスが可能になります。