組織は、運用に自律的な効率性をもたらすために、人工知能 (AI) を利用する頻度が増えています。AIに関連するインサイトと最適化は、人間の対応よりも高速で信頼性があります。AIシステムは、ディープニューラルネットワーク (DNN) を介して入力を評価する深層学習 (DL) モデルを活用し、展開目標達成に向けて判断を下し、応答を生成します。
DLを効果的に利用するために必要なデータ作成と伝送の量は膨大であり、モノのインターネット (IoT) は、このAIの分野を支える新しいデータ入力の銀河を提供してきました。伝統的に、データを集約して分析するために必要な計算能力は、クラウドのリソースに限定されていました。しかし、帯域幅とクラウドの可用性の制限が時間的制約のあるアプリケーションに不要な遅延をもたらし、データの機密性がオフプレミスへの伝送を妨げるため、膨大なデータをクラウドにルーティングすることは多くの展開で実現不可能であることが判明しています。
これらの制約を緩和するために、エッジコンピュータはさまざまな入力源の近くに配置され、データを迅速かつ効率的に処理してシステムの応答性を維持します。このハードウェア介入により、困難な環境に分散システムを持つ組織は、AIを活用して豊富な状況的洞察とパフォーマンス向上を実現し、品質管理、安全性、セキュリティ、および効率性を高めることができます。しかし、頑丈なエッジコンピュータにDLを導入するには、DNNを多様な入力に繰り返しさらすことでトレーニングし、限られた入力から独立して学習し正確な予測を行うことができる計算コスト効率の高いDLモデルを達成する必要があります。このディープニューラルネットワークのハードウェアベースの洗練を機械学習推論と呼びます。
深層学習モデルはどのように作成されるのか？
DLモデルは、人工ニューラルネットワークが特定の側面や特性を分類し処理するように訓練するために調整された特殊なデータのバッチを入力することによって形成されます。DLモデルは、人間の学習プロセスと同様の方法で入力を処理するように訓練されます。入力は、次のニューラル層に渡される前に各ニューラル層で変換され、そこでさらに変換されます。変換の累積により、ニューラルネットワークはエッジや形状のような非線形の特徴の多くの層を学習することができます。層間の接続は、入力の合計に応じて重み付けされ、意図した出力の精度を向上させます。誤った出力に対するフィードバックは層を通してルーティングされ、それに応じて重み付けされた接続を調整し、繰り返されるエラーの確率を減らし、DLモデルをさらに洗練させます。
深層学習モデルの開発と展開には高い計算コストがかかり、その実装には強力なグラフィック処理ユニット（GPU）が必要です。GPUは汎用CPUとは異なり、並列計算の実行に優れています。GPUは、計算をより小さな計算に分割し、それを同時に実行して最終出力を生成するように設計されています。これにより、DLモデルは入力データを分解して個々の側面を計算し、さまざまな分析プラットフォームや支援プラットフォームに適用できる視覚的または音声的な特性を認識することができます。
結合重みを調整してニューラルネットワークを訓練することにより、DLモデルはGPUの計算コストを削減するために効率化されます。訓練されたDLモデルは、ハードウェアレベルで独立して動作するように展開でき、経験の調整された強化に基づいて認知推論分析を行うことが信頼されます。機械学習推論は、エッジに展開されたDLモデルをさらに改善し、システムワークロードコストを削減するために、より高い精度と効率性を可能にします。不要な処理パラメータを剪定し、ネットワークの複雑さを軽減することにより、各エンドポイントでパフォーマンスを最大化するために、エッジノードのリソース可用性に応じて最適化をカスタマイズできます。
推論分析はインテリジェントな頑丈なエッジにどのように情報を与えるか？
必要な精度閾値を満たすように訓練されたDLモデルは、その最もリソース効率の良い形で頑丈なエッジコンピュータに統合され、入力データの推論分析を実行できます。データソースに配備された頑丈なエッジコンピュータは、挑戦的な、移動性の高い、変動の激しい、または乱気流の環境で堅牢な処理能力を提供します。頑丈なエッジコンピュータのGPUによって駆動されるDLモデルは、トレーニングを活用して高い効率と速度で正確な出力を生成できるようになり、目標達成に必要な入力とリソースが少なくなります。そして、クラウドのリソースに依存するのではなく、機械学習推論分析タスクに頑丈なエッジデバイスを使用することで、システムは重要な目標を妨げる可能性のある遅延やクラウドの可用性の問題を回避できます。これらの目標は、統合されたDNNの種類に応じて、頑丈なエッジ展開で大きく異なる可能性があります。
畳み込みニューラルネットワークは、ビデオ入力の形状、特徴、テクスチャを認識するのに優れた速度と精度を提供します。これは、機械視覚による品質検査から生体認証処理、バーコードスキャンに至るまで、あらゆるものに幅広い影響を与えます。長短期記憶ネットワークは、リカレントニューラルネットワークの改良型です。これらは、音声認識、ロボット制御、予測に適用できる優れた処理能力を持っています。長短期記憶ネットワークは、教師なし学習を可能にし、システムが自律的に新しい知識を生成して、トレーニングの範囲外のシナリオや入力を適切に処理できるようにします。これらのモデルは、他のモデルと同様に、同じデータ入力を処理し、連携してインテリジェントな堅牢なエッジシステムを可能にします。
頑丈なエッジ推論分析の主要な5つのアプリケーション
1. インテリジェント監視
頑丈なエッジデバイスでの推論分析は、監視カメラやその他の接続された周辺機器から供給されるデータを即座に処理・分析できます。GPUを搭載した推論分析は、キャプチャされた視覚データに対してリアルタイムのビデオ分析を駆動し、無数の安全、セキュリティ、最適化タスクに適用できます。混雑した空港のセキュリティタッチポイントに配備されたカメラシステムは、推論分析を使用して、登録された乗客画像の安全なデータベースと照合することで顔認識を迅速に実行し、有人ゲートよりも高速で正確なセキュリティと利便性を提供できます。同じビデオデータに他のパラメータを適用して、行動を予測したり、不審な物や放置された物を特定したり、即時のセキュリティ介入を必要とする可能性のあるイベントを検出したりできます。頑丈なエッジコンピュータがより多くのデータを処理するにつれて、機械学習推論分析タスクはDLモデルを改善し、より遠い距離から、さまざまな異常な条件下で、より速く認識機能を実行できるようにします。
2. 高度交通システム（ITS）
接続されたスマートシティ周辺の分散型IoTネットワークに配備された頑丈なエッジコンピュータは、効率的な公共システムを維持するために即時処理を必要とする無数の種類のデータを受信します。GPU駆動の推論タスクは、ナンバープレート認識を実行して料金徴収を容易にし、対象車両を迅速に特定して追跡し、交通パターンと通勤頻度を監視できます。このデータは、他の都市システムにルーティングされ、交通信号システムの同期、公共交通機関のスケジューリング、車車間通信、緊急派遣をさらに処理し、スマートシティ運用の安全性、効率性、持続可能性を向上させることができます。
3. インダストリー4.0
産業用IoT（IIoT）における推論分析は、製造および重要なインフラシステム管理に巨大な影響を与えます。異なる分散システムに展開された堅牢なエッジコンピュータはそれぞれ、より安全で合理化された産業運用につながる推論分析タスクに特化しています。機械視覚システムは、製品の視覚イメージを分析し、人間の目には知覚できない欠陥や異常を即座に検出し、製造プロセス全体で高い品質の一貫性を確保します。機械学習推論は、以下のビデオ例で見られるように、ごく短時間で欠陥を特定する計測学および検査アプリケーションに最適なツールです。
自律型ロボットは、機械学習を通じて状況の変化を特定して対応し、それに応じて調整することで、人間や他のシステムを危険にさらすことなく生産性を維持しながら、割り当てられたタスクを無人で行います。推論分析は、AIプラットフォームに材料消費量、エネルギー消費量、生産能力を伝え、持続可能な製造とサービスのためにリソースの可用性を最適化します。推論分析は、ネットワーク侵入を検出し、不正アクセスに対抗または緩和するためにサイバーセキュリティ制御を自動的に初期化する上でも重要です。
4. 自動運転車とフリート管理
推論分析は、自動車を自律的または半自律的に安全に操作する車載コンピュータのための機械学習を可能にします。堅牢な並列計算は、路面状況、危険、他のドライバーによる予期される操作に関する情報を含む道路からのビデオデータを処理し、将来の結果を予測し、車両制御システムを安全に、そして壊滅的な遅延なく操作します。機械学習は、システムの操作性と応答性を常に洗練させ、トレーニング外の状況に対応できるように準備します。気象、旅行、交通状況に関するITSからの入力データは、GPSと連携して処理され、燃料消費を最適化できます。さらに、音声認識パラメータにより、車両システムの音声起動制御が可能になります。
5. 医用画像処理と疾患診断
推論分析は、モバイルまたは遠隔環境で計算集約型画像処理および予測モデルを利用する能力を持つ医療AIアプリケーションをサポートします。GPUは、高解像度、多次元画像を迅速に処理することで、医療レポートの生成、および放射線画像およびCTスキャンに基づくセグメンテーションおよび予測モデルを加速します。速度のために画質を落とす必要がないため、医師は医療施設外でも患者をより迅速かつはるかに高い精度で診断でき、患者にとってより良い結果につながります。
Premio Inc.のGPU搭載コンピュータが過酷なエッジでの推論分析を実現
PremioのVCO-6131E-4M2は、挑戦的な環境で優れたAIと機械学習を可能にするために、内側から設計されています。このAIエッジ推論コンピュータに統合されたIntel®第8世代および第9世代Core™プロセッサは、さまざまなパフォーマンスアクセラレータ、将来に対応した接続性、強力なストレージをサポートし、堅牢なエッジでの超インテリジェントな意思決定と自動化を推進します。AIエッジ推論コンピュータの4つの着脱式トレイにより、NVMeストレージメディアの高速でホットスワップ可能なロードが可能です。NVMeは、エッジでデータセンターに匹敵する読み書き速度を実現します。4つのドライブすべてで約8GB/sの転送容量を持つVCO-6131E-4M2は、複雑なアプリケーションのために統合されたCPUとGPUに大量のデータを効率的に供給します。高速データ速度はエッジでのより反射的な推論分析を可能にし、組み込まれたSATAドライブはより日常的な計算タスクのための補助ストレージサポートを提供します。この画期的なソリューションは、困難な産業環境でより総合的なAIと機械学習のためにGPUスループットを最大化するための即時データアクセスを可能にします。
Premioの産業用GPUコンピュータは、事実上あらゆる頑丈なエッジ展開に集中的な並列計算能力をもたらします。NVIDIA Pascal™アーキテクチャ上に構築されたNVIDIA GeForce®GTX 1050 Tiグラフィックスエンジンは、データ発生源に近い場所で応答性の高い推論分析を可能にし、ネットワークの複雑さを軽減し、時間的制約のあるアプリケーションに影響を与える可能性のある遅延を回避します。産業用GPUコンピュータは、RTX 2060 Super GPUのような強力なプロセッサをサポートしており、はるかに高い強度の推論分析に対して3倍の計算並列性を提供します。
RCO-6020-1050TI GPUコンピュータとVCOシリーズのマシンビジョンコンピュータは、要求の厳しい展開で高性能コンピューティングのために特別に設計されています。産業用GPUコンピュータは、かなりのIIoTハードウェア性能のためにIntel第6世代/第7世代プロセッサで設計されています。処理性能とグラフィックス性能が向上したIntel CPUは、主要CPUコアからのグラフィックス処理をオフロードすることで、マシンビジョンとコンピュータビジョン向けに最適化されています。ファンレス、ケーブルレスのアーキテクチャは、堅牢なエッジ展開におけるコンピュータの寿命を縮める故障点を排除します。これらのデバイスは、モバイル環境や産業環境など、高衝撃、振動、乱流環境での耐久性について評価されています。極度の熱と寒さに対応する広い動作温度範囲と、不確実または変動する電圧の場所での電力適応性を保証する広い電圧入力範囲を誇ります。Wi-Fiおよび4G/LTEからの堅牢なワイヤレス接続機能は、最も堅牢なエッジ展開において、バックアップ、データ伝送、および運用冗長性のためのクラウド資源の可用性を確保します。TPM 2.0ハードウェアセキュリティとエッジ自律性は、機密データと信号を保護し、潜在的に侵害されたクラウド資源に再ルーティングすることなく処理できるようにします。
接続性の進歩がIoTを拡大するにつれて、安全性、セキュリティ、実用的な洞察、プロセス最適化に向けて豊富なデータの大量流入を活用しようとする組織は、ネットワークの堅牢なエッジをさらに探求するでしょう。Premioの強化された堅牢なエッジコンピュータと産業用GPUコンピュータは、MTBFの延長、強力な処理、リアルタイムの応答性により、ミッションの即時性を維持します。