プレミオブログ

EdgeBoostノードでAIエッジ推論コンピューター設計を(比較的)シンプルに

推論は、コンピュータシステムが学習済み機械学習アルゴリズムに基づいて予測を行う際に発生します。推論の概念は新しいものではありませんが、これらの高度な操作をエッジで実行できるようになったのは比較的新しいことです。 エッジベースの推論エンジンの背後にある技術は、組み込みコンピュータです。しかし、明らかにそれ以上に、増幅されたコンピューティング能力、大量のストレージ、そしてリアルタイムで大量のデータを処理するための必要なI/Oを備えています。目標は、データが生成される場所にできるだけ近い場所で操作を実行し、最短時間で最も正確な結果を達成することです。その場所は通常、外部データがシステムに入力されるセンサーのすぐ近くです。決定が下されると、通常はエッジに送り返されて実行され、エッジでのリアルタイムの意思決定を促進します。 エッジベースの推論エンジンにとって重要な懸念事項は、展開される環境です。たとえば、衝撃や振動に耐えるように設計する必要があるでしょうか?極端な高温または低温にさらされるでしょうか?パフォーマンスアクセラレーションの適切なバランスを提供するでしょうか?これらの質問に対する回答は、それぞれ異なる設計、または少なくとも異なる設計アプローチにつながる可能性があります。 一部のベンダーは、環境問題に関する社内テスト機器を完備しています。これには、熱制御のシミュレーションや、もちろん衝撃と振動が含まれます。ほとんどのアプリケーションでは、「堅牢な熱アプリケーション」向けに設計されたシステムは、-40℃から+70℃までの温度で動作でき、20Gまでの衝撃と3Grmsの振動に耐えることができます。 AIの強化 汎用組み込みコンピュータと、推論アルゴリズムを処理するように設計されたコンピュータとの間には明確な違いがあります。まず、推論エンジンには最高の計算性能が求められます。データセンタープラットフォームの機能を取り込んだシステムであっても、どんな設計者でもハイエンドのX86プロセッサを既製品から入手してシステムに組み込むことができます。しかし、最大の処理能力を持つシステムを設計するには、ハードウェアとソフトウェアの両面で人工知能システムに関する深い専門知識と経験が必要です。Premioの専門家は、その堅牢なハードウェアエンジニアリングと産業グレードのコンピュータプラットフォームの設計でその要件を満たしています。 製品ウォークスルー:AIエッジ推論コンピュータ (RCO-6000-CFL) - The Rugged Edge Media Hub Premioは、エッジでシステム性能を最大化するEdge Boost Nodesというモジュール式テクノロジーを開発しました。ハードウェアノードはプラットフォームの下部に物理的に取り付けられ、リアルタイムのインサイトのためにデータ収集を必要とするエッジレベルのワークロードにハードウェアアクセラレーションを提供します。この2ピースのモジュラー設計は、革新的なキャニスターブリックにNVMe(不揮発性メモリ)ソリッドステートディスク(SSD)と並列コンピューティング性能のためのGPUを搭載することで、プラットフォームの堅牢性を維持しつつ、性能を向上させます。各Edge Boost Nodeは、それらのコンポーネントの信頼性を確保するために、高RPMのアクティブ冷却を使用しています。 (画像提供:Premio Inc.)  AI推論コンピュータの設計のすべて - The Rugged Edge Media Hub Premioからは、さまざまなEdge Boost Nodesが提供されています。たとえば、オプションの1つであるRCO-6000-CFL-2N2060Sは、ホットスワップ可能なNVMe SSDキャニスターを追加し、最大2つの15mm U.2 SSDとPCIe GPUを搭載できます。2番目のオプションであるRCO-6000-CFL-4NHはストレージ容量を強化し、ハードウェアおよびソフトウェアRAIDをサポートする高容量NVMeストレージのために、2つの15mm U.2 SSDを収納する2つのホットスワップ可能なNVMe SSDキャニスターをサポートします。3番目のオプションであるRCO-6000-CFL-8NSは、さらに高速なNVMeストレージに焦点を当てており、システムインテグレーターに最大8つの7mm、2.5インチU.2 NVMe SSDを追加する機能を提供します。これはPremioのEdge Boost Nodeポートフォリオに間もなく追加される予定です。 RCO-6000-CFL-4NH/8NS AIエッジ推論コンピュータ | モジュール式edgeBOOSTノード | 性能アクセラレーション -...