パフォーマンス テクノロジー: ゼロ コピー UDP と RDMA/RoCEv2

ここからは、パフォーマンスで何を求めるべきかを理解するためにさらに深く掘り下げていきます。 GigEビジョン 実装。この短いアニメーションは、GigE Vision ネットワーク パケットを画像に分割するプロセスを示しています。ヘッダー、リーダー、およびトレーラーは制御プロセスによって消費されますが、画像部分は連続したメモリ バッファーに残ります。このプロセスにソフトウェアを使用する場合、パケット全体がメモリに書き込まれ、その後、画像部分がメモリから読み出され、非フラグメント (または連続) 方法で別のメモリ位置に書き戻される必要があります。このプロセスは、メモリ帯域幅の 3 倍のコストがかかるソフトウェアで実行することも、最適なパフォーマンスを実現するカード ヘッダー分割機能によって実行することもできます。従来の GigE Vision と TCP はどちらも低パフォーマンスのプロセスの例です。また、一部の TCP 実装者の保証された転送メカニズムの主張に騙されないでください。これは、単にフレームを受信した場合、そのフレームは破損することなく完全であると言うだけです。フレーム落ちしないことを保証するものではありません。あらゆる意味で、TCP はパフォーマンス アプリケーションにとってスターターではなく、マーケティングのノイズにすぎません。

このスライドは、提案または承認された変更がどのようにインターフェイス標準に収束しているかを示しています。 USB はほとんど同じですが、ポイントツーポイントのテクノロジーです。 CXP は、GigE Vision に向けて収束するイーサネット物理層を採用しています。 GigE Vision+RDMA および GigE Vision+TCP (承認された場合) は、ポイントツーポイント テクノロジとして CXP および USB に統合されています。 （おそらく2年後）。 GigE Vision+GVSP は、その整合性と機能セットを維持し、他のプロトコルと統合しません。

RoCEv2 の実装にはより多くの FPGA リソースが必要であるため、FPGA のコストは軽量の標準で成熟した GigE Vision GVSP プロトコルよりも高くなることがわかります。再送バッファが実装されている場合、これはさらに当てはまります。

最小かつ低コストのカメラを作成するために、さまざまなメーカーのカメラは 2GigE 未満の RoCEv10 をサポートしていないことがわかります。これもエマージェントの新たなエロスの一つの形です 5GigE カメラ は真の ZERO コピー パフォーマンスを提供し続けますが、他のものは TCP および従来の GVSP 処理に依存しており、3 倍のメモリ帯域幅と Emergent ZERO コピー方式の 33% の効率を実現します。で マルチカメラシステム, Emergent は、システム密度と価格パフォーマンスの指標において比類のない存在であり続けます。

また、CPU 使用率が低いと多くの人が述べていますが、実際にはバックグラウンドに隠れて最大のシステム パフォーマンスを妨げているのはメモリ帯域幅の使用率であることを覚えておいてください。

1. ROCEv2 が標準の一部となり、RoCE が GVSP/Emergent よりも柔軟である場合、Emergent は何をしますか?

RoCEv2 はスラムダンクではありません。すべてのデータを比較検討した後の唯一のメリットは、コピー コンポーネントがゼロになることです。

それでも、CXP/USB のようなポイントツーポイント接続の性質により、マルチキャストなどの基本的な機能が失われます。 Windows/NVidia には GPU ダイレクトはありません。NDSPI/Windows クライアント Intel/Marvell はありません。利点であると考えられていたのは、プロトコルをサポートする NIC プロバイダーの包括的なリストです。

FPGA リソースを 10G 以上に制限
再送信/フロー制御によるジッター/レイテンシー
標準化されていません
成熟していない
導入が遅い
既存の 1G/2.5/5G との下位互換性はありません
POEカードなし
ストリーミングビデオではなく、大容量ファイルの転送用に設計されています

これがどうなるかはこれからわか​​ります。すべての製品の緊急供給は RDMA/RoCEv2 に対応しており、CXP が急いで物事に取り組んだ場合にこれをすぐに採用できる可能性があり、現在は Eth の物理層を採用する必要があります

2. 単一サーバーに多数のカメラを搭載するのは合理的ですか? また、サーバーはどのように処理ニーズに対応できるでしょうか?

他のプレゼンテーションを参照してください。そこでは、48 つの GPU を備えた 25 台のサーバーに 2 台もの 265Gige カメラがあり、eCapture Pro プラグイン機能を使用して H.XNUMX エンコードを実行している様子が示されています。パターン マッチング、偏光、推論などの他のプラグインも、GPU ダイレクトと NVidia の高性能 GPU のおかげでどのようにパフォーマンスを発揮して実行できるかを示します。

3. どの Broadcom NIC をサポートしていますか?

最適なリソースを備えた P425G (Quad 10/25) や P2100G (Dual 100G) などの Broadcom Thor ベースのカードをサポートしています。

4. マルチキャスト テクノロジはマシン ビジョン アプリケーションにおいて重要ですか?

絶対に。冗長性、迅速なフェイルオーバー、分散処理のメリットを享受できるシステムはどれもメリットがあり、より高性能のカメラ システムではその重要性がさらに高まります。

5. ワークステーションごとに 5 台の 1GigE カメラを備えたシステムをテストしましたが、安定したレベルには至りませんでした。あなたのプレゼンテーションを見て、あなたのアプローチと他のアプローチの違いは何ですか?

私たちは、インターフェイスの速度に関係なく、常にパフォーマンス システムに焦点を当ててきました。これは、単一サーバー内の数台の 100GigE カメラ、または多数の低速カメラである可能性があります。
同じ単一サーバー内の複数のカメラ。いずれの場合でも、当社はそのようなパフォーマンス アプリケーションに対して常にゼロ コピー ソリューションを提供しており、10 年以上にわたるシステム パフォーマンスのチューニングを活用しています。

6. あなたが宣伝しているような 48 ポート 25G スイッチの価格はいくらですか?

これについて絶対的な数字は示しませんが、競合他社はこれらのスイッチは現実の 3 倍高価であると言っていると伝えておきます。
一般に、スイッチのコストはカメラ数台程度で済むため、システム内で 8 台以上のカメラを使用する場合には信じられないほどの価値があります。