Leistungstechnologien: Zero Copy UDP vs. RDMA/RoCEv2

Wir werden nun einen tieferen Einblick nehmen, um zu verstehen, worauf man bei einer Aufführung achten sollte GigE-Vision Implementierung. Diese kurze Animation veranschaulicht den Prozess der Aufteilung von GigE Vision-Netzwerkpaketen in Bilder. Header, Leader und Trailer werden von einem Steuerungsprozess verbraucht, während die Bildteile in einem zusammenhängenden Speicherpuffer landen. Wenn für diesen Prozess Software verwendet wird, wird das gesamte Paket in den Speicher geschrieben. Anschließend müssen die Bildteile aus dem Speicher gelesen und nicht fragmentiert (oder zusammenhängend) an einen anderen Speicherort zurückgeschrieben werden. Dieser Vorgang kann in Software durchgeführt werden, die das Dreifache der Speicherbandbreite kostet, oder er kann durch die Header-Splitting-Funktionen der Karte für optimale Leistung erfolgen. Herkömmliches GigE Vision und TCP sind Beispiele für Prozesse mit geringer Leistung. Und lassen Sie sich nicht von den Behauptungen einiger TCP-Implementierer über einen garantierten Übertragungsmechanismus täuschen, die lediglich sagen sollen, dass, wenn Sie einen Frame erhalten, dieser Frame ohne jegliche Beschädigung vollständig ist. Dies ist keine Garantie dafür, dass keine Frames verloren gehen. TCP ist in jeder Hinsicht ein Nichtstarter für Leistungsanwendungen und stellt kaum mehr als Marketinglärm dar.

Diese Folie veranschaulicht, wie die vorgeschlagenen oder ratifizierten Änderungen zu einer Konvergenz der Schnittstellenstandards führen. USB bleibt größtenteils gleich, ist jedoch eine Punkt-zu-Punkt-Technologie. CXP hat die physikalische Ethernet-Schicht übernommen und in Richtung GigE Vision konvergiert. GigE Vision+RDMA und GigE Vision+TCP (sofern ratifiziert) konvergieren zu CXP und USB als Punkt-zu-Punkt-Technologie. (vielleicht 2 Jahre später). GigE Vision+GVSP behält seine Integrität und seinen Funktionsumfang bei und konvergiert nicht mit den anderen Protokollen.

Was wir sehen ist, dass RoCEv2 mehr FPGA-Ressourcen für die Implementierung erfordert und daher die Kosten des FPGA höher sein werden als die des leichtgewichtigen Standards und des ausgereiften GigE Vision GVSP-Protokolls. Dies gilt umso mehr, wenn ein Resend-Puffer implementiert ist.

Wir sehen, dass diese Kameras verschiedener Hersteller RoCEv2 unter 10GigE nicht unterstützen, um die kleinste und kostengünstigste Kamera zu entwickeln. Dies ist eine Art und Weise, wie Emergents neuer Eros 5GigE-Kameras bietet weiterhin echte ZERO-Kopierleistung, während die anderen auf TCP und herkömmliche GVSP-Verarbeitung angewiesen sind, was eine dreifache Speicherbandbreite und eine Effizienz von 3 % im Vergleich zu den Emergent ZERO-Kopiermethoden bietet. In Mehrkamerasysteme, Emergent wird in Bezug auf Systemdichte und Preis-Leistungs-Kennzahlen weiterhin unübertroffen sein.

Und denken Sie daran: Während viele von einer niedrigen CPU-Auslastung sprechen, ist es tatsächlich die Auslastung der Speicherbandbreite, die sich im Hintergrund verbirgt und die maximale Systemleistung verhindert.

1. Was wird Emergent tun, wenn ROCEv2 Teil des Standards wird und RoCE flexibler ist als GVSP/Emergent?

RoCEv2 ist kein Volltreffer. Der einzige Vorteil nach dem Abwägen aller Daten ist die Null-Kopier-Komponente.

Aufgrund der Punkt-zu-Punkt-Verbindung wie CXP/USB geht jedoch eine grundlegende Funktion wie Multicasting verloren. Kein GPU Direct für Windows/NVidia, kein NDSPI/Windows-Client Intel/Marvell. Was ein Vorteil sein sollte, ist die umfassende Liste der NIC-Anbieter, die das Protokoll unterstützen….

FPGA-Ressourcen sollen auf 10G und höher begrenzt werden
Jitter/Latenz mit erneuten Sendungen/Flusskontrolle
Nicht standardisiert
Nicht ausgereift
Langsame Akzeptanz
Nicht abwärtskompatibel mit vorhandenem 1G/2.5/5G
Keine POE-Karten
Konzipiert für die Übertragung großer Dateien – nicht für das Streamen von Videos

Wir werden sehen, wohin das führt; Alle Produkte von Emergent sind RDMA/RoCEv2-fähig und könnten dies schnell übernehmen, wenn CXP in die Sache einsteigt, und muss nun die physische Schicht von Eth übernehmen

2. Ist es sinnvoll, viele Kameras auf einem einzigen Server zu haben und wie kann der Server mit den Verarbeitungsanforderungen Schritt halten?

Bitte sehen Sie sich unsere andere Präsentation an, in der wir bis zu 48 25Gige-Kameras auf einem einzigen Server mit 2 GPUs zeigen, die H.265-Kodierung mit unserer eCapture Pro-Plug-in-Funktion durchführen. Wir zeigen, wie dank GPU Direct und Hochleistungs-GPUs von NVidia auch andere Plugins wie Pattern Matching, Polarization und Inference performant ausgeführt werden können.

3. Welche Broadcom-NICs unterstützen Sie?

Wir unterstützen Broadcom Thor-basierte Karten wie P425G (Quad 10/25) und P2100G (Dual 100G), die über optimale Ressourcen verfügen

4. Ist die Multicast-Technologie für Bildverarbeitungsanwendungen wichtig?

Absolut. Jedes System, das von Redundanz, schnellem Failover und verteilter Verarbeitung profitieren kann, wird davon profitieren, und das wird mit Kamerasystemen mit höherer Leistung nur noch wichtiger.

5. Wir hatten ein System mit 5 1GigE-Kameras pro Workstation getestet und es nie auf ein stabiles Niveau gebracht. Was ist angesichts Ihrer Präsentation der Unterschied zwischen Ihrem Ansatz und dem anderer?

Unser Fokus lag schon immer auf leistungsstarken Systemen unabhängig von der Schnittstellengeschwindigkeit. Dies können einige 100-GigE-Kameras in einem einzelnen Server oder viele Kameras mit niedrigerer Geschwindigkeit sein
Kameras auf demselben einzelnen Server. In jedem Fall bieten wir immer eine Zero-Copy-Lösung für solche Leistungsanwendungen und verfügen über mehr als ein Jahrzehnt Erfahrung in der Systemleistungsoptimierung, die wir nutzen.

6. Wie hoch ist der Preis eines 48-Port-25G-Switches, wie Sie ihn bewerben?

Ich werde dazu keine absoluten Zahlen nennen, möchte aber sagen, dass unsere Konkurrenten mit der Aussage zitiert wurden, dass diese Schalter dreimal teurer sind als die Realität.
Im Allgemeinen können die Schalter nur ein paar Kameras kosten, was bei der Arbeit mit 8 oder mehr Kameras in einem System einen unglaublichen Mehrwert bietet.