Traditionelles GigEVision vs. CXP vs. Zero Copy vs. RDMA vs. GPU Direct vs. FPGA-Karten

• 15+ Jahre weit verbreitete Verwendung
• Vollständig ratifizierter und ausgereifter Standard
• Massive Annahme
• UDP-basiertes Protokoll
• Echtes Streaming-Protokoll
• Multicast-Unterstützung
• Hat alles, was Sie brauchen
• Benötigt einen richtig gestalteten Empfänger mit hoher Geschwindigkeit

Abbildung: GVSP-Rahmen- und Paketstruktur.

Wir nehmen uns einen Moment Zeit, um die Technologie hinter GigEVision zu verstehen. GVSP ist das im aktuellen Standard verwendete Ethernet-Streaming-Protokoll. Ein Stream besteht aus mehreren Frames (oder Bildern). Jeder Frame besteht aus einem Leader-Paket, mehreren Bild- (oder Payload-) Paketen und einem Trailer-Paket. Alle Pakete folgen dem UDP-Ethernet-Protokoll, das ein unverbundenes Protokoll ist. Dies bedeutet einfach, dass die Kamera die Pakete sendet und den Empfänger seiner Aufgabe überlässt, die Daten im Zielpuffer abzulegen. Da es sich um ein unverbundenes Protokoll handelt, bedeutet dies, dass es keinen Netzwerk-Overhead hat, was zu maximaler Netzwerkleistung führt. Es bedeutet auch, dass Grundlagen wie Multicasting unterstützt werden. Wir müssen unseren Empfänger richtig entwerfen, um Datenverluste zu vermeiden. CXP folgt ebenfalls demselben Protokoll und überlässt dem Empfänger seine Aufgabe, die Daten im Zielpuffer zu platzieren. Dies führt zu Top-Leistung und niedrigster Latenz und Jitter bei einem Qualitätsempfänger. Wir werden feststellen, dass die Unfähigkeit einiger Unternehmen, einen hochwertigen Empfänger zu entwickeln, sie auf alternative Wege geführt hat.

Diese kurze Animation veranschaulicht den Prozess der Aufteilung von GigEVision-Netzwerkpaketen in Bilder. Header, Leader und Trailer werden von einem Steuerungsprozess verbraucht, während die Bildteile in einem zusammenhängenden Speicherpuffer landen. Wenn für diesen Prozess Software verwendet wird, wird das gesamte Paket in den Speicher geschrieben. Anschließend müssen die Bildteile aus dem Speicher gelesen und nicht fragmentiert (oder zusammenhängend) an einen anderen Speicherort zurückgeschrieben werden. Dieser Vorgang kann in Software durchgeführt werden, die das Dreifache der Speicherbandbreite kostet, oder er kann für optimale Leistung durch die Header-Splitting-Funktionen der Karte durchgeführt werden.

• Speicherkopie erforderlich (Header-Splitting in Software)
• Höherer CPU-Prozentsatz
• 3x Bandbreite des Systemspeichers
• 3x leistungsfähigerer PC
• 3x PC-Menge
• 1/3 Systemdichte
• Benötigt einen gut gestalteten Empfänger bei hoher Geschwindigkeit

Herkömmliches GVSP verwendet Header-Splitting in der Software um die Header von den GVSP-Paketen zu entfernen und die zu platzieren Bilddaten aus den Nutzlastpaketen in einen zusammenhängenden Speicherpuffer. Dieser Prozess erhöht die CPU-Auslastung, frisst aber vor allem auf 3-fache Auslastung der Systemspeicherbandbreite über eine 0-Kopie-Implementierung. Dies ergibt einen Wirkungsgrad von 33 % für das System, was Faktoren berücksichtigt auf verschiedene Weise in die Systemkosten einfließen. Dies ist ein Beispiel für einen schlecht konstruierten Empfänger und viele auf dem Markt tun dies auch bei 10GigE immer noch, aber wir sehen immer noch Fälle, in denen einige Unternehmen haben Probleme, mehrere 1GigE-Kameras auf einem einzigen Server zu betreiben alles im Zusammenhang mit schlechtem Empfängerdesign.

Diese kurze Animation veranschaulicht die dreifache Speicherbandbreitennutzung eines Systems, das keine Zero-Copy-Technologie (oder Header-Splitting-Technologie) verwendet. Ein solches System kann zu Datenverlust führen, da die Speicherbandbreite erschöpft ist. Datenverlust tritt auf, wenn der Puffer in der Netzwerkkarte überläuft, wenn CPU und Speicher keine weiteren Übertragungen zulassen. Dies ist übrigens das, womit RDMA-Befürworter vergleichen, wenn sie die Vor- und Nachteile von traditionellem GigEVision und RDMA diskutieren, was sehr irreführend ist, da es sich um das Worst-Case-Beispiel handelt.

Abbildung: Datenpfad in einer herkömmlichen GigEVision + GVSP-Implementierung.

• Echte Nullkopie
• Verwendet Header-Splitting (HS) in OTS-NICs
• Vollständiger Kernel-Bypass
• HS im Einsatz für SMPTE 2110 im M&E-Markt
• Unterstützt von Industriekarten
• Geringste Latenz und Jitter
• Keine Neusendungen oder Flusskontrolle erforderlich (noch erforderlich) mit qualitativ hochwertiger Implementierung
• Bleibt GigEVision-kompatibel

Mit modernen Netzwerkkarten von Nvidia/Mellanox, Broadcom, Intel und Marvell ist tatsächlich NULL-Kopie mit Header-Splitting möglich. Emergent verfügt über Implementierungen mit Nvidia/Mellanox und Broadcom, die die primären NICs sind, die von denjenigen untersucht werden, die mit RDMA/RoCE experimentieren, wodurch jegliche Bedenken hinsichtlich der Interoperabilität ausgeräumt werden. Tatsächlich verwendet Emergent dieselbe Methode seit über 15 Jahren und verfügt über die maximale Design-in-Dichte aller Schnittstellenstandards mit entsprechender Zuverlässigkeit. Der gleiche Ansatz wird auch für ST2110 für den großen Medien- und Unterhaltungsmarkt verwendet.

Abbildung (oben): Datenpfad in einer optimierten Implementierung von GigEVsion.
Abbildung (unten): Partner von Emergent Vision Technologies.

Eine NULL-Kopie garantiert nicht, dass bei IRGENDEINER Schnittstelle oder Protokollimplementierung kein Datenverlust auftritt. Jedes Leistungssystem benötigt immer noch das richtige Design und die richtigen Spielräume, um die gewünschten Ergebnisse zu erzielen. Dies gilt für CXP, RDMA/RoCE und sogar optimierte GVSP-Implementierungen. Wir können jedoch garantieren, dass die optimale GVSP-Implementierung RDMA/RoCE entspricht oder sogar übertrifft, ohne GigEVision in ein Punkt-zu-Punkt-Protokoll zu verwandeln und das zu eliminieren, was GigEVision im Laufe der Jahre zur flexibelsten und beliebtesten Schnittstelle gemacht hat. Es ist wichtig zu bedenken, dass die Aktivierung der Neuübertragungsfunktion von RDMA ein Zeichen für eine Sicherung im System ist, was auch ein Zeichen für oft unerwünschte Latenz und Jitter ist. Es ist auch wichtig, daran zu erinnern, dass CXP keine erneuten Sendungen oder Flusskontrolle verwendet, dennoch in der Lage ist, hohe Datenübertragungsraten bei optimaler Empfängerleistung, geringer Latenz und Jitter aufrechtzuerhalten. Ein Großteil davon ist auf die Zero-Copy-Technologie und die ausreichende Pufferung der speziell für CXP erforderlichen Framegrabber zurückzuführen. Kostengünstigen NICs mangelt es oft an ausreichender Pufferkapazität, moderne NICs sind jedoch zu kostengünstigen Preisen mit ausreichender physischer Pufferung leicht erhältlich.

Es ist erwähnenswert, dass bei 25 Gbit/s und höher das bekannte PoE (Power over Ethernet) tot ist. Daher sollten sich neue Implementierungen auf SFP-Technologien und dezentrale Energiesysteme konzentrieren. Bemerkenswert ist auch, dass die großen NIC-Anbieter PoE selbst bei 10GigE-Geschwindigkeiten nicht unterstützen, was Kamerahersteller dazu zwingt, ihre proprietären Kartenlösungen zu verkaufen.

Diese kurze Animation veranschaulicht die Zero-Copy-Speicherbandbreitennutzung eines optimierten GVSP-basierten Systems mit Zero-Copy. Wir sehen im ersten Teil dieser Animation, dass das System nicht optimiert ist und daher sogar der entsprechend große Puffer in der Netzwerkkarte überläuft. Im zweiten Teil der Animation fließen die Daten dank Zero-Copy und Systemoptimierung frei und zuverlässig.

• 0 CPU- und 0 Systemspeicherbandbreite
• Das NVidia-Produkt erfordert Rivermax für Windows
• NVidia erfordert Partnerschaft – wählen Sie nur wenige aus
• Linux ist offen für GPU direkt auf Standard-GPUs
• 80 % MV-Anwendung unter Windows
• Einige Apps beinhalten AOI, Drohne, VR, Sport
• Senkt die PC-Anforderungen
• Peer-to-Peer-Unterstützung
• Jetzt verfügbar!

ZERO Copy minimiert die CPU- und Speicherbandbreitenauslastung, indem nur einmal in den Speicher geschrieben wird. Wir können diese Übertragung jedoch vollständig vermeiden, indem wir direkt auf die GPU schreiben – dies wird GPU Direct genannt. Und in vielen Leistungsanwendungen ist es sinnvoll, Daten zur Verarbeitung direkt an die GPU zu senden und die Ergebnisse mit geringerer Bandbreite dann zur Benutzer- oder Systeminteraktion an die CPU und den Speicher zu übertragen.

Emergent unterstützt GPU Direct mit Nvidia-GPUs unter Windows und Linux seit über 4 Jahren in einer Vielzahl von Anwendungen. Nvidia RTXA6000/5000/4000, Orin und Xavier werden in vielen Anwendungen mit Emergent-Kameras verwendet.

Unglücklicherweise für RDMA-Benutzer erlauben Nvidia/Mellanox GPU Direct unter Windows nur ausgewählten Partnern wie Emergent, und auf diesem Betriebssystem werden weiterhin 80 % der Bildverarbeitungsanwendungen bereitgestellt. Linux bleibt jedoch weiterhin eine Option für RDMA mit GPU Direct für alle.

Diese kurze Animation veranschaulicht den Zero-TRANSFER-Prozess mit GPU Direct, der den Speicher vollständig umgeht und nur die PCIe-Endpunkte der CPU für 0 % Speicher und 0 % CPU-Auslastung nutzt.

• 0 CPU- und 0 Systemspeicherbandbreite
• CPU überhaupt nicht beteiligt
• OTS-FPGA-Karten mit nativer, von Emergent bereitgestellter GVSP-Kernunterstützung oder mit OTS-GVSP-Kernen von Xilinx usw.
• MV-Algorithmen in Hülle und Fülle
• Windows- und Linux-Unterstützung
• Senkt die PC-Anforderungen
• Peer-to-Peer-Unterstützung
• Jetzt verfügbar!

ZERO-Kopie ist großartig. GPU Direct verbessert dies erheblich. Aber es wäre die ultimative Errungenschaft, wenn wir die Daten der Kameras alle auf einer Karte empfangen und verarbeiten würden. In diesem Fall werden CPU, Speicher und alle Serverressourcen überhaupt nicht genutzt. Emergent unterstützt zu diesem Zweck AMD/Xilinx-Alveo-Karten und verfügt über mehrere Leistungsanwendungen, die diese Technologie nutzen. Emergent arbeitet außerdem eng mit Nvidia zusammen, um Bluefield-NIC-Unterstützung anzubieten. Stellen Sie sich Bluefield als die Verschmelzung von Nvidia-NICs mit Nvidia-GPUs vor. In beiden Fällen kann es sich bei dem Computer um einen sehr preisgünstigen PC handeln, der in erster Linie die gewählte Karte mit Strom versorgt.

Diese kurze Animation veranschaulicht den FPGA-Kartenprozess, der den Speicher und die CPU vollständig umgeht, sodass 0 % Speicher und 0 % CPU-Auslastung erreicht werden.

Hier ist eine Zusammenfassung dessen, worum es bei Emergent geht…

• 10+ Auszeichnungen für Innovation und Pionierarbeit in der Hochgeschwindigkeits-GigEVision-Imaging-Bewegung
• 10+ Jahre Versand 10GigE Kameras mit mehr als 140 Modellen
• 5+ Jahre Versand 25GigE Kameras mit mehr als 55 Modellen
• 2+ Jahre Versand 100GigE Kameras mit mehr als 16 Modellen
• Leistungsführer in der Kameratechnologie
• Fokussiert auf Highspeed-Ethernet/GigEVision
• Konzentriert sich darauf, die Verarbeitung von Hochgeschwindigkeits-Bilddaten zu ermöglichen
• Bereichsscan mit einem Zeilenscan für
• UV-, NIR-, polarisierte, Farb-, Mono-Modelle für multispektrale Anwendungen
• Emergentes eSDK für volle Anwendungsflexibilität
• Emergent eCapture Pro für eine sehr umfassende Softwarelösung
• Umfassendste Produktpalette und Unterstützung für Hochgeschwindigkeits-Imaging-Anwendungen
• Jede Geschwindigkeit, jede Auflösung, jede Kabellänge
• Jetzt verfügbar!

Wir sind ein mehrfach preisgekröntes Unternehmen mit Schwerpunkt auf Hochgeschwindigkeits-GigEVision-Produkten.

Wir haben viele Jahre Produktversand in verschiedenen Geschwindigkeiten von 10GigE bis zu 100GigE.

Wir konzentrieren uns stark auf die Bereitstellung von End-to-End-Technologien und Support für die Anwendungen unserer Kunden.

Wir können die meisten Anwendungsanforderungen erfüllen.

Schließlich sind die vorgestellten Produkte jetzt verfügbar.

Hier ist eine kurze Momentaufnahme der Einführung von GigEVision-Produkten mit unterschiedlichen Geschwindigkeiten 10GigE bis zu 100GigE. Emergent hat gezeigt, wie Spitzenleistungen erzielt werden können, und viele Märkte einschließlich der Bildverarbeitung für den Einsatz solcher Technologien geöffnet. Einige Unternehmen nutzen gerade jetzt unsere Bemühungen zur Veröffentlichung von 25G- und schnelleren Produkten, aber es ist noch ein weiter Weg, um ratifizierte und leistungsstarke Produkte herauszubringen.

Abbildung: Emergent Vision Technologies ist der erste Anbieter von Kameras, die auf 10GigE-, 25GigE-, 50GigE- und 100GigE-Schnittstellen basieren.