Tradicional GigEVision vs CXP vs Zero Copy vs RDMA vs GPU Direct vs tarjetas FPGA

• Más de 15 años de uso generalizado
• Estándar completamente ratificado y maduro
• Adopción masiva
• Protocolo basado en UDP
• Protocolo de transmisión real
• Soporte multicast
• Tiene todo lo que necesitas
• Necesita un receptor diseñado correctamente a alta velocidad

Figura: Estructura de paquetes y tramas GVSP.

Nos tomaremos un momento para entender la tecnología detrás de GigEVision. GVSP es el protocolo de transmisión de Ethernet utilizado en el estándar actual. Una secuencia se compone de varios fotogramas (o imágenes). Cada trama se compone de un paquete líder, varios paquetes de imágenes (o carga útil) y un paquete final. Todos los paquetes siguen el protocolo ethernet UDP, que es un protocolo no conectado. Esto simplemente significa que la cámara envía los paquetes y deja al receptor con su trabajo de colocar los datos en el búfer de destino. Al ser un protocolo no conectado, esto significa que tiene una sobrecarga de red 0, lo que lleva al máximo rendimiento de la red. También significa que se admiten fundamentos como la multidifusión. Debemos diseñar correctamente nuestro receptor para evitar la pérdida de datos. CXP también sigue este mismo protocolo y deja al receptor con su trabajo de colocar los datos en el búfer de destino. Esto conduce a un rendimiento superior y la latencia y fluctuación más bajas con un receptor de calidad. Notaremos que la incapacidad de algunas empresas para diseñar un receptor de calidad las ha llevado por caminos alternativos.

Esta breve animación ilustra el proceso de dividir paquetes de red GigEVision en imágenes. Los encabezados, los encabezados y los avances son consumidos por un proceso de control, mientras que las partes de la imagen terminan en un búfer de memoria contiguo. Cuando se usa software para este proceso, todo el paquete se escribe en la memoria y luego las partes de la imagen deben leerse de la memoria y volver a escribirse en otra ubicación de la memoria de manera no fragmentada (o contigua). Este proceso se puede realizar en un software que cuesta 3 veces el ancho de banda de la memoria o se puede realizar mediante las funciones de división del encabezado de la tarjeta para un rendimiento óptimo.

• Se requiere copia de memoria (división de encabezado en el software)
• Mayor porcentaje de CPU
• Ancho de banda de memoria del sistema 3x
• PC 3 veces más potente
• Cantidad de PC 3x
• 1/3 de densidad del sistema
• Necesita un receptor bien diseñado a alta velocidad

GVSP convencional utiliza la división de encabezados en el software para quitar los encabezados de los paquetes GVSP y colocar el datos de imagen de los paquetes de carga útil en un búfer de memoria contiguo. Este proceso aumenta el uso de la CPU pero, lo que es más importante, consume 3 veces el uso del ancho de banda de la memoria del sistema en una implementación de 0 copias. Esto resulta en una eficiencia del 33% para el sistema que factores en el costo del sistema de varias maneras. Este es un ejemplo de un receptor mal diseñado y muchos en el mercado todavía están haciendo esto incluso en 10GigE, pero todavía vemos casos en los que algunos las empresas tienen problemas para ejecutar varias cámaras 1GigE en un solo servidor todo relacionado con un mal diseño del receptor.

Esta breve animación ilustra el uso triple del ancho de banda de la memoria de un sistema que no utiliza una tecnología de copia cero (o división de encabezado). Un sistema como este puede provocar la pérdida de datos a medida que se agota el ancho de banda de la memoria. La pérdida de datos ocurre cuando el búfer en la tarjeta de red se desborda cuando la CPU y la memoria no permiten más transferencias. Esto, por cierto, es con lo que los defensores de RDMA comparan cuando discuten los pros y los contras de GigEVision tradicional y RDMA, lo cual es muy engañoso ya que este es el peor ejemplo.

Figura: Ruta de datos en una implementación convencional de GigEVision + GVSP.

• Copia cero verdadera
• Utiliza división de encabezado (HS) en NIC de OTS
• Omisión completa del kernel
• HS en uso para SMPTE 2110 en el mercado de M&E
• Compatible con tarjetas de procesamiento industrial
• La latencia y el jitter más bajos
• No se requieren (ni se necesitan) reenvíos ni control de flujo con una implementación de calidad
• Sigue siendo compatible con GigEVision

La copia CERO con división de encabezado es posible con las NIC modernas de Nvidia/Mellanox, Broadcom, Intel y Marvell. Emergent tiene implementaciones implementadas con Nvidia/Mellanox y Broadcom, que son las NIC principales exploradas por aquellos que experimentan con RDMA/RoCE, lo que elimina cualquier preocupación relacionada con la interoperabilidad. De hecho, Emergent ha estado usando este mismo método durante más de 15 años y tiene las máximas densidades de diseño de cualquier estándar de interfaz con una confiabilidad a la altura. El mismo enfoque también se utiliza para ST2110 para el mercado masivo de medios y entretenimiento.

Figura (arriba): Ruta de datos en una implementación optimizada de GigEVsion.
Figura (abajo): Socios de Emergent Vision Technologies.

ZERO copy no garantiza cero pérdida de datos en CUALQUIER interfaz o implementación de protocolo. Cualquier sistema de rendimiento aún necesita un diseño y márgenes adecuados para lograr los resultados deseados. Esto se aplica a las implementaciones CXP, RDMA/RoCE e incluso GVSP optimizadas. Pero podemos garantizar que la implementación óptima de GVSP será igual o mejor que RDMA/RoCE sin convertir a GigEVision en un protocolo punto a punto y eliminar lo que ha convertido a GigEVision en la interfaz más flexible y popular a lo largo de los años. Es importante recordar que cuando se activa la función de retransmisión de RDMA, esto es una señal de una copia de seguridad en el sistema, que también es una señal de latencia y fluctuación a menudo no deseadas. También es importante recordar que CXP no utiliza reenvíos ni control de flujo, pero es capaz de mantener altas tasas de transferencia de datos con un rendimiento óptimo del receptor, baja latencia y fluctuaciones. Gran parte de esto se puede atribuir a la tecnología de copia cero y al almacenamiento en búfer adecuado en los capturadores de fotogramas especialmente diseñados necesarios para CXP. Las NIC de bajo costo a menudo carecen de suficiente capacidad de almacenamiento en búfer; sin embargo, las NIC modernas están fácilmente disponibles a precios rentables con un amplio almacenamiento en búfer físico.

Vale la pena señalar que a 25 Gbps y más, el conocido PoE (alimentación a través de Ethernet) está muerto. Por lo tanto, los nuevos despliegues deben centrarse en tecnologías SFP y sistemas de energía distribuida. También es digno de mención, incluso a velocidades de 10 GigE, que los grandes proveedores de NIC no son compatibles con PoE, lo que obliga a los proveedores de cámaras a vender sus soluciones de tarjetas patentadas.

Esta breve animación ilustra el uso de ancho de banda de memoria de copia cero de un sistema basado en GVSP optimizado que usa copia cero. Vemos en la primera parte de esta animación que el sistema no está optimizado y, por lo tanto, incluso el búfer del tamaño adecuado en la tarjeta de red se desborda. En la segunda parte de la animación, los datos fluyen de forma libre y fiable gracias a la optimización del sistema y la copia cero.

• 0 CPU y 0 ancho de banda de memoria del sistema
• El producto NVidia requiere Rivermax para Windows
• NVidia requiere asociación: seleccione algunos
• Linux está abierto para GPU directo en GPU estándar
• Aplicación 80% MV en Windows
• Algunas aplicaciones incluyen AOI, drone, VR, deportes
• Reduce los requisitos de PC
• Apoyo de igual a igual
• ¡Disponible ahora!

La copia CERO minimiza la utilización del ancho de banda de la CPU y la memoria al escribir en la memoria solo una vez, pero podemos evitar esa transferencia por completo al escribir directamente en la GPU; esto se llama GPU Direct. Y tiene sentido en muchas aplicaciones de rendimiento enviar datos directamente a la GPU para su procesamiento y luego llevar los resultados de menor ancho de banda a la CPU y la memoria para la interacción del usuario o del sistema.

Emergent ha sido compatible con GPU Direct con GPU Nvidia en Windows y Linux durante más de 4 años en una variedad de aplicaciones. Nvidia RTXA6000/5000/4000, Orin y Xavier se utilizan en muchas aplicaciones con cámaras emergentes.

Desafortunadamente para los usuarios de RDMA, Nvidia/Mellanox solo permiten GPU Direct en Windows para seleccionar socios como Emergent y este sistema operativo es donde el 80 % de las aplicaciones de visión artificial continúan desplegándose. Sin embargo, Linux sigue siendo una opción para RDMA con GPU Direct para todos.

Esta breve animación ilustra el proceso de TRANSFERENCIA cero mediante GPU Direct, que omite por completo la memoria y utiliza solo los extremos PCIe de la CPU para un 0 % de memoria y un 0 % de uso de CPU.

• 0 CPU y 0 ancho de banda de memoria del sistema
• CPU no involucrada en absoluto
• Tarjetas OTS FPGA con soporte de núcleo GVSP proporcionado por Emergent nativo o con núcleos OTS GVSP de Xilinx, etc.
• Algoritmos de MV en abundancia
• Soporte para Windows y Linux
• Reduce los requisitos de PC
• Apoyo de igual a igual
• ¡Disponible ahora!

La copia CERO es genial. GPU Direct mejora mucho esto. Pero sería el mayor logro si recibiéramos y procesáramos los datos de las cámaras en una sola tarjeta. En este caso, la CPU, la memoria y todos los recursos del servidor no se utilizan en absoluto. Emergent admite tarjetas AMD/Xilinx Alveo para este mismo propósito y tiene múltiples aplicaciones de rendimiento que aprovechan esta tecnología. Emergent también está trabajando en estrecha colaboración con Nvidia para ofrecer compatibilidad con Bluefield NIC. Piense en Bluefield como la fusión de las NIC de Nvidia con las GPU de Nvidia. En ambos casos, la computadora puede ser una PC de gama muy baja que principalmente suministre energía a la tarjeta elegida.

Esta breve animación ilustra el proceso de la tarjeta FPGA que omite por completo la memoria y la CPU para obtener un 0 % de memoria y un 0 % de uso de CPU.

Aquí hay un resumen de lo que se trata Emergent...

• Más de 10 premios por innovación y pionerismo en el movimiento de imágenes GigEVision de alta velocidad
• 10+ años de envío 10GigE cámaras con más de 140 modelos
• 5+ años de envío 25GigE cámaras con más de 55 modelos
• 2+ años de envío 100GigE cámaras con más de 16 modelos
• Líder en rendimiento de tecnología de cámaras
• Enfocado en Ethernet/GigEVision de alta velocidad
• Enfocado en permitir el procesamiento de datos de imagen de alta velocidad
• Escaneo de área y Escaneo de línea modelos
• Modelos UV, NIR, Polarizados, Color, Mono para aplicaciones multiespectrales
• eSDK emergente para una flexibilidad total de aplicaciones
• Emergente ecaptura profesional para una solución de software muy completa
• La gama más completa de productos y soporte para aplicaciones de imágenes de alta velocidad
• Cualquier velocidad, cualquier resolución, cualquier longitud de cable
• ¡Disponible ahora!

Somos una empresa galardonada con múltiples premios que se enfoca en productos GigEVision de alta velocidad.

Tenemos muchos años enviando productos que varían en velocidades desde 10GigE hasta 100GigE.

Tenemos un fuerte enfoque en proporcionar tecnologías de extremo a extremo y soporte para las aplicaciones de nuestros clientes.

Podemos satisfacer la mayoría de las necesidades de las aplicaciones.

Por último, los productos presentados ya están disponibles.

Aquí hay una instantánea rápida de la adopción de productos GigEVision que varían en velocidades desde 10GigE hasta 100GigE. Emergent ha demostrado cómo se puede lograr el máximo rendimiento y abrió muchos mercados, incluida la visión artificial, para el uso de tales tecnologías. Algunas empresas ahora están aprovechando nuestros esfuerzos para lanzar productos de 25G y de mayor velocidad, pero aún queda mucho camino por recorrer para lanzar productos ratificados y de rendimiento.

Figura: Emergent Vision Technologies es el primer proveedor de cámaras basadas en interfaces 10GigE, 25GigE, 50GigE y 100GigE.