GPUDirect: Procesamiento y transferencia de datos de siguiente nivel para cámaras de visión artificial GigE

NVIDIA GPUDirect es una colección de tecnologías que permite la transferencia de datos de alta velocidad y baja latencia desde periféricos como tarjetas de interfaz de red (NIC) y dispositivos de almacenamiento para NVIDIA GPU para procesamiento. En el caso de una NIC, la tecnología utiliza el acceso directo a memoria remota (RDMA) para facilitar la transferencia de datos directamente desde la NIC a la memoria de la GPU, omitiendo efectivamente la unidad central de procesamiento (CPU) y la memoria del sistema en el proceso. El resultado es una ruta de baja fluctuación y latencia extremadamente baja desde una fuente de datos como un Cámara GigE Vision a un nodo de procesamiento que es significativamente más poderoso y menos cargado que la CPU.

Con los volúmenes de datos en continuo aumento, también aumentan los requisitos para mover, procesar y almacenar datos de manera eficiente. En imágenes, las resoluciones de los sensores continúan aumentando, pero quizás de manera más significativa, las velocidades de fotogramas de los sensores también están aumentando. Esto crea montañas de datos que deben transmitirse y procesarse en tiempo real, especialmente cuando las aplicaciones son de misión crítica. Las CPU simplemente no tienen los medios para consumir datos al mismo ritmo que las GPU. Tradicionalmente, los datos se han descargado a las GPU a través de la memoria del sistema, lo que esencialmente genera un cuello de botella en el sistema y evita las ventajas de rendimiento total del procesamiento de la GPU. GPUDirect resuelve ese problema.

Aprovechamiento de GPUDirect en imágenes industriales

A medida que los beneficios de las imágenes industriales continúan proliferando en nuevas aplicaciones, las demandas de resoluciones y velocidades de cuadro más altas no pasan desapercibidas. La industria ha ideado varias formas de transmitir velocidades de datos multigigabit desde la fuente (cámara) al host (PC), pero esto solo resuelve parte del desafío. Qué hacer con los datos una vez que llegan al host presenta un nuevo conjunto de obstáculos para los usuarios.

Con el soporte de GPUDirect para adaptadores de red, se hace visible un camino claro para el rendimiento de extremo a extremo. Aprovechando los protocolos de transferencia basados ​​en Ethernet como GigE Vision, cámaras de visión artificial como los de Emergent Vision Technologies pueden suministrar datos de imagen en Tarifas de 10GigE, 25GigE y 100GigE con latencia baja y jitter bajo y predecible, dos variables que son esenciales para el éxito en aplicaciones de misión crítica y de alto valor.

Aplicaciones clave para GPUDirect

En muchas aplicaciones, será suficiente el procesamiento convencional que utiliza la CPU y la memoria del sistema. Dicho esto, algunas industrias exigen más, mucho más, y justifican fácilmente el tiempo, el esfuerzo y el costo adicionales que se requieren para crear una solución optimizada de adquisición y procesamiento de datos.

• Navegación quirúrgica, intervención guiada por imágenes y robótica médica — La conciencia y la capacidad de respuesta en tiempo real son vitales en aplicaciones en las que la tecnología se utiliza de forma invasiva en humanos. Cuando se utilizan cámaras para guiar a un cirujano o un procedimiento de diagnóstico por imágenes, la retroalimentación para el operador debe ser instantánea. Cuanto mayor sea la resolución de la imagen, mejor podrá ver, navegar y tomar decisiones el operador. Las cámaras de alta definición (HD) a menudo son necesarias y deben funcionar a altas velocidades de fotogramas para garantizar un movimiento suave. Todo esto debe ser entregado a la pantalla del operador sin latencia percibida. GPUDirect lo hace posible.
• Deportes y entretenimiento en vivo — El video HD y de ultra alta definición (UHD) es cada vez más popular, junto con velocidades de cuadro rápidas de 120 fps y más para brindar al espectador una experiencia inmersiva y rica en detalles. Agregue a esto la necesidad de muchas cámaras para capturar diferentes ángulos y perspectivas y para admitir la revisión posterior al juego, y la cantidad de datos que se transmiten crece sustancialmente. GPUDirect ofrece una excelente solución para admitir la compresión, el procesamiento y el archivo de video de múltiples transmisiones simultáneamente.
• Realidad virtual/aumentada — Los avances en realidad virtual (VR) y realidad aumentada (AR) están haciendo posible trabajar y colaborar a escala. Gran parte de esta capacidad se basa en el potente rendimiento de la GPU para permitir recorridos virtuales, ensayar procedimientos médicos complejos, entrenar para operaciones militares y policiales o colaborar con otros. Se deben procesar múltiples transmisiones de video HD en tiempo real para crear un espacio virtual de 360 ​​grados y las imágenes resultantes a menudo se superponen con otras variables ambientales. Estas demandas abrumarían a la mayoría de las CPU y son ideales para el procesamiento de GPU.
• Inspección óptica automatizada – Las tarjetas de circuitos grandes y complejas o las pantallas planas UHD dependen de una inspección rápida y de alta resolución para garantizar la calidad de fabricación. Los sensores de imagen utilizados para esto son grandes: decenas de megapíxeles y velocidades de fotogramas altas para mantener el ritmo de las demandas de productividad del sistema de inspección. Esto da como resultado que se generen grandes conjuntos de datos que deben analizarse casi en tiempo real. El procesamiento de la GPU sobresale aquí, y GPUDirect garantiza que los datos lleguen a la memoria de la GPU sin afectar la memoria de la CPU o del sistema, que a menudo está ocupada con otras tareas.

Adoptar NVIDIA GPUDirect es un poco más complicado que una aplicación de procesamiento de imágenes convencional, pero a medida que la tecnología evoluciona y las aplicaciones se vuelven más exigentes, a menudo nos encontramos con situaciones que simplemente no se pueden resolver solo con métodos convencionales. Además de ofrecer soporte para GPUDirect a través de NIC compatibles, Emergent Vision Technologies también ha desarrollado su propia línea de NIC de alto rendimiento optimizadas específicamente para satisfacer las necesidades de imágenes industriales de alta velocidad y alto contenido de datos. Junto con sus ofertas de cámaras y utilizando una implementación optimizada de GigE Vision, la compañía reduce las barreras para la adopción y desbloquea el acceso a un rendimiento y procesamiento de imágenes de vanguardia.