GPUDirect：GigE 机器视觉相机的下一代数据处理和传输
NVIDIA公司 GPU直连 是一系列技术，可实现从外围设备（例如 网络接口卡 （网卡）和存储设备 NVIDIA公司 用于处理的 GPU。 就 NIC 而言，该技术使用远程直接内存访问 (RDMA) 来促进数据直接从 NIC 传输到 GPU 内存，在此过程中有效地绕过中央处理器 (CPU) 和系统内存。 结果是来自数据源的极低延迟、低抖动路径，例如 GigE 视觉相机 到比 CPU 更强大、负担更轻的处理节点。
随着数据量不断增加，高效移动、处理和存储数据的要求也越来越高。 在成像领域，传感器分辨率不断提高，但也许更重要的是，传感器的帧速率也在提高。 这会产生大量必须实时传输和处理的数据，尤其是当应用程序是关键任务时。 CPU 根本无法以与 GPU 相同的速率消耗数据。 传统上，数据通过系统内存卸载到 GPU，这实质上是系统瓶颈，并阻碍了 GPU 处理的全部性能优势。 GPUDirect 解决了这个问题。
在工业成像中利用 GPUDirect
随着工业成像的优势不断扩散到新的应用中，对更高分辨率和帧速率的需求不会被忽视。 业界已经提出了多种方法来将多千兆位数据速率从源（相机）传输到主机（PC），但这只能解决部分挑战。 一旦数据到达主机，如何处理数据会给用户带来一系列全新的障碍。
借助 GPUDirect 对网络适配器的支持，端到端性能的清晰路径变得清晰可见。 利用基于以太网的传输协议，例如 GigE Vision， 机器视觉相机 例如来自 Emergent Vision Technologies 的那些可以提供图像数据 10GigE、25GigE 和 100GigE 速率 具有低延迟和低、可预测的抖动——这两个变量对于关键任务和高价值应用程序的成功至关重要。
GPUDirect 的关键应用
在许多应用中，使用系统 CPU 和内存的常规处理就足够了。 也就是说，一些行业需要更多——更多，并且很容易证明构建优化的数据采集和处理解决方案所花费的额外时间、精力和成本是合理的。
- 手术导航、图像引导介入和医疗机器人 — 实时感知和响应在技术对人类进行侵入性使用的应用中至关重要。 在摄像机用于指导外科医生或诊断成像程序的情况下，对操作员的反馈必须是即时的。 图像分辨率越高，操作员就可以更好地查看、导航和做出决策。 通常需要高清 (HD) 摄像机，并且必须以高帧速率运行以确保流畅的运动。 所有这些都必须无延迟地传送到操作员的屏幕上。 GPUDirect 使这成为可能。
- 体育和现场娱乐 — 高清和超高清 (UHD) 视频越来越受欢迎，加上 120 fps 及以上的快速帧速率，为观众提供身临其境、细节丰富的体验。 除此之外，还需要许多摄像机来捕捉不同的角度和视角并支持赛后回顾，传输的数据量也会大幅增加。 GPUDirect 提供了一个出色的解决方案来同时支持多个流的视频压缩、处理和存档。
- 虚拟/增强现实 — 虚拟现实 (VR) 和增强现实 (AR) 的进步使大规模工作和协作成为可能。 这种能力在很大程度上依赖于强大的 GPU 性能来实现虚拟演练、排练复杂的医疗程序、训练军事和警务行动，或与他人协作。 必须实时处理多个高清视频流以创建虚拟 360 度空间，并且生成的图像通常会与其他环境变量叠加。 这些需求将压倒大多数 CPU，非常适合 GPU 处理。
- 自动光学检测 – 大型、复杂的电路卡或超高清平板显示器依靠快速、高分辨率的检测来确保制造质量。 用于此的图像传感器很大——数百万像素和高帧率可以跟上检测系统的生产力需求。 这导致生成大量数据集，必须近乎实时地对其进行分析。 GPU 处理在这方面表现出色，而 GPUDirect 可确保数据到达 GPU 内存时不会影响 CPU 或系统内存，而 CPU 或系统内存通常忙于处理其他任务。
采用 NVIDIA GPUDirect 比传统的图像处理应用程序稍微复杂一些，但随着技术的发展和应用程序的要求越来越高，我们经常会遇到仅靠传统方法无法解决的情况。 除了通过兼容的 NIC 为 GPUDirect 提供支持外，Emergent Vision Technologies 还开发了自己的高性能 NIC 系列，专门针对满足工业高速、高数据成像的需求进行了优化。 与其相机产品相结合并利用优化的 GigE Vision 实施，该公司降低了采用障碍并开启了对领先性能和图像处理的访问。
