Emergent Vision Technologies 25GigE 摄像头助力 NVIDIA AI 医疗设备
在 2022 月的 XNUMX GTC AI 开发者大会上,NVIDIA 宣布其用于医疗设备的 Clara Holoscan SDK AI 计算平台使用 Emergent Vision Technologies 的“超高速帧率” Bolt 25GigE 相机. 据 NVIDIA 称,这些技术将为手术指导提供新水平的实时感知和控制。
高速时低延迟、低抖动
通过其高速 25GigE SFP28 接口,HB-9000-G 在全 290 x 4200 分辨率下达到高达 2160 fps 的帧速率。 HB-9000-G 采用 Gpixel 的 9.07MP GMAX2509 CMOS 图像传感器,同时还提供对 NVIDIA 的 Clara Holoscan SDK 至关重要的低延迟和低抖动功能。
无与伦比的边缘 AI 性能
高速 GigE Vision 相机 来自 Emergent Vision Technologies 的软件可以与 GPU 支持集成。 GPUDirect 技术可用于消除主机内存和 CPU 交互。 NVIDIA 的 GPUDirect 允许网络适配器和存储驱动程序直接读取和写入 GPU 内存,从而消除不必要的内存副本,减少 CPU 开销并减少延迟。 Emergent Vision Technologies 的 10Gige、25GigE 和 100GigE 网络接口卡 (NIC) 支持 GPUDirect 技术。
Emergent Vision Technologies 的高速 GigE Vision 相机可以集成 GPU 支持。 GPUDirect 技术可用于消除主机内存和 CPU 交互。 NVIDIA 的 GPUDirect 允许网络适配器和存储驱动程序直接读取和写入 GPU 内存。
在此应用中,NVIDIA 利用 ConnectX SmartNIC 和 NVIDIA Rivermax SDK 以及绕过 CPU 的 GPUDirect RDMA 来实现高速摄像头输入。 据 NVIDIA 称,这样做允许高速以太网将数据从相机输出到人工智能系统,从而为边缘人工智能带来无与伦比的性能。 该公司通过将 Emergent 相机与 Clara Holoscan 集成来展示这种能力,结果不言而喻。
传统的 GStreamer 和基于 OpenGL 的内窥镜管道在 220p 1080 Hz 流上的端到端延迟为 60 毫秒,但 Clara Holoscan 高速管道在 10K 上的端到端延迟仅为 4 毫秒240 赫兹流。 此外,NVIDIA 团队利用 NVIDIA IGX Orin 边缘人工智能计算平台实现了低至 8 毫秒的延迟。 当在 IGX Orin 上以小于 4 毫秒的 60K 50 Hz 流式传输数据时,可以运行 15 个并发 AI 视频流和 30 个并发模型。