성능 기술: Zero Copy UDP 대 RDMA/RoCEv2

이제 우리는 공연에서 무엇을 찾아야 하는지를 이해하기 위해 더 깊이 들어가겠습니다. GigE 비전 구현. 이 짧은 애니메이션은 GigE Vision 네트워크 패킷을 이미지로 분할하는 과정을 보여줍니다. 헤더, 리더 및 예고편은 제어 프로세스에 의해 소비되는 반면 이미지 부분은 연속 메모리 버퍼에 저장됩니다. 이 프로세스에 소프트웨어를 사용하면 전체 패킷이 메모리에 기록된 다음 이미지 부분을 메모리에서 읽어 조각화되지 않은(또는 연속적인) 방식으로 다른 메모리 위치에 다시 써야 합니다. 이 프로세스는 메모리 대역폭의 3배에 해당하는 소프트웨어에서 수행할 수 있으며, 최적의 성능을 위해 카드 헤더 분할 기능을 통해 수행할 수도 있습니다. 기존 GigE Vision과 TCP는 모두 저성능 프로세스의 예입니다. 그리고 일부 TCP 구현자의 보장된 전송 메커니즘 주장에 속지 마십시오. 이는 단순히 프레임을 수신하면 이 프레임이 손상 없이 완료될 것이라고 말하는 것입니다. 이는 프레임이 삭제되지 않는다는 보장이 아닙니다. 어떤 의미에서든 TCP는 성능 애플리케이션의 시작이 아니며 마케팅 소음에 지나지 않습니다.

이 슬라이드는 제안되거나 승인된 변경 사항이 어떻게 인터페이스 표준을 수렴하는지 보여줍니다. USB는 대부분 동일하지만 지점 간 기술입니다. CXP는 GigE Vision으로 통합되는 이더넷 물리 계층을 채택했습니다. GigE Vision+RDMA 및 GigE Vision+TCP(비준된 경우)는 지점 간 기술로서 CXP 및 USB로 통합됩니다. (아마도 2년 정도). GigE Vision+GVSP는 무결성과 기능 세트를 유지하며 다른 프로토콜과 통합되지 않습니다.

우리가 볼 수 있는 것은 RoCEv2를 구현하려면 더 많은 FPGA 리소스가 필요하므로 FPGA 비용은 경량 표준 및 성숙한 GigE Vision GVSP 프로토콜보다 높을 것이라는 점입니다. 재전송 버퍼가 구현된 경우에는 더욱 그렇습니다.

우리는 가장 작고 저렴한 카메라를 만들기 위해 다양한 제조업체의 이러한 카메라가 2GigE 미만의 RoCEv10를 지원하지 않는다는 것을 확인했습니다. 이는 Emergent의 새로운 Eros가 5GigE 카메라 나머지는 Emergent ZERO 복사 방법의 3배 메모리 대역폭과 33% 효율성을 제공하는 TCP 및 기존 GVSP 처리에 의존하는 반면 계속해서 진정한 ZERO 복사 성능을 제공할 것입니다. ~ 안에 다중 카메라 시스템, Emergent는 시스템 밀도와 가격 성능 지표에서 타의 추종을 불허할 것입니다.

그리고 많은 사람들이 CPU 사용률이 낮다고 말하지만 실제로는 백그라운드에 숨어 최대 시스템 성능을 방해하는 것은 메모리 대역폭 사용률이라는 점을 기억하십시오.

1. ROCEv2가 표준의 일부가 되고 RoCE가 GVSP/Emergent보다 더 유연하다면 Emergent는 어떻게 합니까?

RoCEv2는 슬램덩크가 아닙니다. 모든 데이터의 무게를 측정한 후 유일한 이점은 제로 복사 구성 요소입니다.

그러나 CXP/USB와 같은 지점 간 연결 특성으로 인해 멀티캐스팅과 같은 기본 기능이 제거됩니다. Windows/NVidia용 GPU 다이렉트 없음 NDSPI/Windows 클라이언트 Intel/Marvell 없음. 이점으로 예상되는 것은 프로토콜을 지원하는 NIC 공급자의 포괄적인 목록입니다…

FPGA 리소스는 10G 이상으로 제한됩니다.
재전송/흐름 제어를 통한 지터/지연
표준화되지 않음
성숙하지 않음
느린 채택
기존 1G/2.5/5G와 하위호환 불가
POE 카드 없음
스트리밍 비디오가 아닌 대용량 파일 전송을 위해 설계됨

우리는 이것이 어디로 가는지 볼 것입니다. 모든 제품 응급 공급 장치는 RDMA/RoCEv2를 지원하며 CXP가 급하게 상황에 처할 경우 이를 신속하게 채택할 수 있으며 이제 Eth의 물리적 계층을 채택해야 합니다.

2. 단일 서버에 여러 대의 카메라를 두는 것이 합리적이며 서버가 처리 요구 사항을 어떻게 따라갈 수 있습니까?

eCapture Pro 플러그인 기능으로 H.48 인코딩을 수행하는 25개의 GPU가 있는 단일 서버에 최대 2개의 265Gige 카메라를 보여주는 다른 프레젠테이션을 참조하세요. NVidia의 GPU Direct 및 고성능 GPU 덕분에 패턴 일치, 극성화 및 추론과 같은 다른 플러그인도 성능을 발휘하여 실행할 수 있는 방법을 보여줍니다.

3. 어떤 Broadcom NIC를 지원합니까?

최적의 리소스를 갖춘 P425G(Quad 10/25) 및 P2100G(Dual 100G)와 같은 Broadcom Thor 기반 카드를 지원합니다.

4. 머신 비전 애플리케이션에서 멀티캐스트 기술이 중요합니까?

전적으로. 중복성, 신속한 장애 조치 및 분산 처리의 이점을 누릴 수 있는 모든 시스템은 이점을 얻을 수 있으며 이는 고성능 카메라 시스템에서 더욱 중요해질 것입니다.

5. 우리는 워크스테이션당 5개의 1GigE 카메라로 시스템을 테스트했지만 결코 안정적인 수준에 도달하지 못했습니다. 당신의 프레젠테이션을 보면 당신의 접근방식이 다른 접근방식과 어떤 차이가 있나요?

우리의 초점은 인터페이스 속도에 관계없이 항상 성능 시스템에 있었습니다. 이는 단일 서버에 몇 개의 100GigE 카메라가 될 수도 있고 여러 개의 저속 카메라가 될 수도 있습니다.
동일한 단일 서버에 있는 카메라. 두 경우 모두 우리는 항상 그러한 성능 애플리케이션을 위한 제로 복사 솔루션을 제공하고 10년이 넘는 시스템 성능 조정 경험을 활용해 왔습니다.

6. 귀하가 홍보하는 48포트 25G 스위치의 가격은 얼마입니까?

이에 대한 절대 수치를 제공하지는 않겠지만 경쟁업체에서는 이 스위치가 실제보다 3배 더 비싸다고 말한 것으로 인용하고 있습니다.
일반적으로 스위치 비용은 카메라 두 대만큼 저렴하며 시스템에서 8개 이상의 카메라를 사용할 때 놀라운 가치를 발휘합니다.