10GigE, 25GigE & 100GigE Vision for all Applications

Figure: Various technologies involved in a high-speed camera system.

Video: 10GigE, 25GigE, and 100GigE Machine Vision Cameras Open New Doors in Automation.

• Истинско нулево копие
• Използва разделяне на заглавките (HS) в OTS NICs
• Пълно заобикаляне на ядрото
• HS се използва за SMPTE 2110 на пазара на M&E
• Поддържа се от карти за обработка в индустрията
• Най-ниска латентност и трептене
• No resends or flow control required (nor needed) with quality implementation
• Остава съвместим с GigEVision
• PTP Support

GigEVision(or Ethernet) and CoaxPress(or CXP) are seen as the primary interfaces for high-speed vision.

We will start with GigEVision. Optimized GigEVision uses header splitting in hardware available in OTS performance NICs and other processing devices. This is the same method used in SMPTE 2110 in the massive M&E markets which also has 0 tolerance for data loss. In this market, they rely on well designed receivers and as such the OTS NICs provide header splitting technologies that are used in streaming implementations like SMPTE 2110 but also in message and connected protocols like RDMA/RoCE.

We work with the same vendors who support RDMA/RoCE to use header splitting to achieve the most feature-rich and highest-performance receiver while adhering to the current and highly mature GigE Vision specification.

Фигура (горе): Път на данните в оптимизирана имплементация на GigEVsion.
Фигура (долу): Партньори на Emergent Vision Technologies.

Here is what a 12x 25G camera system would look like with Ethernet vs CXP12. The Ethernet solution has 12 25GigE cameras, a switch for PTP synchronization and multiplexing the 12 cameras onto dual 100G links, and finally the single slot 100G dual NIC for placing the image frames in system memory or to GPUs. The equivalent CXP solution has the cameras of course but utilizes 3x CXP12 Quad frame grabbers to accomplish the same task.

Figure: Switch-based GigE Vision system vs frame grabber-based CoaXPress system.

Here is what a 2x 100G camera system would look like with Ethernet vs CXP12. The Ethernet cameras plug directly into the 100G dual NIC for a single slot solution. The CXP12 cameras need many multiple CXP cables to plug into the required 4x CXP12 Quad frame grabbers to accomplish the same task. We will note again that this is in theory as no cameras like this exist to date. The common theme here is that CXP adoption for higher speeds is very slow.

Figure: 1x ethernet card vs 4 x frame grabbers.

This section is an illustration of how the proposed or ratified changes are converging the interface standards. USB remains mostly the same but is a point to point technology. CXP has adopted the Ethernet physical layer converging towards GigEVision. GigEVision+RDMA and GigEVision+TCP (if and when ratified) is converging to CXP and USB as a point to point technology. (perhaps 2 years out). GigEVision+GVSP will maintain its integrity and feature set and not converge with the other protocols.

Фигура: Само GigEVision + GVSP се откроява като истински стрийминг протокол.

So, let’s say we now have our data safe in system memory by whatever means. Now, what do we do with it? For some applications, the CPU and system memory are sufficient resources. For other performance applications using multiple 100GigE, 25GigE or even 10GigE cameras, real-time processing requires offloading the task to more well-suited processing nodes. CPUs and their system memory often cannot cope. Technologies designed to help here are…

• GPU карти – цялата обработка се извършва на картата
• FPGA карти – цялата обработка се извършва на картата
• GPU Direct – bypass system memory to GPU
• Peer to Peer трансфери – преместване на данни от възел към възел
• AI двигатели – характеристики на графичните процесори и FPGA картите
• Пазарът на мрежови карти се сближава с високопроизводителните изчисления (HPC)
• Storage and Switch Solutions

Фигура: Стандартните мрежови карти не могат да обработват пикселни данни и просто ги предават на системата.

• 0 честотна лента на процесора и 0 честотна лента на системната памет
• Продуктът на NVidia изисква Rivermax за Windows
• NVidia изисква партньорство – изберете няколко
• Linux е отворен за GPU директно на стандартни графични процесори
• 80% MV приложение на Windows
• Някои приложения включват AOI, дрон, VR, спорт
• Намалява изискванията към компютъра
• Взаимна подкрепа
• Наличен СЕГА!

GPU Direct is a fantastic technology and in use by many of our customers в приложения за AOI, дронове, VR и спорт, за да назовем само няколко. В този случай процесорът и системната памет остават недокоснати. докато данните се прехвърлят директно към графичния процесор от мрежовата карта. In one deployed real-time application, 24x Emergent 25G cameras are transferring images direct to GPU where H.264 compression is being performed before passing the compressed images to the final destination. This is an implementation involving 2 100G dual NICs, 2 GPUs, and ONLY a single server. In this case the CPU and system memory is barely touched and there is absolutely 0 data loss. Emergent has supported these technologies for over 2 years.

Figure: GPU Direct passes pixel data straight to the GPU bypassing CPU and system memory.

• 0 честотна лента на процесора и 0 честотна лента на системната памет
• Процесорът изобщо не е зает
• OTS FPGA карти с вградена Emergent-при условие поддръжка на GVSP ядра или с OTS GVSP ядра от Xilinx и др.
• MV алгоритми в изобилие
• Поддръжка на Windows и Linux
• Намалява изискванията към компютъра
• Взаимна подкрепа
• Наличен СЕГА!

Едно от хубавите неща на Ethernet е огромният междуиндустриален ресурсен фонд, от който можем да черпим. Xilinx е един такъв доставчик, с когото работим в тясно сътрудничество, за да предоставим усъвършенствани ресурси за обработка. За да се интегрира с Emergent камери, клиентът може да вземе текущото си GigEVision ядро ​​и да го портира към една от многото карти, като Xilinx Alveo, която вече има същия интерфейс като нашите камери. За тези, които са нови в драйверите на GigEVision, можем да предоставим портиран фърмуер и драйвери за карти като тези, за да можете бързо да започнете работа и да се съсредоточите върху детайлите на вашето приложение. С бързо търсене ще разберете изобилието от FPGA кодови ресурси, с които разполагате. Тези технологии също не са ограничени до един видео поток, а могат да обработват множество потока, ограничени само от ресурсите на устройството.

Фигура: Камерите за спешни случаи се интегрират безпроблемно с Xilinx Alveo.

• Поддръжка на GVSP
• Поддръжка на Windows и Linux
• Намалява изискванията към компютъра
• GPU Direct support
• Взаимна подкрепа
• Спусък на предния порт
• Пълен контрол на веригата за доставки
• Интелигентно маршрутизиране на изображения
• Първият от серията интелигентни мрежови карти за средно тежки превозни средства (MV)
• Наличен СЕГА!

Емерджент започва своето навлизане в PCIe карта пространство, което предоставя определени предимства на нашите клиенти, като интелигентно пренареждане на изображения, маршрутизиране,
и разширени буфери. Освен това имаме клиенти, които желаят да избегнат превключватели в своите конфигурации с камери, разположени на голямо разстояние една от друга и на разстояния, подходящи за оптични кабели. Въпреки това, те все още искат тясна синхронизация. Нашият преден порт за задействане с команда за действие за задействане на изображение удовлетворява тази нужда. Разработването на собствени карти ни позволява да управляваме цялата верига за доставки за типичните приложения на нашите клиенти, както и да поддържаме строг контрол на качеството. Emergent ще се стреми да разработва и усъвършенствани карти за обработка, за да отговори на нуждите на нашите клиенти, както и специфични за приложението модули, за да намали времето за пускане на пазара. Тези технологии също не са ограничени до един видео поток, а могат да обработват множество потока, ограничени само от ресурсите на устройството.

Фигура: Собствените PCIe карти на Emergent позволяват управление на цялата верига за доставки на данни.

• Най-високопроизводително решение за един компютър
• Highest density solution
• IT department comprehensible technologies
• Поддръжка на Windows и Linux
• Най-евтина многокамерна конфигурация
• Поддръжка на софтуер за eCapture „до ключ“
• Персонализиране с GPU или FPGA обработващи възли
• Easily scalable to multiple servers andprocessing nodes
• 0 загуба на данни
• H.26x Compression Options
• Наличен СЕГА!

Представихме тази конфигурация по време на няколко онлайн презентации, както и на търговски изложения като NAB Vegas и Vision Show в Щутгарт през изминалия месец. Системата е безспорно най-високопроизводителното и плътно решение на пазара. Системата е с 0 загуби на данни, като приема 210 Gbps изображения и ги съхранява на 8 x U.2 NVMe устройства. Сървърът е единична конфигурация от среден клас, комбинирана с AMD и Asus, която работи с нашия софтуер за производителност eCapture Pro. Някои клиенти желаят да изберат тази конфигурация и да добавят графични процесори в наличните слотове, за да извършват обработка в реално време.

Имаме клиенти, които са мащабирали системи до 250+ камери в една система, използвайки нашите... 25GigE камери – това е пример за лесната мащабируемост.

Както споменахме, имаме клиенти, които желаят да избегнат използването на комутатори в своите конфигурации. Комутаторите могат да бъдат по-скъпи, започвайки от около $7,000 за конфигурация с 48 порта/25G+8 порта/100G чрез нашата партньорска мрежа, но помагат за значително намаляване на общата цена на системата. Предлагат се и по-малки конфигурации като 18 порта/25G+4 порта/100G. Пазарът на комутатори също става все по-конкурентен, тъй като все повече компании излизат на пазара с поддръжка на 25G/100G и PTP. Можете да разчитате на Emergent за поддръжка при доставката и конфигурирането на комутатори.

Figure (top): Partners of Emergent Vision Technologies.
Figure (bottom): Anatomy of a 36 x 10GigE camera system.

Видео: Демонстрация на система от камери 36 x 10GigE.

eCapture Pro е изграден върху eSDK на Emergent и е свързващото звено, което ни позволява да постигнем най-високата производителност на пазара. Технологии за обработващи възли се добавят и поддържат за персонализирани разгръщаеми системи с висока производителност.

Наличен СЕГА!

Figure: eCapture Pro and eSDK, Emergent’s full featured application software.

• GenTL Support for PerformanceCognex AIK Support
• Поддръжка на MVTec Halcon
• Поддръжка на NI Labview
• …и още
• Наличен СЕГА!

Figure: 3rd part machine vision software.

• Пълнофункционален
• 0.5MP до 150MP
• Най-високи възможни кадрови честоти
• т.е. 2MP @ 3462fps, 10MP @ 1000fps
• Цветен, монохромен, UV, поляризиран, NIR, SWIR
• 10GigE, 25GigE, 100GigE
• Наличен СЕГА!

Figure: Emergent’s high-speed Area-Scan camera models.

• Пълнофункционален
• 4K до 16K
• Най-високи възможни тарифи за линии
• т.е. 4K @ 172KHz, 16K @ 400KHz
• Поддръжка на енкодер
• TDI, Mono, Color
• 10GigE, 25GigE, 100GigE
• Налично сега или Очаквайте скоро!

Figure: Emergent’s high-speed Line-Scan camera models.

911/112 CALL ☎: 5 x 5GigE cameras on a single PC – “2 years trying to fix and never did.”

911/112 CALL ☎: 8 x 10GigE cameras on a single PC – “Never tested more than 2 per PC”

We would like to provide a couple of examples where customers have come to us reporting a poor experience with another vendor’s high-speed camera products.

In one such recent example, we have 5 x 5GigE cameras on a single PC. Over a 2-year period, the vendor made many attempts to resolve dropped frame issues but never could. In another example, the customer was trying to run 8 x 10G cameras on a single PC. The vendor’s comments were they had never tested more than 2 cameras per PC. Both of these customers are now happily using Emergent products.

There are two very disturbing problems here:

1. One is the poor performance some vendors are offering for their high-speed camera products.
2. The other is that a vendor would actually sell multiples of 8 cameras without having a discussion about what the customer’s goals are to ensure the product can meet their needs.

What are the benefits of Ethernet switches in camera applications and are they not cost-prohibitive?

Firstly, switches that we test regularly and recommend to customers are 48x25G+8x100G and 18x25G+4x100G port counts and these are priced at less than $10,000 through our partner network.

The use of switches greatly benefits applications requiring redundancy, distributed processing, camera multiplexing and PTP synchronization and thus can provide significant system cost savings in particular for multi-camera count systems as we can multiplex many cameras onto single servers which are too often limited in PCIe slots – CXP can not multiplex cameras so PCIe slots are quickly consumed with frame grabbers which results in multiple additional servers to now accommodate.

What are the highest-performance examples of processing tech seen in applications using your cameras?

NVidia GPUs are scaling in performance quicker than we can keep track of. One such customer application is providing real-time H.264 compression on 24 25GigE cameras using 2 100G dual NICs and 2 GPUs in a single server. Dedicated codec chips on GPUs handle massive amounts of computation. We use GPU Direct here to eliminate CPU and system memory usage.

AMD/Xilinx have their Alveo FPGA cards which we are working with for a few key customers and these cards are being used to process massive amounts of images from our highest-speed cameras in real-time.

What gives Emergent the edge over its competitors in high-speed camera applications?

Certainly, the fact that we are well ahead of the rest with mature performance products covering speeds from 10G up to 100G is an enormous advantage.

Our dedication to high-speed imaging with Ethernet technologies 10GigE and higher and all things associated with the complete system keeps Emergent incredibly фокусирани and a valuable asset to our customers.

But, beyond the tech, when customers run into issues, and regardless of the issue, we have an excellent track record for extremely quick issue resolution regardless of the complexity.

Can CXP frame grabbers be used for camera image processing? And the same question for GigE cards?

Currently, this is not the case. CXP frame grabbers are used primarily for image acquisition. CPUs are most often used for image processing and rarely some GPU offloading. GPU Direct on Windows is not available. FPGA cards are very rarely used.

In contrast, the Ethernet NICs we support are very commonly used with GPUs and GPU Direct and Windows and Linux. And FPGA cards already have an Ethernet interface like our cameras and are being used as we speak for the highest performance processing.

Ето едно резюме на това какво представлява Emergent…

• 10+ награди за иновации и пионерство в движението за високоскоростно изображение GigEVision
• 10+ години доставка 10GigE камери с повече от 140 модела
• 5+ години доставка 25GigE камери с повече от 55 модела
• 2+ години доставка 100GigE камери с повече от 16 модела
• Лидер в производителността на технологиите за камери
• Фокус върху високоскоростен Ethernet/GigEVision
• Фокусиран върху обработката на високоскоростни данни за изображения
• Област на сканиране намлява Линейно сканиране модели
• UV, NIR, поляризирани, цветни, моно модели за мултиспектрални приложения
• Emergent eSDK за пълна гъвкавост на приложенията
• неочакван eCapture Pro and 3rd Party support for highly comprehensive software solutions
• Най-пълната гама от продукти и поддръжка за приложения за високоскоростна обработка на изображения
• Всякаква скорост, всякаква резолюция, всякаква дължина на кабела
• Наличен СЕГА!

Ние сме многократно награждавана компания, фокусирана върху високоскоростни GigEVision продукти.

Имаме дългогодишен опит в доставката на продукти със скорости от 10GigE до 100GigE.

Ние сме силно фокусирани върху предоставянето на цялостни технологии и поддръжка за приложенията на нашите клиенти.

Можем да изпълним повечето изисквания на приложението.

И накрая, представените продукти са вече налични.

Ето един бърз преглед на приемането на продуктите на GigEVision, вариращи по скорости от 10GigE до 100GigEEmergent показа как може да се постигне максимална производителност и отвори много пазари, включително машинното зрение, за използването на такива технологии. Някои компании едва сега използват нашите усилия за пускане на продукти с 25G и по-висока скорост, но все още има път до пускането на сертифицирани и високопроизводителни продукти.

Фигура: Emergent Vision Technologies е първият доставчик на камери, базирани на 10GigE, 25GigE, 50GigE и 100GigE интерфейси.