Zur Zeit baue ich einen kleinen Computer auf einen Kopter, das Jetson Nano Developer Kit. Es kostet nur gut 100 Euro, hat einige schnelle Schnittstellen inklusive HDMI, hardware Video-Decoder und -Encoder und auch einen Port für die Raspberry Pi V2 Kamera. Vier ARM-Rechenkerne und 128 CUDA-Kerne erlauben rechenintensive Anwendungen wie Künstliche Intelligenz und Bildverarbeitung in Echtzeit.
Bisher habe ich nur Software und Demos installiert. Videos kann ich über einen HDMI-USB3 Adapter in den Jetson Nano einlesen, ein zweiter Adapter soll morgen kommen.
Hier drei Bilder:
Bild_1 zeigt die semantischen Segmentierung eines Bildes. Es ist eine KI/DeepLearning Methode, bei der jeder Pixel des Bildes einer Klasse zugeordnet wird. Das können Personen, Tiere, Autos, Bäume, Straße, Häuser, Bürgersteig, Fahrräder, Wiesen, Himmel, Windräder usw sein. Als Output erhält man ein buntes Bild, in dem jede Klasse eine vordefinierte Farbe hat. So „weis“ dann zB das selbst fahrende Auto oder der autonom fliegende Kopter, was sich vor der Linse befindet. (Im Hintergrund ist in Rot eine Person zu sehen.)
Bild_2 zeigt die Groundstation mit einen Wärmebild, dargestellt mit dem Programm
Cheese (bitte lächeln). Angedacht ist, dass aus einem NIR Bild und einem Wärmebild zB ein Rehkitz detektiert wird.
Ein paar Werte zur Latenz, s. auch Bild_3. Ich habe immer ein paar Fotos gemacht und gebe einen Bereich an.
1) Sony RX0 > Connex > Monitor = 100-130 ms.
2) RX0 > HDMI-USB3 Adapter > Jetson Nano > Connex > Monitor = 200-250 ms.
Auf dem Nano lief das Programm
Cheese, siehe auch Bild 2. Das Bild benötigt also für den USB3 Adapter und das Nano nur 100-120 ms, was ich extrem gut finde.
3) Punkt 2 noch einmal mit der Bilderkennung
DetectNet, s. Bild_3 = 350-400 ms.
USB 3.0 ist inzwischen wohl eine beliebte Schnittstelle für Bildverarbeitung, siehe Link für ein paar interessante Infos.
https://www.baslerwe...usb3-0-kameras/
Zuerst werde ich das Nano mit 2 Kameras und Demosoftware auf dem Kopter in Betrieb nehmen. Die spannende Frage ist, wie groß die Störungen durch den Nano sind.
Viele Grüße,
Wilhelm