CV / YOLOv3

YOLOv3

reComputer R Series (CM5 + Hailo-8)

COCO-detectie met YOLOv3 / YOLOv3-416 / YOLOv3-Gluon / YOLOv3-Gluon-416 op reComputer R Series met Hailo-8 of Hailo-10H.

12 downloads
Grootte
54.7 MB
Geheugen
4GB+
Precisie
Hailo HEF

Kies het apparaat dat je gebruikt. De installatiehandleiding en documentatie worden dienovereenkomstig bijgewerkt.

Aan de slag

Implementeren
sudo docker run --rm \
  --name pi5-hailo8-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3:latest \
  python web_detection.py --model_path model/yolov3.hef --video_path video/test.mp4

Modeldetails

reComputer R Series (CM5 + Hailo-8)

COCO-detectie met YOLOv3 / YOLOv3-416 / YOLOv3-Gluon / YOLOv3-Gluon-416 op reComputer R Series (CM5 + Hailo-8)

De vier YOLOv3-varianten detecteren 80 COCO-klassen op Hailo-8 via HailoRT 4.23.x. Elk HEF levert drie ruwe YOLOv3-heads; de host voert de volledige grid-decodering (sigmoid + anchors + NMS) uit en tekent de boxen in de MJPEG-preview. De varianten delen dezelfde webservice.

Modelinformatie

VariantInvoerMeegeleverd HEFmAP float / Hailo-8FPS (batch 1)Parameters / bewerkingenContainer
YOLOv3608×608×354.7 MB38.4 / 38.337.868.79M / 158.10Gyolov3
YOLOv3-416416×416×356.6 MB37.7 / 37.647.861.92M / 65.94Gyolov3_416
YOLOv3-Gluon608×608×350.8 MB37.3 / 35.838.168.79M / 140.7Gyolov3_gluon
YOLOv3-Gluon-416416×416×356.2 MB36.3 / 34.349.061.92M / 65.94Gyolov3_gluon_416

Hardware- en hostconfiguratie

| Bord | Accelerator | Runtime | Python in container | |---|---| | Bord | reComputer R Series met Raspberry Pi CM5 | | Accelerator | Hailo-8 via PCIe, beschikbaar als /dev/hailo0 | | Runtime | HailoRT 4.23.x (host en container moeten major.minor delen) | | Python in container | 3.11, aarch64 |

bash
sudo apt update
sudo apt install hailo-all -y
sudo reboot

# Na herstart
hailortcli fw-control identify
ls /dev/hailo0

# Docker
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh --mirror Aliyun
sudo systemctl enable docker
sudo systemctl start docker

Uitvoeren met demovideo

Kies de opdracht die bij de modelvariant hoort.

YOLOv3

bash
sudo docker run --rm \
  --name pi5-hailo8-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3:latest \
  python web_detection.py --model_path model/yolov3.hef --video_path video/test.mp4

YOLOv3-416

bash
sudo docker run --rm \
  --name pi5-hailo8-yolov3-416 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3_416:latest \
  python web_detection.py --model_path model/yolov3_416.hef --video_path video/test.mp4

YOLOv3-Gluon

bash
sudo docker run --rm \
  --name pi5-hailo8-yolov3-gluon \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3_gluon:latest \
  python web_detection.py --model_path model/yolov3_gluon.hef --video_path video/test.mp4

YOLOv3-Gluon-416

bash
sudo docker run --rm \
  --name pi5-hailo8-yolov3-gluon-416 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3_gluon_416:latest \
  python web_detection.py --model_path model/yolov3_gluon_416.hef --video_path video/test.mp4

Open http://<Board_IP>:8000 om de detecties te bekijken. Het meegeleverde video/test.mp4 is de democlip voor verificatie.

USB-cameramodus

bash
sudo docker run --rm \
  --name pi5-hailo8-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3:latest \
  python web_detection.py --model_path model/yolov3.hef --camera_id 0

Vervang yolov3 door de image- en modelnaam van een andere variant om YOLOv3-416, YOLOv3-Gluon of YOLOv3-Gluon-416 uit te voeren.

REST API

EndpointMethode
YOLOv3POST /api/models/yolov3/predict
YOLOv3-416POST /api/models/yolov3_416/predict
YOLOv3-GluonPOST /api/models/yolov3_gluon/predict
YOLOv3-Gluon-416POST /api/models/yolov3_gluon_416/predict
bash
curl -X POST "http://<Board_IP>:8000/api/models/yolov3/predict" \
  -F "file=@test.jpg"

De predictions-items bevatten de COCO-klasse, betrouwbaarheid en box.

Implementatieopmerkingen

  • De HEFs leveren drie ruwe YOLOv3-heads zonder on-chip NMS. De host voert sigmoid, anchor-grid-decodering en NMS uit.
  • De voorbewerking past letterbox toe op de HEF-invoergrootte met padding 114 en converteert BGR naar RGB; de normalisatie is in het HEF gecompileerd.
  • Anchors: stride 32 [[116,90],[156,198],[373,326]], stride 16 [[30,61],[62,45],[59,119]], stride 8 [[10,13],[16,30],[33,23]].
  • De eerste inferentie logt de vorm van elke head.

Ontwikkelingsopmerkingen

  • Bronnen: src/rpi5_hailo8_yolov3{,_416,_gluon,_gluon_416}/
  • Dockerfiles: docker/hailo8/yolov3{,_416,_gluon,_gluon_416}.dockerfile
  • Containers: ghcr.io/seeed-projects/recomputer-hailo8-cv/yolov3{,_416,_gluon,_gluon_416}:latest
  • HEFs: Hailo Model Zoo v2.20.0 (hailo8), sizes and SHA256 in each module's model/README.md

Invoer en uitvoer

Invoer: afbeelding, video of USB-cameraframe. Uitvoer: COCO 80-klassen-boxen, betrouwbaarheid en MJPEG-preview.