CV / Tiny Yolo

Tiny-YOLOv3

COCO-Objekterkennung mit 80 Klassen mit Tiny-YOLOv3 (YOLOv3-Dekodierung auf der CPU) auf reComputer R Series mit Hailo-8 oder Hailo-10H.

23 Downloads

Größe

8.4 MB

Speicher

4GB+

Präzision

Hailo HEF / HailoRT 4.23.x (Hailo-8) / 5.1.1 (Hailo-10H)

Wähle das Gerät, das du verwendest. Die Einrichtungsanleitung und Dokumentation werden entsprechend aktualisiert.

Plattform

Inferenz-Engine

Erste Schritte

Bereitstellen

sudo docker run --rm \
  --name cm5-hailo8-tiny-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/tiny_yolov3:latest \
  python web_detection.py --model_path model/tiny_yolov3.hef --video_path video/test.mp4

REST API

Verwende die REST API für die Inferenz. Kopiere die folgenden Befehle.

Curl

curl -X POST "http://<Board_IP>:8000/api/models/tiny_yolov3/predict" \
  -F "file=@test.jpg"

Python

import requests

response = requests.post(
    "http://<Board_IP>:8000/api/models/tiny_yolov3/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(response.json())

Modelldetails

reComputer R Series

Tiny-YOLOv3 auf reComputer R Series (CM5 + Hailo-8)

Tiny-YOLOv3 erkennt 80 COCO-Objektklassen auf dem Hailo-8. Anders als die Modelle mit On-Chip-NMS (SSD, EfficientDet, NanoDet) gibt es rohe YOLOv3-Köpfe aus und führt die vollständige Gitter-Dekodierung (sigmoid + Anker + NMS) auf der CPU aus. Erste Variante der tiny_yolo-Serie (tiny_yolov3 / tiny_yolov4).

Diese Seite richtet sich an reComputer R Series (CM5 + Hailo-8) mit einem PCIe-Hailo-8-Beschleuniger.

Modellinformationen

Eigenschaft	Wert
Architektur	Tiny-YOLOv3 (base/yolo.yaml)
Aufgabe	Objekterkennung
Eingabe	416x416x3 RGB (normalize_in_net std=255)
Ausgabe	2 rohe Köpfe: 13x13x255 (Stride 32) + 26x26x255 (Stride 16)
Klassen	80 (COCO, ab 0 indiziert)
Parameter	8.85M
Operationen	5.58G
Nachbearbeitung	YOLOv3-Dekodierung auf der CPU (KEIN On-Chip-NMS)
HEF	Hailo Model Zoo v2.19.0, Hailo-8

Hardware- und Host-Setup

bash

sudo apt update
sudo apt install hailort hailort-pcie-driver python3-hailort
sudo reboot
hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

Mit Demo-Video ausführen

bash

sudo docker run --rm \
  --name cm5-hailo8-tiny-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/tiny_yolov3:latest \
  python web_detection.py --model_path model/tiny_yolov3.hef --video_path video/test.mp4

Öffnen Sie http://<Board_IP>:8000, um die Web-Vorschau zu sehen.

USB-Kamera-Modus

bash

sudo docker run --rm \
  --name cm5-hailo8-tiny-yolov3 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/tiny_yolov3:latest \
  python web_detection.py --model_path model/tiny_yolov3.hef --camera_id 0

REST API

text

POST http://<Board_IP>:8000/api/models/tiny_yolov3/predict

bash

curl -X POST "http://<Board_IP>:8000/api/models/tiny_yolov3/predict" \
  -F "file=@test.jpg"

Endpoint	Methode	Zweck
`/`	GET	Web-Vorschau-Oberfläche
`/api/models/tiny_yolov3/predict`	POST	Erkennungen (JSON)
`/api/video_feed`	GET	MJPEG-Vorschau-Stream

Implementierungshinweise

Kein On-Chip-NMS — das HEF gibt rohe YOLOv3-Köpfe aus; die App führt die gesamte Dekodierung auf der CPU aus: Sigmoid auf obj + Klassenscores, ankerbasierte Gitter-Dekodierung, NMS.
Dekodierung (_yolo3_decode aus dem offiziellen yolo.py): center = (sigmoid(raw_xy) + grid) * stride, scale = exp(raw_wh) * anchor, score = sigmoid(obj) * sigmoid(cls).
normalize_in_net std=255 (÷255) + padding_color=114 (grau). Die App liefert nach dem Letterboxing rohe uint8-RGB-Pixel.
3 Anker pro Skalierung: Stride 32 → [[81,82],[135,169],[344,319]], Stride 16 → [[23,27],[37,58],[81,82]].
Die erste Inferenz protokolliert die Kopfformen zur Verifikation (SOP §10).

Entwicklungshinweise

Quellmodul: src/rpi5_hailo8_tiny_yolov3/
Dockerfile: docker/hailo8/tiny_yolov3.dockerfile
Container: ghcr.io/seeed-projects/recomputer-hailo8-cv/tiny_yolov3:latest
Familie: yolo (Varianten tiny_yolov3 / tiny_yolov4); dies ist der v3-Build.

Eingaben und Ausgaben

Input: image, video, or USB camera frame. Output: COCO 80-class detection boxes with confidences, plus an annotated MJPEG preview.