CV / EfficientDet

EfficientDet-Lite0

reComputer R Series (CM5 + Hailo-10H)

COCO-Objekterkennung mit 80 Klassen mit EfficientDet-Lite0 (On-Chip-NMS) auf reComputer R Series mit Hailo-8 oder Hailo-10H.

104 Downloads

Größe

9.3 MB

Speicher

4GB+

Präzision

Hailo HEF / HailoRT

Wähle das Gerät, das du verwendest. Die Einrichtungsanleitung und Dokumentation werden entsprechend aktualisiert.

Plattform

Inferenz-Engine

Erste Schritte

Bereitstellen

sudo docker run --rm \
  --name cm5-hailo10h-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --video_path video/test.mp4

REST API

Verwende die REST API für die Inferenz. Kopiere die folgenden Befehle.

Curl

curl -X POST "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict" \
  -F "file=@test.jpg"

Python

import requests

response = requests.post(
    "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(response.json())

Modelldetails

reComputer R Series (CM5 + Hailo-10H)

EfficientDet-Lite0 auf reComputer R Series (CM5 + Hailo-10H)

EfficientDet-Lite0 führt COCO-Objekterkennung (80 Klassen) auf Hailo-10H über HailoRT aus. NMS und Sigmoid laufen on-chip (Hailo HPP), der Host parst nur den Post-NMS-Tensor. Dies ist die lite0-Variante der efficientdet-Familie.

Diese Seite richtet sich an reComputer R Series (CM5 + Hailo-10H) mit einem PCIe-Hailo-10H-Beschleuniger.

Modellinformationen

Eigenschaft	Wert
Architektur	EfficientDet-Lite0 (BiFPN)
Aufgabe	Objekterkennung
Eingabe	320x320x3 RGB (Normalisierung im HEF kompiliert: mean=127, std=128)
Ausgabe	On-Chip-NMS-Tensor, Post-NMS-Form 89x5x100
Klassen	89 Slots (COCO-Klassen-IDs 1..89 via labels_offset=1; 10 ungenutzt)
Parameter	3.56M
Operationen	1.94G
Nachverarbeitung	On-Chip-NMS (HPP) + Sigmoid; der Host parst den Post-NMS-Tensor
HEF	Hailo Model Zoo v5.4.0, Hailo-10H (6,483,968 bytes)

Die Genauigkeit ist die Referenz aus dem Hailo Model Zoo; sie ist kein auf dem CM5 gemessener Benchmark.

Hardware und Host-Setup

Element	Wert
Board	reComputer R Series mit Raspberry Pi CM5
Beschleuniger	Hailo-10H über PCIe, verfügbar als `/dev/hailo0`
Runtime	HailoRT 5.1.1
Python im Container	3.13, aarch64

Installieren Sie die Hailo-10H-Pakete auf dem Host und prüfen Sie Treiber und Gerät, bevor Sie den Container starten:

bash

sudo apt update
sudo apt install hailo-h10-all -y
sudo reboot

# After reboot
hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

Die erwartete HailoRT-Version für dieses Image ist 5.1.1.

Ausführung mit dem Demo-Video

bash

sudo docker run --rm \
  --name cm5-hailo10h-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --video_path video/test.mp4

Öffnen Sie http://<Board_IP>:8000 für die Webvorschau.

USB-Kameramodus

bash

sudo docker run --rm \
  --name cm5-hailo10h-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --camera_id 0

REST API

text

POST http://<Board_IP>:8000/api/models/efficientdet_lite0/predict

bash

curl -X POST "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict" \
  -F "file=@test.jpg"

Endpunkt	Methode	Zweck
`/`	GET	Web-Vorschau-Oberfläche
`/api/models/efficientdet_lite0/predict`	POST	Detektionen (JSON)
`/api/video_feed`	GET	MJPEG-Vorschaustream

Implementierungshinweise

Das HEF führt NMS und Sigmoid on-chip aus (device_pre_post_layers: nms=true, sigmoid=true, hpp=true); die Anwendung parst nur den Post-NMS-Tensor, daher wird nms_thresh ignoriert (nur API-Parität).
Post-NMS-Zeilen sind [ymin, xmin, ymax, xmax, score], normalisiert auf [0,1] der 320x320-Letterbox-Eingabe; die Anwendung skaliert auf Pixel und hebt das Letterbox auf.
normalize_in_net mit mean=127/std=128 und padding_color=127: die Anwendung letterboxt mit Grau (127) und übergibt rohe uint8-RGB-Pixel.
Der Parser unterstützt die HailoRT-NMS-Formate: den kompakten Puffer pro Klasse, die dichten Formen 89x5x100 / 89x100x5 und die ragged-Liste (NMS-by-score). Die erste Inferenz protokolliert einmal Typ und Form.
Klassenzuordnung: cls_id (0..88) entspricht der COCO-Klassen-ID cls_id+1 (labels_offset=1); die 10 ungenutzten IDs sind "N/A" und werden nicht gezeichnet.
Standardwerte: Konfidenz 0.25, IOU 0.45 (IOU ohne Wirkung — NMS on-chip). Niedrigere Konfidenz zeigt mehr Detektionen.

Entwicklungshinweise

Quellmodul: src/hailo10h_efficientdet_lite0/
Dockerfile: docker/hailo10h/efficientdet_lite0.dockerfile
Container: ghcr.io/seeed-projects/recomputer-hailo10h-cv/efficientdet_lite0:latest
Das Modul nutzt die HailoRT-5.1.1-InferModel-API und ein Hailo-10H-spezifisches HEF.
Unit-Tests laufen ohne Gerät: python -m unittest discover -s tests -v.

Eingaben und Ausgaben

Eingabe: Bild, Video oder Frame einer USB-Kamera. Ausgabe: Erkennungsrahmen für 80 COCO-Klassen mit Konfidenzwerten sowie eine annotierte MJPEG-Vorschau.