CV / MSPN Pose

MSPN RegNetX-800MF

MSPN pose-estimatie voor één persoon met 17 COCO keypoints op reComputer R Series met Hailo-8 of Hailo-10H.

51 downloads

Grootte

5.8 MB

Geheugen

4GB+

Precisie

Hailo HEF / HailoRT

Kies het apparaat dat je gebruikt. De installatiehandleiding en documentatie worden dienovereenkomstig bijgewerkt.

Platform

Inferentie-engine

Aan de slag

Implementeren

sudo docker run --rm \
  --name cm5-hailo8-mspn-regnetx-800mf \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --model_path model/mspn_regnetx_800mf.hef --video_path video/test.mp4

REST API

Gebruik de REST API om inferentie uit te voeren. Kopieer de onderstaande commando's.

Curl

curl -X POST "http://<Board_IP>:8000/api/models/mspn_regnetx_800mf/predict" \
  -F "file=@test.jpg"

Python

import requests

resp = requests.post(
    "http://<Board_IP>:8000/api/models/mspn_regnetx_800mf/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(resp.json())

Modeldetails

reComputer R Series

MSPN RegNetX-800MF op reComputer R Series (CM5 + Hailo-8)

MSPN (Multi-Stage Pose Network) met RegNetX-800MF-backbone voert pose-estimatie voor één persoon uit met 17 COCO-keypoints. De HEF levert een heatmap van 64x48x17; de app neemt per kanaal het argmax, schaalt naar de invoerruimte en tekent het COCO-skelet.

Deze pagina is gericht op de reComputer R Series (CM5 + Hailo-8) met een PCIe-Hailo-8-versneller.

Modelinformatie

Eigenschap	Waarde
Architectuur	MSPN + RegNetX-800MF
Taak	Pose-estimatie voor één persoon
Invoer	256x192x3 RGB (normalize_in_net ImageNet RGB)
Uitvoer	Heatmap 64x48x17 (17 COCO-keypoints)
Parameters	7.17M
Bewerkingen	2.94G
Hardware-AP	70.3%
FPS	2126
HEF	Hailo Model Zoo v2.19.0, Hailo-8

Hardware- en hostconfiguratie

De Hailo-8-driver, firmware, host-libhailort.so en het Python-wheel in de image moeten overeenkomende HailoRT-major/minor-versies (4.23.x) gebruiken.

bash

sudo apt update
sudo apt install hailort hailort-pcie-driver python3-hailort
sudo reboot

hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

Uitvoeren met demovideo

bash

sudo docker run --rm \
  --name cm5-hailo8-mspn-regnetx-800mf \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --model_path model/mspn_regnetx_800mf.hef --video_path video/test.mp4

Open http://<Board_IP>:8000 voor de webpreview met het overlay-skelet van keypoints.

USB-cameramodus

bash

sudo docker run --rm \
  --name cm5-hailo8-mspn-regnetx-800mf \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --model_path model/mspn_regnetx_800mf.hef --camera_id 0

REST-API

bash

curl -X POST "http://<Board_IP>:8000/api/models/mspn_regnetx_800mf/predict" \
  -F "file=@test.jpg"

Eindpunt	Methode	Doel
`/api/models/mspn_regnetx_800mf/predict`	POST	17 COCO-keypoints (JSON)
`/api/video_feed`	GET	MJPEG-previewstream

Implementatiedetails

Bronmodule: src/rpi5_hailo8_mspn_regnetx_800mf/
Dockerfile: docker/hailo8/mspn_regnetx_800mf.dockerfile
normalize_in_net met ImageNet RGB-gemiddelde/standaarddeviatie; geen input_conversion — ruwe uint8-RGB na de letterbox.
Decodering: argmax per heatmapkanaal → (x, y) in de 64x48-ruimte → schalen naar 256x192 → letterbox terugdraaien naar het originele frame. De ruwe vstream-indeling wordt eenmalig bij de eerste inferentie geprint.
Model voor één persoon: gaat uit van één gecentreerde persoon. Voer bij meerdere personen eerst een detector uit en snijd elke persoon bij.
De Model Zoo-referentie-implementatie voegt een 5x5 Gaussische vervaging en een kwart-pixelverschuiving toe; deze demo laat beide weg.

Probleemoplossing

HEF laadt niet: controleer of HailoRT 4.23.x is en of de gemounte libhailort.so bij de host-driver past.
Geen /dev/hailo0: controleer lsmod | grep hailo en installeer hailort-pcie-driver opnieuw.
Geen skelet getekend: verlaag de betrouwbaarheidsslider voor keypoints (standaard 0.30).
Verkeerde keypointposities: controleer of de geprinte in-/uitvoervormen overeenkomen met de 256x192-invoer en de 64x48x17-heatmap.

Invoer en uitvoer

Invoer: afbeelding (256x192 RGB). Uitvoer: 17 keypoints met x, y, confidence (COCO-formaat).